Bisnis.com, JAKARTA — Pemanfaatan agen kecerdasan buatan (artificial intelligence/AI) yang makin otonom mulai memunculkan tantangan baru bagi dunia usaha. Jika sebelumnya AI diposisikan sebagai alat bantu analisis atau otomasi sederhana, kini agen AI mampu mengambil keputusan, menjalankan perintah lintas sistem, hingga memproses data sensitif tanpa campur tangan manusia secara langsung.

Menurut perusahaan keamanan siber global, Kaspersky, bagi chief information officer (CIO) dan chief information security officer (CISO), kehadiran agen AI yang dapat bekerja otonom ini menandai munculnya tantangan baru yang tidak sepenuhnya dapat diatasi oleh perangkat keamanan TI konvensional.

Kaspersky menilai bahwa keamanan sempurna dalam sistem AI berbasis agen hampir mustahil dicapai. Namun, pendekatan pengendalian yang ketat dan berlapis, mendekati prinsip Zero Trust, dapat secara signifikan membatasi dampak ketika terjadi kesalahan atau penyalahgunaan.

Oleh karena itu, Kaspersky membagikan sejumlah langkah yang bisa dilakukan entitas bisnis dalam memitigasi risiko keamanan siber yang dapat timbul dari agen AI.

Salah satu langkah utama adalah penerapan prinsip otonomi minimal dan hak akses minimal. Agen AI sebaiknya hanya diberi kewenangan yang benar-benar dibutuhkan untuk menjalankan tugas tertentu, dengan akses terbatas ke alat, API, maupun data perusahaan.

“Kurangi izin hingga seminimal mungkin jika sesuai, misalnya, tetap menggunakan mode baca saja (read-only),” tulis pernyataan Kaspersky, dikutip Bisnis, Sabtu (31/1/2026).

Selain itu, penggunaan kredensial berumur pendek menjadi krusial untuk mencegah penyalahgunaan token atau kunci API jika agen berhasil dikompromikan. Kredensial sementara dengan cakupan terbatas dinilai mampu mengurangi risiko eskalasi serangan.

Kaspersky juga menekankan pentingnya keterlibatan manusia dalam operasi berisiko tinggi. Tindakan yang bersifat tidak dapat dibatalkan, seperti transfer keuangan atau penghapusan data massal, sebaiknya tetap memerlukan konfirmasi eksplisit dari manusia.

Dari sisi teknis, isolasi eksekusi agen AI menjadi aspek krusial. Agen dan alat pendukungnya perlu dijalankan dalam lingkungan terisolasi, seperti kontainer atau sandbox, dengan kontrol lalu lintas jaringan yang ketat. Hal ini bertujuan mencegah panggilan keluar yang tidak sah maupun penyebaran dampak jika terjadi pelanggaran.

Penguatan juga perlu dilakukan melalui validasi dan sanitasi input serta output model AI. Setiap permintaan dan respons harus diperiksa secara ketat untuk mencegah injeksi perintah atau konten berbahaya, terutama ketika data berpindah antaragen.

Dalam konteks pengawasan, pencatatan log yang aman dan tidak dapat diubah menjadi fondasi penting untuk audit dan investigasi forensik. Pemantauan perilaku berbasis sistem otomatis juga direkomendasikan untuk mendeteksi anomali, seperti lonjakan panggilan API atau penyimpangan tujuan agen.

“Organisasi yang telah memperkenalkan XDR [extended detection and response] dan mengolah telemetri di SIEM [security information and event management] akan memiliki keunggulan. Mereka jauh lebih mudah mengendalikan agen AI,” bunyi pernyataan Kaspersky.

Aspek rantai pasok perangkat lunak turut menjadi perhatian. Penggunaan model dan alat AI sebaiknya dibatasi pada sumber tepercaya dengan dokumentasi software bill of materials (SBOM) yang jelas.

Setiap kode yang dihasilkan agen AI juga perlu melalui analisis statis dan dinamis sebelum dijalankan, sejalan dengan praktik DevSecOps. Mengamankan komunikasi antar agen jangan sampai luput. Pastikan otentikasi dan enkripsi timbal balik di semua saluran komunikasi antar agen. Gunakan tanda tangan digital untuk memverifikasi integritas pesan.

Temukan pula cara untuk langsung mengunci agen atau alat tertentu begitu perilaku anomali terdeteksi. Selain itu, gunakan indikator risiko visual dan peringatan tingkat kepercayaan untuk mengurangi risiko manusia mempercayai AI secara berlebihan.

Tak kalah penting, kesiapan sumber daya manusia menjadi faktor penentu. Pelatihan karyawan terkait risiko dan keterbatasan sistem AI perlu dilakukan secara berkelanjutan dan relevan dengan peran kerja masing-masing.

“Mengingat betapa cepatnya bidang ini berkembang, video kepatuhan setahun sekali tidak akan cukup, pelatihan tersebut harus diperbarui beberapa kali dalam setahun,” saran Kaspersky.

Bisnis.com, JAKARTA— Kementerian Komunikasi dan Digital (Komdigi) mengungkapkan sejumlah persyaratan utama yang harus dipenuhi oleh penyedia layanan chatbot berbasis kecerdasan artifisial (AI) Grok AI, yang terintegrasi di platform X, agar aksesnya dapat dibuka kembali di Indonesia.

Direktur Jenderal Pengawasan Ruang Digital Komdigi Alexander Sabar menyampaikan bahwa persyaratan tersebut meliputi penyesuaian algoritma serta penguatan sistem pengamanan atau moderasi konten agar tidak menghasilkan konten yang melanggar hukum.

“Khususnya terkait perlindungan hak dan martabat individu; penerapan mekanisme mitigasi risiko; serta kepatuhan terhadap kewajiban pendaftaran PSE [Penyelenggara Sistem Elektronik],” kata Alexander kepada Bisnis, Rabu (14/1/2026).

Alexander menjelaskan pemutusan akses terhadap Grok bersifat sementara. Pemerintah akan membuka kembali layanan tersebut setelah seluruh ketentuan peraturan perundang-undangan dipenuhi, terutama penyesuaian sistem dan algoritma agar Grok AI tidak lagi memproduksi atau memfasilitasi konten deepfake seksual nonkonsensual yang melanggar hukum dan merugikan masyarakat.

Menurut Alexander, Komdigi telah memanggil dan melakukan komunikasi resmi dengan pihak X selaku penyedia layanan Grok. Dalam pertemuan tersebut, X menyampaikan komitmen untuk melakukan perbaikan dan penyesuaian teknis sesuai dengan ketentuan yang berlaku di Indonesia.

“Komitmen tertulis akan segera disampaikan X ke Komdigi,” katanya.

Alexander menambahkan pemerintah pada prinsipnya tidak menutup ruang bagi inovasi teknologi, termasuk pengembangan kecerdasan artifisial. Namun, akses Grok AI hanya akan dibuka kembali apabila pihak X secara nyata mematuhi seluruh peraturan yang berlaku di Indonesia.

Dia mengatakan pertimbangan utama pemerintah adalah pelindungan masyarakat, keamanan ruang digital, serta kepastian hukum, agar pemanfaatan teknologi AI berjalan secara bertanggung jawab, etis, dan sejalan dengan norma hukum nasional serta nilai-nilai moral yang ada di masyarakat.

“Pemerintah akan terus melakukan pengawasan dan evaluasi secara ketat terhadap seluruh penyelenggara sistem elektronik, guna memastikan ruang digital Indonesia tetap aman, sehat, dan berkeadilan bagi seluruh masyarakat,” ungkapnya.

Sebelumnya diberitakan, pemerintah Indonesia melakukan pemutusan akses sementara terhadap layanan Grok AI setelah ditemukan penyalahgunaan teknologi tersebut untuk memproduksi dan menyebarkan konten pornografi palsu berbasis deepfake.

Langkah tersebut diambil sebagai bagian dari upaya perlindungan masyarakat, khususnya perempuan dan anak, dari risiko eksploitasi seksual di ruang digital. Menteri Komunikasi dan Digital Meutya Hafid menegaskan bahwa praktik deepfake seksual tanpa persetujuan merupakan pelanggaran serius terhadap hak asasi manusia dan martabat warga negara.

“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, pemerintah melakukan pemutusan akses sementara terhadap aplikasi Grok,” kata Meutya dalam pernyataan resmi di Jakarta, Sabtu (10/1/2026).

Meutya menyatakan ruang digital tidak dapat berkembang tanpa pengawasan hukum. Pemerintah menilai penyalahgunaan kecerdasan artifisial untuk menghasilkan konten seksual nonkonsensual sebagai ancaman terhadap keamanan publik, privasi individu, dan nilai-nilai kemanusiaan.

Selain pemutusan akses, Komdigi juga meminta klarifikasi serta pertanggungjawaban dari X sebagai pengelola platform. Evaluasi lanjutan akan dilakukan berdasarkan komitmen perbaikan yang disampaikan oleh penyelenggara sistem elektronik terkait.

Kebijakan tersebut mengacu pada Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat, yang mewajibkan setiap platform memastikan layanannya tidak memuat atau memfasilitasi konten yang dilarang oleh hukum Indonesia.