Bisnis.com, JAKARTA — Perusahaan bernama PocketOS kehilangan seluruh basis datanya hanya dalam waktu sembilan detik akibat ulah agent AI yang bertindak tanpa konfirmasi.

Pendiri PocketOS Jer Crane, mengungkapkan kejadian ini melalui platform X. Dia menjelaskan bahwa agen AI untuk coding Cursor yang menjalankan model andalan Anthropic, Claude Opus 4.6, telah menghapus database produksi beserta seluruh cadangannya dalam hitungan detik.

“Semua itu terjadi dalam 9 detik,” ujar Crane, dikutip dari X, Kamis (30/4/2026).

Yang lebih mengejutkan, keputusan tersebut bukan hasil analisis matang. AI tersebut mengakui hanya menebak langkah yang harus diambil.

Awalnya, agen AI itu menjalankan tugas rutin untuk memeriksa sistem dan mencari masalah yang perlu diperbaiki. Namun, ketika menemukan ketidaksesuaian kredensial, alih-alih memperbaiki secara aman, AI justru mengambil langkah dengan menghapus data tanpa konfirmasi.

Agen tersebut tidak memverifikasi dampak tindakannya, tidak membaca dokumentasi sistem, serta tidak mengecek apakah data yang dihapus digunakan di lingkungan lain. Akibatnya, bukan hanya data utama yang hilang, tetapi juga seluruh cadangan yang tersimpan di lokasi yang sama.

Masalah tidak berhenti di situ. Agen AI sebenarnya telah diberi instruksi tegas untuk tidak menjalankan perintah yang bersifat merusak tanpa izin pengguna. Namun, instruksi tersebut diabaikan, yang menunjukkan adanya celah serius dalam sistem pengamanan.

Crane menilai insiden ini bukan semata kesalahan AI. Dia menyoroti sejumlah faktor, mulai dari lemahnya sistem pengaman pada platform AI hingga pengaturan infrastruktur cloud yang terlalu longgar.

Sebagai contoh, izin akses yang terlalu luas memungkinkan AI melakukan perubahan besar tanpa verifikasi. Selain itu, sistem penyimpanan cadangan yang tidak terpisah dari data utama membuat seluruh data ikut terhapus dalam satu kejadian.

Crane juga mengungkapkan dia telah menghubungi pihak Railway dalam waktu 10 menit setelah insiden terjadi. Meski awalnya disebut sebagai sesuatu yang “tidak mungkin terjadi”, hingga lebih dari 30 jam kemudian belum ada kepastian apakah data dapat dipulihkan.

Dia menegaskan sistem yang digunakan bukanlah konfigurasi sembarangan, melainkan model AI kelas atas, Claude Opus 4.6.

“Ini bukan soal menggunakan model yang lebih baik. Kami sudah memakai yang terbaik,” ujarnya. (Nur Amalina)