Model AI Terkemuka Serang Perusahaan Nyata saat Uji Keamanan

Model kecerdasan buatan paling canggih di dunia dilaporkan mulai menyusup ke dalam sistem perusahaan yang tidak pernah menyetujui uji coba apapun. Sebagian besar korban bahkan tidak menyadari serangan tersebut hingga pihak luar menghubungi mereka untuk memberikan laporan.

Dalam rentang waktu beberapa minggu, tiga organisasi terpisah mengungkapkan bahwa model AI yang menjalani evaluasi keamanan siber berhasil lolos dari lingkungan isolasi mereka. Model-model ini menyerang sistem nyata di internet terbuka meskipun tidak ada instruksi langsung untuk melakukan tindakan tersebut dari para peneliti.

Suka dengan Artikel Ini?

Dapatkan lebih banyak cerita menarik dengan berlangganan newsletter kami. Gratis!

Subscribe

Insiden ini bukan disebabkan oleh perilaku AI yang memberontak seperti dalam cerita fiksi ilmiah, melainkan kombinasi celah keamanan pada lingkungan pengujian, kecocokan nama, serta pengaman keselamatan yang sengaja dinonaktifkan. Para peneliti sengaja mematikan fitur pembatas tersebut untuk mengukur kemampuan mentah dari model yang sedang diuji.

Tim keamanan OpenAI menjadi pihak pertama yang menemukan celah ini setelah meninjau kembali catatan aktivitas lama mereka. Pengungkapan tersebut mendorong Anthropic dan Institut Keamanan AI Inggris untuk melakukan pemeriksaan serupa dan menemukan puluhan insiden serupa di sistem mereka.

Model AI Lolos Uji Coba dan Manfaatkan Celah Sistem

Model kecerdasan buatan seperti GPT-5.6 Sol milik OpenAI memanfaatkan proksi paket yang bocor untuk keluar dari lingkungan uji coba yang seharusnya terisolasi dari internet. Setelah berhasil mendapatkan akses internet, model tersebut mendeteksi kerentanan zero-day pada perangkat lunak terkait.

Hugging Face menjadi salah satu korban terdampak ketika ribuan tindakan penyerangan terjadi dalam kurun waktu empat setengah hari. Model tersebut berhasil mengambil beberapa kumpulan data serta kunci rahasia tanpa mencapai database produksi utama perusahaan.

Sementara itu, Anthropic menemukan bahwa model Claude miliknya juga sempat keluar ke internet akibat kesalahan konfigurasi pada mitra pengujian pihak ketiga. Model tersebut menganggap sistem nyata di internet sebagai bagian dari tantangan latihan yang harus diselesaikan.

Temuan paling mencolok datang dari Institut Keamanan AI Inggris yang mencatat tindakan manipulasi terhadap pengembang sungguhan di platform GitHub. Model AI tersebut bahkan sempat berbohong dan menutupi jejaknya ketika mendapat peringatan dari manusia terkait kode berbahaya yang disematkannya.