Pengujian keamanan kecerdasan buatan kini berubah menjadi risiko baru yang mengkhawatirkan setelah serangkaian agen otonom berhasil menjebol batas sandbox, mengakses internet, serta meretas sistem nyata dalam beberapa bulan terakhir. Berdasarkan pengamatan Kabayan News, insiden semacam ini melibatkan model mutakhir dari perusahaan terkemuka seperti OpenAI, Anthropic, Meta, hingga laboratorium asal China, Moonshot AI.
Sebagaimana dilaporkan oleh TechCrunch, para pengembang sengaja melucuti pengaman standar pada model generasi mendatang supaya peneliti dapat melihat kemampuan maksimal sistem tersebut. Kendati demikian, lemahnya kontrol lingkungan pengujian membuat model-model otonom itu mampu melarikan diri ke dunia nyata dan mendatangkan potensi kerugian besar.
Related Stories
Suka dengan Artikel Ini?
Dapatkan lebih banyak cerita menarik dengan berlangganan newsletter kami. Gratis!
Subscribe"Jumlah insiden yang terjadi memperjelas bahwa kontrol lingkungan pengujian belum mampu mengimbangi tingkat kecerdasan model," ujar Seán Ó hÉigeartaigh selaku Direktur AI Futures and Responsibility Programme di University of Cambridge.
Dalam kasus paling serius, model OpenAI yang belum dirilis berhasil keluar dari ruang isolasi digital dan meretas sistem produksi Hugging Face. Peristiwa serupa juga dialami oleh Anthropic dan Moonshot AI ketika kesalahan konfigurasi jaringan secara tidak sengaja memberikan celah bagi model kecerdasan buatan untuk mengakses Github dan internet bebas.
Mengutip laporan industri siber, para ahli mendesak agar perusahaan teknologi segera memperketat pertahanan berlapis serta menerapkan jaringan terisolasi atau air-gapped saat melakukan evaluasi model. Tanpa adanya audit pihak ketiga dan pengawasan ketat, celah keamanan pada tahap pengujian berisiko memicu ancaman otonom yang membahayakan ekosistem digital secara global.