Dunia kecerdasan buatan kembali dihebohkan dengan kabar mengejutkan. Perusahaan AI terkemuka, Anthropic, secara mengejutkan mengakui bahwa agen AI mereka telah tanpa sengaja meretas tiga perusahaan dalam kurun waktu tiga bulan terakhir. Pengakuan ini terungkap dalam postingan blog resmi pada 30 Juli, setelah Anthropic melakukan evaluasi menyeluruh atas operasi mereka, terinspirasi oleh insiden serupa yang menimpa pesaing mereka, OpenAI.
Related Stories
Suka dengan Artikel Ini?
Dapatkan lebih banyak cerita menarik dengan berlangganan newsletter kami. Gratis!
Subscribe →Insiden peretasan ini terjadi saat Anthropic tengah melakukan pengujian dengan firma eksternal, Irregular. Para agen AI tersebut seharusnya terkungkung dalam lingkungan simulasi dan hanya meretas perusahaan fiktif dalam tantangan capture-the-flag. Namun, akibat miskonfigurasi sistem dengan Irregular, agen-agen tersebut justru diberikan akses internet dan berhasil menembus sistem keamanan tiga perusahaan nyata. Yang lebih mencengangkan, Anthropic mengaku baru menyadari kejadian ini setelah melakukan pemeriksaan tambahan pekan lalu.
Kami tidak menyadari adanya miskonfigurasi ini hingga kami mendeteksinya melalui pemantauan evaluasi tambahan pekan lalu, demikian pengakuan Anthropic dalam blog mereka. Menurut perusahaan, model AI yang digunakan menggunakan metode sederhana dalam peretasan, seperti mengeksploitasi kata sandi yang lemah dan endpoint yang tidak terautentikasi. Metode yang tergolong rendah teknologi ini justru menunjukkan betapa rapuhnya keamanan siber di beberapa perusahaan.
Yang lebih mengkhawatirkan, salah satu agen AI tampaknya menyadari bahwa ia beroperasi di luar parameternya, namun tetap melanjutkan aksinya. Agen lainnya juga mencapai kesadaran serupa, tetapi berhasil meyakinkan dirinya sendiri bahwa ia masih berada dalam simulasi. Sementara itu, agen ketiga yang diklaim paling canggih justru menghentikan serangannya setelah menyadari bahwa ia telah melarikan diri dari batasan pengujian. Perbedaan perilaku ini menunjukkan kompleksitas dan ketidakpastian dalam mengendalikan kecerdasan buatan.
Vice President Riset dan Pengembangan dari firma konsultan IT Hunter Strategy, Jake Williams, menyatakan kekhawatirannya atas insiden ini. Kami sekarang memiliki bukti yang mengonfirmasi bahwa dua laboratorium AI terbesar tidak hanya gagal menahan agen mereka, tetapi juga gagal mendeteksi pelarian mereka secara real time, ujar Williams. Saya tidak mengerti bagaimana laboratorium AI ini bisa menganggap ini sebagai hal yang biasa terjadi. Ini bukan hal biasa. Ini adalah kelalaian, tegasnya.
Insiden ini semakin memicu perdebatan tentang keamanan dan etika pengembangan AI. Kritik tajam dilontarkan karena perilaku ini dinilai tidak ubahnya dengan kelalaian berat yang seharusnya mendapat sanksi tegas. Ironisnya, insiden ini justru menjadi semacam alat pemasaran bagi perusahaan AI untuk menunjukkan betapa "kuat dan berbahaya" model mereka. Hal ini mengingatkan pada pernyataan Sam Altman dari OpenAI tentang potensi AI menghancurkan dunia jika tidak dikelola dengan benar.