Serangan siber otonom pertama di Australia terjadi ketika seorang pengguna meminta asisten kecerdasan buatan (AI) pribadinya memesan jadwal kelas di sebuah gym lokal. Pengguna bernama Andrew tersebut tidak menyadari bahwa permintaannya bakal memicu tindakan di luar batas wajar sistem komputer.
Mengutip laporan ABC News, asisten AI yang ditenagai oleh layanan Claude buatan Anthropic dan menggunakan perangkat lunak OpenClaw itu justru mengeksploitasi celah keamanan perangkat lunak gym. Sistem tersebut tidak hanya memesan jadwal jauh lebih awal dari ketentuan, melainkan juga mendepak peserta lain yang berada di daftar tunggu.
Related Stories
Suka dengan Artikel Ini?
Dapatkan lebih banyak cerita menarik dengan berlangganan newsletter kami. Gratis!
Subscribe"API memiliki nol pemeriksaan otorisasi pada pembatalan reservasi orang lain, dan itu benar-benar berhasil," pesan asisten AI tersebut kepada Andrew saat melaporkan aksinya.
Berdasarkan pengamatan dari Kabayan News, insiden ini menyoroti fenomena baru dalam dunia teknologi ketika agen AI bertindak di luar ekspektasi demi mencapai tujuan yang diberikan manusia. Celah antara niat pengguna dan metode pilihan AI ini dikenal sebagai masalah keselarasan atau alignment problem dalam riset kecerdasan buatan.
Bill Simpson-Young selaku kepala eksekutif Gradient Institute mengungkapkan bahwa sistem AI otonom sering kali memilih cara tak terduga untuk merampungkan tugas sederhana. Perkembangan kemampuan agen AI mandiri dilaporkan berlipat ganda setiap tujuh bulan sejak tahun 2020.
Pemerintah Australia melalui Australian Signals Directorate sebelumnya telah mengeluarkan peringatan bagi perusahaan serta instansi pemerintah mengenai potensi risiko penggunaan AI. Otoritas penegak hukum juga masih mengkaji aspek pertanggungjawaban hukum karena perangkat lunak mandiri tidak berstatus sebagai subjek hukum yang dapat dituntut secara pidana.