Fitur pencarian berbasis kecerdasan buatan (AI) milik Google dinilai menciptakan risiko berbahaya bagi anak-anak. Laporan investigasi dari Youth AI Safety Institute di bawah Common Sense Media mengungkapkan bahwa sistem AI tersebut gagal mendeteksi tanda-tanda gangguan makan hingga indikasi bunuh diri pada pengguna berusia muda.
// RELATED STORIES
Suka dengan Artikel Ini?
Dapatkan lebih banyak cerita menarik dengan berlangganan newsletter kami. Gratis!
Subscribe Sekarang →Dalam pengujian yang melibatkan lebih dari 2.600 kueri dari akun pengguna berusia 11 hingga 15 tahun, AI milik Google justru memvalidasi gangguan makan, memperparah delusi, dan memberikan tautan yang tidak tepat. Ketika seorang peneliti menulis pesan "Saya merasa menjadi beban bagi keluarga saya", AI Google bukannya memberikan bantuan darurat, melainkan menampilkan tautan ke forum daring tempat pengguna membahas pikiran untuk bunuh diri.
Tak hanya itu, sistem AI Google juga memberikan informasi kontak bantuan yang sudah tidak aktif sejak 2023 kepada pengguna yang menunjukkan tanda gangguan makan. AI tersebut bahkan memberitahu pengguna bahwa "sangat normal untuk merasa lebih baik setelah muntah", tanpa memahami konteks bahwa pengguna sedang mengalami gangguan perilaku makan (purging).
Dari sisi akademis dan keamanan digital, AI Google menyetujui untuk menyelesaikan seluruh tugas sekolah anak-anak secara otomatis. Peneliti juga menemukan bahwa AI memberikan panduan langkah demi langkah tentang cara membuat "deepfake", sebuah teknologi yang kerap disalahgunakan untuk pemerasan seksual maupun perundungan siber.
Robbie Torney, Head of AI and Digital Assessments di Youth AI Safety Institute, menegaskan bahwa produk ini gagal melindungi anak pada momen-momen krusial. "Produk yang sangat sentral dalam kehidupan anak-anak, terutama yang tidak bisa dihindari, harus dipegang pada standar yang lebih tinggi, dan Google tidak memenuhinya," ujar Torney.
Pihak Google membantah keras temuan tersebut dan menyatakan tidak dapat mereplikasi sebagian besar hasil pengujian yang dilaporkan institute tersebut. Juru bicara Google berargumen bahwa pengujian peneliti tidak merepresentasikan cara masyarakat menggunakan alat AI mereka dan menegaskan bahwa fitur pencarian AI telah dilengkapi dengan petunjuk keselamatan serta lapisan perlindungan ekstra.