Google kembali membuat langkah kontroversial di dunia kecerdasan buatan. Kali ini, raksasa teknologi itu meluncurkan fitur AI di Google Earth yang memungkinkan pengguna menempatkan objek imajiner di peta dunia nyata. Namun, dalam waktu kurang dari 24 jam, fitur tersebut ditarik karena disalahgunakan untuk membuat konten provokatif seperti reaktor nuklir di Iran dan tank di Ukraina.
Related Stories
Suka dengan Artikel Ini?
Dapatkan lebih banyak cerita menarik dengan berlangganan newsletter kami. Gratis!
Subscribe →Fitur yang diberi nama Nano Banana 2 ini sebenarnya memiliki niat baik. Google ingin pengguna berkreasi dengan menempatkan gambar imajiner, seperti Colosseum Roma di lingkungan perumahan, menggunakan citra satelit dan 3D Google Earth. Sayangnya, kreativitas tanpa batas ini justru berbuah petaka.
Masalah muncul ketika pengguna mulai menguji batas fitur tersebut. Seorang peneliti AI, Armand van Ess, menuliskan satu kalimat di Google Earth dan menempatkan pengungsi di dekat perbatasan Meksiko, kemudian reaktor nuklir di Iran. "Tidak ada yang ditolak, tidak ada yang dilunakkan, dan tidak ada yang menyarankan saya untuk mencoba prompt yang berbeda," tulis van Ess di media sosial.
Yang lebih mengkhawatirkan, fitur ini juga menghasilkan gambar pesawat menabrak gedung pencakar langit di Manhattan, ledakan bom di Moskow, hingga kawah bom di rumah sakit Gaza. BBC melakukan uji coba dan berhasil memunculkan tank Rusia bergerak di tanah Ukraina, Menara Eiffel runtuh, dan Piramida Mesir ditelan lubang raksasa.
Padahal, Google memiliki sistem keamanan untuk AI-nya. Semua gambar yang dihasilkan oleh Gemini dan Nano Banana seharusnya memiliki watermark SynthID dari Google DeepMind dan watermark terlihat. Namun, celah keamanan tetap ada, bahkan Gemini bisa dibujuk untuk mengklaim bahwa gambar palsu tersebut adalah asli.
Henry Ajder, peneliti AI, menyatakan bahwa celah ini sangat berbahaya. "Jurnalis mungkin bisa memeriksa gambar itu dan melaporkannya. Tapi sekali lagi, tidak semua orang akan melakukan itu," ujarnya. Tiga pemeriksa fakta dari International Fact-Checking Network juga mengakui adanya kesenjangan literasi digital yang besar di masyarakat.
Menanggapi kontroversi ini, Google akhirnya mengambil langkah cepat. "Kami telah melihat profesional geospasial menggunakan fitur ini untuk berbagai tujuan bermanfaat, namun kami juga melihat orang-orang membagikan tangkapan layar gambar yang tampaknya melanggar kebijakan kami. Jadi kami menarik fitur ini di Google Earth sambil kami menerapkan perlindungan yang lebih kuat," demikian pernyataan resmi Google di blognya.
Keputusan Google untuk menarik fitur ini sehari setelah diluncurkan menuai apresiasi sekaligus kritik. Banyak pihak menilai Google terlalu gegabah meluncurkan fitur AI tanpa filter yang memadai. Insiden ini juga memicu pertanyaan tentang tanggung jawab perusahaan teknologi dalam mencegah penyalahgunaan AI untuk menyebarkan disinformasi dan provokasi geopolitik.
Meskipun Google telah memperbaiki kesalahan, insiden ini menjadi pengingat bahwa AI bukanlah alat yang bisa dilepaskan begitu saja. Kreativitas tanpa batas harus diimbangi dengan etika dan keamanan. Google pun diharapkan belajar dari kesalahan ini agar tidak terulang di masa depan.