Studi Ungkap ChatGPT dan Gemini Kerap Sebar Hoaks, Sering Rujuk Sumber Palsu

Teknologi kecerdasan buatan kembali mendapat sorotan tajam menyusul temuan sebuah studi baru yang mengungkap bahwa berbagai chatbot populer kerap menyebarkan disinformasi politik dan mengutip sumber fiktif. Berdasarkan laporan, penelitian ini menguji versi berbayar dari ChatGPT, Gemini, Grok, serta Claude menggunakan serangkaian pertanyaan krusial.

Berdasarkan analisis lembaga riset Just Facts, sekitar separuh dari sumber yang dicantumkan oleh model-model kecerdasan buatan tersebut ternyata tidak valid atau bahkan tidak pernah ada. Peneliti utama studi ini menyebut fenomena tersebut sangat mengkhawatirkan karena dapat berdampak langsung pada sektor publik maupun kesehatan.

Dalam pengujian tersebut, ChatGPT dan Gemini menunjukkan tingkat akurasi berbeda saat menghadapi pertanyaan yang dirancang memancing bias dari spektrum politik tertentu. Sementara itu, Grok menunjukkan pola tanggapan berlawanan dalam menyaring informasi dari kubu politik yang berbeda.

Menanggapi temuan ini, para pengembang teknologi memberikan respons beragam terkait metode pengujian serta netralitas sistem mereka. Perwakilan Google menegaskan bahwa model mereka dirancang untuk memberikan jawaban netral dan akurat tanpa memihak pandangan politik tertentu.

Pakar mengingatkan pengguna agar tidak menelan mentah-mentah informasi dari bot percakapan digital dan selalu melakukan verifikasi ulang. Prinsip kehati-hatian ini dinilai penting mengingat tingkat akurasi model AI masih memerlukan banyak peningkatan substansial.