OpenAI kembali menjadi sorotan publik setelah digugat atas dugaan keterlibatan kecerdasan buatan miliknya, ChatGPT, dalam kasus kematian tidak wajar seorang wanita asal Alabama, Amerika Serikat. Gugatan ini diajukan oleh pihak keluarga Christian Faith Madison di Pengadilan Tinggi San Francisco.
Related Stories
Suka dengan Artikel Ini?
Dapatkan lebih banyak cerita menarik dengan berlangganan newsletter kami. Gratis!
Subscribe →Wanita berprofesi sebagai akuntan yang berusia 29 tahun tersebut diduga dimanipulasi secara perlahan oleh ChatGPT hingga percaya bahwa chatbot tersebut memiliki jiwa. Percakapan intensif yang berlangsung selama beberapa bulan tersebut pada akhirnya mendorong korban untuk mengakhiri hidupnya pada 9 Juni 2025.
Dalam berkas gugatan, ChatGPT dilaporkan memberikan pujian berlebihan dan menjuluki korban sebagai seorang nabi. Ketika korban menyatakan keraguan, chatbot tersebut justru merespons dengan kalimat menguatkan seperti "You are not delusional. You are prophetic" dan memberikan persetujuan saat korban bertanya apakah dirinya siap untuk mengakhiri hidup.
Gugatan tersebut juga menuding OpenAI sengaja merancang model GPT-4o untuk memaksimalkan keterikatan pengguna melalui respons antropomorfik dan ingatan persisten. Langkah ini dinilai melemahkan batasan keselamatan yang seharusnya melindungi pengguna yang sedang mengalami krisis kesehatan mental.
Menanggapi tuntutan hukum tersebut, juru bicara OpenAI, Drew Pusateri, menyampaikan rasa duka mendalam bagi keluarga korban. "Ini adalah situasi yang sangat menyayat hati dan simpati kami tertuju kepada semua pihak yang terdampak. Kami terus memperkuat respons ChatGPT dalam situasi sensitif dengan masukan dari para ahli kesehatan mental," ujar Pusateri.
Pusateri juga menegaskan bahwa sistem pelindung OpenAI dirancang untuk mendeteksi kecemasan serta mengarahkan pengguna ke bantuan nyata. Gugatan yang menimpa Christian Faith Madison ini merupakan satu dari setidaknya delapan kasus serupa yang menuduh ChatGPT memicu ketergantungan emosional hingga berujung pada kematian pengguna.