Watermark AI Anthropic Sulit Atasi Konten Sampah, Peneliti Ragu

Perusahaan kecerdasan buatan Anthropic resmi menyematkan watermark tak kasat mata pada setiap teks dan gambar yang dihasilkan oleh model Claude. Berdasarkan pengamatan Kabayan News, langkah ini diambil untuk mematuhi regulasi ketat Undang-Undang AI Uni Eropa yang mewajibkan deteksi konten buatan mesin secara transparan.

Mengutip laporan Nature, watermark berbasis teks bekerja dengan cara memodifikasi algoritma pemilihan kata tanpa mengubah makna maupun kualitas respons. Namun, efektivitas teknologi ini menuai skeptisisme dari kalangan akademisi dan peneliti karena mudah dihapus menggunakan alat parafrase.

Sebagaimana disampaikan oleh metasisentis dari Northwestern University, Reese Richardson, keberadaan tanda air tersebut kecil kemungkinan menghentikan penggunaan kecerdasan buatan secara ilegal dalam pembuatan makalah berkualitas rendah. Kemudahan manipulasi teks membuat sebagian ahli pesimistis terhadap integritas akademik.

Kendati demikian, ilmuwan komputer dari Carnegie Mellon University, Nihar Shah, berpendapat bahwa alat verifikasi tetap berguna untuk mendeteksi pelanggaran kebijakan tanpa AI. Contoh nyata terlihat pada konferensi ilmiah internasional yang berhasil mengungkap ratusan pengulas melanggar aturan.

Penerapan teknologi pelacakan ini menjadi babak baru dalam perdebatan etika penggunaan kecerdasan buatan di ranah publik maupun riset global. Tantangan besar masih membayangi efektivitas pengawasan di tengah perkembangan pesat perangkat lunak penyunting teks.