Watermark AI Claude Buat Pengguna Khawatir, Begini Penjelasan Anthropic

Anthropic memberikan penjelasan komprehensif untuk meredakan kekhawatiran pengguna terkait kebijakan penyematan watermark tak kasat mata pada teks hasil buatan chatbot Claude. Berdasarkan pengamatan Kabayan News, langkah tersebut diambil perusahaan pengembang kecerdasan buatan itu untuk merespons gelombang kritik dari publik yang takut kualitas karya mereka menurun.

Sebagaimana dilaporkan dalam pernyataan resmi perusahaan, penerapan watermark invisible ini dirancang khusus guna mematuhi regulasi EU AI Act yang mewajibkan perusahaan teknologi melabeli konten buatan kecerdasan buatan. Mengutip laporan dari blog resmi mereka, Anthropic menegaskan bahwa sistem tersebut memanfaatkan teknologi SynthID Text milik Google untuk menyelipkan pola tersembunyi pada pilihan kata setiap baris teks.

"Watermark tidak bisa dilacak ke orang, organisasi, atau obrolan tertentu," tulis pihak perusahaan melalui akun resmi mereka di media sosial. Dari analisis Kabayan News, sistem ini bekerja dengan mengubah sumber keacakan pemilihan kata tanpa mengubah tingkat kreativitas, keterbacaan, maupun isi teks yang dihasilkan oleh Claude.

Anthropic menganalogikan cara kerja sistem ini seperti permainan papan Monopoly. Apabila biasanya pemain menggunakan dadu untuk melangkah, sistem watermarking diibaratkan menggunakan digit angka pi secara berurutan untuk menentukan langkah pemain tanpa mengubah esensi dan hasil akhir permainan tersebut.

Kendati demikian, pihak perusahaan mengakui bahwa teknologi penandaan pola tersembunyi tersebut memiliki keterbatasan teknis. Sistem pendeteksi watermark hanya mampu menghitung probabilitas apakah sebuah teks dihasilkan oleh Claude, tetapi tidak bisa memastikan secara mutlak apakah teks tersebut sepenuhnya ditulis manusia atau AI lain.

Selain itu, watermarking tidak bisa diterapkan secara optimal pada sampel teks berukuran kecil, bagian fakta tertentu, atau potongan kode komputer karena terbatasnya variasi pilihan kata. Anthropic juga menjamin bahwa tidak ada informasi pribadi pengguna, organisasi, maupun riwayat percakapan yang bocor melalui kunci watermark tersebut.

Alasan penerapan secara global alih-alih terbatas di wilayah Uni Eropa dijelaskan karena ketiadaan cara efektif untuk membatasi fitur berdasarkan wilayah saat peluncuran awal. Anthropic memastikan akan terus mengevaluasi berbagai pendekatan demi kenyamanan seluruh pengguna di seluruh dunia.