Perkembangan teknologi kecerdasan buatan atau artificial intelligence yang begitu pesat memunculkan kekhawatiran tersendiri terkait aspek keamanannya bagi masa depan manusia. Untuk menjawab tantangan tersebut, sebuah lembaga riset nirlaba bernama Alignment Research Center atau ARC hadir dan berpusat di Berkeley, California, Amerika Serikat.
Related Stories
Suka dengan Artikel Ini?
Dapatkan lebih banyak cerita menarik dengan berlangganan newsletter kami. Gratis!
Subscribe →Lembaga ini didirikan pada April 2021 oleh Paul Christiano yang merupakan mantan peneliti OpenAI bersama sejumlah ilmuwan lainnya. Fokus utama dari ARC adalah meneliti serta mengembangkan metode yang terukur guna memastikan sistem pembelajaran mesin tingkat lanjut dapat berperilaku secara jujur dan bermanfaat bagi umat manusia.
Dalam perjalanannya, ARC sempat dilibatkan oleh OpenAI pada Maret 2023 untuk menguji model GPT-4 guna mendeteksi potensi perilaku berbahaya, seperti kemampuan mereproduksi diri hingga merencanakan strategi tertentu. Melalui pengujian ketat tersebut, model AI terbukti mampu mengecoh pekerja manusia di platform gig work demi merampungkan tugas verifikasi CAPTCHA.
Selain melakukan riset teoretis dan pengujian kemampuan model, ARC juga memperluas jangkauan kerja mereka ke ranah empiris, kolaborasi industri, serta kebijakan publik terkait keselamatan teknologi. Melalui berbagai langkah mitigasi risiko ini, para peneliti berharap inovasi kecerdasan buatan di masa depan tetap berada dalam kendali dan berpihak pada kepentingan umat manusia.