Jakarta - Perkembangan kecerdasan buatan atau AI memang menjanjikan cuan besar bagi para pengusaha teknologi. Namun di balik gemerlap inovasi, ancaman serius mengintai yang bisa memicu petaka besar dalam waktu dekat.
Related Stories
Suka dengan Artikel Ini?
Dapatkan lebih banyak cerita menarik dengan berlangganan newsletter kami. Gratis!
Subscribe →Sebuah studi baru dari MIT FutureTech dan University of Queensland mengungkapkan bahwa setidaknya 18 dari 24 domain risiko AI memiliki probabilitas 10 persen untuk menimbulkan dampak katastrofik dalam lima tahun ke depan. Dampak katastrofik itu didefinisikan sebagai potensi lebih dari 1 juta kematian, kerugian finansial di atas 100 miliar dolar AS atau setara Rp 1,8 triliun, serta kerusakan tak berwujud skala peradaban.
Dalam laporan berjudul "Prioritization of Risks From Artificial Intelligence", tim peneliti yang dipimpin Neil Thompson dari MIT Sloan School of Management melibatkan 272 pakar AI internasional. Mereka mengevaluasi 24 risiko AI berdasarkan kemungkinan terjadi dan tingkat keparahannya menggunakan metode Delphi, sebuah proses penelitian terstruktur untuk mencapai kesepakatan ahli.
Hasilnya, lima risiko utama dinilai paling berpotensi menimbulkan dampak paling parah dalam lima tahun ke depan. Kelima risiko itu adalah munculnya kemampuan berbahaya (dangerous capabilities), tekanan persaingan antarnegara, pengembangan senjata dan serangan siber, pemusatan kekuasaan, serta penyebaran informasi palsu atau disinformasi.
Sektor informasi, keamanan nasional, dan keuangan menjadi yang paling rentan terhadap risiko AI. Peter Slattery, ilmuwan riset di MIT FutureTech sekaligus penulis pendamping studi, menjelaskan bahwa AI sangat mumpuni untuk menyerang aspek-aspek masyarakat tersebut dan menimbulkan kerugian besar.
"Coding dan hacking adalah beberapa area di mana kita melihat pertumbuhan kemampuan AI yang paling cepat," ujar Slattery. AI dinilai sangat cocok untuk tugas-tugas coding, pengenalan pola, serta sintesis informasi yang menjadi kunci dalam serangan siber.
Lebih mengkhawatirkan lagi, AI membuat risiko yang ada saat ini lebih mudah diperbesar atau scalable. Orang yang sebelumnya tidak bisa meretas kini dapat melakukan berbagai hal terkait peretasan, sementara mereka yang sudah ahli dapat bekerja lebih cepat, lebih baik, dan lebih mudah.
Para pakar menilai bahwa pengembang AI dan lembaga tata kelola seperti pemerintah serta regulator memegang tanggung jawab utama untuk mengatasi risiko ini. Namun ironisnya, pengguna sistem AI dan masyarakat terdampak justru menjadi pihak yang paling rentan.
Kesenjangan antara pihak yang bertanggung jawab dan pihak yang paling terdampak menciptakan celah serius dalam pengambilan tindakan. Slattery menekankan bahwa penelitian ini tidak bertujuan memprediksi masa depan secara pasti, melainkan membantu para pemimpin fokus pada risiko yang dinilai serius dan masuk akal dalam jangka pendek.
"Kami tidak mengatakan hal-hal ini pasti akan terjadi. Kami mengatakan bahwa inilah hal-hal yang menurut para ahli perlu diperhatikan sekarang," tegas Slattery.
Bagi para pemimpin bisnis, temuan ini memunculkan dua pertanyaan mendesak: apakah organisasi mereka siap menghadapi risiko AI, dan bagaimana mereka dapat memitigasi dampak buruk sebelum terlambat. Banyak organisasi masih memperlakukan risiko AI sebatas masalah kepatuhan atau ancaman masa depan yang masih jauh.
Padahal, eksekutif harus mulai menyadari bahwa risiko AI bukanlah ancaman bisnis biasa. Slattery memperingatkan agar pemimpin memperlakukan AI sebagai paradigma baru yang dapat menggantikan banyak tugas manusia, memunculkan kerentanan baru, serta menciptakan peluang dan kerentanan di tingkat ekosistem dan masyarakat.
Penyesuaian terhadap risiko AI juga tidak bisa dilakukan sekali saja. "Ini harus dilakukan secara berkesinambungan dan terus-menerus mulai dari sekarang, karena AI bergerak sangat cepat sehingga organisasi perlu jauh lebih responsif terhadap teknologi ini dibanding teknologi-teknologi sebelumnya," tutur Slattery.
Laporan ini ditulis oleh 188 penulis pendamping dengan tim riset inti yang terdiri dari Alexander K. Saeri, Jess Graham, Michael Noetel, Peter Slattery, dan Neil Thompson. Penelitian ini merupakan bagian dari MIT AI Risk Initiative yang bertujuan menyediakan data dan kerangka kerja otoritatif untuk mengelola risiko AI.
MIT AI Risk Initiative juga telah meluncurkan AI Risk Repository, sebuah basis data terbarukan berisi lebih dari 1.600 risiko AI yang dikelompokkan berdasarkan penyebab dan domain risiko. Basis data ini digunakan oleh pembuat kebijakan, teknolog, dan organisasi untuk merancang tata kelola AI yang lebih efektif.