Kecerdasan buatan atau artificial intelligence kini telah merambah ke berbagai lini kehidupan, mulai dari kendaraan otonom hingga sistem keamanan digital. Namun di balik kecanggihannya, teknologi ini menyimpan celah kerentanan yang cukup mengkhawatirkan bagi para pengembang maupun pengguna.
Related Stories
Suka dengan Artikel Ini?
Dapatkan lebih banyak cerita menarik dengan berlangganan newsletter kami. Gratis!
Subscribe →Fenomena tersebut dikenal sebagai adversarial machine learning, sebuah bidang studi yang fokus pada berbagai celah serangan terhadap algoritma machine learning beserta sistem pertahanannya. Dalam praktiknya, sistem AI sering kali berasumsi bahwa data pelatihan dan data pengujian berasal dari distribusi statistik yang sama.
Akan tetapi, asumsi tersebut kerap dilanggar dalam situasi nyata berisiko tinggi. Pengguna atau pihak tidak bertanggung jawab dapat dengan sengaja memasok data tiruan atau manipulatif untuk mengelabui sistem agar membuat keputusan yang salah tanpa disadari oleh manusia.
Berbagai bentuk serangan pun terus bermunculan dari tahun ke tahun seiring berkembangnya teknologi. Mulai dari evasion attacks yang memodifikasi input agar tidak terdeteksi, data poisoning yang mencemari data pelatihan, hingga serangan model extraction untuk mencuri kerahasiaan model.
Para peneliti dan raksasa teknologi dunia kini tengah berpacu dengan waktu untuk memperkuat ketahanan sistem digital mereka. Langkah mitigasi ini menjadi sangat krusial agar teknologi masa depan tidak mudah dieksploitasi oleh pihak-pihak yang ingin mencari keuntungan sepihak.