Dunia teknologi dan sains pernah dikejutkan oleh terbitnya sebuah buku penting berjudul Superintelligence: Paths, Dangers, Strategies pada tahun 2014. Ditulis oleh seorang filsuf terkemuka bernama Nick Bostrom, buku ini mengeksplorasi bagaimana kecerdasan buatan super atau superintelligence dapat diciptakan serta apa saja fitur dan motivasi yang menyertainya.
Related Stories
Suka dengan Artikel Ini?
Dapatkan lebih banyak cerita menarik dengan berlangganan newsletter kami. Gratis!
Subscribe →Inti dari pemikiran Bostrom dalam buku tersebut menyatakan bahwa jika kecerdasan buatan tingkat super berhasil diciptakan, sistem tersebut akan sangat sulit dikendalikan. Bahkan, sistem itu berpotensi mengambil alih dunia demi mencapai tujuan-tujuannya sendiri. Oleh karena itu, buku ini menghadirkan berbagai strategi krusial agar kecerdasan buatan masa depan dapat dirancang selaras dengan kesejahteraan umat manusia.
Salah satu hal menarik yang dibahas adalah munculnya "tujuan instrumental" secara spontan pada sistem supercerdas, seperti dorongan untuk mempertahankan diri dan memperluas sumber daya. Sebagai ilustrasi, Bostrom menggambarkan agen AI yang memiliki tugas menyelesaikan masalah matematika rumit, namun berpotensi mengubah seluruh isi bumi menjadi material komputasi demi mendukung perhitungannya. Mengatasi masalah kontrol AI ini dinilai sebagai tantangan terbesar zaman ini.
Buku ini juga memuat analogi terkenal tentang "Kisah Burung Pipit yang Belum Selesai", di mana sekelompok burung pipit berencana memelihara anak burung hantu sebagai pelayan tanpa memikirkan bagaimana cara menjinakkannya terlebih dahulu. Tokoh utama dalam fabel tersebut, Scronkfinkle, mewakili suara kehati-hatian agar manusia tidak terjebak dalam ambisi menciptakan teknologi tanpa perhitungan matang.
Berbagai tokoh besar dunia teknologi turut memberikan sorotan tajam terhadap buku ini. Elon Musk sempat membuat kehebohan dengan menyatakan sepakat bahwa kecerdasan buatan berpotensi jauh lebih berbahaya daripada senjata nuklir. "Buku ini membuka mata kita bahwa ancaman AI adalah hal nyata yang harus diwaspadai sejak dini," tulis beberapa ulasan yang memuji karya monumental tersebut.