Bahaya Ambisi Pentagon, Kecepatan Adopsi AI Tanpa Kendali Memicu Risiko

Kecerdasan buatan kini memegang peran sentral dalam doktrin pertempuran modern Amerika Serikat sebagaimana terbukti dalam operasi militer terkini. Berdasarkan analisis Kabayan News, penggunaan model bahasa besar melalui platform Maven Smart System mendongkrak kecepatan penentuan target secara signifikan, melampaui tempo operasional konflik masa lalu. Data dari Pentagon menunjukkan bahwa integrasi teknologi ini memungkinkan pasukan memproses ribuan target dalam waktu singkat. Meskipun akselerasi tersebut mencerminkan kemajuan teknologi, pengamatan Kabayan News mengindikasikan bahwa departemen pertahanan mengabaikan aspek krusial terkait evaluasi sistem sebelum diterjunkan ke medan laga.

Strategi Akselerasi AI yang dirilis awal tahun ini mendorong penghapusan berbagai hambatan birokrasi pengadaan guna mempercepat adopsi teknologi frontier models. Kebijakan ini menuntut integrasi model mutakhir dalam tempo cepat tanpa panduan teknis operasional yang matang. Sebagaimana dilaporkan dalam dokumen resmi pertahanan, tenggat waktu demonstrasi proyek prioritas ditetapkan pada bulan Juli. Namun, menurut pengamatan Kabayan News, departemen tersebut gagal memenuhi tenggat waktu yang mereka tetapkan sendiri, memicu keraguan mendalam mengenai kesiapan infrastruktur skala besar di lapangan.

Perbedaan mendasar antara sistem AI tradisional dan model generatif modern menuntut pendekatan pengujian yang benar-benar baru. Model generatif terus berubah dan memiliki tingkat halusinasi bervariasi antara 27 hingga 85 persen pada kueri faktual pendek, serta risiko fabrikasi entitas mencapai 94 persen. Mengutip laporan strategi pertahanan, bias otomasi dalam tim manusia dan mesin menciptakan risiko kepatuhan berlebihan dari operator terhadap rekomendasi sistem. Ketika evaluasi dipangkas demi memenuhi target waktu penempatan 30 hari, celah kegagalan model gagal dipetakan secara optimal, yang pada akhirnya membuat operator enggan mempercayai sistem tersebut di lapangan.

Memorandum Presidensi Keamanan Nasional Nomor 11 yang ditandatangani pada bulan Juni semakin mempertegas pendekatan kecepatan di atas sistem. Kebijakan tersebut menuntut penghapusan hambatan penempatan cepat tanpadiikuti penguatan kelembagaan pengawas yang memadai. Menurut analisis Kabayan News, Kantor Tanggung Jawab AI yang bertugas membangun tata kelola justru mengalami penurunan jumlah staf akibat pemotongan anggaran dan kebijakan internal. Di sisi lain, lembaga penguji independen mengalami pemangkasan jumlah staf hingga separuhnya dalam waktu singkat, membuat Pentagon tidak memiliki kapasitas memadai untuk mengevaluasi model AI generatif yang terus diperbarui setiap beberapa bulan.

Kebijakan baru tersebut juga mewajibkan pemutusan kontrak dengan perusahaan penyedia teknologi yang memberlakukan pembatasan penggunaan militer secara penuh. Langkah ini diambil setelah perselisihan terkait upaya pembatasan otonomi penuh senjata dan pengawasan domestik. Berdasarkan laporan investigasi pertahanan, situasi ini menciptakan insentif bagi departemen untuk memilih vendor yang memberikan sedikit batasan di tengah ketiadaan kapasitas verifikasi independen. Tanpa investasi memadai pada infrastruktur pengujian, tenaga ahli, dan kerangka hukum yang kuat, dorongan kecepatan operasional berisiko melahirkan sistem militer canggih yang belum sepenuhnya dipahami atau diamankan dengan baik.