Masalah Kepercayaan Agentic AI Berakar dari Data, Ini Kata Laporan

Data terbaru dari Boomi mengungkapkan bahwa sebanyak 86 persen perusahaan telah berkembang dari sekadar uji coba agentic AI menuju penerapan di tingkat produksi secara nyata. Namun, hanya 34 persen organisasi yang benar-benar mempercayai tindakan dan keputusan yang diambil oleh agen AI mereka.

Suka dengan Artikel Ini?

Dapatkan lebih banyak cerita menarik dengan berlangganan newsletter kami. Gratis!

Subscribe →

Kendati demikian, masalah kepercayaan tersebut tidak bersumber dari tingkat kecerdasan model yang digunakan. Boomi menilai bahwa kualitas data, integrasi, serta kontrol dan tata kelola data yang buruk menjadi penyebab utama di balik keraguan tersebut.

Riset ini membagi responden ke dalam beberapa kategori, di mana kuartil terbawah yang belum siap dikelompokkan dalam kondisi "agentic chaos". Di antara perusahaan yang mengalami agentic chaos ini, sebanyak 77 persen tetap nekat memindahkan agen AI mereka ke tahap produksi, yang menunjukkan adanya kesenjangan yang mengkhawatirkan.

Dengan sebagian besar perusahaan dalam kategori agentic chaos yang terus memaksakan rencana mereka, Boomi memperingatkan adanya risiko kerugian besar. Perusahaan dapat menghadapi biaya tak terduga mulai dari denda kepatuhan, kehilangan pelanggan, hingga gangguan operasional.

Di sisi lain, kuartil teratas dikategorikan berada dalam kondisi "agentic control". Lebih dari separuh atau sekitar 55 persen dari kelompok ini menyatakan sangat yakin dengan keputusan dan tindakan yang diambil oleh agen AI mereka.

Selain itu, laporan ini mengkritik perusahaan dalam kategori agentic chaos karena dinilai fokus pada hal yang salah. Sekitar 51 persen dari mereka lebih memprioritaskan kematangan model atau alat AI dibandingkan menangani penyebab utama dari ketidakpercayaan tersebut.

"Agen AI hanya dapat dipercaya untuk bertindak berdasarkan data yang telah diaktifkan, dihubungkan, dan dikelola dengan benar, namun sebagian besar perusahaan menyebarkan agen sebelum mereka melakukan pekerjaan tersebut," kata CEO Boomi, Steve Lucas.

Pada akhirnya, data Boomi mengindikasikan bahwa tekanan untuk menunjukkan nilai AI dan pengembalian investasi (ROI) justru memicu penyebaran yang terlalu dini sebelum fondasi utamanya siap, sehingga organisasi terpaksa mengejar ketertinggalan dengan cara yang jauh lebih tidak efisien.