95% pemimpin data global mengaku tak sepenuhnya paham cara AI ambil keputusan. Survei Dataiku ungkap risiko kepercayaan, explainability, dan tata kelola AI.

Marketing.co.id – Berita Digital | Hampir seluruh pemimpin data global mengakui belum memiliki visibilitas penuh terhadap proses pengambilan keputusan kecerdasan buatan (AI). Temuan ini terungkap dalam laporan “Global AI Confessions Report: Data Leaders Edition” yang dirilis Dataiku berdasarkan survei The Harris Poll terhadap lebih dari 800 eksekutif senior di bidang data di delapan negara.

Laporan tersebut mencatat 95% pemimpin data tidak sepenuhnya dapat menelusuri keputusan AI, meskipun 86% responden menyebut AI telah menjadi bagian dari operasi sehari-hari perusahaan. Kondisi ini memunculkan kekhawatiran serius terkait kepercayaan, tata kelola, dan reliabilitas AI di lingkungan bisnis.

Sebanyak 75% pemimpin data menyatakan khawatir terhadap tingkat kepercayaan dalam penerapan agen AI, terutama karena keterbatasan penjelasan atas cara sistem AI menghasilkan rekomendasi. Bahkan, 52% perusahaan mengaku menunda atau membatalkan implementasi agen AI akibat persoalan explainability.

Baca Juga: Karyawan Anda Menggunakan Ai? Waspadalah!

Survei juga menunjukkan perubahan persepsi risiko. Sebanyak 80% responden menilai keputusan AI yang akurat namun tidak dapat dijelaskan lebih berisiko dibanding keputusan yang salah tetapi dapat dipahami. Namun demikian, hanya 19% pemimpin data yang secara konsisten mewajibkan agen AI untuk menunjukkan proses kerja sebelum digunakan.

Di sisi lain, pengaruh AI dalam pengambilan keputusan bisnis semakin besar. Sebanyak 69% responden menyatakan rekomendasi bisnis dari AI lebih sering dianggap serius dibanding saran manusia. Meski begitu, kepercayaan terhadap AI masih rapuh. Sebanyak 59% melaporkan halusinasi atau ketidakakuratan AI telah menimbulkan masalah bisnis dalam 12 bulan terakhir, dan 74% menyebut akan kembali ke proses manual jika tingkat kesalahan AI melebihi 6%.

Tekanan juga dirasakan para CIO dan CDO. Sebanyak 46% pemimpin data mengaku menerima pujian saat inisiatif AI berhasil, namun 56% menyatakan mereka pula yang paling mungkin disalahkan ketika AI menyebabkan kerugian bisnis. Bahkan, 60% khawatir kehilangan pekerjaan apabila AI tidak menunjukkan dampak nyata dalam dua tahun ke depan.

Laporan ini juga menyoroti kesenjangan persepsi antara pemimpin data dan jajaran CEO. Hanya 39% responden menilai C-suite benar-benar memahami AI, sementara 73% menyebut para eksekutif meremehkan kompleksitas mencapai reliabilitas AI sebelum masuk tahap produksi. Kondisi tersebut dinilai menjadi salah satu penyebab banyak proyek AI terhenti di tahap proof-of-concept (POC).

Baca Juga: Lengkap! 8 Kemampuan AI yang Wajib Diketahui Bisnis dan Profesional

CEO Dataiku Florian Douetteau menilai persoalan utama adopsi AI bukan terletak pada teknologi semata. “Perusahaan di seluruh dunia saat ini mempertaruhkan masa depan mereka pada sistem AI yang belum sepenuhnya mereka percayai. Padahal, sebagian besar hambatan tersebut dapat diatasi melalui peningkatan keterjelasan, keterlacakan, dan tata kelola yang kuat,” ujarnya.

Survei ini dilakukan secara daring oleh The Harris Poll pada 20–29 Agustus 2025 terhadap 812 pemimpin data di Amerika Serikat, Inggris, Prancis, Jerman, Uni Emirat Arab, Jepang, Singapura, dan Korea Selatan. Seluruh responden berasal dari perusahaan besar dengan pendapatan tahunan minimal USD 1 miliar.