Komdigi Tegaskan Keputusan Agentic AI Harus Tetap Libatkan Manusia

Lanskap teknologi kecerdasan buatan (Artificial Intelligence/AI) global kini tengah memasuki babak baru yang lebih kompleks. Kehadiran Agentic AI—generasi kecerdasan buatan yang memiliki otonomi untuk merencanakan, mengambil keputusan, hingga mengeksekusi tindakan secara independen—mulai menggeser dominasi AI generatif konvensional. Menyikapi lompatan teknologi ini, Kementerian Komunikasi dan Digital (Kemkomdigi) menegaskan pentingnya mempertahankan prinsip human-in-the-loop agar kendali akhir tetap berada di tangan manusia.

Peringatan tersebut disampaikan langsung oleh Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria, yang menyoroti pergeseran kapabilitas AI dari sekadar mesin penjawab menjadi entitas pengambil keputusan mandiri dengan potensi risiko etis dan operasional yang signifikan.

Evolusi Agentic AI dan Munculnya Ruang Gelap Keputusan

Perkembangan teknologi komputasi telah membawa model kecerdasan buatan melampaui fungsi pemrosesan data statis. Agentic AI dirancang untuk memecahkan masalah multi-tahap, menyusun strategi nalar secara mandiri, dan berinteraksi dengan lingkungan digital tanpa memerlukan instruksi langsung dari pengguna pada setiap prosesnya.

"Agentic AI bisa berpikir, membangun nalarnya sendiri, dan membuat keputusan tanpa kita ketahui. Banyak juga risiko yang membuat kita mempertanyakan apakah manusia masih ada di dalam proses itu?" tegas Nezar Patria dalam keterangan resminya.

Kemampuan nalar otonom ini dinilai membawa tantangan mendasar pada aspek transparansi. Ketika algoritma mengambil keputusan melalui logika komputasi internal yang tidak terprediksi, muncul kekhawatiran terkait akuntabilitas jika tindakan sistem menimbulkan kerugian atau kesalahan fatal.

Kronologi Risiko dan Kebutuhan Pengawasan Berlapis

Dalam analisis tata kelola teknologi, implementasi Agentic AI tanpa batasan otoritas yang jelas dapat memicu sejumlah kerentanan struktural, di antaranya:

1. Delegasi Otoritas Berlebih: Memberikan wewenang eksekusi penuh kepada AI pada sektor krusial, seperti transaksi finansial atau operasional infrastruktur kritis, tanpa verifikasi manusia.
2. Hilangnya Transparansi Logika: Proses penalaran internal AI yang tertutup menyulitkan proses audit forensik ketika terjadi anomali sistemik.
3. Pelepasan Tanggung Jawab Hukum: Ketidakjelasan subjek hukum yang bertanggung jawab atas keputusan otonom yang diambil oleh sistem algoritma.

Nezar menggarisbawahi bahwa otoritas yang diberikan kepada sistem harus selalu diimbangi dengan batas kewenangan yang rigid. Keputusan akhir yang menyangkut kepentingan publik, privasi data, dan keselamatan tetap tidak boleh dialihkan sepenuhnya kepada mesin.

Arah Kebijakan Pemerintah Memperkuat Regulasi AI

Pemerintah Indonesia saat ini terus memperdalam kajian lanskap regulasi guna merespons pesatnya inovasi AI otonom. Langkah ini bertujuan menciptakan keseimbangan antara mendorong inovasi digital nasional dan memitigasi dampak negatif teknologi bagi masyarakat luas.

Kementerian Komunikasi dan Digital mendorong seluruh pengembang serta korporasi pengadopsi AI untuk menerapkan standar etika yang ketat, termasuk menyematkan protokol intervensi darurat (kill-switch) dan mekanisme evaluasi berkala terhadap setiap keputusan yang dirumuskan oleh Agentic AI.