Komdigi Ingatkan Pentingnya Kendali Manusia di Tengah Ledakan Agentic AI

Lanskap kecerdasan buatan global kini tengah bertransisi cepat dari model generatif pasif menuju Agentic AI, sebuah sistem otonom yang mampu merencanakan, mengeksekusi tindakan, hingga mengambil keputusan mandiri tanpa instruksi berulang dari pengguna. Menanggapi lonjakan kapabilitas komputasi tersebut, Kementerian Komunikasi dan Digital (Komdigi) menegaskan urgensi mitigasi risiko serta pentingnya menempatkan manusia sebagai pemegang kendali utama kebijakan teknologi di Indonesia.

Wakil Menteri Komunikasi dan Digital (Wamen Komdigi), Nezar Patria, menggarisbawahi bahwa kemandirian sistem otonom membawa tantangan etika dan akuntabilitas baru yang jauh lebih kompleks dibanding generasi AI sebelumnya. Tanpa tata kelola yang terukur, otonomi mesin berisiko memicu disrupsi sosial, kebocoran data terstruktur, hingga potensi bias keputusan yang merugikan publik.

Evolusi Teknologi: Pergeseran Paradigma dari Generatif ke Otonom

Karakteristik Agentic AI melampaui Large Language Models (LLM) konvensional yang hanya merespons perintah teks secara linier. Model agen memiliki kapasitas penalaran adaptif untuk menyelesaikan tugas multitahap secara terintegrasi.

1. Fase AI Deskriptif dan Prediktif (2010–2021): Sistem berfokus pada analisis data historis dan peramalan pola berbasis statistik terstruktur.
2. Fase AI Generatif (2022–2024): Kemunculan model seperti ChatGPT yang mampu memproduksi teks, gambar, dan kode berdasarkan instruksi masukan (prompt).
3. Fase Agentic AI (2025–Masa Depan): Mesin memiliki inisiatif algoritmik, mengevaluasi hasil kerjanya sendiri, serta mengeksekusi serangkaian aksi bisnis atau operasional secara otonom.

"Kemampuan Agentic AI dalam mengambil keputusan mandiri menuntut pengawasan yang jauh lebih ketat. Prinsip human-in-the-loop bukan lagi sekadar opsi teknis, melainkan keharusan etis demi memastikan arah inovasi tetap berpusat pada keselamatan manusia," ujar Nezar Patria.

Kronologi dan Urgensi Regulasi AI di Indonesia

Langkah preventif pemerintah dirancang guna mengimbangi laju adopsi korporasi lokal yang kian agresif mengintegrasikan otomatisasi cerdas ke dalam rantai pasok industri.

• Penerbitan Surat Edaran Etika AI: Menjadi instrumen awal Komdigi dalam memetakan batas tanggung jawab pengembang serta penyedia layanan teknologi cerdas.
• Penyusunan Kerangka Tata Kelola AI Nasional: Memformulasikan pedoman kepatuhan hukum bagi sektor-sektor krusial, termasuk finansial, kesehatan, dan infrastruktur kritis.
• Standarisasi Pengawasan Otonom: Memastikan algoritma agen selalu menyertakan mekanisme pembatalan darurat (kill-switch) yang sepenuhnya dikontrol oleh operator manusia.

Mitigasi Risiko dan Kedaulatan Digital

Secara analitis, tantangan terbesar dari adopsi Agentic AI di negara berkembang terletak pada kesiapan infrastruktur tata kelola dan literasi digital tingkat lanjut. Ketika sistem agen berinteraksi langsung dengan API sistem pembayaran atau database kependudukan, lubang keamanan siber pada agen tersebut berpotensi dieksploitasi untuk tindakan destruktif berskala luas.

Oleh karena itu, Komdigi terus mendorong kolaborasi lintas sektor antara pemerintah, akademisi, dan praktisi industri. Strategi mitigasi diarahkan pada tiga pilar utama: transparansi algoritma, perlindungan privasi data nasional, dan akuntabilitas hukum bagi setiap dampak yang ditimbulkan oleh keputusan otomatis sistem.