CEO Anthropic Ungkap Industri Teknologi Sembunyikan Bahaya Nyata Kecerdasan Buatan

Ketua Eksekutif (CEO) Anthropic, Dario Amodei, melontarkan kritik tajam terhadap dinamika industri teknologi global. Amodei secara terbuka menuduh bahwa para pengembang utama kecerdasan buatan (artificial intelligence/AI) selama bertahun-tahun telah menutup-nutupi risiko nyata dari perkembangan teknologi otonom tersebut kepada publik. Pernyataan ini menjadi sorotan tajam di tengah persaingan ketat pengembangan model AI generatif yang kian masif di Silicon Valley.

Menurut Amodei, narasi yang selama ini dibangun oleh sebagian besar korporasi teknologi cenderung meremehkan potensi destruktif dari sistem AI berkemampuan tinggi demi memuluskan penetrasi pasar dan menarik investasi modal ventura.

"Selama bertahun-tahun, risiko aktual dan bahaya signifikan dari perkembangan teknologi ini sengaja disembunyikan dari masyarakat. Ancaman yang ada saat ini bukanlah fiksi ilmiah, melainkan bahaya nyata yang sedang mendekat," tegas Dario Amodei.

Kronologi Eskalasi Risiko dan Pergeseran Sikap Industri AI

Kritik dari pimpinan Anthropic—perusahaan di balik model AI Claude—mencerminkan perpecahan mendalam di kalangan perintis kecerdasan buatan mengenai bagaimana teknologi ini harus diatur. Amodei menguraikan runtutan peristiwa yang mengubah lanskap keamanan AI dalam beberapa tahun terakhir:

1. Periode Komersialisasi Tertutup (2020–2022): Sebagian besar laboratorium riset besar berfokus pada peningkatan skala parameter model secara eksponensial seraya meminimalkan pembahasan publik mengenai ancaman keselamatan siber dan proliferasi senjata biologis.
2. Ledakan Adopsi Konsumen (2023): Peluncuran model publik memicu perlombaan senjata komersial, di mana pertimbangan etika serta audit independen kerap dikesampingkan demi kecepatan peluncuran produk ke pasar global.
3. Fase Kesadaran Eksistensial (2024–Sekarang): Munculnya desakan regulasi ketat setelah para mantan peneliti dan eksekutif mengakui bahwa kendali atas sistem model cerdas makin sulit diprediksi tanpa intervensi eksternal.

Ancaman Nyata dan Tuntutan Pengawasan Bersama Negara Demokratis

Amodei menegaskan bahwa model AI canggih di masa depan dapat memfasilitasi pembuatan ancaman biologis baru, memperluas serangan siber otomatis berskala negara, hingga menciptakan instabilitas geopolitik jika jatuh ke tangan aktor non-negara yang berniat jahat. Oleh karena itu, pendekatan self-regulation atau swaregulasi oleh perusahaan swasta dinilai telah gagal dan berisiko tinggi.

Sebagai jalan keluar, Anthropic mendesak perlunya kerangka tata kelola terintegrasi antara sektor swasta dan pemerintah berdaulat. Tata kelola ini mencakup sejumlah pilar utama:

• Audit Pihak Ketiga Independen: Setiap model berkapasitas tinggi wajib menjalani pengujian ketat sebelum dirilis secara komersial.
• Standar Keamanan Bersama (Responsible Scaling Policies): Komitmen penghentian sementara pelatihan model jika batas ambang keamanan belum terpenuhi.
• Kemitraan Negara Demokratis: Kolaborasi antar-pemerintah untuk memastikan regulasi AI tidak mengekang inovasi, namun tetap melindungi kedaulatan data dan keselamatan populasi sipil.

Langkah Amodei ini diperkirakan akan memperkuat tekanan bagi badan legislatif di Amerika Serikat, Uni Eropa, dan Asia Pasifik untuk segera merampungkan undang-undang kepatuhan keselamatan AI yang lebih mengikat secara hukum.