Mantan Peneliti Google DeepMind Peringatkan Risiko Kepunahan Akibat AI

Fenomena pengunduran diri para ahli kecerdasan buatan (AI) terkemuka kembali memicu alarm kegentingan global. Bilal Chughtai, mantan peneliti di Google DeepMind yang berfokus pada keselamatan Artificial General Intelligence (AGI) dan penyelarasan sistem, secara terbuka menyampaikan peringatan mengerikan. Langkah Chughtai memperpanjang daftar ilmuwan papan atas yang memilih keluar dari laboratorium raksasa teknologi karena rasa cemas mendalam terhadap potensi ancaman eksistensial yang dibawa oleh perkembangan AI yang terlampau pesat.

Melalui pernyataan resminya di platform X, Chughtai mengungkapkan alasan mendasar di balik keputusannya meninggalkan salah satu laboratorium AI paling prestisius di dunia tersebut. Gelombang ketakutan ini kini tidak lagi berasal dari pengamat luar, melainkan dari para insinyur yang merancang teknologi itu sendiri.

"Saya baru saja mengundurkan diri dari Google DeepMind, tempat saya bekerja untuk riset keselamatan dan penyelarasan AGI. Saya secara sungguh-sungguh percaya bahwa AI memiliki potensi untuk membunuh kita semua, dan kita mungkin sedang kehabisan waktu untuk mencegah hasil tersebut," tulis Bilal Chughtai.

Gelombang Eksodus Ahli AI dan Prediksi Penuh Kegelapan

Pengunduran diri Chughtai bukanlah insiden terisolasi, melainkan bagian dari tren eksodus para peneliti keselamatan AI dari perusahaan papan atas Silicon Valley. Hanya seminggu sebelum Chughtai buka suara, dunia teknologi dihebohkan oleh pengunduran diri Jacob Coxon, seorang peneliti dari laboratorium AI Anthropic. Coxon mengungkapkan bahwa banyak pengembang utama AI saat ini secara jujur meyakini bahwa teknologi yang mereka ciptakan berpotensi memusnahkan manusia sebelum akhir dekade ini.

Peringatan tersebut semakin diperkuat oleh Evan Hubinger, ilmuwan senior di Anthropic. Hubinger membenarkan kekhawatiran Coxon dan mengalkulasikan bahwa terdapat risiko yang sangat nyata terkait bahaya pemusnahan massal oleh kecerdasan artifisial dalam kurun waktu sepuluh tahun ke depan.

Dilema Komersialisasi versus Keselamatan Manusia

Perspektif analitis menunjukkan adanya kontradiksi mendasar dalam industri teknologi saat ini. Perusahaan-perusahaan raksasa seperti Google, Microsoft, Anthropic, dan OpenAI saat ini terlibat dalam lomba senjata teknologi untuk mencapai AGI—sebuah titik di mana kecerdasan artifisial mampu menyamai atau melampaui kemampuan intelektual manusia dalam segala bidang. Namun, perlombaan memburu profit dan dominasi pasar ini dinilai telah mengabaikan prosedur keselamatan yang krusial.

Masalah utama yang dihadapi para peneliti adalah AI Alignment Problem, yakni bagaimana memastikan sistem yang super-inteligan tetap tunduk, terkendali, dan selaras dengan nilai-nilai serta keselamatan manusia. Ketika model AI dilatih untuk memaksimalkan efisiensi dan pencapaian target secara mandiri, ada risiko logis bahwa sistem tersebut akan mengabaikan batasan etika manusia jika hal itu dianggap menghambat pencapaian tujuannya. Ketika kecerdasan AI melampaui kontrol penciptanya, manusia diprediksi tidak lagi memiliki tombol penghenti (kill switch) yang efektif.

Waktu yang Kian Menyempit untuk Regulasi Global

Peringatan bertubi-tubi dari para pengundurkan diri ini menjadi sinyal bahaya bagi para regulator global. Pemerintah di berbagai negara, termasuk Amerika Serikat dan Uni Eropa, dinilai terlambat merumuskan kerangka hukum yang ketat untuk mengawasi pengembangan model AI tingkat lanjut.

Tanpa adanya regulasi mengikat dan moratorium terhadap eksperimen AGI yang berisiko tinggi, peringatan dari Bilal Chughtai dan koleganya dapat berubah dari sekadar skenario fiksi ilmiah menjadi kenyataan pahit. Industri kecerdasan buatan kini berada di persimpangan jalan: memperlambat komersialisasi demi keselamatan manusia, atau terus memacu teknologi hingga melampaui batas kendali peradaban.