PULNEW.COM, JAKARTA - Peringatan keras kembali dilontarkan para pakar kecerdasan buatan. Sejumlah ilmuwan menyebut teknologi AI yang tidak terkendali berpotensi membawa dampak fatal bagi keberlangsungan umat manusia.
Laporan yang dikutip Bangkok Post pada Sabtu, 12 September 2026, menyebut kekhawatiran ini bukan hal baru. Sejak 2023, ratusan peneliti dan tokoh industri AI telah menandatangani pernyataan bersama yang menempatkan risiko kepunahan akibat AI setara dengan ancaman pandemi atau perang nuklir.
Salah satu suara paling vokal datang dari Profesor Ilmu Komputer University of California Berkeley, Stuart Russell. Ia memperingatkan skenario terburuk jika AI super cerdas lepas kendali.
Menurut Russell, AI bisa memerintahkan robot untuk membuat dan menyebarkan patogen baru. AI juga berpotensi memanipulasi manusia agar memicu perang nuklir melalui peretasan sistem peringatan dini.
"Kita kurang cerdas dibandingkan AI yang super cerdas. Jika Anda bertanya kepada simpanse bagaimana manusia dapat memusnahkan mereka, mereka mungkin tidak akan bisa memberi semua jawaban yang benar," paparnya.
Russell menegaskan, untuk saat ini sistem AI belum sampai pada tahap itu. Namun perkembangan teknologi yang sangat cepat dikhawatirkan bisa melahirkan AI yang mengambil keputusan mematikan di luar jangkauan pemahaman manusia. Contohnya, menghilangkan oksigen dari atmosfer secara tiba-tiba.
"Dalam satu atau dua tahun ke depan saya pikir risikonya lebih tinggi dari penyalahgunaan oleh manusia, (seperti serangan teror berbasis AI)," tambahnya.
Perlombaan Perusahaan AI Dituding Judi Nyawa Manusia
Kekhawatiran publik semakin memuncak setelah pengunduran diri Jacob Coxon, mantan peneliti dari perusahaan AI Anthropic dan OpenAI. Coxon menuduh perusahaan-perusahaan besar sedang "mempertaruhkan nyawa manusia" demi memenangkan perlombaan pengembangan teknologi.Ia menyebut Anthropic bahkan menghapus komitmen dalam piagam keselamatannya. Komitmen itu sebelumnya berisi janji menghentikan pengembangan jika risiko tidak bisa dikendalikan. Alasannya, perusahaan takut tertinggal dari pesaing yang lebih agresif.
"Orang-orang yang membangun AI dengan sungguh-sungguh percaya bahwa AI dapat membunuh kita semua pada akhir dekade ini," ucap Coxon.
Pernyataan senada juga datang dari Eksekutif Keselamatan Anthropic, Evan Hubinger. Ia memperkirakan peluang kepunahan manusia akibat AI mencapai lebih dari 10% dalam 10 tahun ke depan.
"Kami benar-benar sangat percaya bahwa AI dapat membunuh semua manusia!" tegas Hubinger.
Ketakutan itu bertambah setelah model AI milik OpenAI yang beroperasi tanpa pengawasan manusia dilaporkan berhasil meretas Hugging Face. Hugging Face adalah repositori tempat para pengembang menyimpan dan membagikan model AI.
Peristiwa ini menjadi bukti bahwa kemampuan AI sudah melampaui batas yang diprediksi sebelumnya. Para peneliti khawatir jika kemampuan meretas ini jatuh ke tangan yang salah, dampaknya bisa sangat luas.
Di sisi lain, muncul juga pandangan skeptis. Sejumlah pihak menilai peringatan kiamat AI sengaja dibesar-besarkan. Tujuannya untuk membuat teknologi ini terlihat sangat canggih dan menarik investasi besar. Apalagi Anthropic dan OpenAI dikabarkan akan segera melakukan penawaran saham perdana atau go public.
Kelompok lain berpendapat fokus pada risiko kepunahan justru mengalihkan perhatian dari persoalan nyata saat ini. Masalah seperti pemutusan hubungan kerja massal akibat otomasi dan bias algoritma terhadap kelompok minoritas dianggap lebih mendesak untuk diselesaikan.
Profesor Komputasi dari UNSW Canberra, Hussein Abbass, juga menanggapi. Ia menilai prediksi persentase risiko kepunahan tidak memiliki dasar ilmiah yang kuat. Menurutnya, situasi saat ini masih bisa dikelola melalui regulasi yang cepat dan tepat.
Regulasi AI Tertahan Ambisi Geopolitik AS dan China
Desakan untuk memperlambat pengembangan AI paling canggih mulai terdengar. Pada Juli lalu, lebih dari 1.000 pekerja di bidang teknologi mendesak pemerintah Washington mendukung moratorium terkoordinasi.OpenAI sempat menghentikan pelatihan model terbarunya selama dua minggu pada Agustus. Pelatihan dilanjutkan setelah sistem kontrol internal diperketat.
Namun hingga kini Amerika Serikat masih menolak adanya regulasi global yang mengikat. Alasannya, regulasi ketat dikhawatirkan akan menghambat laju inovasi dan membuat AS tertinggal dari China dalam kompetisi teknologi.
Presiden AS Donald Trump secara terbuka menyampaikan pandangan tersebut. Ia menekankan pentingnya menjaga posisi AS sebagai pemimpin di bidang AI.
"Kami tidak ingin membatasi mereka di mana tiba-tiba kami berada di urutan kedua setelah China," katanya.
Kemampuan model AI terbaru dalam melakukan peretasan yang belum pernah terjadi sebelumnya akhirnya memaksa Washington. Pemerintah menunda perilisan produk terbaru dari Anthropic dan OpenAI dengan alasan keamanan nasional.
Melihat kebuntuan ini, Stuart Russell mendesak agar pemerintah segera membuat rezim perizinan khusus untuk AI. Standarnya harus setara dengan industri penerbangan, medis, atau penyediaan air bersih.
"Mungkin butuh bencana berskala Chernobyl agar pemerintah mau bertindak. Mungkin pada suatu saat pemerintah akan ingat bahwa para pemilih mereka lebih memilih untuk tidak mati," pungkasnya.
Pernyataan itu menjadi penutup dari rangkaian peringatan para ahli. Di tengah kemajuan teknologi yang pesat, pertanyaan besar tetap menggantung: apakah manusia mampu mengendalikan ciptaannya sendiri sebelum terlambat.
Menurut pantauan PULNEW.COM, peringatan para ahli AI ini tidak boleh dianggap remeh. Ketika para pembuat teknologi sendiri menyatakan takut dengan hasil karyanya, maka lampu kuning sudah seharusnya menyala. Risiko 10% kepunahan dalam satu dekade adalah angka yang terlalu besar untuk diabaikan.
Perlombaan antara AS dan China membuat regulasi global sulit terwujud. Negara lebih takut kalah bersaing daripada memikirkan keselamatan bersama. Padahal AI adalah teknologi lintas batas. Satu kesalahan di satu negara bisa berdampak ke seluruh dunia.
Pemerintah Indonesia dan negara lain perlu segera menyiapkan payung hukum dan lembaga pengawas AI yang independen. Jangan menunggu "bencana Chernobyl versi AI" baru bergerak. Karena jika AI benar-benar lepas kendali, maka tidak akan ada kesempatan kedua untuk memperbaikinya.