Eksekutif Big Tech yang bermain 'roulette Rusia' dalam perlombaan senjata AI dapat berisiko menyebabkan kepunahan manusia, peringatan dari peneliti terkemuka

Persaingan global untuk menguasai kecerdasan buatan telah mencapai puncaknya, tetapi salah satu ilmuwan komputer terkemuka di dunia memperingatkan bahwa Big Tech sedang mempertaruhkan masa depan spesies manusia secara sembrono.

Video Rekomendasi

Suara-suara terkuat dalam AI sering terbagi menjadi dua kubu: mereka yang memuji teknologi ini sebagai pengubah dunia, dan mereka yang mendorong pembatasan—atau bahkan pengekangan—sebelum menjadi ancaman yang tidak terkendali. Stuart Russell, seorang peneliti AI pelopor di Universitas California, Berkeley, dengan tegas termasuk dalam kelompok kedua. Salah satu kekhawatirannya utama adalah bahwa pemerintah dan regulator kesulitan mengikuti perkembangan teknologi yang cepat, meninggalkan sektor swasta dalam perlombaan menuju garis finish yang berisiko berkembang menjadi kompetisi berbahaya yang belum pernah terlihat sejak puncak Perang Dingin.

“Bagi pemerintah untuk membiarkan entitas swasta secara efektif bermain roulette Rusia dengan setiap manusia di bumi adalah, menurut saya, kelalaian total terhadap tugas mereka,” kata Russell kepada AFP di AI Impact Summit di New Delhi.

Sementara CEO teknologi terjebak dalam “perlombaan senjata” untuk mengembangkan model AI berikutnya dan terbaik, sebuah tujuan yang dipertahankan industri akan membawa kemajuan besar dalam penelitian medis dan produktivitas, banyak yang mengabaikan atau mengabaikan risiko-risiko tersebut, menurut Russell. Dalam skenario terburuk, dia percaya kecepatan inovasi yang luar biasa tanpa regulasi dapat menyebabkan kepunahan manusia.

Russell seharusnya tahu tentang risiko eksistensial yang mendasari peluncuran cepat AI. Ilmuwan komputer kelahiran Inggris ini telah mempelajari AI selama lebih dari 40 tahun, dan menerbitkan salah satu buku teks paling otoritatif tentang subjek ini sejak tahun 1995. Pada 2016, dia mendirikan pusat riset di Berkeley yang fokus pada keselamatan AI, yang menganjurkan sistem AI yang “terbukti bermanfaat” bagi umat manusia.

Di New Delhi, Russell berkomentar tentang seberapa jauh perusahaan dan pemerintah tampaknya menyimpang dari tujuan tersebut. Kritiknya berpusat pada perkembangan cepat sistem yang akhirnya dapat mengalahkan penciptanya, meninggalkan peradaban manusia sebagai “kerusakan sampingan dalam proses tersebut.”

Para kepala perusahaan AI besar menyadari bahaya eksistensial ini, tetapi mereka terjebak oleh kekuatan pasar. “Saya percaya, setiap CEO dari perusahaan AI utama ingin melucuti senjata,” kata Russell, tetapi mereka tidak bisa melakukannya “sepihak” karena posisi mereka akan segera digantikan oleh pesaing dan mereka akan menghadapi pengusiran langsung oleh investor mereka.

Perang Dingin Baru

Pembicaraan tentang risiko eksistensial dan potensi kepunahan manusia dulu hanya terbatas pada bayangan proliferasi nuklir yang tidak terkendali selama Perang Dingin, ketika kekuatan besar menimbun senjata karena takut pesaing akan melampaui mereka. Tetapi skeptis seperti Stuart Russell semakin menerapkan kerangka yang sama pada era kecerdasan buatan. Kompetisi antara AS dan China sering digambarkan sebagai “perlombaan senjata” AI, lengkap dengan kerahasiaan, urgensi, dan taruhan tinggi yang mendefinisikan rivalitas nuklir antara Washington dan Moskow di paruh kedua abad ke-20.

Vladimir Putin, presiden Rusia, secara singkat menangkap taruhan besar ini hampir satu dekade lalu: “Siapa pun yang menjadi pemimpin di bidang ini akan menjadi penguasa dunia,” katanya dalam pidato tahun 2017.

Meskipun perlombaan senjata saat ini tidak dapat diukur dengan kepala nuklir, skala perlombaan ini tercermin dari jumlah besar modal yang dikerahkan. Negara-negara dan perusahaan saat ini menghabiskan ratusan miliar dolar untuk pusat data yang membutuhkan energi besar untuk melatih dan menjalankan AI. Di AS saja, analis memperkirakan pengeluaran modal untuk AI akan melebihi 600 miliar dolar tahun ini.

Namun, tindakan agresif dari perusahaan belum seimbang dengan pembatasan melalui tindakan regulasi, kata Russell. “Sangat membantu jika setiap pemerintah memahami masalah ini. Dan itulah mengapa saya di sini,” katanya, merujuk pada konferensi di India.

China dan Uni Eropa termasuk kekuatan pengembang AI yang mengambil sikap lebih keras terhadap regulasi teknologi ini. Di tempat lain, kenyataannya lebih bersikap santai. Di India, pemerintah memilih pendekatan yang sebagian besar deregulasi. Sementara di AS, administrasi Trump mendukung ide-ide pro-pasar untuk AI, dan berusaha menghapus sebagian besar regulasi tingkat negara bagian agar perusahaan memiliki kebebasan penuh.

Bergabunglah dengan kami di Fortune Workplace Innovation Summit 19–20 Mei 2026, di Atlanta. Era baru inovasi tempat kerja telah tiba—dan buku panduan lama sedang ditulis ulang. Dalam acara eksklusif yang penuh energi ini, para pemimpin paling inovatif di dunia akan berkumpul untuk menjelajahi bagaimana AI, manusia, dan strategi bersatu kembali untuk mendefinisikan masa depan pekerjaan. Daftar sekarang.