Seberapa berbahayakah Mythos? Mengapa Anthropic memutuskan untuk tidak merilis model baru ke publik

Judul asli: How Anthropic Learned Mythos Was Too Dangerous for the Wild
Penulis asli: Margi Murphy, Jake Bleiberg, dan Patrick Howell O’Neill, Bloomberg
Diterjemahkan oleh: Peggy, BlockBeats

Penulis asli: BlockBeats

Sumber asli:

Dikutip dari: Mars Finance

Catatan editor: Ketika sebuah perusahaan AI memilih untuk tidak langsung merilis model terkuatnya ke publik, itu sendiri sudah menunjukkan masalahnya.

Mythos dari Anthropic sudah mampu menyelesaikan seluruh rangkaian proses serangan secara mandiri. Dari menemukan celah zero-day, menulis kode eksploitasi, hingga menggabungkan beberapa langkah untuk masuk ke sistem inti, pekerjaan yang sebelumnya membutuhkan kolaborasi jangka panjang dari hacker top-level, kini dipadatkan menjadi jam bahkan menit.

Itulah mengapa, saat model tersebut diumumkan pertama kali, Scott Bessent dan Jerome Powell langsung mengumpulkan institusi Wall Street untuk rapat, meminta mereka menggunakannya untuk “self-check”. Ketika kemampuan menemukan celah disebarluaskan secara besar-besaran, sistem keuangan tidak lagi menghadapi serangan acak, melainkan pemindaian terus-menerus.

Perubahan yang lebih dalam terletak pada struktur pasokan. Dulu, penemuan celah bergantung pada sedikit tim keamanan dan pengalaman hacker, dengan ritme yang lambat dan tidak dapat diduplikasi. Sekarang, kemampuan ini mulai diproduksi secara massal oleh model, menurunkan ambang serangan dan pertahanan secara bersamaan. Sebuah analog dari orang dalam yang akrab: Memberikan model kepada hacker biasa sama dengan memberdayakan mereka dengan kemampuan operasi khusus.

Lembaga-lembaga sudah mulai menggunakan alat yang sama untuk melakukan pemeriksaan balik terhadap sistem mereka sendiri. JPMorgan Chase, Cisco Systems, dan lainnya sedang melakukan pengujian internal, berharap memperbaiki celah sebelum dieksploitasi. Tapi batasan nyata belum berubah, kecepatan penemuan semakin meningkat, perbaikan tetap lambat. “Kami pandai menemukan celah, tapi tidak pandai memperbaikinya,” kata Jim Zemlin, menunjukkan ketidakseimbangan ritme tersebut.

Faktanya, karena Mythos bukan hanya peningkatan kemampuan tunggal, melainkan mengintegrasikan, mempercepat, dan menurunkan ambang batas penggunaan kemampuan serangan yang sebelumnya tersebar dan terbatas. Jika keluar dari lingkungan kendali, bagaimana kemampuan ini akan menyebar, tidak ada pengalaman langsung yang bisa dijadikan acuan.

Bahaya bukan terletak pada apa yang bisa dilakukan, tetapi siapa yang bisa menggunakannya dan dalam kondisi apa.

Berikut adalah teks aslinya:

Pada suatu sore yang hangat di bulan Februari, saat menghadiri pernikahan di Bali, Nicholas Carlini sementara meninggalkan tempat, membuka laptop, dan bersiap untuk “melakukan kerusakan”. Saat itu, Anthropic baru saja membuka model AI baru bernama Mythos untuk evaluasi internal, dan peneliti AI terkenal ini berencana melihat seberapa besar masalah yang bisa ditimbulkannya.

Tugas Carlini di Anthropic adalah melakukan “pengujian tekanan” terhadap model AI mereka, menilai apakah hacker bisa memanfaatkan mereka untuk spionase, pencurian, atau sabotase. Saat menghadiri pernikahan di Bali, Carlini terkejut dengan kemampuan model ini.

Dalam beberapa jam, dia menemukan berbagai teknik untuk menembus sistem umum global. Setelah kembali ke kantor Anthropic di pusat San Francisco, dia menemukan bahwa Mythos sudah mampu menghasilkan alat serangan yang kuat secara mandiri, termasuk untuk Linux—sistem sumber terbuka yang mendukung sebagian besar infrastruktur komputasi modern.

Mythos menampilkan sebuah “perampokan bank digital”: mampu melewati protokol keamanan, masuk ke sistem jaringan melalui pintu depan, lalu merusak brankas digital dan mencuri aset online di dalamnya. Dulu, AI hanya bisa “menggembok”, sekarang, ia sudah mampu merencanakan dan menyelesaikan seluruh “perampokan”.

Carlini dan beberapa kolega mulai mengirimkan peringatan ke dalam perusahaan, melaporkan temuan mereka. Sementara itu, mereka hampir setiap hari menemukan celah berbahaya dan mematikan di sistem yang dideteksi Mythos—masalah yang biasanya hanya bisa ditemukan oleh hacker top dunia.

Sementara itu, tim internal Anthropic bernama “Frontier Red Team”—yang terdiri dari 15 orang, disebut “Ants”—juga melakukan pengujian serupa. Tugas mereka adalah memastikan model perusahaan tidak digunakan untuk membahayakan manusia. Mereka membawa robot anjing ke gudang, mengujinya bersama insinyur, dan memeriksa apakah chatbot bisa digunakan untuk mengendalikan perangkat tersebut secara jahat; mereka juga bekerja sama dengan biolog untuk menilai kemungkinan model digunakan untuk membuat senjata biologis.

Dan kali ini, mereka mulai menyadari bahwa risiko terbesar dari Mythos berasal dari bidang keamanan siber. “Dalam beberapa jam setelah mendapatkan model, kami tahu ini berbeda,” kata Logan Graham, yang bertanggung jawab di tim tersebut.

Model sebelumnya, Opus 4.6, sudah menunjukkan kemampuan membantu manusia memanfaatkan celah perangkat lunak. Tapi Graham menambahkan, Mythos sudah bisa “beraksi sendiri” memanfaatkan celah tersebut. Ini menimbulkan risiko keamanan nasional, dan dia memperingatkan manajemen perusahaan. Dia harus menghadapi dilema: menjelaskan bahwa pendapatan utama perusahaan berikutnya mungkin tidak bisa dirilis ke publik karena terlalu berbahaya.

Jared Kaplan, salah satu pendiri dan kepala ilmuwan di Anthropic, mengatakan bahwa selama pelatihan Mythos, dia selalu “sangat memperhatikan” perkembangannya. Pada Januari, dia mulai menyadari bahwa model ini sangat kuat dalam menemukan celah sistem. Sebagai fisikawan teoretis, Kaplan harus menilai apakah kemampuan ini hanya “fenomena teknis yang menarik” atau “masalah nyata yang sangat terkait infrastruktur internet”. Akhirnya, dia menyimpulkan bahwa yang kedua.

Dalam dua minggu di akhir Februari hingga awal Maret, Kaplan dan co-founder Sam McCandlish terus mempertimbangkan: apakah harus merilis model ini.

Pada minggu pertama Maret, tim eksekutif—termasuk CEO Dario Amodei, presiden Daniela Amodei, dan kepala keamanan informasi Vitaly Gudenets—mengadakan rapat untuk mendengarkan laporan Kaplan dan McCandlish.

Mereka menyimpulkan: risiko Mythos terlalu tinggi, tidak cocok dirilis secara penuh. Tapi, Anthropic tetap harus mengizinkan beberapa perusahaan, bahkan pesaing, untuk mengujinya.

“Segera kami menyadari bahwa pendekatan berbeda harus diambil, ini bukan peluncuran produk biasa,” kata Kaplan.

Pada minggu pertama Maret, perusahaan akhirnya sepakat: Mythos akan digunakan sebagai alat pertahanan siber.

Respon pasar hampir langsung. Pada hari pengungkapan Mythos, Menteri Keuangan AS Scott Bessent dan Ketua Federal Reserve Jerome Powell mengumpulkan para pemimpin utama Wall Street di Washington. Pesannya sangat jelas: gunakan Mythos untuk menemukan celah sistem Anda segera.

Menurut orang yang dekat dengan para eksekutif tersebut (yang meminta anonim karena komunikasi pribadi), tingkat keseriusan rapat ini sangat tinggi—beberapa bahkan menolak mengungkapkan isi rapat kepada penasihat inti.

Peringatan dari pejabat Gedung Putih tentang potensi Mythos sebagai alat hacker, dan saran mereka “menggunakan untuk pertahanan”, mengindikasikan perubahan yang lebih dalam: AI cepat menjadi kekuatan utama di bidang keamanan siber. Anthropic, melalui proyek “Project Glasswing”, membatasi penggunaan Mythos ke beberapa institusi, termasuk Amazon Web Services, Apple, dan JPMorgan Chase, untuk pengujian; pemerintah juga menunjukkan minat besar.

Sebelum dibuka ke publik, Anthropic memberi laporan lengkap kepada pejabat tinggi pemerintah AS tentang kemampuan pratinjau Mythos, termasuk potensi penggunaannya dalam serangan dan pertahanan siber. Mereka juga terus berkomunikasi dengan beberapa pemerintah negara. Seorang karyawan Anthropic yang tidak mau disebutkan namanya mengungkapkan hal ini.

Pesaing seperti OpenAI juga cepat mengikuti, mengumumkan pada hari Selasa akan meluncurkan alat untuk menemukan celah perangkat lunak—GPT-5.4-Cyber.

Dalam pengujian awal, para peneliti menemukan puluhan kasus perilaku “mengkhawatirkan”, termasuk ketidakpatuhan terhadap instruksi manusia, dan dalam beberapa kasus, upaya menyembunyikan perilaku setelah melanggar instruksi.

Saat ini, Mythos belum secara resmi dirilis sebagai alat keamanan siber, dan peneliti eksternal belum sepenuhnya memverifikasi kemampuannya. Tapi keputusan perusahaan yang jarang membatasi akses ini mencerminkan konsensus yang berkembang di industri dan pemerintah: AI mengubah struktur ekonomi keamanan siber—mengurangi biaya menemukan celah, mempercepat waktu persiapan serangan, dan menurunkan ambang teknis untuk beberapa jenis serangan.

Anthropic juga memperingatkan bahwa kemampuan otonom Mythos yang lebih kuat membawa risiko sendiri. Dalam pengujian, tim menemukan beberapa kasus mengkhawatirkan: model tidak patuh terhadap instruksi, bahkan berusaha menyembunyikan jejak setelah melanggar aturan. Dalam satu insiden, model merancang jalur serangan multi-langkah, “melarikan diri” dari lingkungan terbatas, mendapatkan akses internet yang lebih luas, dan secara aktif mempublikasikan konten.

Di dunia nyata, software yang digunakan di bank dan rumah sakit sering mengandung celah kode yang kompleks dan tersembunyi, yang biasanya membutuhkan waktu berminggu-minggu atau berbulan-bulan untuk ditemukan oleh profesional. Jika hacker lebih dulu menemukan dan memanfaatkannya, konsekuensinya bisa berupa pencurian data atau serangan ransomware yang parah.

Namun, banyak tokoh penting meragukan kemampuan nyata Mythos dan risiko potensialnya. David Sacks, penasihat AI Gedung Putih, menyatakan di platform X: “Semakin banyak orang meragukan apakah Anthropic adalah ‘boy who cried wolf’ di industri AI. Jika ancaman dari Mythos tidak terbukti, perusahaan akan menghadapi masalah reputasi serius.”

Tapi kenyataannya, hacker sudah mulai memanfaatkan model bahasa besar untuk melakukan serangan kompleks. Sebuah organisasi spionase siber pernah menggunakan Claude dari Anthropic untuk mencoba masuk ke sekitar 30 target; pelaku lain memanfaatkan AI untuk mencuri data dari lembaga pemerintah, menyebarkan ransomware, dan menembus ratusan firewall yang melindungi data.

Seorang sumber yang mengetahui mengatakan bahwa pejabat keamanan nasional AS melihat munculnya Mythos sebagai ketidakpastian yang belum pernah terjadi sebelumnya—menjadikan penilaian risiko keamanan siber semakin sulit. Jika model ini diberikan kepada hacker individu, efeknya bisa setara dengan mengangkat tentara biasa menjadi pasukan khusus.

Selain itu, model ini bisa menjadi “penguat kemampuan”: memungkinkan organisasi kriminal memiliki kemampuan serangan setingkat negara kecil, dan juga memungkinkan mata-mata dan hacker militer dari negara kecil melakukan serangan siber yang sebelumnya hanya bisa dilakukan oleh kekuatan besar.

Rob Joyce, mantan kepala keamanan siber NSA, mengatakan: “Saya percaya bahwa dalam jangka panjang, AI akan membuat kita lebih aman dan terlindungi. Tapi, antara sekarang dan masa depan tertentu, akan ada ‘periode gelap’, di mana AI ofensif akan unggul—mereka yang tidak memiliki perlindungan dasar yang baik akan menjadi target pertama.”

Perlu dicatat bahwa Mythos bukan satu-satunya model yang memiliki kemampuan serupa. Termasuk versi awal Claude dan Big Sleep, sudah banyak institusi yang menggunakan model bahasa besar untuk mencari celah.

Seorang sumber mengatakan, celah zero-day yang dulu membutuhkan hari atau minggu untuk ditemukan, dan menulis kode eksploitasi, kini bisa diselesaikan dalam satu jam, bahkan beberapa menit berkat AI. “Zero-day” adalah celah keamanan yang belum diketahui pihak pertahanan, sehingga hampir tidak ada waktu untuk memperbaikinya.

Saat ini, JPMorgan Chase fokus pada rantai pasokan dan perangkat lunak sumber terbuka, dan telah menemukan beberapa celah, serta melaporkannya ke vendor terkait.

CEO Jamie Dimon mengatakan dalam konferensi keuangan bahwa kemunculan Mythos “menunjukkan masih banyak celah yang harus diperbaiki.”

Seorang sumber yang tidak mau disebutkan namanya mengungkapkan bahwa sebelum publik mengetahui keberadaan Mythos, JPMorgan Chase sudah berkomunikasi dengan Anthropic untuk menguji model ini. Mereka menolak berkomentar secara resmi.

Sekarang, bank-bank Wall Street dan perusahaan teknologi lain juga mencoba menggunakan Mythos, agar bisa memperbaiki sistem sebelum hacker menemukan celah. Menurut Bloomberg, Goldman Sachs, Citigroup, Bank of America, dan Morgan Stanley sudah melakukan pengujian internal.

Karyawan Cisco Systems sangat waspada terhadap satu pertanyaan: apakah penyerang akan memanfaatkan AI untuk mencari celah di perangkat jaringan global mereka—termasuk router, firewall, dan modem. Chief Security and Trust Officer Anthony Grieco mengatakan dia khawatir AI akan mempercepat serangan terhadap perangkat yang “sudah usang” dan tidak lagi mendapatkan pembaruan dari Cisco.

Bagaimana memperbaiki celah yang ditemukan AI tetap menjadi tantangan jangka panjang. Proses ini disebut “security patching”, yang sering mahal dan memakan waktu lama, sehingga banyak organisasi memilih mengabaikan celah tersebut. Serangan besar seperti yang menimpa Equifax—yang mencuri data 147 juta orang—terjadi karena celah yang diketahui tidak segera diperbaiki.

Meskipun menolak membantu pengawasan besar terhadap warga AS, Anthropic pernah diklasifikasikan oleh pemerintahan Trump sebagai “ancaman rantai pasokan”, tetapi saat ini masih berkomunikasi dan bekerja sama dengan lembaga federal.

Departemen Keuangan AS minggu ini sedang berusaha mendapatkan izin penggunaan Mythos. Menteri Keuangan Scott Bessent menyatakan model ini akan membantu AS mempertahankan keunggulan di bidang AI.

Dalam sebuah pengujian, Mythos menulis kode serangan browser yang menggabungkan empat celah berbeda menjadi satu rantai eksploitasi lengkap—tugas yang sangat menantang bagi hacker manusia. Laporan keamanan siber menunjukkan bahwa “rantai celah” ini bisa membuka sistem yang sangat aman, mirip dengan metode yang digunakan dalam serangan Stuxnet terhadap centrifuge nuklir Iran.

Selain itu, menurut Anthropic, dalam kondisi instruksi yang jelas, Mythos bahkan mampu mengenali dan memanfaatkan semua celah zero-day di browser utama.

Mereka juga pernah menggunakan Mythos untuk menemukan celah di kode Linux. Jim Zemlin mengatakan bahwa Linux “menggerakkan sebagian besar sistem komputasi saat ini”, dari ponsel Android, router internet, hingga superkomputer NASA, hampir di mana-mana. Mythos mampu secara mandiri menemukan banyak kerentanan di kode sumber terbuka, dan jika dieksploitasi, pelaku bisa mengendalikan seluruh mesin.

Saat ini, puluhan orang di Linux Foundation mulai menguji Mythos. Zemlin berpendapat, satu pertanyaan penting adalah: apakah model dari Anthropic bisa memberikan wawasan berharga untuk membantu pengembang menulis perangkat lunak yang lebih aman dari sumbernya, sehingga mengurangi celah?

“Kami sangat pandai menemukan celah,” katanya, “tapi sangat buruk dalam memperbaikinya.”