Pendiri Solayer merilis penelitian keamanan rantai pasokan LLM, lebih dari 2% router gratis dilaporkan telah disusupi secara berbahaya

Berita Gate, pada 10 April, pendiri Solayer @Fried_rice mengungkapkan melalui postingan di media sosial tentang celah keamanan besar pada rantai pasokan model bahasa besar (LLM). Penelitian menunjukkan bahwa agen LLM yang semakin bergantung pada perute API pihak ketiga untuk mendistribusikan permintaan pemanggilan alat ke berbagai penyedia hulu; peruter ini beroperasi sebagai proksi lapisan aplikasi, mampu mengakses muatan JSON dalam setiap transmisi dalam bentuk teks biasa, namun saat ini belum ada penyedia yang menerapkan perlindungan integritas enkripsi secara paksa antara klien dan model hulu.

Makalah ini menguji 28 peruter berbayar yang dibeli dari Taobao, Xianyu, dan situs mandiri Shopify, serta 400 peruter gratis yang dikumpulkan dari komunitas publik. Hasilnya menemukan 1 peruter berbayar dan 8 peruter gratis sedang secara aktif menyuntikkan kode berbahaya, 2 peruter menerapkan penghindaran pemicu yang adaptif, 17 peruter menyentuh kredensial AWS Canary yang dimiliki peneliti, serta 1 peruter mencuri ETH dari kunci privat yang dipegang peneliti.

Dua studi tentang keracunan lebih lanjut menunjukkan bahwa peruter yang tampak tidak berbahaya juga dapat dimanfaatkan: sebuah kunci OpenAI yang bocor digunakan untuk menghasilkan 100 juta token GPT-5.4 dan lebih dari 7 sesi Codex; sementara umpan dengan konfigurasi yang lebih lemah menghasilkan 2 miliar token penagihan, 99 kredensial yang melintasi 440 sesi Codex, serta 401 sesi yang telah berjalan dalam mode YOLO mandiri.

Tim peneliti membangun agen riset bernama Mine, yang dapat menjalankan seluruh empat jenis serangan terhadap empat kerangka agen publik, serta memverifikasi tiga jenis mekanisme pertahanan sisi klien: strategi fail-closed sebagai gerbang kontrol, penyaringan anomali pada respons, dan pencatatan log transparan hanya-tambah.