Vitalik: Keamanan dan pengalaman pengguna bukanlah bidang yang terpisah, bertujuan meminimalkan deviasi niat dan perilaku sistem

Foresight News melaporkan bahwa Vitalik Buterin menyatakan bahwa tujuan keamanan adalah meminimalkan deviasi antara niat pengguna dan perilaku sistem yang sebenarnya. “Pengalaman pengguna” juga dapat didefinisikan demikian, sehingga keamanan dan pengalaman pengguna bukanlah bidang yang terpisah; keamanan lebih fokus pada risiko ekor (biaya deviasi yang besar) dan risiko yang timbul dari perilaku adversarial. Keamanan yang sempurna tidak mungkin dicapai karena “niat pengguna” sendiri sangat kompleks, dan pengguna sulit untuk mengungkapkan secara jelas (misalnya, dalam “mengirim 1 ETH ke Bob”, Bob tidak dapat didefinisikan secara matematis). Tujuan yang lebih kompleks seperti “melindungi privasi” juga sulit didefinisikan (metadata yang bocor jauh melebihi enkripsi itu sendiri). Hal ini mirip dengan masalah keamanan AI awal: tujuan sulit ditetapkan secara stabil dan andal.

Ciri-ciri yang harus dimiliki oleh solusi keamanan yang unggul meliputi: pengguna mengekspresikan niat secara berlapis dan tumpang tindih, dan sistem hanya akan bertindak ketika semua sudut pandang tersebut selaras. Contohnya termasuk sistem tipe dalam pemrograman, verifikasi formal, simulasi transaksi, asersi pasca transaksi, multi-tanda tangan / pemulihan sosial, batas pengeluaran dan konfirmasi anomali, yang semuanya mengurangi risiko melalui redundansi. Selain itu, LLM dapat digunakan sebagai simulasi niat (LLM umum mendekati pengetahuan umum manusia, pengguna melakukan fine-tuning LLM agar mendekati pengguna sendiri), tetapi tidak boleh digunakan untuk menentukan niat secara tunggal, melainkan sebagai pelengkap dari sudut pandang yang berbeda untuk meningkatkan efektivitas redundansi.