Vitalik Blog: Mengapa Kita Membutuhkan Dunia yang Terbuka dan Terverifikasi?

Penulis: Vitalik

Rangkum & Terjemahan | RuoYan

Tautan asli:

Pernyataan: Artikel ini adalah konten yang direproduksi, pembaca dapat memperoleh informasi lebih lengkap melalui tautan asli. Jika penulis memiliki keberatan terhadap bentuk reproduksi ini, silakan hubungi kami, dan kami akan melakukan modifikasi sesuai permintaan penulis. Reproduksi ini hanya untuk berbagi informasi, tidak merupakan saran investasi apa pun, dan tidak mewakili pandangan dan posisi Wu.

Tren terbesar abad ini dapat dirangkum sebagai “Internet telah menjadi bagian dari kehidupan nyata”. Dari email hingga pesan instan, dari keuangan digital hingga pelacakan kesehatan, dan menuju antarmuka otak-komputer yang akan datang, kehidupan sehari-hari kita sedang didigitalisasi secara menyeluruh. Namun, digitalisasi ini membawa peluang dan risiko besar. Vitalik Buterin secara mendalam membahas mengapa kita perlu mewujudkan keterbukaan dan verifikasi sejati di seluruh tumpukan teknologi (perangkat lunak, perangkat keras, dan bioteknologi), serta bagaimana membangun masa depan digital yang lebih aman, lebih bebas, dan lebih setara.

Internet adalah kehidupan nyata

Tren terbesar hingga saat ini dapat dirangkum sebagai “Internet telah menjadi bagian dari kehidupan nyata”. Dimulai dari email dan pesan instan. Selama ribuan tahun, percakapan pribadi melalui mulut, telinga, pena, dan kertas kini berjalan di infrastruktur digital. Kemudian, kita menyambut keuangan digital—baik berupa keuangan kripto maupun digitalisasi keuangan tradisional itu sendiri. Selanjutnya adalah kesehatan kita: berkat smartphone, jam tangan pelacak kesehatan pribadi, dan data yang diambil dari perilaku pembelian, berbagai informasi tentang tubuh kita sedang diproses melalui komputer dan jaringan komputer. Dalam dua puluh tahun ke depan, saya memperkirakan tren ini akan meresap ke berbagai bidang lain, termasuk berbagai proses pemerintahan (akhirnya bahkan termasuk pemungutan suara), pemantauan indikator fisik dan biologis terhadap lingkungan umum dan ancamannya, dan akhirnya, melalui antarmuka otak-komputer, bahkan pikiran kita sendiri.

Saya percaya tren ini tidak terelakkan; manfaatnya terlalu besar, dan dalam lingkungan global yang sangat kompetitif, peradaban yang menolak teknologi ini akan kehilangan daya saing terlebih dahulu, lalu kedaulatan. Namun, selain manfaat besar, teknologi ini secara mendalam mempengaruhi dinamika kekuasaan di dalam dan antar negara.

Peradaban yang paling diuntungkan dari gelombang teknologi baru bukanlah peradaban konsumsi, melainkan peradaban produksi. Akses setara terhadap platform terkunci dan API melalui rencana terpusat hanya mampu menyediakan sebagian kecil dari manfaat tersebut, dan akan gagal di luar batas “normal” yang diperkirakan. Selain itu, masa depan ini melibatkan kepercayaan besar terhadap teknologi. Jika kepercayaan ini terganggu (misalnya, backdoor, kerentanan keamanan), kita akan menghadapi masalah besar sesungguhnya. Bahkan kemungkinan terganggunya kepercayaan ini saja sudah memaksa orang kembali ke pola kepercayaan sosial yang eksklusif secara fundamental (“Apakah orang yang saya percaya membangun ini?”). Ini menciptakan insentif untuk menyebarkan ke atas: penguasa adalah orang yang menentukan status pengecualian.

Menghindari masalah ini membutuhkan dua atribut yang saling terkait dalam seluruh tumpukan teknologi—perangkat lunak, perangkat keras, dan bioteknologi: keterbukaan sejati (termasuk sumber terbuka, lisensi gratis) dan verifikasi (termasuk, secara ideal, verifikasi langsung oleh pengguna akhir).

Internet adalah kehidupan nyata. Kita ingin itu menjadi utopia, bukan distopia

Pentingnya keterbukaan dan verifikasi di bidang kesehatan

Kita melihat konsekuensi dari ketidaksetaraan akses terhadap alat produksi teknologi selama pandemi COVID-19. Vaksin diproduksi di hanya beberapa negara, menyebabkan perbedaan besar dalam waktu akses vaksin antar negara [1]. Negara-negara kaya mendapatkan vaksin terbaik pada 2021, sementara negara lain baru mendapatkan vaksin berkualitas lebih rendah pada 2022 atau 2023. Ada inisiatif yang berusaha memastikan akses setara [2], tetapi karena vaksin dirancang bergantung pada proses manufaktur eksklusif yang membutuhkan modal besar dan terbatas di beberapa lokasi, inisiatif ini hanya mampu melakukan sebatas itu.

Kondisi cakupan vaksin COVID-19 2021-2023

Masalah utama kedua dari vaksin adalah kurangnya transparansi [3] dalam strategi ilmiah dan komunikasi [4], yang mencoba menipu publik dengan mengklaim bahwa vaksin membawa risiko atau kekurangan nol secara harfiah, yang tidak benar, dan pada akhirnya sangat meningkatkan ketidakpercayaan [5]. Saat ini, ketidakpercayaan ini telah meningkat secara spiral, terasa seperti penolakan terhadap setengah abad ilmu pengetahuan.

Faktanya, kedua masalah ini dapat diselesaikan. Vaksin yang didanai oleh Balvi [6] dan dikembangkan oleh PopVax [7] memiliki biaya pengembangan lebih rendah, proses pembuatan yang lebih terbuka, mengurangi ketidaksetaraan akses, dan memudahkan analisis serta verifikasi keamanan dan efektivitasnya. Kita bisa melangkah lebih jauh dalam merancang vaksin yang dapat diverifikasi.

Masalah serupa juga berlaku untuk aspek digital bioteknologi. Ketika berbicara dengan peneliti umur panjang, hal pertama yang umum didengar adalah bahwa masa depan pengobatan anti-penuaan adalah personalisasi dan berbasis data. Untuk mengetahui obat dan perubahan nutrisi apa yang harus disarankan kepada seseorang hari ini, kita perlu memahami kondisi tubuh mereka saat ini. Jika data digital dalam jumlah besar dapat dikumpulkan dan diproses secara real-time, ini akan jauh lebih efektif.

Internet adalah kehidupan nyata. Kita ingin itu menjadi utopia, bukan distopia

Ide yang sama juga berlaku untuk bioteknologi defensif yang bertujuan mencegah risiko, seperti melawan epidemi. Semakin dini wabah terdeteksi, semakin besar peluang untuk dihentikan dari sumbernya—bahkan jika tidak, setiap minggu memberi lebih banyak waktu untuk bersiap dan merancang langkah-langkah. Selama pandemi, mengetahui di mana orang sakit secara real-time sangat berharga untuk menempatkan langkah-langkah yang tepat. Jika orang biasa yang terinfeksi mengetahui hal ini dan mengisolasi diri dalam satu jam, penyebaran akan berkurang 72 kali lipat dibandingkan jika mereka menyebarkan ke orang lain selama tiga hari. Jika kita tahu 20% lokasi bertanggung jawab atas 80% penyebaran, meningkatkan kualitas udara di sana akan memberikan manfaat lebih lanjut. Semua ini membutuhkan (i) banyak sensor, dan (ii) kemampuan sensor untuk berkomunikasi secara real-time ke sistem lain.

Jika kita melangkah lebih jauh ke arah “fiksi ilmiah”, kita akan menemui antarmuka otak-komputer yang dapat meningkatkan produktivitas secara besar, membantu orang berkomunikasi melalui telepati, memahami satu sama lain lebih baik, dan membuka jalan menuju AI yang sangat cerdas dengan jalur yang lebih aman.

Jika infrastruktur pelacakan kesehatan dan bioteknologi pribadi (individu dan ruang) bersifat proprietary, data secara default akan dimiliki oleh perusahaan besar. Perusahaan ini mampu membangun berbagai aplikasi di atasnya, sementara yang lain tidak. Mereka mungkin menyediakan akses melalui API, tetapi akses API akan dibatasi dan digunakan untuk monopoli dan pengambilan sewa, dan bisa dibatalkan kapan saja. Ini berarti hanya sedikit orang dan perusahaan yang dapat mengakses komponen terpenting dari teknologi abad ke-21, yang selanjutnya membatasi siapa yang bisa mendapatkan manfaat ekonomi darinya.

Di sisi lain, jika data kesehatan pribadi ini tidak aman, peretas dapat memeras Anda dengan masalah kesehatan, menyesuaikan harga asuransi dan layanan kesehatan untuk mengekstraksi nilai dari Anda, dan jika data termasuk pelacakan lokasi, mereka tahu di mana Anda berada dan bisa menculik Anda. Di arah lain, data lokasi Anda ([8] sangat sering diserang peretas [9]) dapat digunakan untuk menyimpulkan informasi tentang kesehatan Anda. Jika antarmuka otak-komputer Anda diserang peretas, itu berarti aktor jahat secara harfiah membaca (atau lebih buruk, menulis) pikiran Anda. Ini bukan lagi fiksi ilmiah: lihat di sini [10] tentang bagaimana serangan peretas pada BCI dapat menyebabkan seseorang kehilangan kontrol gerak secara sah.

Secara umum, ada manfaat besar, tetapi juga risiko besar: menekankan keterbukaan dan verifikasi sangat cocok untuk mengurangi risiko tersebut.

Pentingnya keterbukaan dan verifikasi dalam teknologi digital pribadi dan bisnis

Beberapa bulan lalu, saya harus mengisi dan menandatangani formulir yang diperlukan untuk fungsi hukum. Saat itu saya tidak di dalam negeri. Ada sistem tanda tangan elektronik nasional, tetapi saya belum mengaturnya. Saya harus mencetak formulir, menandatangani, pergi ke DHL terdekat, menghabiskan waktu banyak mengisi formulir kertas, lalu membayar biaya formulir untuk dikirim ke ujung dunia. Waktu yang dibutuhkan: setengah jam, biaya: 119 dolar AS. Pada hari yang sama, saya harus menandatangani transaksi (digital) untuk menjalankan operasi di blockchain Ethereum. Waktu yang dibutuhkan: 5 detik, biaya: 0,10 dolar AS (sejujurnya, tanpa blockchain, tanda tangan bisa sepenuhnya gratis).

Kisah ini sangat umum ditemukan dalam tata kelola perusahaan atau nirlaba, pengelolaan hak kekayaan intelektual, dan lain-lain. Dalam sepuluh tahun terakhir, Anda dapat menemukannya di sebagian besar materi promosi dari startup blockchain. Selain itu, ada semua contoh “penegakan hak pribadi secara digital”: pembayaran dan keuangan.

Tentu saja, semua ini membawa risiko besar: bagaimana jika perangkat lunak atau perangkat keras diserang peretas? Ini adalah risiko yang awalnya disadari di ruang kripto: blockchain bersifat permissionless dan terdesentralisasi, jadi jika Anda kehilangan akses ke dana [11], tidak ada sumber daya, tidak ada paman di langit yang bisa membantu. Tidak kunci Anda, bukan koin Anda. Karena itu, ruang kripto awalnya memikirkan tentang multi-signature [12] dan dompet pemulihan sosial [13], serta dompet perangkat keras [14]. Namun, dalam kenyataan, banyak situasi di mana tidak ada paman terpercaya di langit bukanlah pilihan ideologi, melainkan bagian inheren dari skenario. Bahkan dalam keuangan tradisional, “paman di langit” pun tidak mampu melindungi kebanyakan orang: misalnya, hanya 4% korban penipuan yang memulihkan kerugiannya [15]. Dalam kasus pengelolaan data pribadi, bahkan secara prinsip pun tidak mungkin memulihkan data yang bocor. Oleh karena itu, kita membutuhkan verifikasi dan keamanan yang benar-benar nyata—verifikasi dan keamanan perangkat lunak dan perangkat keras akhir.

Salah satu teknologi yang diusulkan untuk memeriksa apakah chip komputer diproduksi dengan benar

Penting untuk dicatat, dalam konteks perangkat keras, risiko yang kita coba cegah jauh melampaui pertanyaan “Apakah pembuatnya jahat?”. Sebaliknya, masalahnya adalah adanya banyak ketergantungan, sebagian besar tertutup, di mana kelalaian salah satu dapat menyebabkan hasil keamanan yang tidak dapat diterima. Makalah ini menunjukkan contoh terbaru [16], yang menggambarkan bagaimana pilihan mikroarsitektur dapat merusak ketahanan side-channel dari desain yang secara teori dapat dibuktikan aman hanya dengan melihat perangkat lunak. Serangan seperti EUCLEAK [18] bergantung pada kerentanan yang lebih sulit dideteksi karena banyak komponennya bersifat proprietary. Jika model AI dilatih di perangkat keras yang rusak [19], backdoor dapat disisipkan selama pelatihan.

Salah satu masalah lain dari semua situasi ini adalah sistem tertutup dan terpusat, bahkan jika mereka benar-benar aman. Sentralisasi menciptakan leverage berkelanjutan di antara individu, perusahaan, dan negara: jika infrastruktur inti Anda dibangun dan dipelihara oleh perusahaan dari negara yang berpotensi tidak terpercaya, Anda rentan terhadap tekanan (misalnya, lihat Henry Farrell tentang weaponization of interdependence [20]). Ini adalah masalah yang ingin diselesaikan oleh kriptografi—namun, ini juga berlaku di lebih banyak bidang daripada keuangan.

Pentingnya keterbukaan dan verifikasi dalam teknologi warga digital

Saya sering berbicara dengan berbagai orang yang berusaha menemukan bentuk pemerintahan yang lebih baik untuk berbagai situasi abad ke-21. Beberapa, seperti Audrey Tang [21], berusaha meningkatkan sistem politik yang sudah berfungsi dengan memberdayakan komunitas open-source lokal dan menggunakan mekanisme seperti kongres warga, undian, dan pemungutan suara sekunder. Yang lain mulai dari awal: berikut adalah sebuah [22] konstitusi yang diajukan oleh beberapa ilmuwan politik kelahiran Rusia untuk Rusia, yang menekankan kebebasan pribadi dan otonomi lokal, dengan kecenderungan kuat terhadap perdamaian dan penolakan agresi, serta demokrasi langsung yang belum pernah ada sebelumnya. Ada pula ekonom yang berusaha memperbaiki ekonomi negara mereka melalui pajak nilai tanah [23] atau pengaturan kemacetan, dan lain-lain.

Orang yang berbeda mungkin memiliki tingkat antusiasme berbeda terhadap setiap gagasan. Tapi mereka semua memiliki satu kesamaan: semua melibatkan partisipasi berkapasitas tinggi, sehingga setiap implementasi nyata harus digital. Catatan dasar tentang siapa memiliki apa dan pemilihan setiap empat tahun bisa dilakukan dengan kertas dan pena, tetapi untuk apa pun yang membutuhkan input dengan bandwidth lebih tinggi atau frekuensi lebih sering, tidak cukup.

Namun, secara historis, penerimaan para peneliti keamanan terhadap gagasan seperti voting elektronik berkisar dari skeptis hingga antagonistik. Berikut adalah ringkasan yang bagus [24] tentang kasus penolakan terhadap voting elektronik. Kutip dari dokumen tersebut:

Pertama, teknologi ini adalah “perangkat kotak hitam”, yang berarti publik tidak diizinkan mengakses perangkat lunak yang mengontrol mesin pemungutan suara. Meskipun perusahaan melindungi perangkat lunak mereka dari penipuan (dan mengalahkan kompetisi), ini juga membuat publik tidak tahu bagaimana perangkat lunak pemungutan suara bekerja. Perusahaan yang memanipulasi perangkat lunak untuk menghasilkan hasil curang akan sangat mudah dilakukan. Selain itu, pemasok mesin saling bersaing tanpa jaminan bahwa mereka memproduksi mesin untuk memastikan keakuratan pemilih dan surat suara.

Banyak contoh nyata [25] membuktikan keraguan ini masuk akal.

Analisis kritis voting online Estonia 2014 [26]

Argumen-argumen ini berlaku secara literal di semua situasi lain. Tapi saya prediksi, seiring kemajuan teknologi, respons “jangan lakukan sama sekali” akan menjadi semakin tidak realistis di berbagai bidang. Dunia menjadi semakin efisien secara cepat karena teknologi (baik buruknya), dan saya prediksi sistem apa pun yang tidak mengikuti tren ini akan menjadi semakin tidak relevan secara pribadi dan kolektif karena orang akan mengakali sistem tersebut. Oleh karena itu, kita membutuhkan solusi alternatif: melakukan hal-hal yang benar-benar sulit, mencari cara membuat solusi teknologi kompleks menjadi aman dan dapat diverifikasi.

Secara teoretis, “keamanan dan verifikasi” dan “sumber terbuka” adalah dua hal berbeda. Beberapa hal yang bersifat proprietary dan aman secara mutlak sebenarnya mungkin: pesawat terbang adalah teknologi yang sangat tertutup, tetapi secara umum perjalanan udara adalah cara yang sangat aman [27]. Tapi yang tidak bisa dicapai oleh model proprietary adalah pengetahuan bersama tentang keamanan—kemampuan untuk mempercayai tindakan yang dilakukan oleh aktor yang tidak saling percaya.

Sistem warga seperti pemilihan adalah contoh di mana keamanan pengetahuan bersama sangat penting. Contoh lain adalah pengumpulan bukti di pengadilan. Baru-baru ini, di Massachusetts, banyak bukti pengukuran napas alkohol dinyatakan tidak sah [28] karena ditemukan bahwa informasi tentang kegagalan pengujian disembunyikan. Kutipan artikel:

Jadi, apakah semua hasil pengujian bermasalah? Tidak. Sebagian besar pengujian alat pengukur napas tidak memiliki masalah kalibrasi. Tapi karena penyidik kemudian menemukan bahwa laboratorium kriminal negara menyembunyikan bukti yang menunjukkan masalah yang lebih luas, Hakim Frank Gaziano menulis bahwa hak-hak proses semua terdakwa dilanggar.

Proses hukum secara esensial adalah bidang yang tidak hanya membutuhkan keadilan dan akurasi, tetapi juga pengetahuan bersama tentang keadilan dan akurasi—karena tanpa pengetahuan bersama, pengadilan yang melakukan hal yang benar akan mudah terjebak dalam spiral orang-orang yang bertindak sendiri.

Selain verifikasi, keterbukaan sendiri memiliki manfaat intrinsik. Keterbukaan memungkinkan komunitas lokal merancang sistem pemerintahan, identitas, dan kebutuhan lain yang sesuai dengan tujuan lokal. Jika sistem pemungutan suara bersifat proprietary, negara (atau provinsi, atau kota) yang ingin mencoba sistem baru akan menghadapi kesulitan besar: mereka harus meyakinkan perusahaan untuk mengimplementasikan aturan yang mereka sukai sebagai fitur, atau memulai dari awal dan menyelesaikan semua pekerjaan agar sistem tersebut aman. Ini meningkatkan biaya inovasi politik.

Dalam salah satu bidang ini, pendekatan hacking yang lebih terbuka akan memberikan lebih banyak otonomi kepada pelaksana lokal, baik sebagai individu maupun sebagai bagian dari pemerintah atau perusahaan. Untuk mewujudkannya, alat terbuka yang dibangun harus tersedia secara luas, infrastruktur dan basis kode harus gratis lisensinya agar orang lain dapat membangun di atasnya. Dalam rangka meminimalkan disparitas kekuasaan, copyleft sangat berharga [29].

Bidang terakhir dari teknologi warga yang akan menjadi penting dalam beberapa tahun ke depan adalah keamanan fisik. Kamera pengawas telah muncul di mana-mana selama dua puluh tahun terakhir, menimbulkan kekhawatiran tentang kebebasan sipil. Sayangnya, saya prediksi, munculnya perang drone baru-baru ini akan membuat “jangan lakukan keamanan teknologi tinggi” tidak lagi menjadi pilihan yang layak. Bahkan jika hukum suatu negara tidak melanggar kebebasan pribadi, jika negara tersebut tidak mampu melindungi Anda dari negara lain (atau perusahaan atau individu perampok) yang menegakkan hukum terhadap Anda, itu tidak ada artinya. Drone membuat serangan semacam ini jauh lebih mudah. Oleh karena itu, kita membutuhkan solusi, yang mungkin melibatkan banyak sistem anti-drone [30] dan sensor serta kamera.

Jika alat ini proprietary, pengumpulan data akan tidak transparan dan terkonsentrasi. Jika alat ini terbuka dan dapat diverifikasi, kita memiliki peluang untuk mengadopsi pendekatan yang lebih baik: perangkat keamanan yang dapat membuktikan bahwa mereka hanya mengeluarkan data terbatas dalam kondisi tertentu dan menghapus sisanya. Kita bisa memiliki masa depan keamanan fisik digital yang lebih mirip anjing penjaga digital daripada penjara pengawasan digital. Orang dapat membayangkan dunia di mana perangkat pengawasan publik harus bersifat open-source dan dapat diverifikasi, dan siapa pun memiliki hak hukum untuk secara acak memeriksa dan membongkar perangkat pengawasan tersebut. Klub komputer universitas dapat sering menggunakannya sebagai latihan edukasi.

Pendekatan sumber terbuka dan verifikasi

Kita tidak bisa menghindari bahwa di semua aspek kehidupan (pribadi dan kolektif), kita akan sangat bergantung pada hal-hal berbasis komputer digital. Secara default, kita mungkin akan mendapatkan hal-hal berbasis komputer digital yang dibangun dan dioperasikan oleh perusahaan terpusat, dioptimalkan untuk keuntungan segelintir orang, dengan backdoor dari pemerintah negara tempat mereka berada, dan di mana sebagian besar orang di dunia tidak dapat berpartisipasi dalam pembuatannya atau mengetahui apakah mereka aman. Tapi kita bisa berusaha menuju alternatif yang lebih baik. Bayangkan sebuah dunia:

· Anda memiliki perangkat elektronik pribadi yang aman—dengan fungsi ponsel, keamanan dompet hardware terenkripsi, dan dapat diperiksa secara mekanis.

· Aplikasi pesan Anda semuanya terenkripsi, pola pesan melalui jaringan campur, semua kode diverifikasi secara formal. Anda yakin bahwa komunikasi pribadi Anda benar-benar pribadi.

· Keuangan Anda adalah aset ERC20 standar yang terdaftar di blockchain (atau dipublikasikan hash dan bukti ke server tertentu untuk menjamin kebenarannya). Dompet yang dikontrol perangkat elektronik pribadi Anda. Jika perangkat hilang, data dapat dipulihkan melalui kombinasi perangkat lain yang Anda pilih, anggota keluarga, teman, atau institusi [31] (bukan harus pemerintah: jika siapa pun mudah melakukannya, bahkan gereja bisa menyediakannya).

· Infrastruktur dasar seperti Starlink open-source tersedia, sehingga kita mendapatkan koneksi global yang kuat tanpa bergantung pada pelaku tunggal.

· Anda memiliki model LLM open-source di perangkat yang memantau aktivitas Anda, memberikan saran dan otomatisasi tugas, serta memperingatkan saat Anda berpotensi menerima informasi salah atau akan melakukan kesalahan. Sistem operasi juga open-source dan diverifikasi secara formal.

· Anda mengenakan perangkat pelacakan kesehatan pribadi 24x7 yang juga open-source dan dapat diperiksa, memungkinkan Anda mengakses data dan memastikan tidak ada yang mengaksesnya tanpa izin Anda.

· Kita memiliki bentuk pemerintahan yang lebih maju, menggunakan undian, kongres warga, pemungutan suara sekunder, dan kombinasi demokrasi yang cerdas untuk menetapkan tujuan, serta metode pengambilan ide dari para ahli untuk menentukan cara mencapai tujuan tersebut. Sebagai peserta, Anda benar-benar dapat yakin bahwa sistem menjalankan aturan sesuai pemahaman Anda.

· Ruang publik dilengkapi perangkat pengawas untuk melacak variabel biologis (misalnya CO2 dan AQI, keberadaan penyakit menular udara, limbah cair). Namun, perangkat ini (dan kamera pengawas serta drone pertahanan apa pun) bersifat open-source dan dapat diverifikasi, dan ada sistem hukum yang mengatur, sehingga masyarakat dapat secara acak memeriksanya.

· Ini adalah dunia di mana kita memiliki akses yang lebih aman, lebih bebas, dan lebih setara secara ekonomi global daripada hari ini. Tapi mewujudkan dunia ini membutuhkan investasi lebih besar di berbagai bidang teknologi: bentuk kriptografi yang lebih maju. Saya menyebutnya sebagai ZK-SNARK dari dewa Mesir kriptografi, enkripsi fully homomorphic, dan teknik obfuscation yang sangat kuat, karena memungkinkan Anda melakukan komputasi data dalam lingkungan multi-pihak secara arbitrer dan memberikan jaminan tentang outputnya, sambil menjaga kerahasiaan data dan perhitungan. Ini memungkinkan aplikasi privasi yang lebih kuat. Alat-alat yang terkait dengan kriptografi (seperti blockchain untuk memungkinkan aplikasi yang menjamin data tidak diubah dan pengguna tidak dikeluarkan, serta differential privacy yang menambahkan noise ke data untuk melindungi privasi lebih jauh) juga relevan di sini.

· Aplikasi dan keamanan tingkat pengguna. Aplikasi hanya aman jika jaminan keamanannya benar-benar dapat dipahami dan diverifikasi pengguna. Ini akan melibatkan kerangka kerja perangkat lunak yang memudahkan pembangunan aplikasi dengan atribut keamanan yang kuat. Penting juga bahwa browser, sistem operasi, dan mediator lain (misalnya, LLM pengawas lokal yang berjalan di perangkat) memverifikasi aplikasi sebisa mungkin, menilai risiko, dan menyajikan informasi ini kepada pengguna.

· Verifikasi formal. Kita dapat menggunakan metode pembuktian otomatis untuk memverifikasi bahwa program memenuhi atribut yang kita pedulikan, seperti tidak membocorkan data atau tidak mudah diubah oleh pihak tidak berwenang. Lean baru-baru ini menjadi bahasa populer untuk ini. Teknologi ini sudah mulai digunakan untuk memverifikasi algoritma ZK-SNARK pada mesin virtual Ethereum (EVM) dan kasus berisiko tinggi bernilai tinggi lainnya, serta digunakan secara luas di dunia. Selain itu, kita perlu membuat kemajuan lebih jauh dalam praktik keamanan yang lebih umum.

Kegagalan optimisme keamanan siber tahun 2000-an adalah salah: celah (dan backdoor) dapat diatasi. Kita “hanya perlu” belajar menempatkan keamanan di atas tujuan kompetitif lainnya.

· Sistem operasi sumber terbuka dan berorientasi keamanan. Semakin banyak yang muncul: GrapheneOS sebagai versi Android yang berorientasi keamanan, kernel minimal seperti Asterinas, HarmonyOS dari Huawei (dengan versi open-source) yang menggunakan verifikasi formal (saya prediksi banyak pembaca akan berpendapat “Kalau Huawei, pasti ada backdoor”, tapi ini melewatkan poin utama: selama bersifat open-source, siapa pun dapat memverifikasi, dan siapa yang memproduksi tidak penting. Ini adalah contoh bagus bagaimana keterbukaan dan verifikasi melawan disintegrasi global) hardware open-source yang aman. Jika Anda tidak yakin perangkat keras Anda benar-benar menjalankan perangkat lunak tersebut dan tidak ada kebocoran data dari sisi lain secara terpisah, maka tidak ada perangkat lunak yang aman. Dalam hal ini, dua target jangka pendek yang paling menarik:

· Perangkat elektronik pribadi yang aman—disebut “hardware wallet” oleh komunitas blockchain, dan “ponsel aman” oleh penggemar open-source—setelah Anda memahami kebutuhan keamanan dan kegunaan umum, keduanya akhirnya akan menyatu.

· Infrastruktur fisik ruang publik—kunci pintar, perangkat pelacakan biologis yang saya sebutkan di atas, dan teknologi “Internet of Things” secara umum. Kita perlu dapat mempercayainya. Ini membutuhkan keterbukaan dan verifikasi.

· Membangun alat open-source untuk hardware yang aman dan terbuka. Saat ini, desain hardware bergantung pada rangkaian tertutup yang sangat meningkatkan biaya produksi dan memperumit lisensi. Ini juga membuat verifikasi hardware menjadi tidak realistis: jika alat untuk membuat desain chip tertutup, Anda tidak tahu apa yang diverifikasi. Bahkan alat seperti scan chain yang ada saat ini sering tidak dapat digunakan karena terlalu banyak alat yang tertutup. Semua ini bisa diubah.

· Verifikasi hardware (misalnya IRIS dan pemindaian X-ray). Kita perlu metode untuk memindai chip guna memverifikasi bahwa mereka benar-benar memiliki logika yang seharusnya dan tidak memiliki komponen tambahan yang memungkinkan manipulasi dan pengambilan data secara tidak sah. Ini bisa dilakukan secara non-destruktif: auditor secara acak memesan produk berisi chip komputer (menggunakan identitas yang tampak seperti pengguna akhir biasa), lalu membongkar chip dan memverifikasi logika apakah cocok. Dengan IRIS atau pemindaian X-ray, ini bisa dilakukan tanpa merusak, dan setiap chip bisa dipindai.

· Perangkat pelacakan biologis dan lingkungan open-source dan berbiaya rendah. Komunitas dan individu harus mampu mengukur lingkungan mereka dan diri mereka sendiri serta mengidentifikasi risiko biologis. Ini termasuk berbagai teknologi: perangkat medis skala pribadi seperti OpenWater, sensor kualitas udara, sensor penyakit menular udara umum (misalnya Varro), dan pengawasan lingkungan yang lebih besar.

Keterbukaan dan verifikasi di seluruh lapisan tumpukan teknologi sangat penting

Dari sini ke sana

Perbedaan utama antara visi ini dan visi teknologi yang lebih “tradisional” adalah bahwa visi ini lebih ramah terhadap kedaulatan lokal dan kebebasan serta otonomi pribadi. Keamanan bukan dicapai dengan mencari seluruh dunia dan memastikan tidak ada orang jahat di mana pun, tetapi dengan membuat dunia lebih kokoh di setiap lapisan. Keterbukaan berarti keterbukaan terhadap pembangunan dan peningkatan setiap lapisan teknologi, bukan hanya akses API yang terbuka dari rencana terpusat. Verifikasi bukanlah untuk auditor tertutup yang mungkin berkolusi dengan perusahaan dan pemerintah—itu adalah hak rakyat dan dorongan sosial untuk mengawasi.

Saya percaya visi ini lebih kokoh dan lebih sesuai dengan dunia global yang terpecah belah di abad ke-21 ini. Tapi kita tidak punya waktu tak terbatas untuk mewujudkannya. Upaya yang melibatkan pengumpulan data terpusat dan backdoor, serta menyederhanakan verifikasi menjadi “Apakah ini dibuat oleh pengembang atau produsen terpercaya?” sedang berkembang pesat. Upaya alternatif untuk akses terbuka yang benar sudah berlangsung selama puluhan tahun. Mungkin dimulai dari Facebook dengan internet.org, dan akan berlanjut, setiap kali lebih kompleks dari sebelumnya. Kita perlu bertindak cepat untuk bersaing dengan pendekatan ini dan membuktikan kepada orang dan institusi bahwa solusi yang lebih baik itu mungkin.

Jika kita berhasil mewujudkan visi ini, cara lain untuk memahami dunia yang kita capai adalah sebagai futurisme kuno. Di satu sisi, kita mendapatkan manfaat dari teknologi yang lebih kuat, memungkinkan kita memperbaiki kesehatan, mengatur diri secara lebih efisien dan tangguh, serta melindungi diri dari ancaman lama dan baru. Di sisi lain, kita mendapatkan dunia yang kembali ke atribut kedua alam manusia di tahun 1900-an: infrastruktur gratis untuk orang, dapat dibongkar, diverifikasi, dan dimodifikasi sesuai kebutuhan mereka, dan siapa pun dapat berpartisipasi tidak hanya sebagai konsumen atau “pengembang aplikasi”, tetapi di setiap lapisan tumpukan teknologi, siapa pun dapat yakin bahwa perangkat melakukan apa yang dikatakan.

Membuat desain yang dapat diverifikasi memiliki biaya: banyak optimisasi perangkat keras dan perangkat lunak menawarkan kecepatan tinggi yang sangat dibutuhkan, tetapi dengan harga membuat desain menjadi lebih sulit dipahami atau lebih rapuh. Sumber terbuka membuat menghasilkan uang dalam banyak model bisnis menjadi lebih menantang. Saya percaya kedua masalah ini sering dilebih-lebihkan—tapi ini bukan sesuatu yang akan meyakinkan dunia dalam semalam. Ini menimbulkan pertanyaan: apa tujuan jangka pendek yang realistis?

Saya akan mengusulkan satu jawaban: berusaha mewujudkan tumpukan teknologi yang sepenuhnya sumber terbuka dan ramah verifikasi, untuk aplikasi yang membutuhkan keamanan tinggi dan bukan untuk keperluan performa kritis—baik untuk konsumen maupun institusi, baik jarak jauh maupun tatap muka. Ini akan mencakup perangkat keras, perangkat lunak, dan bioteknologi. Sebagian besar komputasi yang benar-benar membutuhkan keamanan sebenarnya tidak membutuhkan kecepatan tinggi, dan bahkan jika diperlukan, biasanya ada cara menggabungkan komponen yang berperforma tinggi namun tidak terpercaya dan komponen yang terpercaya namun tidak berperforma tinggi [14], untuk mencapai tingkat performa dan kepercayaan yang tinggi dalam banyak aplikasi. Mewujudkan keamanan dan keterbukaan maksimal untuk semuanya tidak realistis. Tapi kita bisa mulai dengan memastikan atribut ini tersedia di bidang yang benar-benar penting.

Tautan internal dalam artikel

[32]

[1]

[2]

[3]

[4]

[5]

[6]

[7]

[8]

[9]

[10]

[11]

[12]

[13]

[14]

[15]

[16]

[17]

[18]

[19]

[20]

[21]

[22]

[23]

[24]

[25]

[26]

[27]

[28]

[29]

[30]