VC Teratas: Risiko terbesar AI adalah tidak mengejarnya sekeras mungkin

Pengarang: Wu Xin

Baru-baru ini, Mark Anderson menerbitkan sebuah artikel di situs web perusahaan mengapa AI akan menyelamatkan dunia, dengan berani mempertanyakan rasionalitas seruan regulasi AI saat ini, dan secara sistematis mengkritik argumen yang menjadi dasar seruan ini.

Artikel ini menggabungkan wawancara penulis sebelumnya, artikel, dan bahkan pendapat para ekonom dan politisi yang dia kagumi.Dibagi menjadi lima bagian untuk membuat analisis dan interpretasi yang lebih mendalam tentang konten intinya, membantu pembaca memahami mengapa menurutnya optimisme selalu ada. Pilih yang paling aman, dan pada saat yang sama lihat risiko yang melekat pada pesimisme dan skeptisisme. Pandangan ini mungkin tampak gila bagi banyak orang, dan sulit untuk memikirkannya dengan cara ini. Tapi seperti yang dikatakan Mark Anderson, dengan berdebat dengan orang, Anda secara kasar dapat membangun model pemikiran orang lain, dan Anda dapat memikirkan masalah dari sudut pandang mereka, dan cara berpikir Anda akan menjadi lebih objektif dan netral.

Pesimisme lazim di hampir setiap masyarakat. ChatGPT menyapu dunia, dan CEO Open AI Sam Altman muncul di sidang Kongres AS, menyerukan regulasi AI.

Dia kemudian menandatangani pernyataan risiko dengan Stuart Russell, Geoffrey Hinton, Yoshua Bengio, dan lainnya.

Tak lama kemudian, Musk juga muncul dalam surat bersama yang ditandatangani oleh ribuan orang, meminta lab AI untuk segera menangguhkan penelitian. Saat ini, Mark Anderson, pimpinan perusahaan modal ventura top dunia a16z, akan selalu berdiri dan menjadi pemandu sorak yang "bernyanyi sebaliknya".

Ada paradoks di jantung budaya Amerika: Secara teori, kami menyukai perubahan, tetapi ketika perubahan benar-benar terwujud dan memanifestasikan dirinya, itu akan mendapat reaksi keras. Saya sangat optimis, terutama dalam hal ide-ide baru. Mark Anderson berpikir dia mungkin orang paling optimis yang pernah dia temui. "Setidaknya selama 20 tahun terakhir, jika Anda bertaruh pada orang optimis, Anda umumnya benar."

Dia punya banyak alasan untuk berpikir begitu. Pada tahun 1994, Mark Anderson datang ke Silicon Valley untuk pertama kalinya, mendirikan Netscape dan menyelesaikan daftarnya dalam waktu singkat.

Anderson, yang duduk bertelanjang kaki di singgasana, kemudian muncul di sampul majalah Time dan menjadi model Silicon Valley dari mitos kekayaan teknologi, menarik pendatang baru yang tak terhitung jumlahnya. Di satu sisi, dia adalah orang yang menyulut api di Silicon Valley, dan tipe optimis yang dijelaskan oleh fisikawan kuantum Amerika David Deutsch dalam "The Beginning of Infinity", yang berharap untuk mencapai dengan menciptakan kemajuan pengetahuan, termasuk konsekuensi tak terduga dari kemajuan seperti itu. Pesimisme berbeda. Mereka akan bangga dengan kepatuhan anak-anak mereka terhadap pola perilaku yang sesuai dan meratapi setiap hal baru yang nyata atau yang dibayangkan. Mencoba untuk menghindari segala sesuatu yang tidak dipastikan aman.

Sangat sedikit peradaban yang bertahan dengan lebih berhati-hati terhadap inovasi. Seperti yang ditulis David Deutsch dalam The Beginning of Infinity, sebenarnya sebagian besar peradaban yang dihancurkan dengan antusias menerapkan prinsip kehati-hatian (menghindari segala sesuatu yang tidak diketahui aman untuk menghindari malapetaka.) Semuanya telah stabil dan tidak berubah selama seratus tahun terakhir, yang sepertinya tidak pernah benar-benar terjadi. Skeptis selalu salah. Mark Anderson juga mengatakannya.

**01. Regulasi AI: Siapa yang Diuntungkan? Siapa yang rusak? **

Mark Anderson menyebut dirinya sebagai "akselerasi AI". Seorang mukmin yang berharap untuk mempercepat proses sosial terkait AI untuk menolak perlawanan dan membawa perubahan sosial yang besar tentu saja akan penuh dengan keraguan tentang seruan regulasi. "Ada pandangan bahwa peraturan pemerintah bermaksud baik, jinak, dan diterapkan dengan benar. Ini adalah mitos. " Mark Anderson telah lama percaya bahwa salah satu penyakit sistem Amerika adalah regulasi. Pemerintah terus merumuskan undang-undang dan peraturan , sehingga banyak yang Mirip dengan undang-undang seperti "Tidak ada alkohol yang dijual pada hari Minggu" dan "Laki-laki tidak boleh makan kimchi pada hari Selasa". Ekonom regulasi Bruce Yandle mengemukakan sebuah konsep pada tahun 1920-an yang digunakan untuk menjelaskan masalah regulasi pemerintah: Teori Bootlegger dan Baptis. Misalnya, Yandle percaya bahwa bagian Larangan, selain mengandalkan Baptis (Baptis, yang latar belakang agamanya membuat mereka percaya bahwa alkohol telah melanggar masyarakat), juga mengandalkan dukungan di belakang para pembuat minuman keras. Mereka mendukung peningkatan regulasi oleh pemerintah untuk mengurangi persaingan dari pedagang yang sah—karena konsumen tidak bisa mabuk di pasar di bawah Larangan, mereka secara alami beralih ke pembuat minuman keras. Teori pembuat minuman keras dan Baptis menunjukkan bahwa orang Baptis memberikan landasan moral yang tinggi untuk apa yang disebut regulasi (pemerintah tidak harus menemukan alasan yang muluk-muluk), sementara pembuat minuman keras diam-diam membujuk politisi di balik pintu tertutup (kepentingan kolaborasi), aliansi semacam itu Permudah politisi untuk mendukung kedua kelompok. **Teori ini juga menyatakan bahwa aliansi semacam itu mengarah pada undang-undang yang kurang optimal, dan sementara kedua kelompok puas dengan hasilnya, mungkin lebih baik bagi masyarakat secara keseluruhan untuk tidak memiliki undang-undang, atau undang-undang yang berbeda. ** Mark Anderson meminjam teori ini untuk menunjukkan mengapa regulasi dengan motif yang baik sering kali menghasilkan hal yang buruk.

“Sering kali hasil dari kampanye reformasi semacam itu adalah bahwa para penyelundup mendapatkan apa yang mereka inginkan—pengambilan peraturan (pengatur menjadi pelayan beberapa entitas komersial), persaingan terpisah, pembentukan kartel—dalam pertanyaan Baptis yang bermotivasi baik, dari mana dorongan mereka untuk sosial? kemajuan yang salah?" tulisnya dalam esai baru-baru ini, Why AI Will Save the World.

Di bidang kecerdasan buatan, "Baptis" adalah orang-orang percaya yang benar-benar percaya bahwa kecerdasan buatan akan menghancurkan manusia.Beberapa orang percaya sejati bahkan adalah inovator teknologi ini, dan mereka secara aktif menganjurkan semua jenis pembatasan AI yang aneh dan ekstrim. "Booleggers (penyelundup)" adalah perusahaan AI, dan mereka yang bertanggung jawab untuk menyerang AI dan memicu kepanikan (di permukaan, mereka tampak seperti "Baptist Will"), seperti "ahli keamanan AI", "ahli etika AI", dan "AI peneliti risiko" yang disewa untuk melakukan prediksi hari kiamat. “Pada praktiknya, bahkan ketika kaum Baptis tulus, mereka dimanipulasi dan digunakan sebagai kedok oleh pembuat minuman keras untuk memajukan kepentingan mereka sendiri,” tulis Mark Anderson dalam esai panjang. Hal-hal yang terjadi." “Jika ada hambatan peraturan terhadap risiko AI, maka pembuat minuman keras (penyelundup) ini akan mendapatkan apa yang mereka inginkan — kartel pemasok AI yang didukung pemerintah melindungi mereka dari startup baru dan Dampak persaingan sumber terbuka.”

02. Teori Pengangguran dan "Fixed Pie Fallacy"

Karena waspada terhadap regulasi, Mark Anderson tentu saja tidak setuju dengan banyak argumen yang diajukan untuk mendukung regulasi. Namun dia tidak memungkiri nilai diskusi dari beberapa topik. Seperti, apakah teknologi memakan semua pekerjaan, ketimpangan pendapatan, dan perdebatan tentang menjungkirbalikkan masyarakat manusia. ** Ini adalah kekeliruan ekonomi umum untuk berpikir bahwa aktivitas pasar adalah permainan zero-sum. Artinya, misalkan ada kue tetap di mana satu pihak hanya dapat memperoleh keuntungan dengan mengorbankan pihak lain. ** Otomasi menyebabkan pengangguran, yang merupakan semacam "kekeliruan pai tetap". Mark Anderson menunjukkan dalam sebuah artikel panjang, "Artinya, pada waktu tertentu, jumlah tenaga kerja tetap, baik oleh mesin maupun manusia. Jika dilakukan oleh mesin, maka manusia menganggur." tapi itu bukan kebenaran. Sebagai contoh sederhana, pemilik pabrik garmen membeli sejumlah besar mesin. Mesin itu sendiri membutuhkan tenaga kerja untuk berproduksi, menciptakan pekerjaan yang tidak akan ada jika tidak ada. Setelah uang untuk mesin itu "dikembalikan", pemilik pabrik garmen mendapat untung berlebih karena keunggulan biaya. Ada banyak cara untuk membelanjakan uang ini—memperluas skala pabrik, berinvestasi dalam rantai pasokan atau membeli rumah, konsumsi tinggi, tidak peduli bagaimana membelanjakannya, ini memberikan kesempatan kerja bagi industri lain. Tentu saja keunggulan biaya pabrik garmen tidak akan bertahan selamanya. Untuk bersaing, saingan juga akan mulai membeli mesin (sehingga pekerja produksi mesin mendapat lebih banyak kesempatan kerja). Mantel semakin banyak, dan harga diturunkan, pabrik garmen tidak menguntungkan seperti sebelumnya. Ketika semakin banyak orang mampu membeli mantel dengan harga lebih murah, merangsang konsumsi, industri garmen secara keseluruhan akan mempekerjakan lebih banyak orang daripada sebelum adanya mesin. Tentu saja, mungkin juga setelah mantel murah sampai batas tertentu, konsumen akan membelanjakan uang yang dihemat untuk aspek lain, sehingga meningkatkan lapangan kerja di industri lain. "Ketika teknologi diterapkan pada produksi, produktivitas juga tumbuh, input berkurang dan output meningkat. Hasilnya adalah harga barang dan jasa diturunkan, dan kita akan memiliki daya beli tambahan untuk membeli barang lain. Ini meningkatkan permintaan, mendorong hal baru produk dan industri baru, menciptakan lapangan kerja baru bagi orang-orang yang sebelumnya digantikan oleh mesin,” tulis Mark Anderson. "Ketika ekonomi pasar berfungsi dengan baik dan teknologi diperkenalkan dengan bebas, itu akan menjadi siklus naik yang tidak pernah berakhir. Ekonomi yang lebih besar akan muncul, dengan kemakmuran material yang lebih tinggi, lebih banyak industri, produk, dan pekerjaan," tulis Mark Anderson. Apa artinya jika semua tenaga manusia yang ada digantikan oleh mesin? Produktivitas akan tumbuh pada tingkat yang belum pernah terjadi sebelumnya, barang dan jasa yang ada akan menjadi hampir bebas harganya, daya beli konsumen akan melonjak, dan permintaan baru akan meledak.

Pengusaha akan menciptakan rangkaian industri, produk, dan layanan baru yang memusingkan, dan mempekerjakan sebanyak mungkin pekerja AI dan manusia untuk memenuhi semua kebutuhan baru. Dengan asumsi AI kembali menggantikan tenaga manusia, siklus itu akan berulang, memicu perkembangan ekonomi dan pertumbuhan lapangan kerja, yang mengarah ke utopia material yang tidak pernah berani dibayangkan oleh Adam Smith. " Kebutuhan manusia tidak terbatas, dan evolusi teknologi adalah proses untuk terus memuaskan dan menentukan kemungkinan kebutuhan ini.

Setiap produktivitas baru akan mengambil bentuk yang berbeda, kata Carlota Perez, seorang ekonom yang mempelajari perubahan teknologi dan gelembung keuangan, tetapi pada akhirnya itu tidak berarti bahwa akan ada lebih sedikit pekerjaan secara keseluruhan, melainkan bahwa definisi pekerjaan terjadi dengan cara tertentu. yang berubah. Sebaliknya, jika konsistensi logis dipatuhi dengan ketat, kita tidak hanya harus menganggap semua kemajuan teknologi baru sebagai bencana, tetapi semua kemajuan teknologi masa lalu juga harus dianggap sama mengerikannya. Jika menurut Anda mesin adalah musuh, Anda pasti ingin kembali dan bersantai, bukan? Mengikuti logika ini, kita terus kembali ke awal semuanya - pertanian subsisten, bukankah lebih baik jika Anda membuat pakaian sendiri?

**03. Siapa yang menyebabkan ketidakadilan? **

Selain mesin yang menyebabkan pengangguran manusia, ketidakadilan sosial yang disebabkan oleh teknologi adalah argumen lain bagi orang untuk menyerukan regulasi AI. "Dengan asumsi AI mengambil semua pekerjaan, baik dan buruk. Ini akan menyebabkan ketimpangan kekayaan yang besar, karena pemilik AI mendapatkan semua imbalan ekonomi dan rata-rata orang tidak mendapat apa-apa." Penjelasan Anderson untuk ini sederhana. Apakah Musk akan lebih kaya jika dia hanya menjual mobil kepada orang kaya? Apakah dia akan lebih kaya dari ini jika dia hanya membuat mobil untuk dirinya sendiri? tentu saja tidak. Dia memaksimalkan keuntungannya dengan menjual mobil ke dunia—pasar terbesar. Listrik, penyiaran, komputer, Internet, ponsel, dan mesin pencari—para pembuat teknologi ini secara agresif menurunkan harga hingga terjangkau oleh semua orang. Demikian juga, kami sudah memiliki akses ke AI generatif tercanggih dari New Bing, Google Bard, dll. Gratis atau berbiaya rendah. Bukan karena mereka bodoh atau dermawan, justru karena mereka serakah - memperluas ukuran pasar dan menghasilkan lebih banyak uang. Jadi, alih-alih teknologi mendorong pemusatan kekayaan, teknologi pada akhirnya lebih memberdayakan semua orang dan menangkap sebagian besar nilai itu.

**Ketimpangan memang merupakan masalah sosial yang besar, tetapi bukan didorong oleh teknologi, melainkan karena kami tidak mengizinkan AI digunakan untuk mengurangi ketimpangan. **Sektor ekonomi, khususnya perumahan, pendidikan, dan perawatan kesehatan, cenderung menghadapi resistensi terbesar terhadap adopsi AI. Seperti yang ditunjukkan pada grafik di bawah, kurva biru mewakili industri yang memungkinkan inovasi teknologi untuk meningkatkan kualitas sekaligus menurunkan harga produk, seperti barang elektronik konsumen, otomotif, dan perabot rumah tangga. Pada bulan Maret tahun ini, Mark Anderson menulis di blog Mengapa AI Tidak Akan Menyebabkan Pengangguran.

Bagan ini menunjukkan perubahan harga layanan di selusin sektor utama ekonomi, yang disesuaikan dengan inflasi.

Bagian merah mewakili industri yang tidak mengizinkan pengenalan inovasi teknologi (sehingga menurunkan harga). Soalnya, harga pendidikan, perawatan kesehatan, dan perumahan semuanya melambung ke bulan. "Industri yang diwakili dengan warna merah sangat diatur oleh pemerintah dan industri itu sendiri. Industri ini adalah monopoli, oligopoli, dan kartel dengan setiap hambatan untuk berubah yang dapat Anda bayangkan: regulasi formal pemerintah dan tangkapan regulasi, penetapan harga, penetapan harga gaya Soviet, lisensi pekerjaan dll. Inovasi teknologi di sektor ini sekarang praktis dilarang.”

Kita memasuki dunia fragmentasi—di mana TV layar datar yang menutupi seluruh dinding berharga $100, dan gelar sarjana empat tahun berharga $1 juta. Jadi, apa yang terjadi seiring waktu? Harga naik untuk produk non-teknologi yang diatur; harga turun untuk produk berbasis teknologi yang kurang diatur. Yang pertama mengembang, yang terakhir menyusut. Paling ekstrim, 99% ekonomi akan menjadi sektor non-teknologi yang diatur, ke sanalah tujuan kita.

04. Pengawasan ucapan dan efek kemiringan yang licin

Ketakutan bahwa teknologi yang kita ciptakan akan bangkit dan menghancurkan kita tertanam kuat dalam budaya kita. Mengenai apakah ketakutan semacam itu didasarkan pada dasar rasional apa pun, dan sejauh mana ketakutan itu dapat dibedakan dari kultus, jawabannya tetap terbuka. Anderson mengklasifikasikan mereka sebagai jenis kesalahan klasifikasi logis — di mana hal-hal dari kategori tertentu disajikan seolah-olah mereka termasuk dalam kategori yang berbeda. "AI adalah sebuah mesin, seperti pemanggang roti Anda, ia tidak hidup," tulisnya. Tetap saja, "jika bot pembunuh tidak menangkap kita, ujaran kebencian dan informasi yang salah juga akan terjadi." Soalnya, "hantu" yang menyerukan regulasi media sosial terus menghantui zaman AI. Setiap negara, termasuk Amerika Serikat, membuat konten tertentu di platform sosial menjadi ilegal. Contohnya termasuk pornografi anak dan menghasut kekerasan di dunia nyata. Dengan demikian, setiap platform teknologi yang memfasilitasi atau menghasilkan konten akan tunduk pada beberapa batasan. Mereka yang mendukung regulasi berpendapat bahwa AI generatif harus menghasilkan ucapan dan gagasan yang bermanfaat bagi masyarakat, dan melarang dihasilkannya ucapan dan gagasan yang berbahaya bagi masyarakat. Anderson memperingatkan bahwa ada "kemiringan licin yang tak terhindarkan" dalam melakukannya. Apa yang disebut efek lereng licin berarti bahwa sekali hal atau masalah yang buruk dimulai, kemungkinan akan menjadi semakin buruk. Jika dihentikan, itu akan meningkat dan konsekuensinya tidak terbayangkan. “Begitu ada kerangka kerja untuk membatasi konten yang sangat buruk—misalnya, ujaran kebencian—lembaga pemerintah, kelompok aktivis, dan entitas non-pemerintah segera bertindak untuk mengubah setiap ujaran yang mereka anggap sebagai ancaman bagi masyarakat dan/atau preferensi pribadi Penyensoran dan represi dalam skala besar, bahkan dengan cara kriminal langsung, ”tulisnya. Fenomena ini sudah berlangsung selama 10 tahun di media sosial, dan terus memanas. Maret lalu, dewan redaksi New York Times menerbitkan sebuah artikel, America Has a Free Speech Problem. Jajak pendapat Times View/Siena College menemukan bahwa 46 persen responden mengatakan bahwa mereka merasa kurang bebas untuk berbicara tentang politik dibandingkan satu dekade lalu. 30% mengatakan mereka merasakan hal yang sama. Hanya 21% yang mengatakan mereka merasa lebih bebas, meskipun suara-suara di lapangan publik meningkat secara dramatis melalui media sosial selama dekade terakhir. "Ketika norma-norma masyarakat di sekitar ucapan yang dapat diterima terus berubah, dan ketika bahaya tidak didefinisikan dengan jelas, pembatasan ucapan ini dapat menjadi aturan sewenang-wenang dengan konsekuensi yang tidak proporsional," tulis mereka. Dan kaum konservatif telah menggunakan gagasan ucapan yang berbahaya untuk kepentingan mereka sendiri berakhir. Dan bagi Anderson, bangun setiap pagi untuk melihat lusinan orang menjelaskan kepadanya secara mendetail di Twitter bahwa dia idiot cukup membantu: Dengan berdebat dengan orang lain, Anda secara kasar dapat membangun model metode berpikir orang lain, dan Anda dapat memikirkan masalah dari sudut pandang mereka, dan cara berpikir Anda akan menjadi lebih objektif dan netral. Dia memperingatkan bahwa mereka yang berpendapat bahwa AI generatif harus diselaraskan dengan nilai-nilai kemanusiaan adalah sebagian kecil dari populasi global, "ciri khas elit pesisir Amerika, yang mencakup banyak orang yang bekerja dan menulis di industri teknologi." "Jika Anda keberatan untuk memaksakan moralitas khusus di media sosial dan AI melalui penguatan kode suara secara terus-menerus, maka Anda juga harus menyadari bahwa pertarungan atas apa yang boleh dikatakan/diproduksi oleh AI akan lebih besar daripada pertarungan sensor media sosial. penting. AI berpotensi menjadi lapisan pengendali untuk segala sesuatu di dunia. Bagaimana itu diizinkan untuk bekerja mungkin lebih penting dari apapun. Anda harus menyadari bahwa saat ini sekelompok kecil insinyur sosial yang terisolasi berada di bawah kedok kuno untuk melindungi Anda, membiarkan moral mereka menentukan cara kerja AI. "

05. Risiko paling nyata dan menakutkan

Jika tidak ada ketakutan dan kekhawatiran di atas yang merupakan risiko nyata, lalu apa risiko AI terbesar? Dalam pandangannya, ada satu risiko terakhir dan nyata terhadap AI, dan mungkin risiko terbesar dan paling menakutkan: Amerika Serikat tidak memenangkan dominasi AI global. ** Untuk itu, “kita harus mendorong AI ke dalam ekonomi dan masyarakat kita secepat dan sekeras mungkin, memaksimalkan manfaatnya bagi produktivitas ekonomi dan potensi manusia.”

Di akhir artikel panjang itu, dia mengusulkan beberapa rencana sederhana.

1. Perusahaan besar AI harus diizinkan untuk mengembangkan AI secepat dan seagresif mungkin, tetapi mereka tidak boleh diizinkan untuk mencapai tangkapan regulasi (pengatur menjadi pelayan beberapa entitas komersial, semacam korupsi), dan mereka tidak boleh diizinkan untuk membangun kartel yang dilindungi pemerintah yang diisolasi dari persaingan pasar dengan mengklaim risiko AI secara salah.

Ini akan memaksimalkan pengembalian teknologi dan sosial atas kemampuan luar biasa dari perusahaan-perusahaan ini, permata kapitalisme modern. 2. Startup AI harus diizinkan untuk mengembangkan AI secepat dan seagresif mungkin. Mereka harus diizinkan untuk bersaing. Jika startup tidak berhasil, berada di pasar itu sendiri akan terus memotivasi perusahaan besar untuk melakukan yang terbaik -- bagaimanapun juga, ekonomi dan masyarakat kita akan menang. 3. AI open source harus dibiarkan berkembang biak secara bebas dan bersaing dengan perusahaan AI besar dan startup. Bagaimanapun, seharusnya tidak ada rintangan peraturan untuk open source.

Bahkan jika open source tidak membunuh perusahaan, ketersediaannya yang luas akan menjadi keuntungan bagi siswa di seluruh dunia yang ingin belajar bagaimana membangun dan menggunakan AI untuk menjadi bagian dari teknologi masa depan, dan akan memastikan bahwa AI dapat diakses oleh semua orang. semua orang, tidak peduli siapa mereka atau berapa banyak uang yang mereka miliki. 4. Pemerintah, bermitra dengan sektor swasta, secara aktif menggunakan AI untuk memaksimalkan pertahanan masyarakat di setiap area yang berpotensi menimbulkan risiko. AI bisa menjadi alat yang ampuh untuk memecahkan masalah, dan kita harus menerimanya.