Pada 12 Juni 2023, Gensyn, protokol pasar daya komputasi AGI berbasis blockchain, mengumumkan penyelesaian putaran pembiayaan Seri A senilai $43 juta, dipimpin oleh a16z, dengan partisipasi dari Eden Block, CoinFund, Galaxy, dan Protocol Labs.
Proyek seperti apa Gensyn itu? Mengapa Anda bisa mendapatkan investasi besar dari VC teratas? Golden Finance akan mengajak Anda memahaminya dalam satu artikel.
a16z: Mengapa Memimpin Pendanaan Seri A senilai $43 juta dari Gensyn
a16z memposting sebuah artikel yang menjelaskan mengapa hal itu menyebabkan putaran pembiayaan Seri A Gensyn senilai $43 juta. a16z mengatakan bahwa kemajuan kecerdasan buatan baru-baru ini luar biasa dan memiliki kekuatan untuk menyelamatkan dunia (lihat laporan Jinse Finance sebelumnya "artikel panjang pendiri a16z: Mengapa AI akan menyelamatkan dunia"). Namun, membangun sistem AI memerlukan penerapan daya komputasi yang jauh lebih besar untuk melatih dan bernalar tentang model terbesar dan tercanggih yang tersedia saat ini. Itu berarti perusahaan teknologi besar memiliki keunggulan atas startup dalam perlombaan untuk mengekstraksi nilai dari AI, berkat akses istimewa ke daya komputasi dan skala ekonomi dari pusat data besar. Untuk bersaing di arena permainan yang setara, startup harus mampu menggunakan daya komputasi mereka yang sangat besar dengan harga terjangkau.
Blockchain, sebagai jenis komputer baru, unik karena pengembang dapat menulis kode yang membuat janji tegas tentang bagaimana perilaku kode di masa depan. Komponen tanpa izin dari blockchain ini dapat menciptakan pasar bagi pembeli dan penjual daya komputasi — atau jenis sumber daya digital lainnya seperti data atau algoritme — untuk berdagang secara global tanpa perantara.
**Gensyn, protokol pasar komputasi AGI berbasis blockchain, menghubungkan pengembang (siapa saja yang dapat melatih model pembelajaran mesin) dengan pemecah (Solver, siapa saja yang ingin menggunakan mesin mereka sendiri untuk melatih model pembelajaran mesin) berdiri. Gensyn dapat meningkatkan daya komputasi yang tersedia untuk pembelajaran mesin hingga 10-100x dengan memanfaatkan perangkat komputasi berkemampuan pembelajaran mesin yang tidak terpakai di seluruh dunia seperti pusat data kecil, PC game, Mac M1 dan M2, dan bahkan smartphone. **
Masalah yang dihadapi AGI (Kecerdasan Buatan Umum): Sangat Terpusat
Setelah hampir setengah tahun pengembangan, pasar umumnya menyadari bahwa AGI adalah masa depan. Tetapi industri AGI saat ini terlihat sangat dimonopoli**, antar negara adalah perang perdagangan dan bakat antara China dan Amerika Serikat, dan antar perusahaan adalah permainan perusahaan teknologi besar (Microsoft, Google, Meta). **Karena tiga sumber daya utama AGI (daya komputasi, pengetahuan, dan data) saat ini sangat tersentralisasi. **
Daya komputasi: Model yang semakin besar dan kompleks memerlukan prosesor komputasi tinggi untuk pelatihan. Antar negara: Perang chip antara China dan Amerika Serikat, Amerika Serikat telah secara aktif mencegah China mendapatkan chip berdaya tinggi. Antara perusahaan: Kapasitas produksi tidak mencukupi, chip AI terbaru Nvidia semuanya dibeli oleh beberapa pelanggan besar, dan perusahaan lain tidak dapat membelinya sama sekali. Di tumpukan teknologi: Beberapa perusahaan bahkan membuat perangkat keras khusus mereka sendiri untuk pembelajaran mendalam, seperti kluster TPU Google. Ini mengungguli GPU standar untuk pembelajaran mendalam dan tidak untuk dijual, hanya untuk disewa.
Pengetahuan: Banyak terobosan publik yang berasal dari arsitektur model skala besar baru yang dikembangkan oleh para peneliti, tetapi ada pertarungan atas kekayaan intelektual dan bakat yang mendasarinya. Misalnya, Amerika Serikat menarik lebih dari 50% talenta AI China, dan perusahaan besar yang menggunakan talenta ini untuk mengembangkan model skala besar semakin mengurangi aksesibilitas teknologi ini; GPT-3.5 atau 4 OpenAI secara nominal tersedia untuk umum , tetapi itu berada di belakang API dan hanya Microsoft yang memiliki akses ke kode sumbernya.
Data: Model deep learning AGI memerlukan data dalam jumlah besar—baik yang berlabel maupun tidak berlabel—dan biasanya meningkat dengan lebih banyak data. GPT-3 dilatih dengan 300 miliar kata. Data berlabel sangat penting, dan kumpulan data yang diperlukan untuk melatih AGI terkonsentrasi di tangan beberapa perusahaan besar. Misalnya, sedikit pengetahuan yang baik: setiap kali Anda mengunjungi situs web yang menyelesaikan reCaptcha, Anda memberi label pada data pelatihan untuk menyempurnakan Google Maps.
Kesulitan dalam komputasi AGI terdesentralisasi
Komputasi terdesentralisasi dapat menciptakan basis yang lebih murah dan lebih bebas untuk meneliti dan mengembangkan kecerdasan buatan. Tapi ada masalah verifikasi kerja di desentralisasi AGI Bagaimana Anda tahu bahwa pihak ketiga telah menyelesaikan perhitungan yang Anda minta?
Teka-teki proof-of-work memiliki dua faktor: ketergantungan negara, dan biaya komputasi yang tinggi.
Ketergantungan Status: Setiap lapisan dalam jaringan saraf terhubung ke semua node di lapisan sebelumnya. Ini berarti membutuhkan keadaan lapisan sebelumnya. Lebih buruk lagi, semua bobot dari setiap lapisan ditentukan oleh langkah waktu sebelumnya. Jadi, jika Anda ingin memverifikasi bahwa seseorang melatih model -- katakanlah, dengan memilih titik acak di jaringan dan melihat apakah Anda mendapatkan status yang sama -- Anda perlu terus melatih model hingga titik tersebut, yang mahal secara komputasi.
Biaya Komputasi Tinggi: Biaya satu sesi pelatihan GPT-3 pada tahun 2020 adalah sekitar $12 juta, yang 270 kali lebih tinggi dari perkiraan nilai sekitar $43.000 untuk pelatihan GPT-2 pada tahun 2019. Secara umum, kompleksitas model (ukuran) jaringan saraf terbaik saat ini berlipat ganda setiap tiga bulan. Overhead validasi, mungkin dari ketergantungan negara, dapat diterima jika jaringan saraf lebih murah, dan/atau jika pelatihan mewakili proses pengembangan model yang lebih sedikit.
Jika Anda ingin membuat pelatihan deep learning menjadi murah dan mendesentralisasikan kontrol, Anda memerlukan sistem yang mengelola validasi terkait negara bagian tanpa kepercayaan sekaligus murah dalam hal biaya overhead dan memberi penghargaan kepada mereka yang berkontribusi dalam perhitungan.
Protokol Gensyn menyatukan semua komputasi di dunia menjadi superkluster pembelajaran mesin global yang tersedia untuk siapa saja. Ini memungkinkan pelatihan jaringan saraf tanpa kepercayaan pada skala yang sangat besar dan dengan biaya rendah dengan menggabungkan dua hal:
1. Sistem verifikasi yang inovatif
Sistem verifikasi yang secara efisien memecahkan masalah ketergantungan negara dalam pelatihan jaringan saraf skala arbitrer. Sistem menggabungkan pos pemeriksaan pelatihan model dengan pemeriksaan probabilistik yang menghentikan on-chain. Ini melakukan semua ini dengan cara yang tidak dapat dipercaya dengan overhead yang menskalakan secara linear dengan ukuran model (menjaga biaya validasi konstan).
Menurut Gensyn Litepaper, Gensyn terutama memecahkan masalah verifikasi melalui tiga konsep: bukti pembelajaran probabilistik (menggunakan metadata dalam proses pengoptimalan berbasis gradien untuk membuat sertifikat dari pekerjaan yang dilakukan dan dengan cepat memverifikasinya melalui replikasi tahapan tertentu) , protokol pinpointing berbasis grafik (menggunakan multi-grained, protokol pinpointing berbasis grafik dan eksekusi konsensus lintas-evaluator untuk memungkinkan pekerjaan validasi dijalankan kembali dan dibandingkan untuk konsistensi, dan pada akhirnya dikonfirmasi oleh rantai itu sendiri), insentif gaya Truebit game (menggunakan staking dan slashing untuk membuat game insentif yang memastikan setiap pemain yang rasional secara finansial bertindak jujur dan melakukan tugas yang dimaksudkan)
**Sistem ini terutama terdiri dari empat peserta utama: pengirim, pemecah masalah, pemverifikasi, dan pelapor. **Pengirim: pengguna akhir sistem, yang memberikan tugas untuk dihitung dan membayar unit kerja yang diselesaikan; pemecah: bagian kerja utama sistem, melakukan pelatihan model dan menghasilkan bukti untuk verifikasi oleh pemverifikasi; pemverifikasi : non-deterministik Proses pelatihan terkait dengan perhitungan linier deterministik, mereplikasi bagian dari bukti pemecah dan membandingkan jarak dengan ambang batas yang diharapkan; whistleblower: garis pertahanan terakhir, memeriksa pekerjaan verifikator dan menantang untuk jackpot.
2. Pasokan baru
Manfaatkan sumber daya perangkat komputasi yang kurang dimanfaatkan dan kurang dimanfaatkan/dioptimalkan. Perangkat ini berkisar dari GPU game yang saat ini tidak digunakan hingga penambang GPU dari era PoW pra-Ethereum. Dan desentralisasi protokol berarti bahwa itu pada akhirnya akan diatur oleh mayoritas komunitas dan tidak dapat "dimatikan" tanpa persetujuan komunitas; tidak seperti mitra web2-nya, ini membuatnya tahan sensor.
Skala + biaya rendah: Protokol Gensyn menawarkan biaya serupa dengan GPU yang dimiliki pusat data, yang dapat diskalakan di luar AWS
Lihat Asli
Konten ini hanya untuk referensi, bukan ajakan atau tawaran. Tidak ada nasihat investasi, pajak, atau hukum yang diberikan. Lihat Penafian untuk pengungkapan risiko lebih lanjut.
a16z memimpin investasi $43 juta di Gensyn, pasar daya komputasi AGI, untuk memahami Gensyn
Pada 12 Juni 2023, Gensyn, protokol pasar daya komputasi AGI berbasis blockchain, mengumumkan penyelesaian putaran pembiayaan Seri A senilai $43 juta, dipimpin oleh a16z, dengan partisipasi dari Eden Block, CoinFund, Galaxy, dan Protocol Labs.
Proyek seperti apa Gensyn itu? Mengapa Anda bisa mendapatkan investasi besar dari VC teratas? Golden Finance akan mengajak Anda memahaminya dalam satu artikel.
a16z: Mengapa Memimpin Pendanaan Seri A senilai $43 juta dari Gensyn
a16z memposting sebuah artikel yang menjelaskan mengapa hal itu menyebabkan putaran pembiayaan Seri A Gensyn senilai $43 juta. a16z mengatakan bahwa kemajuan kecerdasan buatan baru-baru ini luar biasa dan memiliki kekuatan untuk menyelamatkan dunia (lihat laporan Jinse Finance sebelumnya "artikel panjang pendiri a16z: Mengapa AI akan menyelamatkan dunia"). Namun, membangun sistem AI memerlukan penerapan daya komputasi yang jauh lebih besar untuk melatih dan bernalar tentang model terbesar dan tercanggih yang tersedia saat ini. Itu berarti perusahaan teknologi besar memiliki keunggulan atas startup dalam perlombaan untuk mengekstraksi nilai dari AI, berkat akses istimewa ke daya komputasi dan skala ekonomi dari pusat data besar. Untuk bersaing di arena permainan yang setara, startup harus mampu menggunakan daya komputasi mereka yang sangat besar dengan harga terjangkau.
Blockchain, sebagai jenis komputer baru, unik karena pengembang dapat menulis kode yang membuat janji tegas tentang bagaimana perilaku kode di masa depan. Komponen tanpa izin dari blockchain ini dapat menciptakan pasar bagi pembeli dan penjual daya komputasi — atau jenis sumber daya digital lainnya seperti data atau algoritme — untuk berdagang secara global tanpa perantara.
**Gensyn, protokol pasar komputasi AGI berbasis blockchain, menghubungkan pengembang (siapa saja yang dapat melatih model pembelajaran mesin) dengan pemecah (Solver, siapa saja yang ingin menggunakan mesin mereka sendiri untuk melatih model pembelajaran mesin) berdiri. Gensyn dapat meningkatkan daya komputasi yang tersedia untuk pembelajaran mesin hingga 10-100x dengan memanfaatkan perangkat komputasi berkemampuan pembelajaran mesin yang tidak terpakai di seluruh dunia seperti pusat data kecil, PC game, Mac M1 dan M2, dan bahkan smartphone. **
Masalah yang dihadapi AGI (Kecerdasan Buatan Umum): Sangat Terpusat
Setelah hampir setengah tahun pengembangan, pasar umumnya menyadari bahwa AGI adalah masa depan. Tetapi industri AGI saat ini terlihat sangat dimonopoli**, antar negara adalah perang perdagangan dan bakat antara China dan Amerika Serikat, dan antar perusahaan adalah permainan perusahaan teknologi besar (Microsoft, Google, Meta). **Karena tiga sumber daya utama AGI (daya komputasi, pengetahuan, dan data) saat ini sangat tersentralisasi. **
Daya komputasi: Model yang semakin besar dan kompleks memerlukan prosesor komputasi tinggi untuk pelatihan. Antar negara: Perang chip antara China dan Amerika Serikat, Amerika Serikat telah secara aktif mencegah China mendapatkan chip berdaya tinggi. Antara perusahaan: Kapasitas produksi tidak mencukupi, chip AI terbaru Nvidia semuanya dibeli oleh beberapa pelanggan besar, dan perusahaan lain tidak dapat membelinya sama sekali. Di tumpukan teknologi: Beberapa perusahaan bahkan membuat perangkat keras khusus mereka sendiri untuk pembelajaran mendalam, seperti kluster TPU Google. Ini mengungguli GPU standar untuk pembelajaran mendalam dan tidak untuk dijual, hanya untuk disewa.
Pengetahuan: Banyak terobosan publik yang berasal dari arsitektur model skala besar baru yang dikembangkan oleh para peneliti, tetapi ada pertarungan atas kekayaan intelektual dan bakat yang mendasarinya. Misalnya, Amerika Serikat menarik lebih dari 50% talenta AI China, dan perusahaan besar yang menggunakan talenta ini untuk mengembangkan model skala besar semakin mengurangi aksesibilitas teknologi ini; GPT-3.5 atau 4 OpenAI secara nominal tersedia untuk umum , tetapi itu berada di belakang API dan hanya Microsoft yang memiliki akses ke kode sumbernya.
Data: Model deep learning AGI memerlukan data dalam jumlah besar—baik yang berlabel maupun tidak berlabel—dan biasanya meningkat dengan lebih banyak data. GPT-3 dilatih dengan 300 miliar kata. Data berlabel sangat penting, dan kumpulan data yang diperlukan untuk melatih AGI terkonsentrasi di tangan beberapa perusahaan besar. Misalnya, sedikit pengetahuan yang baik: setiap kali Anda mengunjungi situs web yang menyelesaikan reCaptcha, Anda memberi label pada data pelatihan untuk menyempurnakan Google Maps.
Kesulitan dalam komputasi AGI terdesentralisasi
Komputasi terdesentralisasi dapat menciptakan basis yang lebih murah dan lebih bebas untuk meneliti dan mengembangkan kecerdasan buatan. Tapi ada masalah verifikasi kerja di desentralisasi AGI Bagaimana Anda tahu bahwa pihak ketiga telah menyelesaikan perhitungan yang Anda minta?
Teka-teki proof-of-work memiliki dua faktor: ketergantungan negara, dan biaya komputasi yang tinggi.
Ketergantungan Status: Setiap lapisan dalam jaringan saraf terhubung ke semua node di lapisan sebelumnya. Ini berarti membutuhkan keadaan lapisan sebelumnya. Lebih buruk lagi, semua bobot dari setiap lapisan ditentukan oleh langkah waktu sebelumnya. Jadi, jika Anda ingin memverifikasi bahwa seseorang melatih model -- katakanlah, dengan memilih titik acak di jaringan dan melihat apakah Anda mendapatkan status yang sama -- Anda perlu terus melatih model hingga titik tersebut, yang mahal secara komputasi.
Biaya Komputasi Tinggi: Biaya satu sesi pelatihan GPT-3 pada tahun 2020 adalah sekitar $12 juta, yang 270 kali lebih tinggi dari perkiraan nilai sekitar $43.000 untuk pelatihan GPT-2 pada tahun 2019. Secara umum, kompleksitas model (ukuran) jaringan saraf terbaik saat ini berlipat ganda setiap tiga bulan. Overhead validasi, mungkin dari ketergantungan negara, dapat diterima jika jaringan saraf lebih murah, dan/atau jika pelatihan mewakili proses pengembangan model yang lebih sedikit.
Jika Anda ingin membuat pelatihan deep learning menjadi murah dan mendesentralisasikan kontrol, Anda memerlukan sistem yang mengelola validasi terkait negara bagian tanpa kepercayaan sekaligus murah dalam hal biaya overhead dan memberi penghargaan kepada mereka yang berkontribusi dalam perhitungan.
Bagaimana Gensyn Mendesentralisasikan Komputasi AGI
Protokol Gensyn menyatukan semua komputasi di dunia menjadi superkluster pembelajaran mesin global yang tersedia untuk siapa saja. Ini memungkinkan pelatihan jaringan saraf tanpa kepercayaan pada skala yang sangat besar dan dengan biaya rendah dengan menggabungkan dua hal:
1. Sistem verifikasi yang inovatif
Sistem verifikasi yang secara efisien memecahkan masalah ketergantungan negara dalam pelatihan jaringan saraf skala arbitrer. Sistem menggabungkan pos pemeriksaan pelatihan model dengan pemeriksaan probabilistik yang menghentikan on-chain. Ini melakukan semua ini dengan cara yang tidak dapat dipercaya dengan overhead yang menskalakan secara linear dengan ukuran model (menjaga biaya validasi konstan).
Menurut Gensyn Litepaper, Gensyn terutama memecahkan masalah verifikasi melalui tiga konsep: bukti pembelajaran probabilistik (menggunakan metadata dalam proses pengoptimalan berbasis gradien untuk membuat sertifikat dari pekerjaan yang dilakukan dan dengan cepat memverifikasinya melalui replikasi tahapan tertentu) , protokol pinpointing berbasis grafik (menggunakan multi-grained, protokol pinpointing berbasis grafik dan eksekusi konsensus lintas-evaluator untuk memungkinkan pekerjaan validasi dijalankan kembali dan dibandingkan untuk konsistensi, dan pada akhirnya dikonfirmasi oleh rantai itu sendiri), insentif gaya Truebit game (menggunakan staking dan slashing untuk membuat game insentif yang memastikan setiap pemain yang rasional secara finansial bertindak jujur dan melakukan tugas yang dimaksudkan)
**Sistem ini terutama terdiri dari empat peserta utama: pengirim, pemecah masalah, pemverifikasi, dan pelapor. **Pengirim: pengguna akhir sistem, yang memberikan tugas untuk dihitung dan membayar unit kerja yang diselesaikan; pemecah: bagian kerja utama sistem, melakukan pelatihan model dan menghasilkan bukti untuk verifikasi oleh pemverifikasi; pemverifikasi : non-deterministik Proses pelatihan terkait dengan perhitungan linier deterministik, mereplikasi bagian dari bukti pemecah dan membandingkan jarak dengan ambang batas yang diharapkan; whistleblower: garis pertahanan terakhir, memeriksa pekerjaan verifikator dan menantang untuk jackpot.
2. Pasokan baru
Manfaatkan sumber daya perangkat komputasi yang kurang dimanfaatkan dan kurang dimanfaatkan/dioptimalkan. Perangkat ini berkisar dari GPU game yang saat ini tidak digunakan hingga penambang GPU dari era PoW pra-Ethereum. Dan desentralisasi protokol berarti bahwa itu pada akhirnya akan diatur oleh mayoritas komunitas dan tidak dapat "dimatikan" tanpa persetujuan komunitas; tidak seperti mitra web2-nya, ini membuatnya tahan sensor.
Skala + biaya rendah: Protokol Gensyn menawarkan biaya serupa dengan GPU yang dimiliki pusat data, yang dapat diskalakan di luar AWS