Orijinal başlık: "Motor olarak AI, direksiyon simidi olarak insanlar"
Ethereum'un kurucusu Vitalik tarafından yazıldı.
Derleme: Baishui, altın finans
Eğer insanlara demokratik yapıların hangi yönlerini sevdiklerini sorarsanız, hükümet, iş yeri veya blok zinciri tabanlı DAO olsun, genellikle aynı argümanları duyarsınız: Güç odaklarını önlerler, kullanıcılara güçlü güvenceler sunarlar, çünkü hiç kimse sistemin tamamen yolunu değiştiremez, görüş ve bilgeliği bir araya getirerek daha yüksek kaliteli kararlar alabilirler.
Demokratik yapıyı sevmeyen insanlara hangi yönlerinin hoşnutsuzluk verdiğini sorarsanız, genellikle aynı şikayetleri yaparlar: normal seçmenler yeterince deneyimli değil çünkü her seçmenin sonuçları etkileme şansı çok az, az sayıda seçmen karar verme sürecine yüksek kalitede düşünce katmaktadır ve genellikle düşük katılım (sistemi saldırıya açık hale getirir) veya aslında merkezileşme elde edersiniz, çünkü herkes etkili kişilere varsayılan olarak güvenir ve onların görüşlerini benimser.
Bu makalenin amacı, demokratik yapıdan olumsuz etkiler olmadan faydalanabileceğimiz bir AI kullanımı olabilir. 'AI motor, insanlar direksiyon'dur'. İnsanlar sisteme sadece az miktarda, belki sadece birkaç yüz adet olmak üzere düşünülerek ve yüksek kalitede bilgi sağlar. AI bu verileri 'hedef fonksiyonu' olarak görür ve bu hedefleri gerçekleştirmek için büyük miktarda karar alır. Özellikle, bu makale ilginç bir sorunu ele alacaktır: Bunu tek bir AI'ın merkezine yerleştirmeden, herhangi bir AI'nın (veya insan-makine karışımının) serbestçe katılabileceği rekabetçi bir açık pazar güvencesine dayalı olarak yapabilir miyiz?
Dizin
Neden bir AI'nın doğrudan yönetmesine izin vermiyorsunuz?
Futarchy
İnsan muhakemesini buharlaştırmak
Derin finansman (Derin fonlama)
Gizlilik arttırıldı
Motor + direksiyon tasarımının faydaları
Neden bir AI'nın doğrudan sorumlu olmasına izin vermiyorsunuz?
İnsan tercihlerini AI tabanlı mekanizmalara en basit şekilde entegre etmenin yolu, bir AI modeli oluşturmak ve insanların tercihlerini bir şekilde bu modele girmelerine izin vermektir. Bunun için basit bir yöntem mevcuttur: Sadece personel talimat listesini içeren bir metin dosyasını sistem ipuçlarına yerleştirmeniz yeterlidir. Ardından, AI'ın internete erişim yetkisi veren birçok "agent AI framework"'den birini kullanarak, kuruluşunuzun varlıklarını ve sosyal medya profillerinin anahtarlarını ona vererek işiniz tamamlanmış olacaktır.
Birkaç iterasyondan sonra, bu birçok kullanım durumunu karşılamak için yeterli olabilir, yakın gelecekte AI okuma gruplarının verdiği talimatları (hatta gerçek zamanlı sohbetleri) okuyacak ve harekete geçecek birçok yapıyı göreceğimizi tamamen bekliyorum.
Bu yapı, uzun vadeli kurumun yönetim mekanizması olarak ideal değil. Uzun vadeli kurumların sahip olması gereken değerli bir özellik güvenilir tarafsızlıktır. Bu kavramı tanıttığım yayınımda, güvenilir tarafsızlığın dört değerli özelliğini listeledim:
Belirli kişileri veya belirli sonuçları mekanizmaya yazmayın
Açık kaynaklı ve açıkça doğrulanabilir yürütme
Basit tutun
Çok sık değiştirmeyin
LLM (ya da AI acentesi), 0/4'e uygundur. Bu modelin eğitim sürecinde kaçınılmaz olarak birçok belirli insan ve sonuç tercihini kodladığını görüyoruz. Bazen bu, AI'ın şaşırtıcı tercih yönlerine yol açabilir, örneğin, nedensel LLM'in Pakistan yaşamını ABD yaşamından daha çok önemsediğini gösteren son araştırmalara bakın ( !! ). Açık ağırlıklı olabilir, ancak bu kesinlikle açık kaynaklı değildir; gerçekten modelin derinliklerinde neyin gizlendiğini bilmiyoruz. Bu basitlikten uzaktır: LLM'in Kolmogorov karmaşıklığı milyarlarca basamaktır, yaklaşık olarak tüm ABD yasalarının (federal + eyalet + yerel) toplamına eşdeğerdir. Ve AI hızla geliştiği için, her üç ayda bir değiştirmeniz gerekir.
Bu nedenle, birçok kullanım durumunda keşfetmeyi tercih edeceğim bir başka yaklaşım, basit bir mekaniğin oyunun kuralları ve yapay zekanın oyuncu olmasıdır. Piyasayı bu kadar etkili kılan da bu içgörüdür: kurallar nispeten aptalca bir mülkiyet hakları sistemidir, yan davalara yavaş yavaş emsalleri biriktiren ve ayarlayan bir mahkeme sistemi tarafından karar verilir ve tüm istihbarat "sınırda" faaliyet gösteren girişimcilerden gelir.
Tek bir "oyuncu", LLM'ler, birbirleriyle etkileşime giren ve çeşitli İnternet hizmetlerini, çeşitli AI + insan kombinasyonlarını ve diğer birçok yapıyı çağıran LLM grupları olabilir; Bir mekanizma tasarımcısı olarak bilmenize gerek yok. İdeal hedef, otomatik olarak çalışabilen bir mekanizmaya sahip olmaktır - bu mekanizmanın amacı neyi finanse edeceğinizi seçmekse, o zaman bir Bitcoin veya Ethereum blok ödülü gibi olmalıdır.
Bu yöntemin faydaları şunlardır:
Herhangi bir tek bir modeli mekanizmaya dahil etmekten kaçınıyor; bunun yerine, kendi farklı önyargıları olan birçok farklı katılımcı ve mimari tarafından oluşturulan bir açık pazar alırsınız. Açık modeller, kapalı modeller, ajan grupları, insan + AI karışımı, robotlar, sonsuz maymunlar vb. Hepsi adil bir oyundur; mekanizma hiç kimseyi ayrımcılık yapmaz.
Bu mekanizma açık kaynaklıdır. Oyuncular olmasa da, oyun açık kaynaklıdır - ve bu oldukça iyi anlaşılmış bir modeldir (örneğin, siyasi partiler ve piyasalar bu şekilde çalışır).
Bu mekanizma çok basit olduğundan, tasarımcıların kendi önyargılarını kodladığı yol nispeten azdır.
Altta yatan katılımcıların mimarisinin şu andan itibaren tekilliğe kadar her üç ayda bir yeniden tasarlanması gerekse bile mekanizma değişmeyecektir.
Rehberlik mekanizmasının amacı, katılımcıların temel hedeflerini sadık bir şekilde yansıtmaktır. Sadece az miktarda bilgi sağlaması gerekir, ancak yüksek kaliteli olmalıdır.
Bu mekanizmanın, cevap önerisini ortaya koyma ve doğrulama arasındaki asimetriyi kullandığını düşünebilirsiniz. Bu, sudoku gibi zor çözümler sunmanın zor olduğu ancak çözümün doğru olup olmadığını doğrulamanın kolay olduğu durumlara benzer. Oyuncuların 'çözücü' olarak hareket ettiği açık bir pazar yaratırsınız ve ardından insanlar tarafından yürütülen bir mekanizmayı korursunuz, önerilen çözümlerin doğruluğunu doğrulamak için çok daha basit görevleri gerçekleştirirsiniz.
Futarchy
Futarchy ilk olarak Robin Hanson tarafından önerildi ve "değer için oy verin, ancak inanç için bahis yapın" anlamına gelir. Oylama mekanizması bir dizi hedef seçer (herhangi biri olabilir, ancak yalnızca ölçülebilir olmaları gerekiyorsa) ve ardından bunları bir metrik M'de birleştirir. Bir karar vermeniz gerektiğinde (basitlik için EVET/HAYIR diyelim), koşullu piyasayı belirlersiniz: insanlardan (i) EVET'i mi yoksa HAYIR'ı mı seçeceğine dair bahse girmelerini istersiniz (ii) EVET'i seçerseniz, M'nin değeri, aksi takdirde sıfır, (iii) HAYIR seçilirse M değeri, aksi takdirde sıfırdır. Bu üç değişkenle, piyasanın M değeri için EVET'in mi yoksa HAYIR'ın mı daha uygun olduğunu düşündüğünü belirleyebilirsiniz.
"Şirket hisse senedi fiyatı" (veya kripto para birimleri için jeton fiyatı) en sık başvurulan gösterge olduğundan, kolayca anlaşılabilir ve ölçülebilir, ancak bu mekanizma çok çeşitli göstergeleri destekleyebilir: aylık aktif kullanıcılar, belirli grupların kendi kendini bildirilen mutluluk ortalaması, bazı ölçülebilir merkezi olmayan göstergeler vb.
Futarchy aslen yapay zeka çağından önce icat edildi. Bununla birlikte, Futarchy, önceki bölümde açıklanan "karmaşık çözücüler, basit doğrulayıcılar" paradigmasına mükemmel bir şekilde uyuyor ve Futarchy'deki tüccarlar da yapay zeka (veya insan + yapay zekanın bir kombinasyonu) olabilir. "Çözücünün" (tahmine dayalı piyasa tüccarı) rolü, önerilen her planın gelecekteki göstergenin değerini nasıl etkileyeceğini belirlemektir. Bu zor. Çözücü doğruysa para kazanırlar, çözücü yanlışsa para kaybederler. Doğrulayıcıların (bir göstergeye oy veren kişiler, metriğin "hileli" veya güncelliğini yitirmiş olduğunu fark ederlerse, metriği ayarlar ve gelecekte bir noktada metriğin gerçek değerini belirlerler) yalnızca daha basit bir soruyu yanıtlamaları gerekir: "Metriğin değeri şimdi nedir?"
İnsan muhakeme yeteneğini buharlaştırır
Distilasyon, insan kararının bir mekanizmasıdır ve çalışma prensibi şöyledir. Cevaplanması gereken büyük miktarda (örneğin: 100 milyon) soru vardır. Doğal örnekler şunları içerir:
Bu listedeki her kişi bir projeye veya göreve katkılarından dolayı ne kadar kredi almalıdır?
Bu yorumlar hangileri sosyal medya platformunun (veya alt topluluğun) kurallarını ihlal ediyor?
Verilen bu Ethereum adreslerinden hangisi gerçek ve benzersiz insanları temsil ediyor?
Bu fiziksel nesnelerin hangileri çevresine estetik açıdan olumlu veya olumsuz katkıda bulunuyor?
Bu soruları cevaplayabilecek bir ekibiniz var, ancak her cevap için çok çaba harcama pahasına. Ekipten yalnızca birkaç soruyu yanıtlamasını istersiniz (örneğin, toplam listede 1 milyon öğe varsa, ekip bunlardan yalnızca 100 tanesini yanıtlayabilir). Ekibe dolaylı bir soru bile sorabilirsiniz: "Alice'in toplam kredisinin yüzde kaçını almalı?" diye sormayın. bunun yerine, "Alice veya Bob daha fazla kredi almalı mı ve ne kadar?" diye sorun. Bir jüri mekanizması tasarlarken, hibe komiteleri, mahkemeler (kararların değerini belirlemek için), değerlendirmeler gibi gerçek dünyada denenmiş ve gerçek mekanizmaları yeniden kullanabilirsiniz ve tabii ki jüri katılımcıları, cevapları bulmalarına yardımcı olmak için yeni yapay zeka araştırma araçlarını kullanabilir.
Ardından, herkesin, tüm soru setine yönelik bir sayısal cevap listesi sunmasına izin verirsiniz (örneğin, her katılımcının ne kadar kredi alması gerektiğine dair bir tahmin listesini sunar). Katılımcıları bu görevi yerine getirmek için yapay zeka kullanmaya teşvik edin, ancak onlar herhangi bir teknolojiyi kullanabilir: yapay zeka, insan-makine karışımı, internet aramasına erişebilen ve diğer insanları veya yapay zeka çalışanlarını kendi başına işe alabilen yapay zeka, kontrol teorisine göre güçlendirilmiş maymunlar vb.
Tam liste sağlayıcıları ve jüriler yanıtlarını sunduğunda, jüri yanıtları esas alınarak tam listeye bir kontrol uygulanır ve jüri yanıtlarına en uygun tam liste kombinasyonu final yanıt olarak belirlenir.
Distile edilen insan karar mekanizması futarşi'den farklıdır, ancak bazı önemli benzerlikler vardır:
Futarchy'de 'çözücüler', tahminlerde bulunur ve tahminlerini destekleyen 'gerçek veriler' (çözücüleri ödüllendirmek veya cezalandırmak için kullanılan) çıktı endeks değerlerine dayanan bir kahin makinesi tarafından jüri tarafından işletilir.
İnsanların yargıladığı buharlaşma sırasında 'çözümleyici', birçok sorun için cevaplar sağlayacak ve tahminleri, jüri tarafından sağlanan bu soruların küçük bir kısmının yüksek kaliteli cevaplarına dayanmaktadır.
Kredi dağıtımı için insan yargısını damıtmak için bir oyuncak örneği, buradaki Python koduna bakın. Komut dosyası sizden bir jüri olarak hizmet etmenizi ister ve bazıları koda önceden dahil edilmiş yapay zeka tarafından oluşturulan (ve insan tarafından oluşturulan) tam bir liste içerir. Mekanizma, jüri cevaplarının tam listesine en uygun doğrusal kombinasyonu tanımlar. Bu durumda, kazanan kombinasyon 0.199 * Claude'un cevabı + 0.801 * Deepseek'in cevabıdır; Bu kombinasyon, jürinin cevabına herhangi bir modelden daha uygundur. Bu katsayılar aynı zamanda taahhütte bulunanlar için bir ödül olacaktır.
Bu "Sauron'u yenmek" örneğinde, "insanlar direksiyon olarak" yönü iki yerde ortaya çıkar. İlk olarak, her sorunda yüksek kaliteli insan kararları kullanılır, bu yine de jüriyi "teknik bürokrat" performans değerlendirmesi olarak kullanır. İkinci olarak, "Sauron'u yenmek"nin doğru hedef olup olmadığına karar veren gizli bir oy mekanizması vardır (örneğin, Sauron'la ittifak kurmaya çalışmak veya doğu tarafındaki kritik bir nehrin tüm topraklarını barış anlaşması olarak ona vermek gibi). Ayrıca, jürinin, daha doğrudan bir şekilde değerler taşıyan diğer insan kararı kullanımları da vardır: örneğin, dağıtık bir sosyal medya platformunu (veya alt topluluğu) hayal edin, jürinin görevi rastgele seçilen forum gönderilerini topluluk kurallarına uygun veya uygun olmayan olarak işaretlemektir.
İnsan değerlendirme paradigmalarında, bazı açık değişkenler bulunmaktadır:
Nasıl örneklem alınır? Tam liste gönderenlerin rolü, çok sayıda yanıt sağlamaktır; jüri üyelerinin rolü ise yüksek kaliteli yanıtlar sağlamaktır. Jüri üyelerini bu şekilde seçmeli ve jüri üyeleri için sorular seçmeliyiz, yani modelin jüri üyelerinin yanıtlarını en iyi şekilde eşleştirmesi genel performansını en iyi şekilde göstermelidir. Bazı düşünülmesi gereken faktörler şunları içerir:
Uzmanlık ve önyargı dengesi: Deneyimli jüri genellikle kendi uzmanlık alanlarında uzmanlaştıkları için değerlendirmek istedikleri içeriği seçmelerine izin verildiğinde, daha yüksek kalitede girdi elde edersiniz. Öte yandan, fazla seçenek önyargıya (jüri, ilişkili oldukları kişilerin içeriğini tercih etme eğiliminde olabilir) veya örneklem zayıflıklarına (bazı içerikler sistematik olarak derecelendirilmemiş olabilir) yol açabilir.
Anti-Goodhart: Yapay zeka mekaniği ile "oynamaya" çalışan, örneğin katkıda bulunanların etkileyici görünen ancak işe yaramaz çok sayıda kod ürettiği içerikler olacaktır. Bu, jürinin bunu tespit edebileceği, ancak statik AI modelinin çok çalışmadıkça tespit etmeyeceği anlamına gelir. Bu davranışı yakalamanın olası bir yolu, bireylerin bu tür girişimleri işaretleyebilecekleri, onlar hakkında bir jüri kararını garanti edebilecekleri (ve böylece yapay zeka geliştiricilerini doğru şekilde yakalanmalarını sağlamaya teşvik edebilecekleri) bir meydan okuma mekanizması eklemektir. Jüri kabul ederse, ihbarcı ödüllendirilecek ve jüri aynı fikirde değilse para cezası ödenecektir.
Hangi puanlama fonksiyonunu kullanıyorsunuz? Şu anda derin finansman pilotunda kullanılan bir fikir, jüri üyelerine "A veya B'nin daha fazla kredi alması gerektiğini ve ne kadar alması gerektiğini" sormaktır. Puanlama fonksiyonu, skor(x) = sum()log(x)( - log(x([B] - log)juror_ratio([A] ** 2 for )A, B, juror_ratio( in jury_answers) şeklinde tanımlanır: Yani, her jüri yanıtı için, tam liste ile oran arasındaki farkı sorar ve jüri tarafından sağlanan oranla ne kadar uzak olduğunu ekler ve mesafenin karesine orantılı bir ceza ekler (logaritmik uzayda). Bu, puanlama fonksiyonunun tasarım alanının çok çeşitli olduğunu ve puanlama fonksiyonu seçiminin jüriye hangi soruları sorduğunuza bağlı olduğunu göstermek içindir.
Tam liste gönderenleri nasıl ödüllendirirsiniz? İdeal olarak, tekelci mekanizmalardan kaçınmak için birden fazla katılımcıya sık sık sıfır olmayan ödüller vermek istersiniz, ancak aynı zamanda şu özelliği de karşılamak istersiniz: katılımcılar aynı (veya biraz değiştirilmiş) yanıt setini birden çok kez göndererek ödülü artıramazlar. Umut verici bir yaklaşım, jüriye en uygun cevapların tam listesinin doğrusal bir kombinasyonunu (negatif olmayan katsayılar ve 1 toplamı ile) doğrudan hesaplamak ve ödülü bölmek için aynı katsayıları kullanmaktır. Başka yöntemler de olabilir.
Genel olarak amaç, işe yaradığı bilinen, önyargısı en aza indirilmiş ve zamana direnmiş insan yargılama mekanizmalarını almaktır (örneğin, bir mahkeme sisteminin çekişmeli yapısının, bir anlaşmazlığın çok fazla bilgiye sahip ancak önyargılı olan iki tarafını ve az miktarda bilgiye sahip olan ancak önyargılı olmayabilecek bir yargıcı nasıl içerdiğini hayal edin) ve bu mekanizmaların makul ölçüde yüksek kaliteli ve çok düşük maliyetli bir tahmincisi olarak açık bir yapay zeka pazarını kullanın (büyük kehanet modeli "damıtma"nın nasıl çalıştığına benzer şekilde).
derin finansman (deep funding)
Derin finansman, "X'in kredisinin yüzde kaçı Y'ye aittir?" sorusunu doldurmak için insan damıtma yargısını uygulamaktır. Grafiğin üst kısmındaki ağırlıklandırma sorunu.
Bunu yapmanın en kolay yolu, doğrudan bir örnekle göstermektir:
Derin finansman örneğinin iki seviyesi: Ethereum'un düşünce kökeni. Python kodunu buradan görüntüleyin.
Buradaki hedef, Ethereum'a felsefi katkılara atanan onuru dağıtmaktır. Bir örnek görelim:
Bu simülasyon derin finansman turunun %20.5'inin kripto punk hareketine, %9.2'sinin ise teknoloji ilerlemeciliğine atfedildiği görülüyor.
Her düğümde, bir soru ortaya çıkıyor: Ne kadar orijinal katkıda bulunuyor (bu nedenle kendisi için kredi kazanmayı hak ediyor), ne kadarı diğer üst akış etkilerinin yeniden düzenlemesidir? Kripto punk hareketi için, %40'ı yeni, %60'ı bağımlıdır.
Daha sonra bu düğümlerin yukarı yöndeki etkisine bakabilirsiniz: liberal küçük hükümetçilik ve anarşizm, cypherpunk hareketi için kredinin %17,3'ünü kazandı, ancak İsviçre'de doğrudan demokrasi için yalnızca %5'ini kazandı.
Bununla birlikte, liberal küçük hükümet ve anarşizmin Bitcoin'in para felsefesine de ilham verdiğini, bu nedenle Ethereum'un felsefesini iki şekilde etkilediğini unutmayın.
Özgürlükçü küçük devletçilik ve devletsizlik felsebelerinin Ethereum'a toplam katkı payını hesaplamak için her yol üzerindeki kenarları çarpmalı ve ardından yolları toplamalısınız: 0.205 * 0.6 * 0.173 + 0.195 * 0.648 * 0.201 ~= 0.0466. Bu nedenle, Ethereum'un felsefesine katkıda bulunan herkese ödül vermek için 100 dolar bağış yapmanız gerekiyorsa, bu simülasyonun derin finansman turuna göre, özgürlükçü küçük devletçilik ve devletsizlik yanlıları 4.66 dolar alacaktır.
Bu yöntem, daha önceki çalışmalar üzerinde çalışan ve yapısı son derece net olan alanlar için uygundur. Akademik dünya (düşünün: alıntılar) ve açık kaynak yazılım (düşünün: kütüphane bağımlılıkları ve çatallanmalar) buna doğal örneklerdir.
İyi çalışan bir derinlik finans sisteminin amacı, herhangi bir belirli projeyi desteklemeye ilgi duyan bağışçıların, paranın bu düğümü temsil eden adrese gönderilebileceği ve paranın ağırlık kenarlarına göre otomatik olarak bağımlılıklarına (ve bunların da bağımlılıklarına vb. ) yayılacağı bir küresel grafik oluşturmak ve sürdürmektir.
Bir merkezi olmayan protokolün, yerleşik derinlik finansman mekanizmasını kullanarak jetonlarını çıkarması düşünülebilir: Protokol içinde merkezi olmayan bir yönetim, bir jüri seçecek, jüri derinlik finansman mekanizmasını işletecek, çünkü protokol otomatik olarak jetonları çıkaracak ve bunları kendi kendine karşılık gelen düğümlere depolayacaktır. Böylece protokol, programlama yoluyla tüm doğrudan ve dolaylı katkıda bulunanları ödüllendirebilir, bu da Bitcoin veya Ethereum blok ödüllerinin belirli bir katkı türünü (madenciler) nasıl ödüllendirdiğini hatırlatır. Jüri, kenar ağırlığını etkileyerek, sürekli olarak değer verdiği katkı türünü tanımlayabilir. Bu mekanizma, merkezi olmayan ve uzun vadeli sürdürülebilir bir alternatif olarak madencilik, satış veya tek seferlik havuzlama olarak kullanılabilir.
Daha fazla gizlilik
Genel olarak, yukarıdaki örneklerdeki sorular hakkında doğru yargıya varmak için özel bilgilere erişiminizin olması gerekir: kuruluşunuzun dahili sohbet günlükleri, topluluk üyeleri tarafından gizlice gönderilen mesajlar vb. Özellikle daha küçük ortamlarda yalnızca tek bir yapay zeka kullanmanın faydalarından biri, bir yapay zekanın bilgiye erişmesinin, onu herkese ifşa etmekten daha kabul edilebilir olmasıdır.
Bu durumlarda, insanların zihinsel değerlendirmelerini veya derin maddi desteklerini etkili hale getirmek için şifreleme teknolojisini kullanarak yapay zekânın özel bilgilere güvenli bir şekilde erişmesini deneyebiliriz. Bu fikir, çoklu parti hesaplama )MPC(, tam homomorfik şifreleme )FHE), güvenilir yürütme ortamı (TEE) veya benzer mekanizmaların kullanılmasıyla özel bilgi sağlamayı amaçlar, ancak yalnızca doğrudan mekanizmaya verilen 'tam listeleme taahhüdü' ile sınırlıdır.
Eğer bu şekilde yaparsanız, o zaman mekanizma setini sadece AI modeline (insanlar veya AI + insan kombinasyonu değil çünkü insanlara veri gösteremezsiniz) sınırlamak zorundasınız ve belirli bir bazda (örneğin MPC, FHE, güvenilir donanım gibi) çalışan modeller. Ana araştırma yönlerinden biri yakın zamanda yeterince etkili ve anlamlı pratik sürümleri bulmaktır.
Motor + Direksiyon tasarımının avantajları
Bu tasarımın birçok beklenen faydası var. Şimdiye kadar en önemli faydası, DAO'lar inşa etmeyi mümkün kılması ve insan seçmenlerin yönü kontrol etmelerine izin vermesidir, ancak aşırı kararlarla sıkışmazlar. Bir dengeye ulaşıyorlar, herkes N kararı vermeye zorlanmaz, ancak sahip oldukları güç sadece bir karar vermek değil (genellikle temsilcilerin nasıl çalıştığı), aynı zamanda doğrudan ifade edilmesi zor olan zengin tercihleri tetikleyebilir.
Ayrıca, bu tür bir mekanizmanın teşvik edici bir düzgünlüğe sahip olduğu görünüyor. Burada bahsettiğim "teşvik edici düzgünlük", iki faktörün birleşimidir:
Yayılma: Oylama mekanizması tarafından gerçekleştirilen herhangi bir eylem, herhangi bir katılımcının çıkarları üzerinde aşırı bir etkiye sahip olmayacaktır.
Karmaşık: Oylama kararları ve bunların katılımcı menfaatlerini nasıl etkilediği arasındaki bağlantı daha karmaşık ve hesaplanması zor.
Buradaki gizleme ve difüzyon terimleri, kriptografik ve hash fonksiyonu güvenliğinin temel özellikleri olan kriptografiden alınmıştır.
Günümüzün gerçek dünyasında teşvik yumuşatmaya iyi bir örnek, hukukun üstünlüğüdür: düzenli olarak "Alice'in şirketi için 200 milyon dolar", "Bob'un şirketi için 100 milyon dolar" şeklinde düzenli olarak eylemlerde bulunmak yerine, hükümetin tepesi, daha sonra başka bir aktör grubu tarafından yorumlanan çok sayıda katılımcıya eşit olarak uygulanmak üzere tasarlanmış kurallar çıkarır. Bu yaklaşım işe yaradığında, rüşvet ve diğer yolsuzluk biçimlerinin faydalarını büyük ölçüde azaltmasının yararı vardır. Pratikte sıklıkla meydana gelen ihlal edildiğinde, bu sorunlar hızla önemli ölçüde büyütülür.
Yapay zeka açıkça geleceğin önemli bir parçası olacak ve kaçınılmaz olarak gelecekteki yönetişimin önemli bir parçası olacak. Bununla birlikte, yapay zekayı yönetişime dahil ederseniz, bariz riskler vardır: Yapay zeka önyargılıdır, eğitim sırasında kasıtlı olarak zayıflatılabilir ve yapay zeka teknolojisi o kadar hızlı gelişiyor ki, "yapay zekayı iktidara getirmek" aslında "yapay zekayı yükseltmekten sorumlu olmak" anlamına gelebilir. Damıtılmış insan yargısı, insan kontrollü demokrasiyi korurken yapay zekanın gücünü açık, serbest piyasa tarzında kullanmamıza olanak tanıyan alternatif bir yol sunar.
Geri bildirimleri ve incelemeleri için Devansh Mehta, Davide Crapis ve Julian Zawistowski'nin yanı sıra tartışmaları için Tina Zhen, Shaw Walters ve diğerlerine özel teşekkürler.
The content is for reference only, not a solicitation or offer. No investment, tax, or legal advice provided. See Disclaimer for more risks disclosure.
Vitalik'in yeni makalesi: Geleceğin yönetişim yeni paradigması 'YI Motoru + İnsan Direksiyonu'
Orijinal başlık: "Motor olarak AI, direksiyon simidi olarak insanlar"
Ethereum'un kurucusu Vitalik tarafından yazıldı.
Derleme: Baishui, altın finans
Eğer insanlara demokratik yapıların hangi yönlerini sevdiklerini sorarsanız, hükümet, iş yeri veya blok zinciri tabanlı DAO olsun, genellikle aynı argümanları duyarsınız: Güç odaklarını önlerler, kullanıcılara güçlü güvenceler sunarlar, çünkü hiç kimse sistemin tamamen yolunu değiştiremez, görüş ve bilgeliği bir araya getirerek daha yüksek kaliteli kararlar alabilirler.
Demokratik yapıyı sevmeyen insanlara hangi yönlerinin hoşnutsuzluk verdiğini sorarsanız, genellikle aynı şikayetleri yaparlar: normal seçmenler yeterince deneyimli değil çünkü her seçmenin sonuçları etkileme şansı çok az, az sayıda seçmen karar verme sürecine yüksek kalitede düşünce katmaktadır ve genellikle düşük katılım (sistemi saldırıya açık hale getirir) veya aslında merkezileşme elde edersiniz, çünkü herkes etkili kişilere varsayılan olarak güvenir ve onların görüşlerini benimser.
Bu makalenin amacı, demokratik yapıdan olumsuz etkiler olmadan faydalanabileceğimiz bir AI kullanımı olabilir. 'AI motor, insanlar direksiyon'dur'. İnsanlar sisteme sadece az miktarda, belki sadece birkaç yüz adet olmak üzere düşünülerek ve yüksek kalitede bilgi sağlar. AI bu verileri 'hedef fonksiyonu' olarak görür ve bu hedefleri gerçekleştirmek için büyük miktarda karar alır. Özellikle, bu makale ilginç bir sorunu ele alacaktır: Bunu tek bir AI'ın merkezine yerleştirmeden, herhangi bir AI'nın (veya insan-makine karışımının) serbestçe katılabileceği rekabetçi bir açık pazar güvencesine dayalı olarak yapabilir miyiz?
Dizin
Neden bir AI'nın doğrudan yönetmesine izin vermiyorsunuz?
Futarchy
İnsan muhakemesini buharlaştırmak
Derin finansman (Derin fonlama)
Gizlilik arttırıldı
Motor + direksiyon tasarımının faydaları
Neden bir AI'nın doğrudan sorumlu olmasına izin vermiyorsunuz?
İnsan tercihlerini AI tabanlı mekanizmalara en basit şekilde entegre etmenin yolu, bir AI modeli oluşturmak ve insanların tercihlerini bir şekilde bu modele girmelerine izin vermektir. Bunun için basit bir yöntem mevcuttur: Sadece personel talimat listesini içeren bir metin dosyasını sistem ipuçlarına yerleştirmeniz yeterlidir. Ardından, AI'ın internete erişim yetkisi veren birçok "agent AI framework"'den birini kullanarak, kuruluşunuzun varlıklarını ve sosyal medya profillerinin anahtarlarını ona vererek işiniz tamamlanmış olacaktır.
Birkaç iterasyondan sonra, bu birçok kullanım durumunu karşılamak için yeterli olabilir, yakın gelecekte AI okuma gruplarının verdiği talimatları (hatta gerçek zamanlı sohbetleri) okuyacak ve harekete geçecek birçok yapıyı göreceğimizi tamamen bekliyorum.
Bu yapı, uzun vadeli kurumun yönetim mekanizması olarak ideal değil. Uzun vadeli kurumların sahip olması gereken değerli bir özellik güvenilir tarafsızlıktır. Bu kavramı tanıttığım yayınımda, güvenilir tarafsızlığın dört değerli özelliğini listeledim:
Belirli kişileri veya belirli sonuçları mekanizmaya yazmayın
Açık kaynaklı ve açıkça doğrulanabilir yürütme
Basit tutun
Çok sık değiştirmeyin
LLM (ya da AI acentesi), 0/4'e uygundur. Bu modelin eğitim sürecinde kaçınılmaz olarak birçok belirli insan ve sonuç tercihini kodladığını görüyoruz. Bazen bu, AI'ın şaşırtıcı tercih yönlerine yol açabilir, örneğin, nedensel LLM'in Pakistan yaşamını ABD yaşamından daha çok önemsediğini gösteren son araştırmalara bakın ( !! ). Açık ağırlıklı olabilir, ancak bu kesinlikle açık kaynaklı değildir; gerçekten modelin derinliklerinde neyin gizlendiğini bilmiyoruz. Bu basitlikten uzaktır: LLM'in Kolmogorov karmaşıklığı milyarlarca basamaktır, yaklaşık olarak tüm ABD yasalarının (federal + eyalet + yerel) toplamına eşdeğerdir. Ve AI hızla geliştiği için, her üç ayda bir değiştirmeniz gerekir.
Bu nedenle, birçok kullanım durumunda keşfetmeyi tercih edeceğim bir başka yaklaşım, basit bir mekaniğin oyunun kuralları ve yapay zekanın oyuncu olmasıdır. Piyasayı bu kadar etkili kılan da bu içgörüdür: kurallar nispeten aptalca bir mülkiyet hakları sistemidir, yan davalara yavaş yavaş emsalleri biriktiren ve ayarlayan bir mahkeme sistemi tarafından karar verilir ve tüm istihbarat "sınırda" faaliyet gösteren girişimcilerden gelir.
Tek bir "oyuncu", LLM'ler, birbirleriyle etkileşime giren ve çeşitli İnternet hizmetlerini, çeşitli AI + insan kombinasyonlarını ve diğer birçok yapıyı çağıran LLM grupları olabilir; Bir mekanizma tasarımcısı olarak bilmenize gerek yok. İdeal hedef, otomatik olarak çalışabilen bir mekanizmaya sahip olmaktır - bu mekanizmanın amacı neyi finanse edeceğinizi seçmekse, o zaman bir Bitcoin veya Ethereum blok ödülü gibi olmalıdır.
Bu yöntemin faydaları şunlardır:
Herhangi bir tek bir modeli mekanizmaya dahil etmekten kaçınıyor; bunun yerine, kendi farklı önyargıları olan birçok farklı katılımcı ve mimari tarafından oluşturulan bir açık pazar alırsınız. Açık modeller, kapalı modeller, ajan grupları, insan + AI karışımı, robotlar, sonsuz maymunlar vb. Hepsi adil bir oyundur; mekanizma hiç kimseyi ayrımcılık yapmaz.
Bu mekanizma açık kaynaklıdır. Oyuncular olmasa da, oyun açık kaynaklıdır - ve bu oldukça iyi anlaşılmış bir modeldir (örneğin, siyasi partiler ve piyasalar bu şekilde çalışır).
Bu mekanizma çok basit olduğundan, tasarımcıların kendi önyargılarını kodladığı yol nispeten azdır.
Altta yatan katılımcıların mimarisinin şu andan itibaren tekilliğe kadar her üç ayda bir yeniden tasarlanması gerekse bile mekanizma değişmeyecektir.
Rehberlik mekanizmasının amacı, katılımcıların temel hedeflerini sadık bir şekilde yansıtmaktır. Sadece az miktarda bilgi sağlaması gerekir, ancak yüksek kaliteli olmalıdır.
Bu mekanizmanın, cevap önerisini ortaya koyma ve doğrulama arasındaki asimetriyi kullandığını düşünebilirsiniz. Bu, sudoku gibi zor çözümler sunmanın zor olduğu ancak çözümün doğru olup olmadığını doğrulamanın kolay olduğu durumlara benzer. Oyuncuların 'çözücü' olarak hareket ettiği açık bir pazar yaratırsınız ve ardından insanlar tarafından yürütülen bir mekanizmayı korursunuz, önerilen çözümlerin doğruluğunu doğrulamak için çok daha basit görevleri gerçekleştirirsiniz.
Futarchy
Futarchy ilk olarak Robin Hanson tarafından önerildi ve "değer için oy verin, ancak inanç için bahis yapın" anlamına gelir. Oylama mekanizması bir dizi hedef seçer (herhangi biri olabilir, ancak yalnızca ölçülebilir olmaları gerekiyorsa) ve ardından bunları bir metrik M'de birleştirir. Bir karar vermeniz gerektiğinde (basitlik için EVET/HAYIR diyelim), koşullu piyasayı belirlersiniz: insanlardan (i) EVET'i mi yoksa HAYIR'ı mı seçeceğine dair bahse girmelerini istersiniz (ii) EVET'i seçerseniz, M'nin değeri, aksi takdirde sıfır, (iii) HAYIR seçilirse M değeri, aksi takdirde sıfırdır. Bu üç değişkenle, piyasanın M değeri için EVET'in mi yoksa HAYIR'ın mı daha uygun olduğunu düşündüğünü belirleyebilirsiniz.
"Şirket hisse senedi fiyatı" (veya kripto para birimleri için jeton fiyatı) en sık başvurulan gösterge olduğundan, kolayca anlaşılabilir ve ölçülebilir, ancak bu mekanizma çok çeşitli göstergeleri destekleyebilir: aylık aktif kullanıcılar, belirli grupların kendi kendini bildirilen mutluluk ortalaması, bazı ölçülebilir merkezi olmayan göstergeler vb.
Futarchy aslen yapay zeka çağından önce icat edildi. Bununla birlikte, Futarchy, önceki bölümde açıklanan "karmaşık çözücüler, basit doğrulayıcılar" paradigmasına mükemmel bir şekilde uyuyor ve Futarchy'deki tüccarlar da yapay zeka (veya insan + yapay zekanın bir kombinasyonu) olabilir. "Çözücünün" (tahmine dayalı piyasa tüccarı) rolü, önerilen her planın gelecekteki göstergenin değerini nasıl etkileyeceğini belirlemektir. Bu zor. Çözücü doğruysa para kazanırlar, çözücü yanlışsa para kaybederler. Doğrulayıcıların (bir göstergeye oy veren kişiler, metriğin "hileli" veya güncelliğini yitirmiş olduğunu fark ederlerse, metriği ayarlar ve gelecekte bir noktada metriğin gerçek değerini belirlerler) yalnızca daha basit bir soruyu yanıtlamaları gerekir: "Metriğin değeri şimdi nedir?"
İnsan muhakeme yeteneğini buharlaştırır
Distilasyon, insan kararının bir mekanizmasıdır ve çalışma prensibi şöyledir. Cevaplanması gereken büyük miktarda (örneğin: 100 milyon) soru vardır. Doğal örnekler şunları içerir:
Bu listedeki her kişi bir projeye veya göreve katkılarından dolayı ne kadar kredi almalıdır?
Bu yorumlar hangileri sosyal medya platformunun (veya alt topluluğun) kurallarını ihlal ediyor?
Verilen bu Ethereum adreslerinden hangisi gerçek ve benzersiz insanları temsil ediyor?
Bu fiziksel nesnelerin hangileri çevresine estetik açıdan olumlu veya olumsuz katkıda bulunuyor?
Bu soruları cevaplayabilecek bir ekibiniz var, ancak her cevap için çok çaba harcama pahasına. Ekipten yalnızca birkaç soruyu yanıtlamasını istersiniz (örneğin, toplam listede 1 milyon öğe varsa, ekip bunlardan yalnızca 100 tanesini yanıtlayabilir). Ekibe dolaylı bir soru bile sorabilirsiniz: "Alice'in toplam kredisinin yüzde kaçını almalı?" diye sormayın. bunun yerine, "Alice veya Bob daha fazla kredi almalı mı ve ne kadar?" diye sorun. Bir jüri mekanizması tasarlarken, hibe komiteleri, mahkemeler (kararların değerini belirlemek için), değerlendirmeler gibi gerçek dünyada denenmiş ve gerçek mekanizmaları yeniden kullanabilirsiniz ve tabii ki jüri katılımcıları, cevapları bulmalarına yardımcı olmak için yeni yapay zeka araştırma araçlarını kullanabilir.
Ardından, herkesin, tüm soru setine yönelik bir sayısal cevap listesi sunmasına izin verirsiniz (örneğin, her katılımcının ne kadar kredi alması gerektiğine dair bir tahmin listesini sunar). Katılımcıları bu görevi yerine getirmek için yapay zeka kullanmaya teşvik edin, ancak onlar herhangi bir teknolojiyi kullanabilir: yapay zeka, insan-makine karışımı, internet aramasına erişebilen ve diğer insanları veya yapay zeka çalışanlarını kendi başına işe alabilen yapay zeka, kontrol teorisine göre güçlendirilmiş maymunlar vb.
Tam liste sağlayıcıları ve jüriler yanıtlarını sunduğunda, jüri yanıtları esas alınarak tam listeye bir kontrol uygulanır ve jüri yanıtlarına en uygun tam liste kombinasyonu final yanıt olarak belirlenir.
Distile edilen insan karar mekanizması futarşi'den farklıdır, ancak bazı önemli benzerlikler vardır:
Futarchy'de 'çözücüler', tahminlerde bulunur ve tahminlerini destekleyen 'gerçek veriler' (çözücüleri ödüllendirmek veya cezalandırmak için kullanılan) çıktı endeks değerlerine dayanan bir kahin makinesi tarafından jüri tarafından işletilir.
İnsanların yargıladığı buharlaşma sırasında 'çözümleyici', birçok sorun için cevaplar sağlayacak ve tahminleri, jüri tarafından sağlanan bu soruların küçük bir kısmının yüksek kaliteli cevaplarına dayanmaktadır.
Kredi dağıtımı için insan yargısını damıtmak için bir oyuncak örneği, buradaki Python koduna bakın. Komut dosyası sizden bir jüri olarak hizmet etmenizi ister ve bazıları koda önceden dahil edilmiş yapay zeka tarafından oluşturulan (ve insan tarafından oluşturulan) tam bir liste içerir. Mekanizma, jüri cevaplarının tam listesine en uygun doğrusal kombinasyonu tanımlar. Bu durumda, kazanan kombinasyon 0.199 * Claude'un cevabı + 0.801 * Deepseek'in cevabıdır; Bu kombinasyon, jürinin cevabına herhangi bir modelden daha uygundur. Bu katsayılar aynı zamanda taahhütte bulunanlar için bir ödül olacaktır.
Bu "Sauron'u yenmek" örneğinde, "insanlar direksiyon olarak" yönü iki yerde ortaya çıkar. İlk olarak, her sorunda yüksek kaliteli insan kararları kullanılır, bu yine de jüriyi "teknik bürokrat" performans değerlendirmesi olarak kullanır. İkinci olarak, "Sauron'u yenmek"nin doğru hedef olup olmadığına karar veren gizli bir oy mekanizması vardır (örneğin, Sauron'la ittifak kurmaya çalışmak veya doğu tarafındaki kritik bir nehrin tüm topraklarını barış anlaşması olarak ona vermek gibi). Ayrıca, jürinin, daha doğrudan bir şekilde değerler taşıyan diğer insan kararı kullanımları da vardır: örneğin, dağıtık bir sosyal medya platformunu (veya alt topluluğu) hayal edin, jürinin görevi rastgele seçilen forum gönderilerini topluluk kurallarına uygun veya uygun olmayan olarak işaretlemektir.
İnsan değerlendirme paradigmalarında, bazı açık değişkenler bulunmaktadır:
Nasıl örneklem alınır? Tam liste gönderenlerin rolü, çok sayıda yanıt sağlamaktır; jüri üyelerinin rolü ise yüksek kaliteli yanıtlar sağlamaktır. Jüri üyelerini bu şekilde seçmeli ve jüri üyeleri için sorular seçmeliyiz, yani modelin jüri üyelerinin yanıtlarını en iyi şekilde eşleştirmesi genel performansını en iyi şekilde göstermelidir. Bazı düşünülmesi gereken faktörler şunları içerir:
Uzmanlık ve önyargı dengesi: Deneyimli jüri genellikle kendi uzmanlık alanlarında uzmanlaştıkları için değerlendirmek istedikleri içeriği seçmelerine izin verildiğinde, daha yüksek kalitede girdi elde edersiniz. Öte yandan, fazla seçenek önyargıya (jüri, ilişkili oldukları kişilerin içeriğini tercih etme eğiliminde olabilir) veya örneklem zayıflıklarına (bazı içerikler sistematik olarak derecelendirilmemiş olabilir) yol açabilir.
Anti-Goodhart: Yapay zeka mekaniği ile "oynamaya" çalışan, örneğin katkıda bulunanların etkileyici görünen ancak işe yaramaz çok sayıda kod ürettiği içerikler olacaktır. Bu, jürinin bunu tespit edebileceği, ancak statik AI modelinin çok çalışmadıkça tespit etmeyeceği anlamına gelir. Bu davranışı yakalamanın olası bir yolu, bireylerin bu tür girişimleri işaretleyebilecekleri, onlar hakkında bir jüri kararını garanti edebilecekleri (ve böylece yapay zeka geliştiricilerini doğru şekilde yakalanmalarını sağlamaya teşvik edebilecekleri) bir meydan okuma mekanizması eklemektir. Jüri kabul ederse, ihbarcı ödüllendirilecek ve jüri aynı fikirde değilse para cezası ödenecektir.
Hangi puanlama fonksiyonunu kullanıyorsunuz? Şu anda derin finansman pilotunda kullanılan bir fikir, jüri üyelerine "A veya B'nin daha fazla kredi alması gerektiğini ve ne kadar alması gerektiğini" sormaktır. Puanlama fonksiyonu, skor(x) = sum()log(x)( - log(x([B] - log)juror_ratio([A] ** 2 for )A, B, juror_ratio( in jury_answers) şeklinde tanımlanır: Yani, her jüri yanıtı için, tam liste ile oran arasındaki farkı sorar ve jüri tarafından sağlanan oranla ne kadar uzak olduğunu ekler ve mesafenin karesine orantılı bir ceza ekler (logaritmik uzayda). Bu, puanlama fonksiyonunun tasarım alanının çok çeşitli olduğunu ve puanlama fonksiyonu seçiminin jüriye hangi soruları sorduğunuza bağlı olduğunu göstermek içindir.
Tam liste gönderenleri nasıl ödüllendirirsiniz? İdeal olarak, tekelci mekanizmalardan kaçınmak için birden fazla katılımcıya sık sık sıfır olmayan ödüller vermek istersiniz, ancak aynı zamanda şu özelliği de karşılamak istersiniz: katılımcılar aynı (veya biraz değiştirilmiş) yanıt setini birden çok kez göndererek ödülü artıramazlar. Umut verici bir yaklaşım, jüriye en uygun cevapların tam listesinin doğrusal bir kombinasyonunu (negatif olmayan katsayılar ve 1 toplamı ile) doğrudan hesaplamak ve ödülü bölmek için aynı katsayıları kullanmaktır. Başka yöntemler de olabilir.
Genel olarak amaç, işe yaradığı bilinen, önyargısı en aza indirilmiş ve zamana direnmiş insan yargılama mekanizmalarını almaktır (örneğin, bir mahkeme sisteminin çekişmeli yapısının, bir anlaşmazlığın çok fazla bilgiye sahip ancak önyargılı olan iki tarafını ve az miktarda bilgiye sahip olan ancak önyargılı olmayabilecek bir yargıcı nasıl içerdiğini hayal edin) ve bu mekanizmaların makul ölçüde yüksek kaliteli ve çok düşük maliyetli bir tahmincisi olarak açık bir yapay zeka pazarını kullanın (büyük kehanet modeli "damıtma"nın nasıl çalıştığına benzer şekilde).
derin finansman (deep funding)
Derin finansman, "X'in kredisinin yüzde kaçı Y'ye aittir?" sorusunu doldurmak için insan damıtma yargısını uygulamaktır. Grafiğin üst kısmındaki ağırlıklandırma sorunu.
Bunu yapmanın en kolay yolu, doğrudan bir örnekle göstermektir:
Derin finansman örneğinin iki seviyesi: Ethereum'un düşünce kökeni. Python kodunu buradan görüntüleyin.
Buradaki hedef, Ethereum'a felsefi katkılara atanan onuru dağıtmaktır. Bir örnek görelim:
Bu simülasyon derin finansman turunun %20.5'inin kripto punk hareketine, %9.2'sinin ise teknoloji ilerlemeciliğine atfedildiği görülüyor.
Her düğümde, bir soru ortaya çıkıyor: Ne kadar orijinal katkıda bulunuyor (bu nedenle kendisi için kredi kazanmayı hak ediyor), ne kadarı diğer üst akış etkilerinin yeniden düzenlemesidir? Kripto punk hareketi için, %40'ı yeni, %60'ı bağımlıdır.
Daha sonra bu düğümlerin yukarı yöndeki etkisine bakabilirsiniz: liberal küçük hükümetçilik ve anarşizm, cypherpunk hareketi için kredinin %17,3'ünü kazandı, ancak İsviçre'de doğrudan demokrasi için yalnızca %5'ini kazandı.
Bununla birlikte, liberal küçük hükümet ve anarşizmin Bitcoin'in para felsefesine de ilham verdiğini, bu nedenle Ethereum'un felsefesini iki şekilde etkilediğini unutmayın.
Özgürlükçü küçük devletçilik ve devletsizlik felsebelerinin Ethereum'a toplam katkı payını hesaplamak için her yol üzerindeki kenarları çarpmalı ve ardından yolları toplamalısınız: 0.205 * 0.6 * 0.173 + 0.195 * 0.648 * 0.201 ~= 0.0466. Bu nedenle, Ethereum'un felsefesine katkıda bulunan herkese ödül vermek için 100 dolar bağış yapmanız gerekiyorsa, bu simülasyonun derin finansman turuna göre, özgürlükçü küçük devletçilik ve devletsizlik yanlıları 4.66 dolar alacaktır.
Bu yöntem, daha önceki çalışmalar üzerinde çalışan ve yapısı son derece net olan alanlar için uygundur. Akademik dünya (düşünün: alıntılar) ve açık kaynak yazılım (düşünün: kütüphane bağımlılıkları ve çatallanmalar) buna doğal örneklerdir.
İyi çalışan bir derinlik finans sisteminin amacı, herhangi bir belirli projeyi desteklemeye ilgi duyan bağışçıların, paranın bu düğümü temsil eden adrese gönderilebileceği ve paranın ağırlık kenarlarına göre otomatik olarak bağımlılıklarına (ve bunların da bağımlılıklarına vb. ) yayılacağı bir küresel grafik oluşturmak ve sürdürmektir.
Bir merkezi olmayan protokolün, yerleşik derinlik finansman mekanizmasını kullanarak jetonlarını çıkarması düşünülebilir: Protokol içinde merkezi olmayan bir yönetim, bir jüri seçecek, jüri derinlik finansman mekanizmasını işletecek, çünkü protokol otomatik olarak jetonları çıkaracak ve bunları kendi kendine karşılık gelen düğümlere depolayacaktır. Böylece protokol, programlama yoluyla tüm doğrudan ve dolaylı katkıda bulunanları ödüllendirebilir, bu da Bitcoin veya Ethereum blok ödüllerinin belirli bir katkı türünü (madenciler) nasıl ödüllendirdiğini hatırlatır. Jüri, kenar ağırlığını etkileyerek, sürekli olarak değer verdiği katkı türünü tanımlayabilir. Bu mekanizma, merkezi olmayan ve uzun vadeli sürdürülebilir bir alternatif olarak madencilik, satış veya tek seferlik havuzlama olarak kullanılabilir.
Daha fazla gizlilik
Genel olarak, yukarıdaki örneklerdeki sorular hakkında doğru yargıya varmak için özel bilgilere erişiminizin olması gerekir: kuruluşunuzun dahili sohbet günlükleri, topluluk üyeleri tarafından gizlice gönderilen mesajlar vb. Özellikle daha küçük ortamlarda yalnızca tek bir yapay zeka kullanmanın faydalarından biri, bir yapay zekanın bilgiye erişmesinin, onu herkese ifşa etmekten daha kabul edilebilir olmasıdır.
Bu durumlarda, insanların zihinsel değerlendirmelerini veya derin maddi desteklerini etkili hale getirmek için şifreleme teknolojisini kullanarak yapay zekânın özel bilgilere güvenli bir şekilde erişmesini deneyebiliriz. Bu fikir, çoklu parti hesaplama )MPC(, tam homomorfik şifreleme )FHE), güvenilir yürütme ortamı (TEE) veya benzer mekanizmaların kullanılmasıyla özel bilgi sağlamayı amaçlar, ancak yalnızca doğrudan mekanizmaya verilen 'tam listeleme taahhüdü' ile sınırlıdır.
Eğer bu şekilde yaparsanız, o zaman mekanizma setini sadece AI modeline (insanlar veya AI + insan kombinasyonu değil çünkü insanlara veri gösteremezsiniz) sınırlamak zorundasınız ve belirli bir bazda (örneğin MPC, FHE, güvenilir donanım gibi) çalışan modeller. Ana araştırma yönlerinden biri yakın zamanda yeterince etkili ve anlamlı pratik sürümleri bulmaktır.
Motor + Direksiyon tasarımının avantajları
Bu tasarımın birçok beklenen faydası var. Şimdiye kadar en önemli faydası, DAO'lar inşa etmeyi mümkün kılması ve insan seçmenlerin yönü kontrol etmelerine izin vermesidir, ancak aşırı kararlarla sıkışmazlar. Bir dengeye ulaşıyorlar, herkes N kararı vermeye zorlanmaz, ancak sahip oldukları güç sadece bir karar vermek değil (genellikle temsilcilerin nasıl çalıştığı), aynı zamanda doğrudan ifade edilmesi zor olan zengin tercihleri tetikleyebilir.
Ayrıca, bu tür bir mekanizmanın teşvik edici bir düzgünlüğe sahip olduğu görünüyor. Burada bahsettiğim "teşvik edici düzgünlük", iki faktörün birleşimidir:
Yayılma: Oylama mekanizması tarafından gerçekleştirilen herhangi bir eylem, herhangi bir katılımcının çıkarları üzerinde aşırı bir etkiye sahip olmayacaktır.
Karmaşık: Oylama kararları ve bunların katılımcı menfaatlerini nasıl etkilediği arasındaki bağlantı daha karmaşık ve hesaplanması zor.
Buradaki gizleme ve difüzyon terimleri, kriptografik ve hash fonksiyonu güvenliğinin temel özellikleri olan kriptografiden alınmıştır.
Günümüzün gerçek dünyasında teşvik yumuşatmaya iyi bir örnek, hukukun üstünlüğüdür: düzenli olarak "Alice'in şirketi için 200 milyon dolar", "Bob'un şirketi için 100 milyon dolar" şeklinde düzenli olarak eylemlerde bulunmak yerine, hükümetin tepesi, daha sonra başka bir aktör grubu tarafından yorumlanan çok sayıda katılımcıya eşit olarak uygulanmak üzere tasarlanmış kurallar çıkarır. Bu yaklaşım işe yaradığında, rüşvet ve diğer yolsuzluk biçimlerinin faydalarını büyük ölçüde azaltmasının yararı vardır. Pratikte sıklıkla meydana gelen ihlal edildiğinde, bu sorunlar hızla önemli ölçüde büyütülür.
Yapay zeka açıkça geleceğin önemli bir parçası olacak ve kaçınılmaz olarak gelecekteki yönetişimin önemli bir parçası olacak. Bununla birlikte, yapay zekayı yönetişime dahil ederseniz, bariz riskler vardır: Yapay zeka önyargılıdır, eğitim sırasında kasıtlı olarak zayıflatılabilir ve yapay zeka teknolojisi o kadar hızlı gelişiyor ki, "yapay zekayı iktidara getirmek" aslında "yapay zekayı yükseltmekten sorumlu olmak" anlamına gelebilir. Damıtılmış insan yargısı, insan kontrollü demokrasiyi korurken yapay zekanın gücünü açık, serbest piyasa tarzında kullanmamıza olanak tanıyan alternatif bir yol sunar.
Geri bildirimleri ve incelemeleri için Devansh Mehta, Davide Crapis ve Julian Zawistowski'nin yanı sıra tartışmaları için Tina Zhen, Shaw Walters ve diğerlerine özel teşekkürler.