原文标题：《AI as the engine, humans as the steering wheel》
Viết bởi: Vitalik, người sáng lập Ethereum
Biên soạn: Bạch Thuỷ, Kinh tế Vàng
Nếu bạn hỏi về những khía cạnh mà mọi người thích về cấu trúc dân chủ, cho dù là chính phủ, nơi làm việc hay DAO dựa trên blockchain, bạn thường nghe thấy các lập luận giống nhau: chúng tránh sự tập trung quyền lực, chúng cung cấp bảo đảm mạnh mẽ cho người dùng vì không ai có thể thay đổi hệ thống theo ý muốn của mình, chúng có thể đưa ra quyết định chất lượng cao hơn thông qua việc thu thập quan điểm và trí tuệ của nhiều người.
Nếu bạn hỏi mọi người về những khía cạnh họ không thích trong cấu trúc dân chủ, họ thường phàn nàn giống nhau: cử tri thông thường không đủ tinh tế, vì mỗi cử tri chỉ có cơ hội nhỏ để ảnh hưởng kết quả, ít cử tri đầu tư suy nghĩ chất lượng vào quyết định, và bạn thường gặp tình trạng tham gia thấp (dễ bị tấn công hệ thống) hoặc thực tế trung tâm hóa, vì mỗi người đều mặc định tin tưởng và sao chép quan điểm của những người có ảnh hưởng.
Bài viết này nhằm mục đích khám phá một mô hình có thể sử dụng trí tuệ nhân tạo để chúng ta có thể hưởng lợi từ cấu trúc dân chủ mà không gây ra ảnh hưởng tiêu cực. 'Trí tuệ nhân tạo là động cơ, con người là bánh xe lái.' Con người chỉ cung cấp một lượng thông tin nhỏ cho hệ thống, có thể chỉ là vài trăm, nhưng tất cả đều được xem xét kỹ lưỡng và chất lượng rất cao. Trí tuệ nhân tạo coi những dữ liệu này như 'hàm mục tiêu', và không biết mệt mỏi khi đưa ra nhiều quyết định, cố gắng hết sức để đạt được những mục tiêu này. Đặc biệt, bài viết này sẽ thảo luận về một vấn đề thú vị: liệu chúng ta có thể đạt được điều này mà không đặt trí tuệ nhân tạo cá nhân vào trung tâm, mà thay vào đó dựa vào một thị trường mở cạnh tranh mà bất kỳ trí tuệ nhân tạo (hoặc hỗn hợp con người-máy) nào cũng có thể tham gia tự do?
thư mục
Tại sao không để AI chịu trách nhiệm?
Futarchy
Lực lượng phân định của con người
Khoản vốn sâu
Tăng cường quyền riêng tư
Ưu điểm của thiết kế động cơ + vô lăng
Tại sao không để một trí tuệ nhân tạo đảm nhận trực tiếp?
Cách dễ nhất để đưa sở thích của con người vào cơ chế dựa trên AI là tạo ra một mô hình AI và nhờ con người bằng cách nào đó đưa sở thích của họ vào đó. Có một cách dễ dàng để làm điều này: bạn có thể chỉ cần đặt một tệp văn bản chứa danh sách hướng dẫn của mọi người vào lời nhắc hệ thống. Sau đó, bạn có thể sử dụng một trong nhiều "khung AI proxy" để cấp cho AI quyền truy cập internet, cung cấp cho nó chìa khóa cho tài sản và hồ sơ truyền thông xã hội của tổ chức bạn và bạn đã hoàn tất.
Sau một vài lần lặp lại, điều này có thể đủ cho nhiều trường hợp sử dụng và tôi hoàn toàn hy vọng rằng trong tương lai gần, chúng ta sẽ thấy rất nhiều cấu trúc liên quan đến hướng dẫn đọc AI được đưa ra bởi các nhóm (hoặc thậm chí đọc các cuộc trò chuyện nhóm trong thời gian thực) và hành động.
Cấu trúc này không lý tưởng cho cơ chế quản trị của tổ chức dài hạn. Một trong những đặc tính quý báu mà tổ chức dài hạn cần phải có là tính trung lập đáng tin cậy. Trong bài viết giới thiệu khái niệm này của tôi, tôi liệt kê bốn đặc tính quý báu của tính trung lập đáng tin cậy:
Không viết vào cơ chế người cụ thể hoặc kết quả cụ thể
Thực hiện công khai có thể xác minh được và mã nguồn mở
Giữ đơn giản
Không thay đổi thường xuyên
LLM（hoặc đại lý AI）đạt 0/4. Mô hình không thể tránh khỏi việc mã hóa một lượng lớn sở thích cụ thể của con người và kết quả trong quá trình huấn luyện của nó. Đôi khi điều này dẫn đến việc hướng sở thích của AI gây ngạc nhiên, ví dụ, một nghiên cứu gần đây đã chỉ ra rằng LLM chính đáng quan tâm đến cuộc sống ở Pakistan hơn là cuộc sống ở Mỹ (！！). Nó có thể mở trọng số, nhưng điều này hoàn toàn không phải là mã nguồn mở; chúng ta thực sự không biết điều gì đang được ẩn sau sâu bên trong mô hình. Nó ngược lại với sự đơn giản: Độ phức tạp Kolmogorov của LLM lên đến hàng tỷ bit, tương đương với tổng số luật pháp tại Mỹ (liên bang + bang + địa phương). Và do sự phát triển nhanh chóng của AI, bạn phải thay đổi mỗi ba tháng một lần.
Vì lý do này, tôi ủng hộ một cách tiếp cận khác được khám phá trong nhiều trường hợp là để một cơ chế đơn giản trở thành luật chơi, để trí tuệ nhân tạo trở thành người chơi. Chính sự nhạy bén này làm cho thị trường trở nên hiệu quả như vậy: luật chơi là một hệ thống quyền sở hữu tương đối ngu ngố, các trường hợp biên giới được giải quyết bởi hệ thống tòa án, hệ thống này chậm rãi tích lũy và điều chỉnh tiền lệ, và tất cả thông tin đều đến từ các doanh nhân hoạt động "tại biên giới".
Một "người chơi trò chơi" có thể là LLM đơn lẻ, một nhóm LLM tương tác và gọi các dịch vụ internet khác nhau, các kết hợp AI + con người và nhiều cấu trúc khác; với vai trò là nhà thiết kế cơ chế, bạn không cần phải biết. Mục tiêu lý tưởng là có một cơ chế có thể chạy tự động - nếu mục tiêu của cơ chế đó là chọn tài trợ cho cái gì, thì nó nên giống như phần thưởng khối Bitcoin hoặc Ethereum càng nhiều càng tốt.
Lợi ích của phương pháp này là:
Nó tránh việc đưa bất kỳ mô hình đơn lẻ nào vào cơ chế; thay vào đó, bạn sẽ nhận được một thị trường mở bao gồm nhiều bên tham gia và kiến trúc khác nhau, mỗi bên đều có định kiến riêng. Mô hình mở, mô hình đóng, nhóm đại lý, hỗn hợp con người + AI, robot, khỉ vô cực v.v. đều là trò chơi công bằng; cơ chế này sẽ không phân biệt đối xử ai.
Cơ chế này là mã nguồn mở. Người chơi không phải là, nhưng trò chơi là mã nguồn mở - và đây là một mô hình đã được hiểu khá rõ (ví dụ, các đảng và thị trường đều hoạt động theo cách này)
Cơ chế này rất đơn giản, vì vậy cách mà người thiết kế cơ chế mã hóa định kiến của mình vào trong thiết kế là tương đối ít
Cơ chế này sẽ không thay đổi, ngay cả từ bây giờ cho đến khi Điểm Kỳ Diệu, kiến trúc của các bên tham gia cơ bản cần phải được thiết kế lại mỗi ba tháng một lần.
Mục tiêu của cơ chế hướng dẫn là phản ánh trung thực mục tiêu cốt lõi của người tham gia. Nó chỉ cần cung cấp một lượng thông tin nhỏ nhưng phải là thông tin chất lượng cao.
Bạn có thể coi cơ chế này sử dụng tính không đối xứng giữa việc đưa ra và xác minh câu trả lời. Điều này tương tự như việc giải Sudoku rất khó nhưng rất dễ xác minh xem giải pháp có đúng hay không. Bạn (i) tạo ra một thị trường mở, trong đó người chơi đóng vai trò của "người giải quyết vấn đề", và sau đó (ii) duy trì một cơ chế được vận hành bởi con người, thực hiện các nhiệm vụ đơn giản hơn nhiều so với việc xác minh giải pháp đã được đưa ra.
Chế độ tương lai
Futarchy ban đầu được đề xuất bởi Robin Hanson, có nghĩa là "đặt cược cho giá trị, nhưng đặt cược cho niềm tin". Cơ chế bỏ phiếu chọn một nhóm mục tiêu (có thể là bất kỳ mục tiêu nào, nhưng điều kiện tiên quyết là chúng phải có thể đo lường), sau đó kết hợp chúng thành một độ đo M. Khi bạn cần phải đưa ra quyết định (để đơn giản, chúng ta giả định là CÓ/KHÔNG), bạn sẽ thiết lập thị trường điều kiện: bạn yêu cầu mọi người đặt cược (i) liệu họ sẽ chọn CÓ hoặc KHÔNG, (ii) nếu chọn CÓ, giá trị của M, nếu không là không, (iii) nếu chọn KHÔNG, giá trị của M, nếu không là không. Với ba biến này, bạn có thể xác định liệu thị trường có cho rằng CÓ hoặc KHÔNG đối với giá trị của M có lợi hơn.
"Giá cổ phiếu công ty" (hoặc trong trường hợp tiền điện tử, giá token) là một chỉ số thường được trích dẫn nhất vì nó dễ hiểu và đo lường, nhưng cơ chế này có thể hỗ trợ nhiều chỉ số: số người dùng hoạt động hàng tháng, số liệu trung bình về cảm giác hạnh phúc tự báo cáo của một số nhóm, một số chỉ số phi tập trung có thể đo lường được v.v.
Futarchy ban đầu được phát minh trước thời kỷ của trí tuệ nhân tạo. Tuy nhiên, Futarchy tự nhiên phù hợp với mô hình 'Solver phức tạp, Validator đơn giản' được mô tả trong phần trước, và người giao dịch trong Futarchy cũng có thể là trí tuệ nhân tạo (hoặc kết hợp của con người và trí tuệ nhân tạo). Vai trò của 'Solver' (người tham gia thị trường dự đoán) là xác định cách mà mỗi kế hoạch đề xuất sẽ ảnh hưởng đến giá trị của các chỉ số trong tương lai. Điều này khá khó khăn. Nếu 'Solver' đúng, họ sẽ kiếm tiền, nếu 'Solver' sai, họ sẽ mất tiền. Validator (những người bỏ phiếu cho các chỉ số, nếu họ phát hiện chỉ số bị 'manipulate' hoặc trở nên lỗi thời, họ sẽ điều chỉnh chỉ số và xác định giá trị thực tế của chỉ số vào một thời điểm trong tương lai) chỉ cần trả lời một câu hỏi đơn giản hơn 'Giá trị hiện tại của chỉ số là bao nhiêu?'
Sức mạnh phán đoán của con người
Cấu trúc phân loại con người là một loại cơ chế, nguyên lý hoạt động của nó như sau. Có một lượng lớn (hãy nghĩ đến: 100 万个) câu hỏi cần trả lời. Ví dụ tự nhiên bao gồm:
Mỗi người trong danh sách này nên nhận được bao nhiêu vinh dự cho đóng góp vào một dự án hoặc nhiệm vụ?
Những bình luận nào vi phạm các quy tắc của nền tảng mạng xã hội (hoặc cộng đồng con)?
Những địa chỉ Ethereum cung cấp đều đại diện cho người thực và duy nhất nào?
Đối tượng vật lý nào trong số này đóng góp tích cực hay tiêu cực vào tính thẩm mỹ của môi trường của chúng?
Bạn có một nhóm có thể trả lời những câu hỏi này, nhưng chi phí là phải dành nhiều công sức cho mỗi câu trả lời. Bạn chỉ yêu cầu nhóm trả lời một số câu hỏi (ví dụ, nếu có tổng cộng 100 triệu mục, nhóm có thể chỉ trả lời 100 mục trong đó). Bạn thậm chí có thể đặt câu hỏi gián tiếp cho nhóm: Đừng hỏi "Alice nên nhận bao nhiêu phần trăm tổng tín dụng?", mà hãy hỏi "Alice hoặc Bob có nên nhận được nhiều tín dụng hơn, và bao nhiêu lần?" Trong việc thiết kế cơ chế ban giám khảo, bạn có thể tái sử dụng các cơ chế đã được kiểm chứng trong thế giới thực, như ủy ban cấp vốn, tòa án (xác định giá trị phán quyết), đánh giá, v.v., tất nhiên, các thành viên trong ban giám khảo cũng có thể sử dụng các công cụ nghiên cứu AI mới lạ để giúp họ tìm ra câu trả lời.
Sau đó, bạn cho phép bất kỳ ai gửi danh sách các câu trả lời bằng số cho toàn bộ bộ câu hỏi (ví dụ: cung cấp ước tính số tiền mà mỗi người tham gia sẽ nhận được cho toàn bộ danh sách). Những người tham gia được khuyến khích sử dụng trí tuệ nhân tạo để hoàn thành nhiệm vụ này, nhưng họ có thể sử dụng bất kỳ công nghệ nào: trí tuệ nhân tạo, lai giữa người và máy, trí tuệ nhân tạo có quyền truy cập vào các tìm kiếm trên internet và có thể tự động thuê người khác hoặc nhân viên trí tuệ nhân tạo, khỉ tăng cường điều khiển học, v.v.
Khi cả người cung cấp danh sách đầy đủ và bồi thẩm đoàn đã gửi câu trả lời của họ, danh sách đầy đủ sẽ được kiểm tra so với câu trả lời của bồi thẩm đoàn và một sự kết hợp nhất định của danh sách đầy đủ tương thích nhất với câu trả lời của ban giám khảo được sử dụng làm câu trả lời cuối cùng.
Cơ chế đánh giá của con người dựa trên sự chưng cất khác biệt so với futarchy, nhưng vẫn có một số điểm tương đồng quan trọng:
Trong futarchy, "người giải" đưa ra dự đoán và "dữ liệu thực" dựa trên dự đoán của họ (được sử dụng để thưởng hoặc trừng phạt người giải) là một lời tiên tri xuất ra giá trị của chỉ số, do bồi thẩm đoàn điều hành.
Trong quá trình đánh giá của con người, "người giải mã" sẽ cung cấp câu trả lời cho nhiều vấn đề, trong khi dự đoán của họ dựa vào một phần nhỏ câu trả lời chất lượng cao của hội đồng xét xử về những vấn đề này.
Một ví dụ đồ chơi dùng để phân bổ tín dụng dựa trên sự đánh giá của con người, vui lòng xem mã Python tại đây. Kịch bản yêu cầu bạn đóng vai hội đồng xét xử và bao gồm một số danh sách hoàn chỉnh được tạo ra bởi AI (và con người) mà đã được bao gồm trước trong mã. Cơ chế này nhận biết tổ hợp tuyến tính của danh sách hoàn chỉnh nào phù hợp nhất với câu trả lời của hội đồng xét xử. Trong trường hợp này, tổ hợp chiến thắng là 0.199 * câu trả lời của Claude + 0.801 * câu trả lời của Deepseek; tổ hợp này phù hợp hơn với câu trả lời của hội đồng xét xử hơn bất kỳ mô hình đơn lẻ nào. Các hệ số này cũng sẽ là phần thưởng dành cho người gửi.
Trong ví dụ "đánh bại Sauron" này, khía cạnh "người đàn ông làm tay lái" được thể hiện ở hai nơi. Đầu tiên, đánh giá chất lượng cao của con người được áp dụng cho mỗi câu hỏi, mặc dù điều này vẫn sử dụng bồi thẩm đoàn như một người đánh giá hiệu suất "kỹ trị". Thứ hai, có một cơ chế bỏ phiếu ngầm quyết định liệu "đánh bại Sauron" có phải là mục tiêu đúng đắn hay không (trái ngược với việc cố gắng thành lập liên minh với Sauron, hoặc trao cho anh ta tất cả lãnh thổ phía đông của một con sông quan trọng nhất định như một nhượng bộ hòa bình). Có những trường hợp sử dụng chắt lọc khác về phán đoán của con người trong đó nhiệm vụ của bồi thẩm đoàn được thực hiện trực tiếp hơn với các giá trị: ví dụ, hãy tưởng tượng một nền tảng truyền thông xã hội phi tập trung (hoặc cộng đồng phụ) nơi công việc của bồi thẩm đoàn là gắn cờ các bài đăng trên diễn đàn được chọn ngẫu nhiên là tuân thủ hoặc không tuân theo các quy tắc của cộng đồng.
Trong mô hình phán đoán chưng cất của con người, có một số biến mở:
Làm thế nào để lấy mẫu? Vai trò của người gửi danh sách đầy đủ là cung cấp một lượng lớn câu trả lời; Vai trò của hội thẩm định là cung cấp các câu trả lời chất lượng cao. Chúng tôi cần chọn hội thẩm định theo cách này và chọn câu hỏi cho hội thẩm định, nghĩa là khả năng mô hình phù hợp với câu trả lời của hội thẩm định tối đa hóa hiệu suất tổng thể của họ. Một số yếu tố cần xem xét bao gồm:
Sự cân nhắc giữa kiến thức chuyên môn và định kiến: Những thẩm phán có tay nghề cao thường chuyên môn hóa trong lĩnh vực chuyên môn của họ, vì vậy khi để họ lựa chọn nội dung để đánh giá, bạn sẽ nhận được đầu vào chất lượng cao hơn. Tuy nhiên, một mặt, quá nhiều lựa chọn có thể dẫn đến định kiến (người thẩm phán thiên vị nội dung của những người họ có liên hệ) hoặc điểm yếu của phương pháp lấy mẫu (một số nội dung không được đánh giá theo cách hệ thống).
Anti-Goodhart: Sẽ có nội dung cố gắng "chơi" với cơ chế AI, ví dụ, nơi những người đóng góp tạo ra rất nhiều mã trông ấn tượng nhưng vô dụng. Điều này có nghĩa là bồi thẩm đoàn có thể phát hiện ra điều này, nhưng mô hình AI tĩnh sẽ không trừ khi họ cố gắng hết sức. Một cách có thể để nắm bắt hành vi này là thêm một cơ chế thách thức thông qua đó các cá nhân có thể gắn cờ những nỗ lực đó, đảm bảo phán quyết của bồi thẩm đoàn về chúng (và do đó khuyến khích các nhà phát triển AI đảm bảo rằng chúng được nắm bắt chính xác). Nếu bồi thẩm đoàn đồng ý, người tố cáo sẽ được khen thưởng, và nếu bồi thẩm đoàn không đồng ý, một khoản tiền phạt sẽ được trả.
Bạn sử dụng hàm điểm nào? Một ý tưởng được sử dụng trong thử nghiệm hỗ trợ độ sâu hiện tại là hỏi các thẩm phán 'A hoặc B nên nhận được nhiều tín dụng hơn và bao nhiêu?' Hàm điểm là score(x) = sum((log(x[B]) - log(x[A]) - log(juror_ratio)) ** 2 cho (A, B, juror_ratio) trong jury_answers): Nghĩa là, đối với mỗi câu trả lời của hội đồng thẩm định, nó sẽ hỏi khoảng cách giữa tỷ lệ trong danh sách đầy đủ và tỷ lệ do thẩm phán cung cấp là bao nhiêu và thêm một hình phạt tỉ lệ với bình phương khoảng cách (trong không gian logarit). Điều này cho thấy không gian thiết kế của hàm điểm rất phong phú, và lựa chọn hàm điểm phụ thuộc vào việc bạn chọn câu hỏi nào để đặt cho hội đồng thẩm định.
Làm thế nào bạn thưởng người gửi danh sách đầy đủ? Trong trường hợp lý tưởng, bạn muốn thưởng nhiều người tham gia một cách thường xuyên với giá trị thưởng khác không, để tránh cơ chế độc quyền, nhưng bạn cũng muốn đáp ứng các thuộc tính sau: Người tham gia không thể tăng thưởng bằng cách gửi nhiều lần các bộ câu trả lời giống nhau (hoặc hơi sửa đổi). Một cách tiếp cận hứa hẹn là tính toán trực tiếp tổ hợp tuyến tính của danh sách đầy đủ phù hợp nhất với ban giám khảo (hệ số không âm và tổng bằng 1), và sử dụng các hệ số này để chia thưởng. Có thể có các phương pháp khác.
Nhìn chung, mục tiêu là lấy các cơ chế phán đoán của con người được biết là hoạt động, được giảm thiểu thiên vị và đã đứng trước thử thách của thời gian (ví dụ: hãy tưởng tượng cấu trúc đối nghịch của hệ thống tòa án bao gồm hai bên tranh chấp có nhiều thông tin nhưng thiên vị và một thẩm phán có một lượng nhỏ thông tin nhưng có thể không thiên vị) và sử dụng thị trường AI mở như một yếu tố dự báo độ trung thực cao và chi phí rất thấp của các cơ chế này (tương tự như cách mô hình tiên tri lớn "chưng cất" hoạt động).
Tài trợ sâu
Tài chính sâu là áp dụng phán đoán chưng cất của con người để điền vào câu hỏi "Bao nhiêu phần trăm tín dụng của X thuộc về Y?" Bài toán trọng số ở đầu biểu đồ.
Cách dễ nhất để làm điều này là minh họa trực tiếp bằng một ví dụ:
Đầu ra của ví dụ vốn sâu cấp 2: Nguồn gốc tư duy Ethereum. Vui lòng xem mã Python tại đây.
Mục tiêu ở đây là phân phối vinh dự về đóng góp triết học cho Ethereum. Hãy xem một ví dụ:
Phần trăm 20.5 của vòng gọi vốn mô phỏng ở đây được góp phần bởi phong trào mật mã punk, phần trăm 9.2 được góp phần bởi chủ nghĩa tiến bộ công nghệ.
Trong mỗi nút, bạn sẽ đặt ra một câu hỏi: Nó đóng góp bao nhiêu cho sự sáng tạo (và do đó xứng đáng với công lao của chính mình), và bao nhiêu là sự tái tổ hợp của ảnh hưởng từ nguồn gốc khác? Đối với phong trào mật mã, có 40% là mới, 60% là phụ thuộc.
Sau đó, bạn có thể xem xét tác động ngược dòng của các nút này: chủ nghĩa chính phủ nhỏ tự do và chủ nghĩa vô chính phủ kiếm được 17,3% tín dụng cho phong trào cypherpunk, nhưng chỉ 5% cho nền dân chủ trực tiếp ở Thụy Sĩ.
Tuy nhiên, hãy lưu ý rằng cả chủ nghĩa tự do nhỏ và chủ nghĩa vô chính phủ cũng đã truyền cảm hứng cho triết lý tiền tệ của Bitcoin, do đó nó đã ảnh hưởng đến triết lý của Ethereum qua hai con đường.
Để tính tổng tỷ lệ đóng góp của chính phủ nhỏ tự do và chủ nghĩa vô chính phủ cho Ethereum, bạn cần nhân các cạnh trên mỗi đường dẫn và sau đó cộng các đường dẫn lại với nhau: 0,205 * 0,6 * 0,173 + 0,195 * 0,648 * 0,201 ~= 0,0466. Vì vậy, nếu bạn phải quyên góp 100 đô la để thưởng cho tất cả những người đóng góp cho triết lý của Ethereum, các nhà chính phủ nhỏ tự do và những người vô chính phủ sẽ nhận được 4,66 đô la theo vòng tài trợ sâu mô phỏng này.
Cách tiếp cận này nhằm áp dụng cho những lĩnh vực mà công việc được xây dựng dựa trên công việc trước đó và có mức độ rõ ràng về cấu trúc cao. Học viện (nghĩ: đồ thị trích dẫn) và phần mềm nguồn mở (nghĩ: phụ thuộc thư viện và fork) là hai ví dụ tự nhiên.
Một mục tiêu của một hệ thống tài trợ độ sâu hoạt động tốt là tạo và duy trì một đồ thị toàn cầu, trong đó bất kỳ nhà tài trợ nào quan tâm đến việc hỗ trợ một dự án cụ thể đều có thể gửi tiền vào địa chỉ đại diện cho nút đó, tiền sẽ tự động lan truyền theo trọng số cạnh của đồ thị đến các phần tử phụ thuộc của nó (và đệ quy đến các phần tử phụ thuộc của chúng và cứ tiếp tục như vậy).
Bạn có thể tưởng tượng một giao thức phi tập trung sử dụng cơ chế tài trợ sâu tích hợp để phát hành token của mình: quản trị phi tập trung trong giao thức sẽ chọn một hội đồng xét xử, hội đồng sẽ vận hành cơ chế tài trợ sâu, vì giao thức sẽ tự động phát hành token và lưu trữ chúng trong các nút tương ứng với chính nó. Bằng cách này, giao thức sẽ thưởng cho tất cả người đóng góp trực tiếp và gián tiếp theo cách lập trình, gợi nhớ về cách mà Bitcoin hoặc Ethereum thưởng cho một loại người đóng góp cụ thể (người đào). Bằng cách ảnh hưởng trọng số cạnh, hội đồng xét xử có thể liên tục định nghĩa loại người đóng góp mà nó coi trọng. Cơ chế này có thể được sử dụng như một phương án phi tập trung và bền vững dài hạn thay thế cho khai thác, bán hàng hoặc việc phát tặng một lần.
Tăng cường quyền riêng tư
Thường thì, để đưa ra nhận định chính xác về vấn đề trong ví dụ trên, cần phải có khả năng truy cập thông tin cá nhân: lịch sử trò chuyện nội bộ của tổ chức, thông tin được gửi bí mật từ các thành viên cộng đồng, v.v. Một lợi ích của việc "chỉ sử dụng một AI duy nhất", đặc biệt là trong môi trường quy mô nhỏ, là làm cho việc cho một AI truy cập thông tin dễ chấp nhận hơn so với việc công khai thông tin cho tất cả mọi người.
Để giúp con người trong việc đánh giá hoặc hỗ trợ sâu hơn trong những tình huống này, chúng ta có thể thử nghiệm việc sử dụng công nghệ mật mã để cho phép trí tuệ nhân tạo truy cập thông tin cá nhân một cách an toàn. Ý tưởng này là sử dụng tính toán đa bên (MPC), mật mã đồng dạng hoàn toàn (FHE), môi trường thực thi đáng tin cậy (TEE) hoặc cơ chế tương tự để cung cấp thông tin cá nhân, nhưng chỉ khi kết quả duy nhất của nó được trực tiếp đưa vào cơ chế "nộp danh sách đầy đủ".
Nếu bạn làm điều đó, thì bạn sẽ phải giới hạn tập hợp các cơ chế cho các mô hình AI (không phải con người hoặc sự kết hợp AI + của con người, vì bạn không thể khiến con người xem dữ liệu) và cụ thể cho các mô hình chạy trên một số chất nền cụ thể (ví dụ: MPC, FHE, phần cứng đáng tin cậy). Một trong những hướng nghiên cứu chính là tìm ra các phiên bản thực tế có hiệu quả và đủ ý nghĩa trong tương lai gần.
Ưu điểm thiết kế động cơ + vô lăng
Thiết kế như vậy mang lại nhiều lợi ích đáng mong đợi. Đến nay, lợi ích quan trọng nhất là chúng cho phép xây dựng DAO, để người cử tri nhân loại kiểm soát hướng đi, nhưng họ không bị quấy rối bởi quá nhiều quyết định. Chúng đạt được sự cân nhắc, mọi người không cần phải đưa ra N quyết định, nhưng quyền lực họ có không chỉ là việc đưa ra một quyết định (thường là cách thức giao phó hoạt động), mà còn có thể kích hoạt những ưu tiên phong phú khó diễn đạt trực tiếp.
Ngoài ra, một cơ chế như vậy dường như có một đặc tính làm mịn khuyến khích. Ý tôi là "làm mịn khuyến khích" ở đây là sự kết hợp của hai yếu tố:
Khuếch tán: Bất kỳ hành động đơn lẻ nào được thực hiện bởi cơ chế bỏ phiếu sẽ không có tác động quá mức đến lợi ích của bất kỳ người tham gia nào.
Hỗn loạn: Mối liên hệ giữa quyết định bỏ phiếu và cách chúng ảnh hưởng đến lợi ích của người tham gia trở nên phức tạp và khó tính hơn.
Các thuật ngữ xáo trộn và khuếch tán ở đây được lấy từ mật mã, là các thuộc tính chính của bảo mật mật mã và hàm băm.
Một ví dụ điển hình về việc làm dịu ưu đãi trong thế giới thực ngày nay là pháp quyền: thay vì thường xuyên thực hiện các hành động dưới hình thức "200 triệu đô la cho công ty của Alice", "100 triệu đô la cho công ty của Bob" một cách thường xuyên, cấp cao nhất của chính phủ thông qua các quy tắc được thiết kế để áp dụng đồng đều cho một số lượng lớn người tham gia, sau đó được giải thích bởi một nhóm diễn viên khác. Khi cách tiếp cận này hoạt động, lợi ích là nó làm giảm đáng kể lợi ích của hối lộ và các hình thức tham nhũng khác. Khi nó bị vi phạm, thường xảy ra trong thực tế, những vấn đề này nhanh chóng được phóng đại đáng kể.
AI 明显 sẽ trở thành một phần quan trọng của tương lai, điều này không thể tránh khỏi sẽ trở thành một phần quan trọng của việc quản trị trong tương lai. Tuy nhiên, nếu bạn cho phép AI tham gia vào việc quản trị, điều này có những rủi ro rõ rệt: AI có thể bị thiên vị, nó có thể bị cố ý phá hoại trong quá trình đào tạo, và công nghệ AI phát triển nhanh chóng đến mức "cho phép AI thống trị" có thể thực sự có nghĩa là "cho phép những người có trách nhiệm nâng cấp AI thống trị". Sự phân loại của quyết định của con người cung cấp một con đường thay thế để tiến lên, cho phép chúng ta có thể sử dụng sức mạnh của AI theo cách thị trường tự do mở, đồng thời duy trì sự kiểm soát dân chủ của con người.
Đặc biệt cảm ơn sự phản hồi và xem xét của Devansh Mehta, Davide Crapis và Julian Zawistowski, cũng như cuộc thảo luận với Tina Zhen, Shaw Walters và những người khác.
Nội dung chỉ mang tính chất tham khảo, không phải là lời chào mời hay đề nghị. Không cung cấp tư vấn về đầu tư, thuế hoặc pháp lý. Xem Tuyên bố miễn trừ trách nhiệm để biết thêm thông tin về rủi ro.
Vitalik 新文：未来治理新范式「AI 引擎 + 人类方向盘」
原文标题：《AI as the engine, humans as the steering wheel》
Viết bởi: Vitalik, người sáng lập Ethereum
Biên soạn: Bạch Thuỷ, Kinh tế Vàng
Nếu bạn hỏi về những khía cạnh mà mọi người thích về cấu trúc dân chủ, cho dù là chính phủ, nơi làm việc hay DAO dựa trên blockchain, bạn thường nghe thấy các lập luận giống nhau: chúng tránh sự tập trung quyền lực, chúng cung cấp bảo đảm mạnh mẽ cho người dùng vì không ai có thể thay đổi hệ thống theo ý muốn của mình, chúng có thể đưa ra quyết định chất lượng cao hơn thông qua việc thu thập quan điểm và trí tuệ của nhiều người.
Nếu bạn hỏi mọi người về những khía cạnh họ không thích trong cấu trúc dân chủ, họ thường phàn nàn giống nhau: cử tri thông thường không đủ tinh tế, vì mỗi cử tri chỉ có cơ hội nhỏ để ảnh hưởng kết quả, ít cử tri đầu tư suy nghĩ chất lượng vào quyết định, và bạn thường gặp tình trạng tham gia thấp (dễ bị tấn công hệ thống) hoặc thực tế trung tâm hóa, vì mỗi người đều mặc định tin tưởng và sao chép quan điểm của những người có ảnh hưởng.
Bài viết này nhằm mục đích khám phá một mô hình có thể sử dụng trí tuệ nhân tạo để chúng ta có thể hưởng lợi từ cấu trúc dân chủ mà không gây ra ảnh hưởng tiêu cực. 'Trí tuệ nhân tạo là động cơ, con người là bánh xe lái.' Con người chỉ cung cấp một lượng thông tin nhỏ cho hệ thống, có thể chỉ là vài trăm, nhưng tất cả đều được xem xét kỹ lưỡng và chất lượng rất cao. Trí tuệ nhân tạo coi những dữ liệu này như 'hàm mục tiêu', và không biết mệt mỏi khi đưa ra nhiều quyết định, cố gắng hết sức để đạt được những mục tiêu này. Đặc biệt, bài viết này sẽ thảo luận về một vấn đề thú vị: liệu chúng ta có thể đạt được điều này mà không đặt trí tuệ nhân tạo cá nhân vào trung tâm, mà thay vào đó dựa vào một thị trường mở cạnh tranh mà bất kỳ trí tuệ nhân tạo (hoặc hỗn hợp con người-máy) nào cũng có thể tham gia tự do?
thư mục
Tại sao không để AI chịu trách nhiệm?
Futarchy
Lực lượng phân định của con người
Khoản vốn sâu
Tăng cường quyền riêng tư
Ưu điểm của thiết kế động cơ + vô lăng
Tại sao không để một trí tuệ nhân tạo đảm nhận trực tiếp?
Cách dễ nhất để đưa sở thích của con người vào cơ chế dựa trên AI là tạo ra một mô hình AI và nhờ con người bằng cách nào đó đưa sở thích của họ vào đó. Có một cách dễ dàng để làm điều này: bạn có thể chỉ cần đặt một tệp văn bản chứa danh sách hướng dẫn của mọi người vào lời nhắc hệ thống. Sau đó, bạn có thể sử dụng một trong nhiều "khung AI proxy" để cấp cho AI quyền truy cập internet, cung cấp cho nó chìa khóa cho tài sản và hồ sơ truyền thông xã hội của tổ chức bạn và bạn đã hoàn tất.
Sau một vài lần lặp lại, điều này có thể đủ cho nhiều trường hợp sử dụng và tôi hoàn toàn hy vọng rằng trong tương lai gần, chúng ta sẽ thấy rất nhiều cấu trúc liên quan đến hướng dẫn đọc AI được đưa ra bởi các nhóm (hoặc thậm chí đọc các cuộc trò chuyện nhóm trong thời gian thực) và hành động.
Cấu trúc này không lý tưởng cho cơ chế quản trị của tổ chức dài hạn. Một trong những đặc tính quý báu mà tổ chức dài hạn cần phải có là tính trung lập đáng tin cậy. Trong bài viết giới thiệu khái niệm này của tôi, tôi liệt kê bốn đặc tính quý báu của tính trung lập đáng tin cậy:
Không viết vào cơ chế người cụ thể hoặc kết quả cụ thể
Thực hiện công khai có thể xác minh được và mã nguồn mở
Giữ đơn giản
Không thay đổi thường xuyên
LLM（hoặc đại lý AI）đạt 0/4. Mô hình không thể tránh khỏi việc mã hóa một lượng lớn sở thích cụ thể của con người và kết quả trong quá trình huấn luyện của nó. Đôi khi điều này dẫn đến việc hướng sở thích của AI gây ngạc nhiên, ví dụ, một nghiên cứu gần đây đã chỉ ra rằng LLM chính đáng quan tâm đến cuộc sống ở Pakistan hơn là cuộc sống ở Mỹ (！！). Nó có thể mở trọng số, nhưng điều này hoàn toàn không phải là mã nguồn mở; chúng ta thực sự không biết điều gì đang được ẩn sau sâu bên trong mô hình. Nó ngược lại với sự đơn giản: Độ phức tạp Kolmogorov của LLM lên đến hàng tỷ bit, tương đương với tổng số luật pháp tại Mỹ (liên bang + bang + địa phương). Và do sự phát triển nhanh chóng của AI, bạn phải thay đổi mỗi ba tháng một lần.
Vì lý do này, tôi ủng hộ một cách tiếp cận khác được khám phá trong nhiều trường hợp là để một cơ chế đơn giản trở thành luật chơi, để trí tuệ nhân tạo trở thành người chơi. Chính sự nhạy bén này làm cho thị trường trở nên hiệu quả như vậy: luật chơi là một hệ thống quyền sở hữu tương đối ngu ngố, các trường hợp biên giới được giải quyết bởi hệ thống tòa án, hệ thống này chậm rãi tích lũy và điều chỉnh tiền lệ, và tất cả thông tin đều đến từ các doanh nhân hoạt động "tại biên giới".
Một "người chơi trò chơi" có thể là LLM đơn lẻ, một nhóm LLM tương tác và gọi các dịch vụ internet khác nhau, các kết hợp AI + con người và nhiều cấu trúc khác; với vai trò là nhà thiết kế cơ chế, bạn không cần phải biết. Mục tiêu lý tưởng là có một cơ chế có thể chạy tự động - nếu mục tiêu của cơ chế đó là chọn tài trợ cho cái gì, thì nó nên giống như phần thưởng khối Bitcoin hoặc Ethereum càng nhiều càng tốt.
Lợi ích của phương pháp này là:
Nó tránh việc đưa bất kỳ mô hình đơn lẻ nào vào cơ chế; thay vào đó, bạn sẽ nhận được một thị trường mở bao gồm nhiều bên tham gia và kiến trúc khác nhau, mỗi bên đều có định kiến riêng. Mô hình mở, mô hình đóng, nhóm đại lý, hỗn hợp con người + AI, robot, khỉ vô cực v.v. đều là trò chơi công bằng; cơ chế này sẽ không phân biệt đối xử ai.
Cơ chế này là mã nguồn mở. Người chơi không phải là, nhưng trò chơi là mã nguồn mở - và đây là một mô hình đã được hiểu khá rõ (ví dụ, các đảng và thị trường đều hoạt động theo cách này)
Cơ chế này rất đơn giản, vì vậy cách mà người thiết kế cơ chế mã hóa định kiến của mình vào trong thiết kế là tương đối ít
Cơ chế này sẽ không thay đổi, ngay cả từ bây giờ cho đến khi Điểm Kỳ Diệu, kiến trúc của các bên tham gia cơ bản cần phải được thiết kế lại mỗi ba tháng một lần.
Mục tiêu của cơ chế hướng dẫn là phản ánh trung thực mục tiêu cốt lõi của người tham gia. Nó chỉ cần cung cấp một lượng thông tin nhỏ nhưng phải là thông tin chất lượng cao.
Bạn có thể coi cơ chế này sử dụng tính không đối xứng giữa việc đưa ra và xác minh câu trả lời. Điều này tương tự như việc giải Sudoku rất khó nhưng rất dễ xác minh xem giải pháp có đúng hay không. Bạn (i) tạo ra một thị trường mở, trong đó người chơi đóng vai trò của "người giải quyết vấn đề", và sau đó (ii) duy trì một cơ chế được vận hành bởi con người, thực hiện các nhiệm vụ đơn giản hơn nhiều so với việc xác minh giải pháp đã được đưa ra.
Chế độ tương lai
Futarchy ban đầu được đề xuất bởi Robin Hanson, có nghĩa là "đặt cược cho giá trị, nhưng đặt cược cho niềm tin". Cơ chế bỏ phiếu chọn một nhóm mục tiêu (có thể là bất kỳ mục tiêu nào, nhưng điều kiện tiên quyết là chúng phải có thể đo lường), sau đó kết hợp chúng thành một độ đo M. Khi bạn cần phải đưa ra quyết định (để đơn giản, chúng ta giả định là CÓ/KHÔNG), bạn sẽ thiết lập thị trường điều kiện: bạn yêu cầu mọi người đặt cược (i) liệu họ sẽ chọn CÓ hoặc KHÔNG, (ii) nếu chọn CÓ, giá trị của M, nếu không là không, (iii) nếu chọn KHÔNG, giá trị của M, nếu không là không. Với ba biến này, bạn có thể xác định liệu thị trường có cho rằng CÓ hoặc KHÔNG đối với giá trị của M có lợi hơn.
"Giá cổ phiếu công ty" (hoặc trong trường hợp tiền điện tử, giá token) là một chỉ số thường được trích dẫn nhất vì nó dễ hiểu và đo lường, nhưng cơ chế này có thể hỗ trợ nhiều chỉ số: số người dùng hoạt động hàng tháng, số liệu trung bình về cảm giác hạnh phúc tự báo cáo của một số nhóm, một số chỉ số phi tập trung có thể đo lường được v.v.
Futarchy ban đầu được phát minh trước thời kỷ của trí tuệ nhân tạo. Tuy nhiên, Futarchy tự nhiên phù hợp với mô hình 'Solver phức tạp, Validator đơn giản' được mô tả trong phần trước, và người giao dịch trong Futarchy cũng có thể là trí tuệ nhân tạo (hoặc kết hợp của con người và trí tuệ nhân tạo). Vai trò của 'Solver' (người tham gia thị trường dự đoán) là xác định cách mà mỗi kế hoạch đề xuất sẽ ảnh hưởng đến giá trị của các chỉ số trong tương lai. Điều này khá khó khăn. Nếu 'Solver' đúng, họ sẽ kiếm tiền, nếu 'Solver' sai, họ sẽ mất tiền. Validator (những người bỏ phiếu cho các chỉ số, nếu họ phát hiện chỉ số bị 'manipulate' hoặc trở nên lỗi thời, họ sẽ điều chỉnh chỉ số và xác định giá trị thực tế của chỉ số vào một thời điểm trong tương lai) chỉ cần trả lời một câu hỏi đơn giản hơn 'Giá trị hiện tại của chỉ số là bao nhiêu?'
Sức mạnh phán đoán của con người
Cấu trúc phân loại con người là một loại cơ chế, nguyên lý hoạt động của nó như sau. Có một lượng lớn (hãy nghĩ đến: 100 万个) câu hỏi cần trả lời. Ví dụ tự nhiên bao gồm:
Mỗi người trong danh sách này nên nhận được bao nhiêu vinh dự cho đóng góp vào một dự án hoặc nhiệm vụ?
Những bình luận nào vi phạm các quy tắc của nền tảng mạng xã hội (hoặc cộng đồng con)?
Những địa chỉ Ethereum cung cấp đều đại diện cho người thực và duy nhất nào?
Đối tượng vật lý nào trong số này đóng góp tích cực hay tiêu cực vào tính thẩm mỹ của môi trường của chúng?
Bạn có một nhóm có thể trả lời những câu hỏi này, nhưng chi phí là phải dành nhiều công sức cho mỗi câu trả lời. Bạn chỉ yêu cầu nhóm trả lời một số câu hỏi (ví dụ, nếu có tổng cộng 100 triệu mục, nhóm có thể chỉ trả lời 100 mục trong đó). Bạn thậm chí có thể đặt câu hỏi gián tiếp cho nhóm: Đừng hỏi "Alice nên nhận bao nhiêu phần trăm tổng tín dụng?", mà hãy hỏi "Alice hoặc Bob có nên nhận được nhiều tín dụng hơn, và bao nhiêu lần?" Trong việc thiết kế cơ chế ban giám khảo, bạn có thể tái sử dụng các cơ chế đã được kiểm chứng trong thế giới thực, như ủy ban cấp vốn, tòa án (xác định giá trị phán quyết), đánh giá, v.v., tất nhiên, các thành viên trong ban giám khảo cũng có thể sử dụng các công cụ nghiên cứu AI mới lạ để giúp họ tìm ra câu trả lời.
Sau đó, bạn cho phép bất kỳ ai gửi danh sách các câu trả lời bằng số cho toàn bộ bộ câu hỏi (ví dụ: cung cấp ước tính số tiền mà mỗi người tham gia sẽ nhận được cho toàn bộ danh sách). Những người tham gia được khuyến khích sử dụng trí tuệ nhân tạo để hoàn thành nhiệm vụ này, nhưng họ có thể sử dụng bất kỳ công nghệ nào: trí tuệ nhân tạo, lai giữa người và máy, trí tuệ nhân tạo có quyền truy cập vào các tìm kiếm trên internet và có thể tự động thuê người khác hoặc nhân viên trí tuệ nhân tạo, khỉ tăng cường điều khiển học, v.v.
Khi cả người cung cấp danh sách đầy đủ và bồi thẩm đoàn đã gửi câu trả lời của họ, danh sách đầy đủ sẽ được kiểm tra so với câu trả lời của bồi thẩm đoàn và một sự kết hợp nhất định của danh sách đầy đủ tương thích nhất với câu trả lời của ban giám khảo được sử dụng làm câu trả lời cuối cùng.
Cơ chế đánh giá của con người dựa trên sự chưng cất khác biệt so với futarchy, nhưng vẫn có một số điểm tương đồng quan trọng:
Trong futarchy, "người giải" đưa ra dự đoán và "dữ liệu thực" dựa trên dự đoán của họ (được sử dụng để thưởng hoặc trừng phạt người giải) là một lời tiên tri xuất ra giá trị của chỉ số, do bồi thẩm đoàn điều hành.
Trong quá trình đánh giá của con người, "người giải mã" sẽ cung cấp câu trả lời cho nhiều vấn đề, trong khi dự đoán của họ dựa vào một phần nhỏ câu trả lời chất lượng cao của hội đồng xét xử về những vấn đề này.
Một ví dụ đồ chơi dùng để phân bổ tín dụng dựa trên sự đánh giá của con người, vui lòng xem mã Python tại đây. Kịch bản yêu cầu bạn đóng vai hội đồng xét xử và bao gồm một số danh sách hoàn chỉnh được tạo ra bởi AI (và con người) mà đã được bao gồm trước trong mã. Cơ chế này nhận biết tổ hợp tuyến tính của danh sách hoàn chỉnh nào phù hợp nhất với câu trả lời của hội đồng xét xử. Trong trường hợp này, tổ hợp chiến thắng là 0.199 * câu trả lời của Claude + 0.801 * câu trả lời của Deepseek; tổ hợp này phù hợp hơn với câu trả lời của hội đồng xét xử hơn bất kỳ mô hình đơn lẻ nào. Các hệ số này cũng sẽ là phần thưởng dành cho người gửi.
Trong ví dụ "đánh bại Sauron" này, khía cạnh "người đàn ông làm tay lái" được thể hiện ở hai nơi. Đầu tiên, đánh giá chất lượng cao của con người được áp dụng cho mỗi câu hỏi, mặc dù điều này vẫn sử dụng bồi thẩm đoàn như một người đánh giá hiệu suất "kỹ trị". Thứ hai, có một cơ chế bỏ phiếu ngầm quyết định liệu "đánh bại Sauron" có phải là mục tiêu đúng đắn hay không (trái ngược với việc cố gắng thành lập liên minh với Sauron, hoặc trao cho anh ta tất cả lãnh thổ phía đông của một con sông quan trọng nhất định như một nhượng bộ hòa bình). Có những trường hợp sử dụng chắt lọc khác về phán đoán của con người trong đó nhiệm vụ của bồi thẩm đoàn được thực hiện trực tiếp hơn với các giá trị: ví dụ, hãy tưởng tượng một nền tảng truyền thông xã hội phi tập trung (hoặc cộng đồng phụ) nơi công việc của bồi thẩm đoàn là gắn cờ các bài đăng trên diễn đàn được chọn ngẫu nhiên là tuân thủ hoặc không tuân theo các quy tắc của cộng đồng.
Trong mô hình phán đoán chưng cất của con người, có một số biến mở:
Làm thế nào để lấy mẫu? Vai trò của người gửi danh sách đầy đủ là cung cấp một lượng lớn câu trả lời; Vai trò của hội thẩm định là cung cấp các câu trả lời chất lượng cao. Chúng tôi cần chọn hội thẩm định theo cách này và chọn câu hỏi cho hội thẩm định, nghĩa là khả năng mô hình phù hợp với câu trả lời của hội thẩm định tối đa hóa hiệu suất tổng thể của họ. Một số yếu tố cần xem xét bao gồm:
Sự cân nhắc giữa kiến thức chuyên môn và định kiến: Những thẩm phán có tay nghề cao thường chuyên môn hóa trong lĩnh vực chuyên môn của họ, vì vậy khi để họ lựa chọn nội dung để đánh giá, bạn sẽ nhận được đầu vào chất lượng cao hơn. Tuy nhiên, một mặt, quá nhiều lựa chọn có thể dẫn đến định kiến (người thẩm phán thiên vị nội dung của những người họ có liên hệ) hoặc điểm yếu của phương pháp lấy mẫu (một số nội dung không được đánh giá theo cách hệ thống).
Anti-Goodhart: Sẽ có nội dung cố gắng "chơi" với cơ chế AI, ví dụ, nơi những người đóng góp tạo ra rất nhiều mã trông ấn tượng nhưng vô dụng. Điều này có nghĩa là bồi thẩm đoàn có thể phát hiện ra điều này, nhưng mô hình AI tĩnh sẽ không trừ khi họ cố gắng hết sức. Một cách có thể để nắm bắt hành vi này là thêm một cơ chế thách thức thông qua đó các cá nhân có thể gắn cờ những nỗ lực đó, đảm bảo phán quyết của bồi thẩm đoàn về chúng (và do đó khuyến khích các nhà phát triển AI đảm bảo rằng chúng được nắm bắt chính xác). Nếu bồi thẩm đoàn đồng ý, người tố cáo sẽ được khen thưởng, và nếu bồi thẩm đoàn không đồng ý, một khoản tiền phạt sẽ được trả.
Bạn sử dụng hàm điểm nào? Một ý tưởng được sử dụng trong thử nghiệm hỗ trợ độ sâu hiện tại là hỏi các thẩm phán 'A hoặc B nên nhận được nhiều tín dụng hơn và bao nhiêu?' Hàm điểm là score(x) = sum((log(x[B]) - log(x[A]) - log(juror_ratio)) ** 2 cho (A, B, juror_ratio) trong jury_answers): Nghĩa là, đối với mỗi câu trả lời của hội đồng thẩm định, nó sẽ hỏi khoảng cách giữa tỷ lệ trong danh sách đầy đủ và tỷ lệ do thẩm phán cung cấp là bao nhiêu và thêm một hình phạt tỉ lệ với bình phương khoảng cách (trong không gian logarit). Điều này cho thấy không gian thiết kế của hàm điểm rất phong phú, và lựa chọn hàm điểm phụ thuộc vào việc bạn chọn câu hỏi nào để đặt cho hội đồng thẩm định.
Làm thế nào bạn thưởng người gửi danh sách đầy đủ? Trong trường hợp lý tưởng, bạn muốn thưởng nhiều người tham gia một cách thường xuyên với giá trị thưởng khác không, để tránh cơ chế độc quyền, nhưng bạn cũng muốn đáp ứng các thuộc tính sau: Người tham gia không thể tăng thưởng bằng cách gửi nhiều lần các bộ câu trả lời giống nhau (hoặc hơi sửa đổi). Một cách tiếp cận hứa hẹn là tính toán trực tiếp tổ hợp tuyến tính của danh sách đầy đủ phù hợp nhất với ban giám khảo (hệ số không âm và tổng bằng 1), và sử dụng các hệ số này để chia thưởng. Có thể có các phương pháp khác.
Nhìn chung, mục tiêu là lấy các cơ chế phán đoán của con người được biết là hoạt động, được giảm thiểu thiên vị và đã đứng trước thử thách của thời gian (ví dụ: hãy tưởng tượng cấu trúc đối nghịch của hệ thống tòa án bao gồm hai bên tranh chấp có nhiều thông tin nhưng thiên vị và một thẩm phán có một lượng nhỏ thông tin nhưng có thể không thiên vị) và sử dụng thị trường AI mở như một yếu tố dự báo độ trung thực cao và chi phí rất thấp của các cơ chế này (tương tự như cách mô hình tiên tri lớn "chưng cất" hoạt động).
Tài trợ sâu
Tài chính sâu là áp dụng phán đoán chưng cất của con người để điền vào câu hỏi "Bao nhiêu phần trăm tín dụng của X thuộc về Y?" Bài toán trọng số ở đầu biểu đồ.
Cách dễ nhất để làm điều này là minh họa trực tiếp bằng một ví dụ:
Đầu ra của ví dụ vốn sâu cấp 2: Nguồn gốc tư duy Ethereum. Vui lòng xem mã Python tại đây.
Mục tiêu ở đây là phân phối vinh dự về đóng góp triết học cho Ethereum. Hãy xem một ví dụ:
Phần trăm 20.5 của vòng gọi vốn mô phỏng ở đây được góp phần bởi phong trào mật mã punk, phần trăm 9.2 được góp phần bởi chủ nghĩa tiến bộ công nghệ.
Trong mỗi nút, bạn sẽ đặt ra một câu hỏi: Nó đóng góp bao nhiêu cho sự sáng tạo (và do đó xứng đáng với công lao của chính mình), và bao nhiêu là sự tái tổ hợp của ảnh hưởng từ nguồn gốc khác? Đối với phong trào mật mã, có 40% là mới, 60% là phụ thuộc.
Sau đó, bạn có thể xem xét tác động ngược dòng của các nút này: chủ nghĩa chính phủ nhỏ tự do và chủ nghĩa vô chính phủ kiếm được 17,3% tín dụng cho phong trào cypherpunk, nhưng chỉ 5% cho nền dân chủ trực tiếp ở Thụy Sĩ.
Tuy nhiên, hãy lưu ý rằng cả chủ nghĩa tự do nhỏ và chủ nghĩa vô chính phủ cũng đã truyền cảm hứng cho triết lý tiền tệ của Bitcoin, do đó nó đã ảnh hưởng đến triết lý của Ethereum qua hai con đường.
Để tính tổng tỷ lệ đóng góp của chính phủ nhỏ tự do và chủ nghĩa vô chính phủ cho Ethereum, bạn cần nhân các cạnh trên mỗi đường dẫn và sau đó cộng các đường dẫn lại với nhau: 0,205 * 0,6 * 0,173 + 0,195 * 0,648 * 0,201 ~= 0,0466. Vì vậy, nếu bạn phải quyên góp 100 đô la để thưởng cho tất cả những người đóng góp cho triết lý của Ethereum, các nhà chính phủ nhỏ tự do và những người vô chính phủ sẽ nhận được 4,66 đô la theo vòng tài trợ sâu mô phỏng này.
Cách tiếp cận này nhằm áp dụng cho những lĩnh vực mà công việc được xây dựng dựa trên công việc trước đó và có mức độ rõ ràng về cấu trúc cao. Học viện (nghĩ: đồ thị trích dẫn) và phần mềm nguồn mở (nghĩ: phụ thuộc thư viện và fork) là hai ví dụ tự nhiên.
Một mục tiêu của một hệ thống tài trợ độ sâu hoạt động tốt là tạo và duy trì một đồ thị toàn cầu, trong đó bất kỳ nhà tài trợ nào quan tâm đến việc hỗ trợ một dự án cụ thể đều có thể gửi tiền vào địa chỉ đại diện cho nút đó, tiền sẽ tự động lan truyền theo trọng số cạnh của đồ thị đến các phần tử phụ thuộc của nó (và đệ quy đến các phần tử phụ thuộc của chúng và cứ tiếp tục như vậy).
Bạn có thể tưởng tượng một giao thức phi tập trung sử dụng cơ chế tài trợ sâu tích hợp để phát hành token của mình: quản trị phi tập trung trong giao thức sẽ chọn một hội đồng xét xử, hội đồng sẽ vận hành cơ chế tài trợ sâu, vì giao thức sẽ tự động phát hành token và lưu trữ chúng trong các nút tương ứng với chính nó. Bằng cách này, giao thức sẽ thưởng cho tất cả người đóng góp trực tiếp và gián tiếp theo cách lập trình, gợi nhớ về cách mà Bitcoin hoặc Ethereum thưởng cho một loại người đóng góp cụ thể (người đào). Bằng cách ảnh hưởng trọng số cạnh, hội đồng xét xử có thể liên tục định nghĩa loại người đóng góp mà nó coi trọng. Cơ chế này có thể được sử dụng như một phương án phi tập trung và bền vững dài hạn thay thế cho khai thác, bán hàng hoặc việc phát tặng một lần.
Tăng cường quyền riêng tư
Thường thì, để đưa ra nhận định chính xác về vấn đề trong ví dụ trên, cần phải có khả năng truy cập thông tin cá nhân: lịch sử trò chuyện nội bộ của tổ chức, thông tin được gửi bí mật từ các thành viên cộng đồng, v.v. Một lợi ích của việc "chỉ sử dụng một AI duy nhất", đặc biệt là trong môi trường quy mô nhỏ, là làm cho việc cho một AI truy cập thông tin dễ chấp nhận hơn so với việc công khai thông tin cho tất cả mọi người.
Để giúp con người trong việc đánh giá hoặc hỗ trợ sâu hơn trong những tình huống này, chúng ta có thể thử nghiệm việc sử dụng công nghệ mật mã để cho phép trí tuệ nhân tạo truy cập thông tin cá nhân một cách an toàn. Ý tưởng này là sử dụng tính toán đa bên (MPC), mật mã đồng dạng hoàn toàn (FHE), môi trường thực thi đáng tin cậy (TEE) hoặc cơ chế tương tự để cung cấp thông tin cá nhân, nhưng chỉ khi kết quả duy nhất của nó được trực tiếp đưa vào cơ chế "nộp danh sách đầy đủ".
Nếu bạn làm điều đó, thì bạn sẽ phải giới hạn tập hợp các cơ chế cho các mô hình AI (không phải con người hoặc sự kết hợp AI + của con người, vì bạn không thể khiến con người xem dữ liệu) và cụ thể cho các mô hình chạy trên một số chất nền cụ thể (ví dụ: MPC, FHE, phần cứng đáng tin cậy). Một trong những hướng nghiên cứu chính là tìm ra các phiên bản thực tế có hiệu quả và đủ ý nghĩa trong tương lai gần.
Ưu điểm thiết kế động cơ + vô lăng
Thiết kế như vậy mang lại nhiều lợi ích đáng mong đợi. Đến nay, lợi ích quan trọng nhất là chúng cho phép xây dựng DAO, để người cử tri nhân loại kiểm soát hướng đi, nhưng họ không bị quấy rối bởi quá nhiều quyết định. Chúng đạt được sự cân nhắc, mọi người không cần phải đưa ra N quyết định, nhưng quyền lực họ có không chỉ là việc đưa ra một quyết định (thường là cách thức giao phó hoạt động), mà còn có thể kích hoạt những ưu tiên phong phú khó diễn đạt trực tiếp.
Ngoài ra, một cơ chế như vậy dường như có một đặc tính làm mịn khuyến khích. Ý tôi là "làm mịn khuyến khích" ở đây là sự kết hợp của hai yếu tố:
Khuếch tán: Bất kỳ hành động đơn lẻ nào được thực hiện bởi cơ chế bỏ phiếu sẽ không có tác động quá mức đến lợi ích của bất kỳ người tham gia nào.
Hỗn loạn: Mối liên hệ giữa quyết định bỏ phiếu và cách chúng ảnh hưởng đến lợi ích của người tham gia trở nên phức tạp và khó tính hơn.
Các thuật ngữ xáo trộn và khuếch tán ở đây được lấy từ mật mã, là các thuộc tính chính của bảo mật mật mã và hàm băm.
Một ví dụ điển hình về việc làm dịu ưu đãi trong thế giới thực ngày nay là pháp quyền: thay vì thường xuyên thực hiện các hành động dưới hình thức "200 triệu đô la cho công ty của Alice", "100 triệu đô la cho công ty của Bob" một cách thường xuyên, cấp cao nhất của chính phủ thông qua các quy tắc được thiết kế để áp dụng đồng đều cho một số lượng lớn người tham gia, sau đó được giải thích bởi một nhóm diễn viên khác. Khi cách tiếp cận này hoạt động, lợi ích là nó làm giảm đáng kể lợi ích của hối lộ và các hình thức tham nhũng khác. Khi nó bị vi phạm, thường xảy ra trong thực tế, những vấn đề này nhanh chóng được phóng đại đáng kể.
AI 明显 sẽ trở thành một phần quan trọng của tương lai, điều này không thể tránh khỏi sẽ trở thành một phần quan trọng của việc quản trị trong tương lai. Tuy nhiên, nếu bạn cho phép AI tham gia vào việc quản trị, điều này có những rủi ro rõ rệt: AI có thể bị thiên vị, nó có thể bị cố ý phá hoại trong quá trình đào tạo, và công nghệ AI phát triển nhanh chóng đến mức "cho phép AI thống trị" có thể thực sự có nghĩa là "cho phép những người có trách nhiệm nâng cấp AI thống trị". Sự phân loại của quyết định của con người cung cấp một con đường thay thế để tiến lên, cho phép chúng ta có thể sử dụng sức mạnh của AI theo cách thị trường tự do mở, đồng thời duy trì sự kiểm soát dân chủ của con người.
Đặc biệt cảm ơn sự phản hồi và xem xét của Devansh Mehta, Davide Crapis và Julian Zawistowski, cũng như cuộc thảo luận với Tina Zhen, Shaw Walters và những người khác.