Vitalik : Utiliser des LLM personnels pour résoudre le problème d'attention dans la gouvernance décentralisée

Le 21 février, Vitalik, le fondateur d’Ethereum, a déclaré que la gouvernance par intelligence artificielle est dystopique : une intelligence artificielle faible entraînerait le chaos, tandis qu’une intelligence artificielle puissante pourrait avoir des conséquences catastrophiques. Mais si l’intelligence artificielle est utilisée de manière appropriée, elle peut donner du pouvoir aux humains et favoriser le développement de modèles de gouvernance décentralisée. Le problème central des modèles de gouvernance décentralisée (y compris les DAO sur Ethereum) réside dans les limites de l’attention humaine : il faut prendre des milliers de décisions dans de nombreux domaines spécialisés, et la majorité des personnes n’ont ni le temps ni la capacité de devenir experts dans l’un ou l’autre de ces domaines, sans parler de maîtriser tous les domaines. La solution habituelle consiste à déléguer, mais cela peut en fait affaiblir le pouvoir. On peut utiliser des LLM personnels pour résoudre le problème d’attention, de la manière suivante :
Agent de gouvernance personnel : si le mécanisme de gouvernance nécessite que l’utilisateur prenne de nombreuses décisions, un agent personnel peut, en se basant sur ses écrits, ses dialogues et ses déclarations directes, inférer ses préférences et voter en son nom pour toutes les décisions nécessaires.
Agent de dialogue public : prendre de bonnes décisions ne peut souvent pas se faire uniquement par un processus linéaire, c’est-à-dire recueillir les opinions des gens basées sur leurs informations personnelles et faire une moyenne (même une moyenne quadratique). Il faut un processus capable de résumer les informations de nombreux utilisateurs, puis donner à chacun (ou à leur LLM) la possibilité de répondre en fonction de ces informations.
Marché de prédiction : si le mécanisme de gouvernance valorise tout type d’« entrée de haute qualité » (qui peut être une proposition, voire un argument), alors il est possible de créer un marché de prédiction. N’importe qui peut soumettre une entrée, et une intelligence artificielle peut parier sur des jetons représentant cette entrée. Si le mécanisme « accepte » cette entrée, il versera un montant X dollars aux détenteurs de jetons.