Tout le monde sait que le plus grand obstacle à l'application des grands modèles d'IA dans des domaines verticaux tels que la finance, la santé ou le droit est un seul problème : le problème des « hallucinations » dans les résultats produits par l'IA, qui ne correspondent pas aux besoins de précision des scénarios d'application réels. Comment résoudre cela ? Récemment, @Mira_Network a lancé un réseau de test public et a proposé une solution. Je vais vous expliquer de quoi il s'agit :
Tout d'abord, les outils de grands modèles d'IA présentent des cas d'« hallucination », ce dont tout le monde peut avoir conscience, principalement pour deux raisons :
Les données d'entraînement des LLMs d'IA ne sont pas suffisamment complètes, bien que la taille des données soit déjà très grande, elles ne peuvent toujours pas couvrir certaines informations de niche ou de domaine professionnel, ce qui conduit l'IA à faire des "complétions créatives" et à provoquer ainsi certaines erreurs de temporalité.
Les LLMs AI dépendent essentiellement de l'« échantillonnage probabiliste », qui reconnaît les modèles statistiques et les corrélations dans les données d'entraînement, et non la véritable « compréhension ». Par conséquent, le caractère aléatoire de l'échantillonnage probabiliste, l'incohérence des résultats d'entraînement et d'inférence, etc., peuvent entraîner des biais chez l'IA lors du traitement de questions factuelles à haute précision.
Comment résoudre ce problème ? La plateforme ArXiv de l'Université Cornell a publié un article sur une méthode qui améliore la fiabilité des résultats des LLMs en utilisant plusieurs modèles pour une validation conjointe.
En termes simples, cela signifie d'abord laisser le modèle principal générer des résultats, puis d'intégrer plusieurs modèles de validation pour effectuer une « analyse de vote majoritaire » sur la question, afin de réduire les « hallucinations » produites par le modèle.
Il a été constaté lors d'une série de tests que cette méthode peut augmenter la précision des sorties de l'IA à 95,6 %.
Dans ce cas, une plate-forme de vérification distribuée est absolument nécessaire pour gérer et vérifier le processus d’interaction collaborative entre le modèle maître et le modèle de vérification, et Mira Network est un tel réseau middleware spécialisé dans la création de vérifications LLM d’IA, la construction d’une couche de vérification fiable entre les utilisateurs et le modèle d’IA sous-jacent.
Avec l'existence de ce réseau de couche de validation, il est possible de réaliser des services intégrés, y compris la protection de la vie privée, la garantie d'exactitude, un design évolutif, et des interfaces API standardisées. Cela permet d'élargir les possibilités d'application de l'IA dans divers scénarios d'application en réduisant les hallucinations générées par les LLMs AI. C'est également une pratique de la manière dont le réseau de validation distribué Crypto peut intervenir dans le processus de mise en œuvre des LLMs AI.
Par exemple, Mira Network a partagé plusieurs cas dans les domaines de la finance, de l'éducation et de l'écosystème blockchain qui peuvent le prouver :
Gigabrain, une plateforme de trading intégrant Mira, permet au système d'ajouter une couche de validation pour l'exactitude des analyses de marché et des prévisions, filtrant les conseils peu fiables, ce qui peut améliorer la précision des signaux de trading AI, rendant les LLMs AI plus fiables dans les scénarios DeFi.
Learnrite utilise mira pour vérifier les questions d'examen standardisées générées par l'IA, permettant ainsi aux établissements d'enseignement d'exploiter massivement le contenu généré par l'IA, tout en préservant l'exactitude du contenu des tests éducatifs afin de maintenir des normes éducatives strictes.
Le projet Blockchain Kernel utilise le mécanisme de consensus LLM de Mira pour l'intégrer dans l'écosystème BNB, créant ainsi un réseau de validation décentralisé (DVN), garantissant un certain niveau de précision et de sécurité dans l'exécution des calculs AI sur la blockchain.
C'est tout.
En fait, Mira Network propose un service de réseau de consensus middleware, ce n'est certainement pas le seul moyen d'améliorer les capacités des applications AI. En réalité, il existe d'autres voies possibles telles que l'amélioration par l'entraînement des données, l'amélioration par l'interaction avec de grands modèles multimodaux, ainsi que l'amélioration par le calcul privé à l'aide de techniques cryptographiques potentielles telles que ZKP, FHE, TEE, etc. Cependant, par rapport à cela, la solution de Mira se distingue par sa mise en œuvre rapide et son impact direct.
Voir l'original
Le contenu est fourni à titre de référence uniquement, il ne s'agit pas d'une sollicitation ou d'une offre. Aucun conseil en investissement, fiscalité ou juridique n'est fourni. Consultez l'Avertissement pour plus de détails sur les risques.
Le réseau Mira peut-il résoudre le problème des "hallucinations" des grands modèles d'IA ?
Rédigé par : Haotian
Tout le monde sait que le plus grand obstacle à l'application des grands modèles d'IA dans des domaines verticaux tels que la finance, la santé ou le droit est un seul problème : le problème des « hallucinations » dans les résultats produits par l'IA, qui ne correspondent pas aux besoins de précision des scénarios d'application réels. Comment résoudre cela ? Récemment, @Mira_Network a lancé un réseau de test public et a proposé une solution. Je vais vous expliquer de quoi il s'agit :
Tout d'abord, les outils de grands modèles d'IA présentent des cas d'« hallucination », ce dont tout le monde peut avoir conscience, principalement pour deux raisons :
Les données d'entraînement des LLMs d'IA ne sont pas suffisamment complètes, bien que la taille des données soit déjà très grande, elles ne peuvent toujours pas couvrir certaines informations de niche ou de domaine professionnel, ce qui conduit l'IA à faire des "complétions créatives" et à provoquer ainsi certaines erreurs de temporalité.
Les LLMs AI dépendent essentiellement de l'« échantillonnage probabiliste », qui reconnaît les modèles statistiques et les corrélations dans les données d'entraînement, et non la véritable « compréhension ». Par conséquent, le caractère aléatoire de l'échantillonnage probabiliste, l'incohérence des résultats d'entraînement et d'inférence, etc., peuvent entraîner des biais chez l'IA lors du traitement de questions factuelles à haute précision.
Comment résoudre ce problème ? La plateforme ArXiv de l'Université Cornell a publié un article sur une méthode qui améliore la fiabilité des résultats des LLMs en utilisant plusieurs modèles pour une validation conjointe.
En termes simples, cela signifie d'abord laisser le modèle principal générer des résultats, puis d'intégrer plusieurs modèles de validation pour effectuer une « analyse de vote majoritaire » sur la question, afin de réduire les « hallucinations » produites par le modèle.
Il a été constaté lors d'une série de tests que cette méthode peut augmenter la précision des sorties de l'IA à 95,6 %.
Dans ce cas, une plate-forme de vérification distribuée est absolument nécessaire pour gérer et vérifier le processus d’interaction collaborative entre le modèle maître et le modèle de vérification, et Mira Network est un tel réseau middleware spécialisé dans la création de vérifications LLM d’IA, la construction d’une couche de vérification fiable entre les utilisateurs et le modèle d’IA sous-jacent.
Avec l'existence de ce réseau de couche de validation, il est possible de réaliser des services intégrés, y compris la protection de la vie privée, la garantie d'exactitude, un design évolutif, et des interfaces API standardisées. Cela permet d'élargir les possibilités d'application de l'IA dans divers scénarios d'application en réduisant les hallucinations générées par les LLMs AI. C'est également une pratique de la manière dont le réseau de validation distribué Crypto peut intervenir dans le processus de mise en œuvre des LLMs AI.
Par exemple, Mira Network a partagé plusieurs cas dans les domaines de la finance, de l'éducation et de l'écosystème blockchain qui peuvent le prouver :
Gigabrain, une plateforme de trading intégrant Mira, permet au système d'ajouter une couche de validation pour l'exactitude des analyses de marché et des prévisions, filtrant les conseils peu fiables, ce qui peut améliorer la précision des signaux de trading AI, rendant les LLMs AI plus fiables dans les scénarios DeFi.
Learnrite utilise mira pour vérifier les questions d'examen standardisées générées par l'IA, permettant ainsi aux établissements d'enseignement d'exploiter massivement le contenu généré par l'IA, tout en préservant l'exactitude du contenu des tests éducatifs afin de maintenir des normes éducatives strictes.
Le projet Blockchain Kernel utilise le mécanisme de consensus LLM de Mira pour l'intégrer dans l'écosystème BNB, créant ainsi un réseau de validation décentralisé (DVN), garantissant un certain niveau de précision et de sécurité dans l'exécution des calculs AI sur la blockchain.
C'est tout.
En fait, Mira Network propose un service de réseau de consensus middleware, ce n'est certainement pas le seul moyen d'améliorer les capacités des applications AI. En réalité, il existe d'autres voies possibles telles que l'amélioration par l'entraînement des données, l'amélioration par l'interaction avec de grands modèles multimodaux, ainsi que l'amélioration par le calcul privé à l'aide de techniques cryptographiques potentielles telles que ZKP, FHE, TEE, etc. Cependant, par rapport à cela, la solution de Mira se distingue par sa mise en œuvre rapide et son impact direct.