Todos son conscientes de que el mayor obstáculo para la implementación de grandes modelos de IA en aplicaciones verticales como finanzas, salud y derecho es un único problema: la "ilusión" de los resultados generados por la IA que no puede coincidir con la precisión requerida en escenarios de aplicación reales. ¿Cómo resolverlo? Recientemente, @Mira_Network lanzó una red de pruebas pública, ofreciendo una solución, déjenme explicar de qué se trata:
Primero, las herramientas de modelos de IA a gran escala presentan situaciones de "alucinación", algo que todos pueden percibir, y las razones principales son dos:
Los datos de entrenamiento de los LLMs de IA no son lo suficientemente completos. A pesar de que la cantidad de datos es enorme, aún no pueden cubrir información de algunos campos de nicho o especializados. En este caso, la IA tiende a hacer "completaciones creativas", lo que puede llevar a algunos errores en tiempo real.
Los modelos de lenguaje de IA (LLMs) dependen esencialmente del "muestreo probabilístico", que se basa en reconocer patrones estadísticos y correlaciones en los datos de entrenamiento, y no en una verdadera "comprensión". Por lo tanto, la aleatoriedad del muestreo probabilístico, la inconsistencia de los resultados de entrenamiento y razonamiento, entre otros, pueden llevar a que la IA presente sesgos al abordar problemas de hechos de alta precisión.
¿Cómo resolver este problema? Se ha publicado un artículo en la plataforma ArXiv de la Universidad de Cornell que verifica mediante múltiples modelos un método para mejorar la fiabilidad de los resultados de los LLMs.
Una comprensión simple es que primero se permite que el modelo principal genere resultados, y luego se integran múltiples modelos de verificación para realizar un "análisis de votación mayoritaria" sobre el problema, lo que puede reducir las "ilusiones" producidas por el modelo.
En una serie de pruebas se encontró que este método puede aumentar la precisión de la salida de IA hasta el 95.6%.
Dado que es así, definitivamente se necesita una plataforma de verificación distribuida para gestionar y validar el proceso de interacción colaborativa entre el modelo principal y los modelos de verificación. Mira Network es una red de middleware diseñada específicamente para la verificación de AI LLMs, que construye una capa de verificación confiable entre los usuarios y los modelos de IA básicos.
Con la existencia de esta red de capa de verificación, se pueden implementar servicios integrados que incluyen protección de la privacidad, garantía de precisión, diseño escalable, interfaces API estandarizadas, entre otros. Esto puede ampliar la posibilidad de implementación de la IA en varios escenarios de aplicación mediante la reducción de las ilusiones generadas por los LLMs de IA, y también es una práctica de cómo la red de verificación distribuida de Crypto puede intervenir en el proceso de implementación de LLMs de IA.
Por ejemplo, Mira Network compartió varios casos en finanzas, educación y el ecosistema blockchain que pueden corroborar:
Gigabrain, una plataforma de intercambio que integra a Mira, puede añadir una capa de verificación a la precisión del análisis y las predicciones del mercado, filtrando las recomendaciones poco fiables, lo que puede aumentar la precisión de las señales de trading de IA, haciendo que los LLMs de IA sean un poco más confiables en el escenario DeFai;
Learnrite utiliza mira para verificar las preguntas de examen estandarizadas generadas por AI, permitiendo que las instituciones educativas utilicen masivamente contenido generado por AI, sin afectar la precisión del contenido de las pruebas educativas, para mantener estándares educativos estrictos;
El proyecto blockchain Kernel utiliza el mecanismo de consenso LLM de Mira para integrarse en el ecosistema BNB, creando una red de validación descentralizada (DVN), lo que garantiza en cierta medida la precisión y seguridad de la ejecución de cálculos de IA en la blockchain.
Eso es todo.
En realidad, Mira Network ofrece un servicio de red de consenso de middleware, definitivamente no es el único camino para mejorar las capacidades de las aplicaciones de IA. De hecho, hay rutas opcionales como el fortalecimiento a través del entrenamiento en el lado de los datos, el fortalecimiento a través de la interacción con modelos grandes multimodales, y el fortalecimiento de cálculos de privacidad a través de tecnologías criptográficas potenciales como ZKP, FHE, TEE, etc. Sin embargo, en comparación, la solución de Mira se destaca por su rápida implementación práctica y resultados directos.
Ver originales
El contenido es solo de referencia, no una solicitud u oferta. No se proporciona asesoramiento fiscal, legal ni de inversión. Consulte el Descargo de responsabilidad para obtener más información sobre los riesgos.
¿Puede Mira Network resolver el problema de "alucinaciones" de los grandes modelos de IA?
Escrito por: Haotian
Todos son conscientes de que el mayor obstáculo para la implementación de grandes modelos de IA en aplicaciones verticales como finanzas, salud y derecho es un único problema: la "ilusión" de los resultados generados por la IA que no puede coincidir con la precisión requerida en escenarios de aplicación reales. ¿Cómo resolverlo? Recientemente, @Mira_Network lanzó una red de pruebas pública, ofreciendo una solución, déjenme explicar de qué se trata:
Primero, las herramientas de modelos de IA a gran escala presentan situaciones de "alucinación", algo que todos pueden percibir, y las razones principales son dos:
Los datos de entrenamiento de los LLMs de IA no son lo suficientemente completos. A pesar de que la cantidad de datos es enorme, aún no pueden cubrir información de algunos campos de nicho o especializados. En este caso, la IA tiende a hacer "completaciones creativas", lo que puede llevar a algunos errores en tiempo real.
Los modelos de lenguaje de IA (LLMs) dependen esencialmente del "muestreo probabilístico", que se basa en reconocer patrones estadísticos y correlaciones en los datos de entrenamiento, y no en una verdadera "comprensión". Por lo tanto, la aleatoriedad del muestreo probabilístico, la inconsistencia de los resultados de entrenamiento y razonamiento, entre otros, pueden llevar a que la IA presente sesgos al abordar problemas de hechos de alta precisión.
¿Cómo resolver este problema? Se ha publicado un artículo en la plataforma ArXiv de la Universidad de Cornell que verifica mediante múltiples modelos un método para mejorar la fiabilidad de los resultados de los LLMs.
Una comprensión simple es que primero se permite que el modelo principal genere resultados, y luego se integran múltiples modelos de verificación para realizar un "análisis de votación mayoritaria" sobre el problema, lo que puede reducir las "ilusiones" producidas por el modelo.
En una serie de pruebas se encontró que este método puede aumentar la precisión de la salida de IA hasta el 95.6%.
Dado que es así, definitivamente se necesita una plataforma de verificación distribuida para gestionar y validar el proceso de interacción colaborativa entre el modelo principal y los modelos de verificación. Mira Network es una red de middleware diseñada específicamente para la verificación de AI LLMs, que construye una capa de verificación confiable entre los usuarios y los modelos de IA básicos.
Con la existencia de esta red de capa de verificación, se pueden implementar servicios integrados que incluyen protección de la privacidad, garantía de precisión, diseño escalable, interfaces API estandarizadas, entre otros. Esto puede ampliar la posibilidad de implementación de la IA en varios escenarios de aplicación mediante la reducción de las ilusiones generadas por los LLMs de IA, y también es una práctica de cómo la red de verificación distribuida de Crypto puede intervenir en el proceso de implementación de LLMs de IA.
Por ejemplo, Mira Network compartió varios casos en finanzas, educación y el ecosistema blockchain que pueden corroborar:
Gigabrain, una plataforma de intercambio que integra a Mira, puede añadir una capa de verificación a la precisión del análisis y las predicciones del mercado, filtrando las recomendaciones poco fiables, lo que puede aumentar la precisión de las señales de trading de IA, haciendo que los LLMs de IA sean un poco más confiables en el escenario DeFai;
Learnrite utiliza mira para verificar las preguntas de examen estandarizadas generadas por AI, permitiendo que las instituciones educativas utilicen masivamente contenido generado por AI, sin afectar la precisión del contenido de las pruebas educativas, para mantener estándares educativos estrictos;
El proyecto blockchain Kernel utiliza el mecanismo de consenso LLM de Mira para integrarse en el ecosistema BNB, creando una red de validación descentralizada (DVN), lo que garantiza en cierta medida la precisión y seguridad de la ejecución de cálculos de IA en la blockchain.
Eso es todo.
En realidad, Mira Network ofrece un servicio de red de consenso de middleware, definitivamente no es el único camino para mejorar las capacidades de las aplicaciones de IA. De hecho, hay rutas opcionales como el fortalecimiento a través del entrenamiento en el lado de los datos, el fortalecimiento a través de la interacción con modelos grandes multimodales, y el fortalecimiento de cálculos de privacidad a través de tecnologías criptográficas potenciales como ZKP, FHE, TEE, etc. Sin embargo, en comparación, la solución de Mira se destaca por su rápida implementación práctica y resultados directos.