El fundador de Wikipedia enfrenta a Musk, diciendo que Grokipedia es demasiado alabada y difícil de confiar.

El fundador de Wikipedia, Jimmy Wales, durante una entrevista en CNBC el 28/10, expresó serias dudas sobre la nueva plataforma de conocimiento AI Grokipedia de Elon Musk. Señaló que Grokipedia aún no es capaz de generar contenido enciclopédico confiable y enfatizó que este tipo de modelos de IA están destinados a cometer un montón de errores graves.

Musk lanzó Grokipedia, Gales echó agua fría en el acto.

En cuanto al reciente lanzamiento de la plataforma de consulta de conocimientos AI Grokipedia por parte de Musk, que afirma que va a crear un sistema de enciclopedia AI más completo y preciso que Wikipedia, Wales respondió directamente echando un jarro de agua fría diciendo:

“No creo que ahora pueda crear algo útil.”

Él señaló que la precisión de los modelos de IA actualmente no es suficiente, y que estos LLM utilizados para escribir contenido enciclopédico acabarán cometiendo un montón de errores.

Respondiendo a las acusaciones de despertar, insinuando que el contenido de Grokipedia adula a Musk

En respuesta a las repetidas críticas de Musk sobre que Wikipedia tiene “sesgo liberal”, Wales respondió:

“Él está equivocado. Solo valoramos las fuentes convencionales, no hay nada de qué disculparse. No vamos a poner a los locos de Internet que hablan sin fundamento al mismo nivel que el New England Journal of Medicine. Esto no es despertar, es un juicio básico de conocimiento. También seremos tan radicales como para citar al New York Times.”

Wales confesó que en realidad no ha tenido tiempo para ver realmente el contenido de Grokipedia, pero ha oído que hay muchas palabras elogiando el genio de Musk, y dijo sarcásticamente: “Entonces creo que esto debe ser muy neutral.”

Wales da ejemplos para ilustrar que el contenido generado por LLM está lleno de errores.

Wales luego presentó algunos casos reales para explicar por qué no cree que LLM pueda crear una base de conocimientos confiable:

Confundir la identidad de su esposa: él dice que a menudo utiliza varios chatbots de IA para probar la capacidad de búsqueda, como preguntar “¿Quién es mi esposa?” este tipo de preguntas poco comunes. Como resultado, cada vez la IA da respuestas que suenan razonables pero son completamente incorrectas.

Cita de un libro ficticio: Mencionó que un miembro de la comunidad de Wikipedia en Alemania había desarrollado un programa para verificar el número estándar internacional de libros (ISBN), y resultó que no se podía encontrar la información citada por los usuarios. Al final, ese usuario admitió que lo había consultado en ChatGPT, que estará muy contento de ayudarte a escribir un libro.

La IA no puede reemplazar el mecanismo de confianza de la comunidad humana, solo puede desempeñar un papel de apoyo.

Wales señala que Wikipedia, gracias al mecanismo de confianza acumulado por voluntarios de todo el mundo durante más de veinte años, no puede ser reemplazada en corto tiempo por la IA. Mencionó que el costo tecnológico de Wikipedia es de aproximadamente 175 millones de dólares al año, mientras que solo el gasto de las grandes empresas tecnológicas en IA se calcula en “cientos de miles de millones” de dólares. Se lamenta:

“El dinero puede gastarse mucho, pero la IA no necesariamente puede construir confianza.”

A pesar de las críticas de Wales, que son bastante agudas, también reconoce que la IA puede ser útil en ciertos ámbitos. Él mencionó que el equipo de Wikipedia está actualmente probando la asistencia de la IA para buscar fuentes confiables o ayudar a completar la información que falta en el contenido. Sin embargo, también añadió que el costo de crear su propio LLM es demasiado alto, por lo que no se realizarán inversiones formales por el momento.

Enfatiza que la Fundación Wikimedia mantiene la neutralidad y no puede convertirse en Wokepedia.

Wales enfatizó que las críticas externas en realidad recordaron al equipo de Wikipedia que debe mantener una mayor neutralidad y ser más riguroso con las fuentes. También advirtió a su propio equipo que no permita que Wikipedia se convierta en una versión “Wokepedia” consciente, que no es lo que la gente quiere y también socavaría la confianza.

Wales cree que en el futuro, los LLM podrán generar sitios web falsos y contenido falso que parezcan razonables, y muchas personas serán engañadas. Pero enfatiza que la comunidad de Wikipedia, perfeccionada durante 25 años, no es fácil de engañar, él afirma:

“Estos modelos pueden engañar al público, pero no a nuestra comunidad.”

La IA se volvería loca si solo aprende de Twitter; mantener la verdadera neutralidad es lo más importante.

Finalmente, Wales concluyó diciendo:

“Cuando la gente se queja de los errores de ChatGPT, imagina si la IA solo utilizara Twitter (X) como fuente de referencia de datos, sería una IA loca, llena de ira y disparates.”

Él también recuerda al público que el verdadero desafío no es solo la IA, sino cómo mantenemos la realidad y la neutralidad.

(Musk lanza Grokipedia: el nuevo generador de verdades AI que desafía a Wikipedia)

Este artículo sobre el fundador de Wikipedia que se enfrenta a Musk, dice que Grokipedia es demasiado alabada y difícil de confiar, apareció por primera vez en Chain News ABMedia.