La conciencia es un atavismo - ForkLog: criptomonedas, IA, singularidad, futuro

# La conciencia — unatavismo

Lo que nos enseña la novela de Peter Watts «Ceguera falsa»

En la novela «Ceguera falsa», el biólogo y escritor canadiense Peter Watts propuso una hipótesis radical: la mente puede ser efectiva sin conciencia. Casi 20 años después de la publicación del libro, esta tesis describe con precisión la inteligencia artificial generativa.

Analizamos por qué «inteligente» no equivale a «comprensivo» y qué errores cometemos al humanizar los algoritmos.

Novela de 2006, que se convirtió en comentario a 2020

«Ceguera falsa» fue publicada en octubre de 2006. La novela fue nominada al premio Hugo en 2007 y fue finalista de los premios de John Campbell y «Locus».

Su autor es un biólogo marino de la Universidad de Columbia Británica, con doctorado en zoología y ecología de recursos. En la novela, citó más de 130 referencias a trabajos científicos, empaquetados en una trama de ciencia ficción sobre el primer contacto. En los años 2000, el libro seguía siendo de nicho, clasificado como ciencia ficción «dura», con un estilo pesado y una visión sombría de la naturaleza humana. Los críticos destacaban su prosa impenetrable y la frialdad emocional del relato.

La idea de la novela se basa en la separación de dos conceptos a menudo vinculados: inteligencia como capacidad para resolver problemas, procesar información, y conciencia como comprensión subjetiva, sensación de «qué se siente al ser» algo, como formuló el filósofo Thomas Nagel.

Watts plantea una hipótesis provocadora: la conciencia es una propiedad evolutivamente redundante, un subproducto, y no una condición necesaria para la inteligencia.

La novela explora esta intuición a través de varias líneas argumentales. Los cifradores — seres extraterrestres en la nave «Rorschach» — poseen una inteligencia mucho mayor que la humana. Analizan la actividad neuronal de la tripulación y resuelven tareas complejas. Pero no tienen experiencia subjetiva. No saben que existen. Como lo formula Watts con uno de los personajes:

«Imagina que eres un cifrador. Imagina que tienes una mente, pero no razón, tienes tareas, pero no conciencia. Tus nervios zumban por programas de supervivencia y autoprotección, flexibles, autogestionados, incluso tecnológicos, — pero no hay sistema que los supervise. Puedes pensar en cualquier cosa, pero no eres consciente de nada».

El protagonista y narrador, Siri Kiton, es un humano que en su infancia sufrió una hemisferectomía para tratar la epilepsia. Es capaz de modelar con precisión el comportamiento de otros, pero carece de empatía y experiencia emocional genuina. Su papel es el de un sintetizador, un traductor de datos complejos para el centro de control: transforma información sin tener una relación personal con ella. Kiton reconoce:

«No es mi trabajo entender. Para empezar, si pudiera entenderlos, no serían logros tan avanzados. Simplemente, podría decirse — soy un conductor».

La tercera línea es la vampira Yukka Sarasti, un depredador neandertal genéticamente resucitado del Pleistoceno con una inteligencia superior a la humana. Los vampiros pueden ver simultáneamente ambos lados del cubo de Nekkér — operar con múltiples modelos cognitivos en paralelo.

Exceso consciente

Detrás de cada uno de estos personajes hay una base filosófica real. La concepción de los zombis filosóficos, introducida por Robert Kirk en 1974 y popularizada por David Chalmers en su libro «La mente consciente» (1996), describe una criatura hipotética, físicamente idéntica a un humano, pero sin experiencia subjetiva. Los cifradores son una radicalización de esta idea: no una copia de un humano sin conciencia, sino una forma de inteligencia fundamentalmente distinta.

Chalmers formuló en 1995 la «difícil problema de la conciencia»: ¿por qué los procesos físicos en el cerebro generan experiencia subjetiva? Incluso si explicamos completamente todas las funciones cognitivas — atención, categorización, procesamiento de información — queda la pregunta: ¿por qué su ejecución se acompaña de sensación? «Ceguera falsa» toma este problema y lo invierte: ¿y si la respuesta es que no se necesita ninguna sensación?

Watts describió el origen de la idea así: buscaba una explicación funcional de la conciencia y aplicaba la misma prueba a cada posible función — ¿puede un sistema inconsciente hacer lo mismo? La respuesta siempre fue «sí». Entonces comprendió que una conclusión más poderosa era que la función en sí misma puede estar ausente. En el posfacio de la novela, Watts resume: la conciencia en condiciones cotidianas apenas ocupa su tiempo, aparte de «recibir notas de servicio del nivel subconsciente mucho más inteligente, que la revisa y atribuye toda la gloria a sí misma».

Mucho antes de Watts, el filósofo noruego Peter Vessell Zaffé formuló la idea de la conciencia como una «sobredosis» evolutiva. En su ensayo «El último mesías» (1933), comparó la mente humana con «algunos ciervos en tiempos paleontológicos» que murieron por tener «cuernos excesivamente pesados». Zaffé consideraba la conciencia como un exceso evolutivo: una capacidad que surgió más allá de la necesidad práctica, que pasó de ser una ventaja a una carga.

Pero si Watts demuestra que la conciencia no es necesaria para la inteligencia, el pensador noruego lleva la tesis a un nivel más radical: no solo es redundante, sino que es destructiva. Según él, a los humanos les toca «limitar artificialmente el contenido de la conciencia» para no caer en un estado de «pánico cósmico» ante la comprensión de su finitud.

El filósofo David Rosenthal llegó a una conclusión similar. En un artículo de 2008, mostró que la conciencia de los estados cognitivos no añade funciones significativas por encima de los procesos que los generan.

Eliza en la habitación china

En 1980, el filósofo John Searle publicó el experimento mental «La habitación china», que se hizo ampliamente conocido. Su esencia: una persona que no sabe chino, permanece en una habitación cerrada con un conjunto de reglas para manipular caracteres. Al recibir preguntas en chino, construye respuestas según esas reglas. El observador externo está seguro de que dentro alguien entiende chino. Pero la persona dentro no entiende nada. La conclusión de Searle: la sintaxis no es equivalente a la semántica. El procesamiento correcto de símbolos no significa comprensión de su significado.

Este experimento está directamente incorporado en la trama de «Ceguera falsa». Cuando la tripulación del «Teseo» establece contacto con «Rorschach», la nave alienígena responde en inglés idiomático. Al principio, esto se percibe como un avance — comunicación con una inteligencia extraterrestre. Pero la lingüista Susan James se da cuenta gradualmente: «Rorschach» aprendió inglés interceptando transmisiones humanas. Reúne y combina patrones lingüísticos. Produce respuestas gramatical y contextualmente correctas. Pero no entiende lo que dice.

Watts explica la idea a través de la explicación del propio Kiton:

«La clave está en que se puede comunicar usando los algoritmos más simples de análisis comparativo y sin tener la menor idea de lo que se dice. Si utilizas un conjunto suficientemente detallado de reglas, puedes pasar la prueba de Turing. Ser considerado un astuto y un charlatán, incluso sin saber el idioma en que te comunicas».

Si los LLM son la habitación china, ¿por qué millones de personas actúan como si detrás de la interfaz hubiera un ser comprensivo? La respuesta está en los sesgos cognitivos, desarrollados por la evolución.

En 1966, Joseph Weizenbaum, pionero en inteligencia artificial en MIT, creó ELIZA, un programa que utilizaba patrones simples para imitar a un psicoterapeuta. Reformulaba las réplicas del usuario en preguntas. El efecto sorprendió al propio creador: su asistente, que observaba el desarrollo, le pidió dejarla a solas con ELIZA después de unos minutos de interacción. Weizenbaum escribió después:

«No imaginaba que una interacción tan breve con un programa relativamente simple pudiera provocar un pensamiento delirante en personas completamente normales».

Este fenómeno se llamó «efecto Eliza»: la tendencia a atribuir comprensión a los sistemas informáticos que en realidad no la tienen. El efecto persiste incluso cuando el usuario sabe que está frente a un programa.

Es un sesgo cognitivo. Evolucionamos para reconocer a nuestros congéneres, y el lenguaje es uno de los marcadores diagnósticos más fuertes de pertenencia a Homo sapiens. Watts describe este mecanismo en la novela a través del personaje de Robert Canningham, que explica por qué un ser inconsciente será indistinguible de uno consciente:

«Un autómata inteligente se fusionará con el fondo, observará a su alrededor, imitará su comportamiento y actuará como una persona común. Y todo esto — sin ser consciente de lo que hace, sin siquiera ser consciente de su propia existencia».

El profesor de robótica cognitiva en el Imperial College de Londres y senior researcher en Google DeepMind, Murray Shanahan, advierte:

«El uso negligente de palabras filosóficamente cargadas como “cree” y “piensa” es especialmente problemático, porque oscurece el mecanismo y fomenta activamente la antropomorfización».

Los cifradores programan código

En 2024, Watts dijo en una entrevista a la revista Helice: «Hace 20 años predije cosas que están sucediendo hoy. Pero ahora no tengo idea de qué pasará en los próximos 20 años».

Una de las principales lecciones de la novela no es predecir tecnologías. Es una advertencia sobre la trampa cognitiva: la conciencia no es necesaria para la eficacia. Los cifradores resuelven tareas mejor que los humanos, sin tener experiencia subjetiva. Los LLM escriben código y traducen idiomas sin comprensión.

No antropomorfizamos porque la IA nos engañe, sino porque nuestro cerebro está programado para buscar inteligencia en el lenguaje. El efecto Eliza, descrito en 1966, ha sido amplificado varias veces por sistemas entrenados con miles de millones de textos.

La novela enseña a distinguir lo que hace el sistema de lo que es el sistema. La habilidad de no confundir imitación con comprensión sigue siendo una de las habilidades más valiosas. Watts formuló esta idea dos décadas antes de que la cuestión se volviera práctica.

Texto: Sasha Kosovan