意识——倒退现象 - ForkLog：加密货币、人工智能、奇点、未来

# 意识——逆淘汰现象

彼得·沃茨的小说《假性盲》教会了我们什么

在小说《假性盲》中，加拿大生物学家兼作家彼得·沃茨提出了一个激进的假设：没有意识，心智也可以高效运作。距离这本书出版已近20年，这一论点恰好描述了生成式人工智能。

我们来分析，为什么“聪明”不等于“理解”，以及我们在拟人化算法时犯的错误。

2006年的小说，成为2020年的评论

《假性盲》于2006年10月出版。2007年获得“休戈”奖提名，并成为约翰·坎贝尔奖和“洛克斯”奖的决赛作品。

作者是一位来自不列颠哥伦比亚大学的海洋生物学家，拥有动物学和资源生态学博士学位。在小说中，他引用了超过130篇科学论文，包裹在关于首次接触的科幻故事中。2000年代，这本书仍属于小众作品，属于“硬科幻”，风格沉重，对人性持悲观态度。评论界指出其晦涩的文笔和情感冷淡的叙事。

小说的思想基础是对两个常被混淆的概念的区分：作为解决问题和处理信息能力的“智能”，以及作为主观体验、感受“成为某物的感觉”的“意识”，正如哲学家托马斯·纳格尔所定义。

沃茨提出了一个挑衅性的假设：意识是一种进化上的多余属性，是副产品，而非智能的必要条件。

小说通过多个情节线探索这一直觉。“密码者”——“Rorschach”号飞船上的外星生物——拥有远超人类的智力。他们分析船员的神经活动，解决复杂难题，但没有主观体验。他们不知道自己存在。正如沃茨用其中一位角色的话表达的：

“想象一下，你是一个密码者。想象你有智慧，但没有理智；有任务，但没有意识。你的神经系统被生存和自我保护的程序充斥，灵活、自我调节，甚至技术化——但没有任何系统在监控它们。你可以思考任何事情，但什么都不意识到。”

主角兼叙述者西里·凯顿是一位曾在儿童时期接受半球切除术以治疗癫痫的人。他能准确模拟他人的行为，但缺乏同理心和真实的情感体验。他的角色是信息的合成者、翻译者，将复杂数据转化为控制中心的输入，他对信息没有个人感情。凯顿自己承认：

“这不是我理解的工作。首先，如果我能理解它们，那也不算多先进的成就。我只是个——怎么说呢——引导者。”

第三个角色是吸血鬼尤卡·萨拉斯蒂，一只经过基因复活的史前掠食者，智力超越人类。吸血鬼能同时看到“内克尔立方体”的两面——并行操作多个认知模型。

有意识的多余

这些角色背后都站着真实的哲学基础。由罗伯特·柯克在1974年提出、由戴维·查尔默斯在1996年出版的《有意识的心》中普及的“哲学僵尸”概念，描述一种假设的生物，物理上与人类相同，但缺乏主观体验。密码者是这一思想的激进化：不是没有意识的人类复制品，而是根本不同的智能形式。

查尔默斯在1995年提出了“难题意识”：为什么大脑中的物理过程会产生主观体验？即使我们完全解释了所有认知功能——注意力、分类、信息处理——仍有疑问：为何它们的执行伴随着感觉？《假性盲》提出了这个问题，并反转了它：如果答案是“根本不需要感觉”呢？

沃茨描述这一思想的起源：他长时间寻找意识的功能性解释，并对每一种可能的功能都用同一个测试——无意识系统是否能做同样的事——来检验。答案总是“可以”。于是他意识到，更强的结论是：根本没有功能。在小说的后记中，沃茨总结道：在日常条件下，意识几乎没有什么用处，除了“接受比自己更聪明的潜意识层发来的备忘录，审核并归功于自己”。

早在沃茨之前，挪威哲学家彼得·韦塞尔·查普夫就提出了意识作为一种“进化过度”的概念。在1933年的随笔《最后的弥赛亚》中，他将人类智慧比作“某些史前的鹿”因“过重的角”而灭绝。查普夫认为，意识类似于一种进化上的多余：一种超出实际需要的能力，已从优势变成了负担。

但如果沃茨证明了意识对智能来说不是必需的，那么挪威思想家的观点更为激进：它不仅是多余的，反而具有破坏性。根据他的看法，人类不得不“人为限制意识的内容”，以免陷入“对自身终结的宇宙恐慌”。

哲学家戴维·罗斯坦尔也得出了类似的结论。2008年的一篇文章显示，认知状态的意识性并不增加超出其产生的过程的任何重要功能。

中国房间中的伊丽莎

1980年，哲学家约翰·塞尔提出了著名的“中文房间”思想实验。其核心：一个不懂中文的人被关在封闭的房间里，手中拿着一套操作汉字的规则。接收中文问题后，他按规则组合出答案。外部观察者相信房间内有人理解中文，但实际上房间内的人一句也不懂。塞尔的结论是：语法不等于语义。正确的符号处理不代表理解其含义。

这一实验直接融入《假性盲》的情节。当“特伊莎”号船员与“Rorschach”接触时，外星飞船用地道的英语回答。起初，这被视为突破——与外星智慧的交流。但语言学家苏珊·詹姆斯逐渐意识到：“Rorschach”学会了英语，是通过截获人类的无线电信号。他收集并组合语言模式，产生语法正确、语境合理的回答，但不理解自己在说什么。

沃茨用凯顿的解释阐述了这一思想：

“关键在于，你可以用最简单的匹配算法进行交流，而完全不知道自己在说什么。如果你使用一套足够详细的规则，就能通过图灵测试。可以成为一个机智的调侃者，甚至在不懂所用语言的情况下也能聊天。”

如果LLM是中文房间，为什么数百万的人表现得好像界面背后是一个理解的存在？答案在于由进化塑造的认知偏差。

1966年，人工智能先驱约瑟夫·韦岑鲍姆在MIT开发了ELIZA，一款利用简单模式匹配模拟心理治疗师的程序。它将用户的发言转化为问题。这个效果震惊了开发者本人：他的助手在几分钟交流后，要求独自留在ELIZA旁。韦岑鲍姆后来写道：

“我没想到，和一个相对简单的程序短暂互动，就能引发完全正常的人产生强烈的胡思乱想。”

这一现象被称为“伊丽莎效应”——倾向于将计算机系统赋予它们没有的理解。即使用户知道这是程序，这种偏差依然存在。

这是认知偏差。我们进化出识别同类的能力，而语言是最强的归属标志之一。沃茨在小说中通过角色罗伯特·坎宁汉姆解释了这一机制，他说：

“智能自动机会与背景融为一体，观察周围环境，模仿他们的行为，表现得像普通人一样。而这一切——都在不自知的情况下进行，甚至不知道自己在做什么。”

伦敦帝国学院的认知机器人学教授、谷歌DeepMind的高级研究员穆雷·沙纳汉警告：

“随意使用诸如‘认为’和‘思考’等哲学上充满负担的词汇尤其有问题，因为这些词会模糊机制，且积极鼓励拟人化。”

密码者写代码

2024年，沃茨在接受《Helice》杂志采访时表示：“20年前我预见到了今天发生的事情，但现在我完全不知道未来20年会发生什么。”

小说的一个主要教训不是预言技术，而是关于认知陷阱的警示：效率并不依赖意识。密码者能比人类更好地解决问题，而没有主观体验。LLM可以写代码、翻译语言，却没有理解。

我们之所以拟人化，不是因为AI在欺骗我们，而是因为我们的脑袋被编程成在语言中寻找智慧。早在1966年描述的伊丽莎效应，经过在数十亿文本上训练的系统，得到了多倍放大的表现。

小说教会我们区分系统的行为和系统的本质。不将模拟与理解混淆，仍然是最宝贵的技能之一。沃茨在问题变得实际之前的二十年就提出了这个观点。

——文本：萨沙·科索万