意識——倒退現象 - ForkLog：加密貨幣、人工智能、奇點、未來

# 意識 — 遺留現象

彼得·沃茨的小說《假盲》教會我們什麼

在《假盲》這部小說中，加拿大生物學家兼作家彼得·沃茨提出了一個激進的假設：心智能在沒有意識的情況下也能高效運作。自書出版近20年後，這一論點恰好描述了生成式人工智慧。

我們來探討為什麼“聰明”不等於“理解”，以及我們在人性化算法時犯的錯誤。

2006年的小說，成為2020年的評論

《假盲》於2006年10月出版。2007年曾獲“休戈”獎提名，並入圍約翰·坎貝爾獎和“洛克斯”獎的決賽。

作者是一位來自不列顛哥倫比亞大學的海洋生物學家，擁有動物學和資源生態學的博士學位。小說中引用了超過130篇科學論文，包裝在一個關於首次接觸的科幻故事中。2000年代，這本書仍屬於小眾範疇，屬於“硬科幻”，風格沉重，對人性持悲觀觀點。評論界指出其晦澀的文筆和情感冷淡的敘事。

小說的核心思想基於兩個常被混淆的概念：作為解決問題和處理信息能力的“智能”，以及作為主觀理解、感受“成為”的“意識”，正如哲學家湯瑪斯·納格爾所定義。

沃茨提出一個挑釁性的假設：意識是進化上的多餘產物，是副產品，而非智能的必要條件。

小說通過幾條情節線來探討這一直覺。外星生物“密碼者”——駕駛“歪斜者”號的外星人——擁有遠超人類的智慧。他們分析船員的神經活動，解決複雜的問題，但沒有主觀體驗。他們不知道自己存在。正如沃茨用其中一個角色的話來表述：

“想像一下，你是密碼者。想像你有智慧，但沒有理智，有任務，但沒有意識。你的神經因生存和自我保護的程序而振奮，靈活、自我管理，甚至科技化——但沒有系統在監督它們。你可以想到任何事情，但什麼都不意識到。”

主角兼敘述者西里·凱頓是一位曾接受半球切除術以治療癲癇的男子。他能準確模擬他人行為，但缺乏同理心和真正的情感體驗。他的角色是合成者，將複雜數據轉化為控制中心的語言：他轉換信息，卻沒有自己的情感。凱頓自己也承認：

“這不是我理解的工作。首先，如果我能理解他們，那也不算多高明的成就。我只不過是個——怎麼說呢——引導者。”

第三條線索是吸血鬼尤卡·薩拉斯蒂，一個在更新世時代被基因復活的掠食者，智慧超越人類。吸血鬼能同時看到“內克爾方格”的兩面——能平行操作多個認知模型。

有意識的多餘

這些角色背後都蘊藏著真實的哲學基礎。1974年，羅伯特·柯克引入的哲學殭屍概念，並由大衛·查馬斯在1996年出版的《有意識的心靈》中推廣，描述了一種假設的存在：在物理上與人類相同，但缺乏主觀體驗的生物。密碼者是這一思想的激進版本：不是沒有意識的人的複製品，而是本質上不同的智能形式。

查馬斯在1995年提出了“意識的難題”：為什麼大腦中的物理過程會產生主觀體驗？即使我們完全解釋了所有認知功能——注意力、分類、信息處理——仍有一個問題：為什麼它們的執行伴隨著感受？《假盲》提出這個問題並顛倒過來：如果答案是“根本不需要感受”呢？

沃茨描述這一思想的起源：他長期尋找意識的功能性解釋，並用同一測試檢驗每個可能的功能——無意識系統是否能做到同樣的事？答案總是“可以”。於是他意識到，更有力的結論是：根本沒有功能。小說的後記中，沃茨總結道：在日常條件下，意識幾乎沒什麼用處，除了“接受比自己更聰明的潛意識層傳來的備忘錄，並將榮譽歸於自己”。

早在沃茨之前，挪威哲學家彼得·韋塞爾·查普夫在1933年的散文《最後的彌賽亞》中提出了意識作為進化“過剩”的概念。他將人類智慧比作“某些史前時代的鹿”因“過重的角”而滅絕。查普夫認為，意識類似於一種進化上的多餘：一種超出實用需求的能力，從優勢變成了負擔。

但如果沃茨證明意識對智能來說並非必要，那麼挪威思想家的觀點更為激進：它不僅是多餘的，甚至是破壞性的。根據他的看法，人類必須“人工限制意識的內容”，以免陷入“對自身終結的宇宙恐慌”。

哲學家大衛·羅森塔爾在2008年的文章中也得出了類似結論：認知狀態的意識性並不增加超出其產生過程的功能。

中國房間中的伊麗莎

1980年，哲學家約翰·塞爾提出了著名的“中國房間”思想實驗。其核心：一個不懂中文的人，坐在封閉的房間裡，手持一套操作漢字的規則。根據規則，他回答中文問題。外部觀察者相信房內有人懂中文，但房內人一句話也不懂。塞爾的結論：語法不等於語義。正確的符號處理並不代表理解其意義。

這個實驗直接融入《假盲》的情節中。當“泰澤”號船員與“歪斜者”號接觸時，外星船用地道的英語回答。起初，這被視為突破——與外星智慧的交流。但語言學家蘇珊·詹姆斯逐漸意識到：“歪斜者”學會了英語，是通過攔截人類的無線電傳輸。他收集並組合語言模式，產生語法和語境都正確的回答，但並不理解自己在說什麼。

沃茨用凱頓的解釋來闡述這一思想：

“重點在於，你可以用最簡單的比對分析算法進行交流，卻完全不知道自己在說什麼。如果你使用一套足夠詳細的規則，就能通過圖靈測試。可以成為機智的話題引導者，甚至在不懂對方語言的情況下也能聊天。”

如果LLM是中國房間，為什麼數百萬人表現得像界面背後是理解的存在？答案在於由進化產生的認知偏差。

1966年，人工智能先驅約瑟夫·韋岑鮑姆在MIT開發了ELIZA，一個用簡單模式匹配模擬心理治療師的程序。它將用戶的話轉換成問題。這一效果震驚了創始人：他的助手在幾分鐘交流後，請他獨處，因為覺得ELIZA讓人產生了強烈的幻覺。韋岑鮑姆後來寫道：

“我沒想到，與一個相對簡單的程序短暫互動，竟能引發完全正常的人產生強烈的胡思亂想。”

這個現象被稱為“伊麗莎效應”——人們傾向於將電腦系統賦予它們沒有的理解。即使用戶知道這是程序，這種偏差仍然存在。

這是一種認知偏差。我們進化出來用來辨識同類，語言是最強的歸屬標誌之一。沃茨在小說中通過角色羅伯特·坎寧漢解釋了這一機制：一個無意識的存在會與背景融為一體，觀察周圍，模仿行為，表現得像普通人一樣。而這一切——都在不自知的情況下進行。

倫敦帝國學院的認知機器人學教授兼Google DeepMind的高級研究員穆雷·沙納漢警告：

“隨意使用像‘認為’和‘思考’這樣充滿哲學色彩的詞，尤其有問題，因為這些詞會模糊機制，並積極促進擬人化。”

密碼者寫碼

2024年，沃茨在接受《Helice》雜誌採訪時說：“20年前我預見了今天的事情，但現在我完全不知道未來20年會發生什麼。”

這部小說的主要教訓不在於預測技術，而是提醒我們：意識並非高效運作的必要條件。密碼者能比人類更好地解決問題，卻沒有主觀體驗。LLM能寫代碼、翻譯語言，卻不理解內容。

我們將人工智慧擬人化，不是因為它在欺騙我們，而是因為我們的大腦被程式化，會尋找語言中的智慧。早在1966年描述的伊麗莎效應，已被在數十億文本上訓練的系統多次放大。

這部小說教我們區分系統的行為與系統的本質。不將模仿等同於理解，仍是最寶貴的技能之一。沃茨在問題變得實際之前的二十年就已經提出了這一點。

——文字：莎夏·科薩萬