意識はアタビズム - ForkLog：暗号通貨、AI、シンギュラリティ、未来

# 意識は退化現象

ピーター・ウォッツの小説『偽の盲目』が教えること

『偽の盲目』でカナダの生物学者・作家のピーター・ウォッツは、合理的な仮説を提唱した：意識なしでも知性は十分に機能し得る。出版から約20年後、その主張は生成AIを正確に表している。

なぜ「賢い」ことと「理解している」ことは同じではなく、私たちがアルゴリズムに人間性を投影する際に犯す誤りは何かを解明する。

2006年の小説、2020年へのコメント

『偽の盲目』は2006年10月に刊行された。この小説は2007年にヒューゴ賞にノミネートされ、ジョン・キャンベル賞とローカス賞のファイナリストとなった。

著者はブリティッシュ・コロンビア大学の海洋生物学者で、動物学と資源エコロジーの博士号を持つ。小説には130以上の学術論文への引用が盛り込まれ、最初の接触をテーマにしたSFストーリーに巧みに織り込まれている。2000年代にはニッチな作品で、「ハードSF」に属し、重厚な文体と人間性に対する暗い見方で知られた。批評家はその難解な文体と感情的な冷たさを指摘した。

この小説のアイデアは、しばしば結びつけられる二つの概念、すなわち問題解決や情報処理能力としての知性と、トーマス・ナゲルが定義した「それが何であるかを感じる主観的な理解や感覚」としての意識の区別に基づいている。

ウォッツは挑発的な仮説を提唱する：意識は進化の過剰な副産物であり、必要不可欠な条件ではない。

この直感をいくつかのストーリーラインを通じて探求している。シフロニクス—「ローシュハ」号の宇宙船にいる異星生命体—は、人間よりも桁違いに高い知性を持つ。彼らは乗組員の神経活動を分析し、複雑な課題を解決する。しかし、彼らには主観的な経験がない。彼らは自分たちが存在することを知らない。ウォッツは登場人物の一人の口を借りてこう表現する：

「想像してみてくれ、君はシフロニクスだ。頭はあるが理性はなく、課題はあるが意識はない。生存と自己保存のプログラムに神経が鳴り響き、柔軟で自己管理的、さらには技術的なものもある—しかし、それらを見守るシステムはない。何についても考えることはできるが、何も自覚しない」

主人公で語り手のシリ・キトンは、幼少期にてんかん治療のため半球切除術を受けた人間。彼は他者の行動を正確に模倣できるが、共感や真の感情体験には欠ける。彼の役割は、情報を処理し、管理センターに翻訳するシンセサイザーであり、情報に対して自己の関与を持たない。キトン自身も認めている：

「理解するのが仕事じゃない。もし理解できたとしたら、それはあまり進んだ成果じゃないだろう。私はただの案内人だ」

三つ目のキャラクターは、ヴァンパイアのユッカ・サラスティ。彼は、更新された遺伝子を持つプレイストセン期の捕食者であり、人間を超える知性を持つ。ヴァンパイアは、ネッカーのキューブの両面を同時に見ることができ、複数の認知モデルを並行して操作できる。

意識の過剰な装飾

これらのキャラクターの背後には、実在の哲学的基盤がある。ロバート・キックが1974年に導入し、デイヴィッド・チャルマーズが『意識的な心』（1996年）で普及させた哲学的ゾンビの概念は、物理的には人間と同じだが、主観的な経験を持たない仮想的存在を描写している。シフロニクスはこのアイデアの過激化であり、人間のコピーではなく、根本的に異なる知性の形態だ。

チャルマーズは1995年に「難しい意識の問題」を提起した：なぜ脳内の物理的過程が主観的な経験を生み出すのか？認知機能—注意、カテゴリー化、情報処理—を完全に説明できたとしても、残る疑問は、「なぜそれらの実行に伴う感覚があるのか？」だ。『偽の盲目』はこの問題を逆転させる：答えは「感覚は不要」かもしれないと。

ウォッツはこのアイデアの起源をこう記す：彼は長い間、意識の機能的説明を模索し、あらゆる機能に対して同じテストを適用した。それは、「無意識のシステムが同じことをできるかどうか」だった。常に「できる」と答えた。そこで彼は、より強力な結論に気づく：機能そのものが不要だと。小説の後書きでウォッツは要約する：日常の意識は、実はほとんど何もしていない。単に「より賢い潜在意識層からのメモを受け取り、それを承認し、すべての栄誉を自分に帰しているだけだ」と。

意識の進化的「過剰さ」を最初に提唱したのは、ノルウェーの哲学者ペーター・ヴェッセル・ザッフェである。彼は1933年のエッセイ『最後のメシア』で、人間の知性を「古生物学的時代の一部の鹿が、過剰に重い角のために絶滅した」例に例えた。ザッフェは、意識は進化の過剰な副産物とみなした。実用的な必要性を超えて発達した能力は、利点から負担へと変わった。

しかし、ウォッツが意識は知性に不要だと証明する一方、ノルウェーの思想家の見解はより過激だ：意識は単なる過剰ではなく、破壊的だと。彼の見解では、人間は「宇宙的パニック」に陥らないように、「意識の内容を人工的に制限」しなければならない。

哲学者デイヴィッド・ローゼンタールも同様の結論に達した。2008年の論文で、彼は認知状態の意識性は、それを生み出す過程以上の重要な機能を付加しないと示した。

中国の部屋のエリザ

1980年、哲学者ジョン・サールは有名な思考実験「中国の部屋」を提案した。その要旨は：中国語を知らない人が、記号操作のルールセットを持ち、閉じた部屋に座っている。中国語の質問を受けると、ルールに従って答えを作る。外部の観察者は、その中に中国語を理解している者がいると確信するが、実際には中の人は一言も理解していない。サールの結論は：シンタックス（記号の並び）とセマンティクス（意味）は同じではない。記号の正しい処理は、その意味を理解していることを意味しない。

この実験は『偽の盲目』のストーリーに直接組み込まれている。テセウス号の乗組員がローシュハと接触すると、異星船は英語のイディオムを使って応答する。最初はこれは異星知性との通信の突破口とみなされる。しかし、言語学者のスーザン・ジェームズは次第に気づく：『ローシュハ』は英語を学習し、人間の無線通信を傍受しているだけだ。彼は言語パターンを収集し、組み合わせているだけだ。文法的にも文脈的にも正しい答えを出すが、何を話しているのか理解していない。

ウォッツはキトンの説明を通じてこのアイデアを表現する：

「要は、最も単純な比較分析アルゴリズムを使いながら、何を話しているのか全く理解せずにコミュニケーションできるということだ。十分なルールセットを使えば、チューリングテストに合格できる。言語を知らなくても、機知に富んだ冗談や軽口を言えると見なされる」

LLMが中国の部屋なら、なぜ何百万もの人がインターフェースの背後に理解者がいるかのように振る舞うのか？答えは、進化によって形成された認知バイアスにある。

1966年、人工知能の先駆者ジョセフ・ワイゼンバウムはMITでELIZAを開発した。これは、最も単純なパターンマッチングを用いて精神療法士を模倣するプログラムだった。ユーザーの発言を質問に変換した。これにより、開発者自身も驚いた：彼の助手は数分の会話の後、ELIZAと一人きりになりたがった。ワイゼンバウムは後にこう書いている：

「短時間のやりとりだけで、非常にシンプルなプログラムが、完全に正常な人間に強力な妄想的思考を引き起こすとは思わなかった」

この現象は「エリザ効果」と呼ばれ、コンピュータシステムに理解を持たせていると誤認させる傾向を指す。たとえユーザーが、そのプログラムが理解していないと知っていても、この効果は持続する。

これは認知バイアスだ。私たちは仲間を認識するために進化し、言語は人類（ホモ・サピエンス）に属する証拠の最も強力な指標の一つだ。ウォッツはこのメカニズムを、小説の中でロバート・カニングハムというキャラクターを通じて描写している：

「知性の自動装置は背景と溶け込み、周囲を観察し、行動を模倣し、普通の人間のように振る舞うだろう。そしてそれは、自分が何をしているのか、自己の存在さえも自覚せずに」

ロンドンのインペリアル・カレッジの認知ロボティクス教授であり、Google DeepMindの上級研究員のマレー・シャナハンは警告する：

「“考える”や“信じる”といった哲学的に重い言葉の不用意な使用は特に問題で、そうした言葉はメカニズムを曖昧にし、人間らしさの投影を促進してしまう」

シフロニクスはコードを書く

2024年、ウォッツはヘリース誌のインタビューでこう語った：「20年前、私は今日起きていることを予見していた。しかし今、次の20年に何が起こるか全く見当もつかない」。

この小説の最大の教訓は、技術の予測ではなく、認知の罠に対する警告だ：意識は効率性に必須ではない。シフロニクスは、主観的な経験を持たずとも人間よりも問題を解決できる。LLMはコードを書き、言語を翻訳するが、理解は持たない。

私たちが人間性を投影するのは、AIが騙しているからではなく、私たちの脳が言語の中に知性を見つけるようにプログラムされているからだ。1966年に記述されたエリザ効果は、何十億ものテキストで訓練されたシステムによって何度も強化されている。

この小説は、システムが行うことと、システムそのものの違いを見極めることを教える。模倣と理解を混同しないスキルは、最も価値のある能力の一つだ。ウォッツはこの考えを、実用的な問いが出る前の20年も前にまとめていた。

文：サシャ・コスヴァン