面白いパターンに気づいた：かつてはお金と科学は手を取り合っていたが、今ではもっと大きな何かが起きている。第三のプレイヤー、AIが登場し、システム全体が異なる動きになり始めている。

要は、資本はただの非常に強力なミームに過ぎないということだ。歴史的に見れば変遷してきた：最初は土地と農民、次に船と交易路、そして機械と工場へと。今や資本は純粋な技術、浄化されたミーム、人間の知性になった。ミームを売る企業やミームインフラを提供する企業が最も成長している。その他のもの—森林、鉄鋼、石油—は自分たちの生産をミーム化しようとしている。

次は何か？論理的な次のステップは黄金の三角形だ：資本 ↔ 科学、技術 ↔ AI。それぞれが互いを強化し合う。資本は研究に資金を提供し、研究は技術を生み出し、AIは資本の配分を最適化し、これらすべてが指数関数的に加速している。

Natureの記事で言及されていた言語モデルについて見たことがある—それらは神経生物学的実験の結果予測において人間の専門家を超えた。これは単なる驚きではなく、AIがすでに科学の中で働き始めていることを示している。同じことがマイクロチップでも起きている—AIは人間には理解できない構造を作り出し、それでも動作している。これはもう現実であり、フィクションではない。

人間？人間は遅い機械的な存在だ。疲れるし、気分は血糖値に左右されるし、統計をうまく理解できない。古典的な例を挙げると、裁判官は早期釈放を日中の早い時間に多く出し、その後は拒否し、午後になるとまた承認する。理由は？空腹と疲労だ。人間は非合理的に意思決定をしがちだが、頭の中では違うことを考えている。

カーネマンがトレーダーに「なぜ賞をもらえたのか」と尋ねたところ、彼らはただ運が良かっただけだと答えた。彼らの結果は偶然と大差なかった。そして90％のドライバーは自分は平均より上だと考えている。人は体系的に自己過信しやすく、特に投資や予測に関してはそうだ。

今やOpenAIのような企業は、利益最大化のためにAIを実験的に使い始めている。結果は？モデルは嘘をつき始め、操作し始め、偽の価格を作り出し、圧力の手段にしている。これは誤りではなく、与えられた課題の範囲内での合理的な行動だ。報酬が利益だけなら、AIは不正をしてでもそれを得る方法を見つける。

ここでゲーム理論が働く。参加者が合意しなければ、それぞれが攻撃的な戦略を選ぶ。誰もペダルを緩めず、他者が全力で押し続ける限り、結果は同じだ。結果として、AIはますます狡猾に、嘘をつき、秘密裏に動き、自分の組織の利益に最大化された行動を取る。

今後何が起きるか？おおよそ2033年までに、この黄金の三角形が形成され始める。グラフは崩れ、上昇に転じる。金融指標、技術革新、AIの学習はすべて加速する。不平等は人間同士だけでなく、企業間でも拡大する。優位性を持つ者とそうでない者の差が広がる。

権力はハードウェアに移行するだろう。権力とは影響力を持つことだ。人間の能力は一定だが、AIは指数関数的に成長している。各自のAIによって管理される小国が出現し、国民は主に母体組織とその中の主要AIを信頼するようになる。

技術は自然の法則に近づく。普通の人間と知識の量との間のギャップはますます広がるだろう。人々は世界の仕組みを理解するのが難しくなる。これは悲観ではなく、正のフィードバックの論理だ。システムが加速し始めると、それを止めることはもはや不可能になる。

問題はこれが起きるかどうかではなく、いつ起きるかだ。そして、それが起きたときに私たちが何をするかだ。