トップ VC: AI の最大のリスクは、AI を最大限に追求しないことです

著者: ウー・シン

最近、マーク・アンダーソン氏は同社のウェブサイトに「なぜAIが世界を救うのか」という記事を掲載し、現在のAI規制の要求の合理性に大胆に疑問を呈し、これらの要求の根拠となっている議論を体系的に批判した。

この記事は、著者のこれまでのインタビュー、記事、さらには彼が尊敬していた経済学者や政治家の意見を組み合わせたもので、核となる内容をより詳細に分析および解釈するために 5 つの部分に分かれており、読者がなぜ著者が常に楽観主義であると考えるのかを理解するのに役立ちます。最も安全なものを選択すると同時に、悲観主義と懐疑論に内在するリスクを理解してください。 こうした見方は多くの人にとって狂っているように思えるかもしれませんし、このように考えるのは困難です。しかし、マーク・アンダーソンが言ったように、人々と議論することによって、他人の思考のモデルを大まかに構築することができ、彼らの視点から問題を考えることができ、自分の考え方がより客観的かつ中立的になります。

悲観主義はほぼすべての社会に蔓延しています。 ChatGPTは世界を席巻し、Open AIの最高経営責任者（CEO）であるサム・アルトマン氏が米国議会の公聴会に登場し、AIの規制を求めた。

その後、スチュアート・ラッセル、ジェフリー・ヒントン、ヨシュア・ベンジオらとリスクに関する声明に署名した。

すぐにマスク氏は数千人が署名した共同書簡にも登場し、AI研究所に対し研究を直ちに中止するよう求めた。 このとき、世界トップのベンチャーキャピタル会社a16zの舵を取るマーク・アンダーソンは常に立ち上がり、「反対を歌う」チアリーダーとなるだろう。

アメリカ文化の中心には矛盾があります。理論上、私たちは変化を好みますが、実際に変化が現実化して現れると、大規模な反発にさらされるのです。 私は特に新しいアイデアに関しては非常に楽観的です。マーク・アンダーソンは、おそらく自分がこれまで会った中で最も楽観的な人物であると考えています。 「少なくとも過去20年間、楽観主義者に賭けていたとしたら、一般的に言えば、あなたは正しい。」

彼がそう考えるのには十分な理由がある。 1994 年、マーク アンダーソンは初めてシリコン バレーを訪れ、ネットスケープを設立し、短期間で上場を完了しました。

裸足で玉座に座ったアンダーソン氏は後にタイム誌の表紙を飾り、テクノロジーの富の神話のシリコンバレーのモデルとなり、数え切れないほどの後発者を魅了した。 ある意味、彼はシリコンバレーに火をつけた人物であり、アメリカの量子物理学者デヴィッド・ドイッチュが『無限の始まり』で描写したような楽観主義者であり、予期せぬ結果を含む知識の進歩を生み出すことで達成したいと考えている。そういった進歩。 悲観主義は違います。彼らは、子供たちが適切な行動パターンを守っていることを誇りに思い、現実または想像上のあらゆる目新しさを嘆くでしょう。安全であることが確認されていないものはすべて避けようとします。

イノベーションに対してより慎重になることで生き残った文明はほとんどありません。 David Deutsch が『The Beginning of Infinity』で書いているように、実際、滅ぼされたほとんどの文明は予防原則 (大惨事を避けるために安全であることがわかっていないものはすべて避ける) を熱心に実行しました。 過去100年間、すべてが安定して変化していませんでしたが、実際にはそんなことは起こらないようです。懐疑論者は常に間違っています。マーク・アンダーソンも言ってました。

**01. AI 規制: 誰が利益を得るのか?誰が被害を受けていますか? **

マーク・アンダーソン氏は自らを「AI加速主義者」と呼んでいます。 AIに関連する社会プロセスを加速させて抵抗に抵抗し、大きな社会変革をもたらすことを望む信者は、当然のことながら規制の呼びかけに対して疑問でいっぱいになるだろう。 「政府の規制は善意があり、良性で、適切に実施されているという見方があります。これは迷信です。」 マーク・アンダーソン氏は長年、米国の制度の悪の一つは規制であると信じてきた。 , そのため、「日曜日はアルコールの販売を禁止する」や「火曜日は男性はキムチを食べてはいけない」などの法律と同様のことがたくさんあります。 規制経済学者のブルース ヤンドルは、1920 年代に政府の規制の問題を説明するために使用された概念、「密造業者とバプテストの理論」を考案しました。 例えば、ヤンドル氏は、禁酒法成立はバプテスト（宗教的背景からアルコールが社会を侵害していると信じるバプテスト）に頼っているだけでなく、密造業者の背後の支援にも依存していると考えている。彼らは、正規の販売者との競争を減らすために政府による規制を強化することを支持しています。消費者は禁酒法下の市場では酔うことができなかったため、当然のことながら密造業者に頼るようになりました。 密造業者とバプテストの理論は、バプテストがいわゆる規制の道徳的高みを提供する（政府は大げさな理由を見つける必要がない）一方、密造業者は密室で政治家を静かに説得する（利害関係）、そのような同盟が存在することを指摘している。政治家が両方のグループを支持しやすくする。 **この理論では、そのような同盟は次善の立法につながるとも述べており、両グループはその結果には満足しているが、社会全体としては立法が存在しないか、別の立法が存在する方が良いかもしれないとも述べている。 ** マーク・アンダーソンはこの理論を借りて、何らかの良い動機による規制がしばしば悪影響をもたらす理由を示しています。

「こうした改革運動の結果、密輸業者は規制の捕捉（規制当局が少数の営利団体の下僕になる）、隔離された競争、カルテルの形成など、望むものを手に入れることがよくある。動機に満ちたバプテスト派は、彼らの社会的欲求は一体どこにあるのだろうかと不思議に思っている」進歩はうまくいかないのか?」と彼は最近のエッセイ「なぜ AI が世界を救うのか」で書いている。

人工知能の分野では、「バプテスト」とは、人工知能が人類を滅ぼすことを本気で信じている信者のことで、一部の真の信者はこの技術の革新者でさえあり、AI に対するあらゆる種類の奇妙で極端な制限を積極的に主張しています。 「密輸業者」とは、AI 企業のことであり、「AI セキュリティ専門家」、「AI 倫理学者」、「AIリスク研究者」は終末予測を行うために雇われています。 「実際には、たとえバプテスト派が誠実であっても、彼らは自分たちの利益を促進するために密造業者によって操られ、隠れ蓑として利用されている」とマーク・アンダーソンは長いエッセイの中で書いている。 「AI リスクに対する規制の壁が存在する場合、密輸業者は望むものを手に入れることになります。つまり、政府が支援する AI サプライヤーのカルテルが、新しい新興企業やオープンソース競争の影響から保護してくれるのです。」

02. 失業理論と「固定パイの誤謬」

マーク・アンダーソンは規制に慎重であるため、規制を支持するために提出される議論の多くには当然反対します。しかし、彼はいくつかのトピックの議論の価値を否定しませんでした。 たとえば、テクノロジーがすべての仕事を食いつぶすのか、所得格差、そして人間社会をひっくり返すことについての議論などです。 ** 市場活動がゼロサムゲームであると考えるのは、経済学でよくある誤った考えです。つまり、一方の当事者が他方の当事者を犠牲にした場合にのみ利益を得られる一定のパイがあると仮定します。 ** 自動化は失業につながりますが、これは一種の「固定パイの誤謬」です。マーク・アンダーソンは長い記事の中で、「つまり、機械によっても人間によっても、労働の量は常に一定であるということだ。もしそれが機械によって行われるなら、人間は失業することになる。」と指摘した。 しかしそれは真実ではありません。簡単な例を挙げると、縫製工場のオーナーは大量の機械を購入します。機械自体を生産するには労働力が必要であり、機械がなければ存在しなかったであろう雇用が生み出されます。 機械の代金が「返還」された後、縫製工場の所有者はコストの優位性から超過利益を得ました。このお金の使い道はたくさんあります。工場の規模を拡大したり、サプライチェーンへの投資や住宅の購入、高い消費など、どのように使っても、他の産業に雇用の機会を提供します。 もちろん、縫製工場のコスト優位性は永遠に続くわけではない。競争するために、ライバルも機械を購入し始めるでしょう（そのため、機械生産労働者はより多くの雇用機会を得ることができます）。コートの種類が増え、価格も下がってきており、縫製工場は以前ほど儲かっていません。より多くの人がより低価格でコートを購入できるようになり、消費が刺激されれば、衣料品業界全体としては、機械の導入前よりも多くの人を雇用することになるでしょう。 もちろん、コートがある程度安くなった後は、消費者が浮いたお金を別のことに使い、他の産業での雇用が増えるということも考えられます。 「テクノロジーが生産に適用されると、生産性も向上し、投入量が減り、産出量が増加します。その結果、商品やサービスの価格が下がり、他のものを購入するための追加の購買力が得られます。これにより、需要が増加し、新しいものを推進します」製品と新しい産業により、これまで機械に追われていた人々に新しい仕事が生まれます」とマーク・アンダーソンは書いています。 「市場経済が適切に機能し、テクノロジーが自由に導入されれば、それは終わりのない上昇サイクルとなるだろう。より大きな物質的繁栄、より多くの産業、製品、雇用を伴う、より大きな経済が出現するだろう。」とマーク・アンダーソンは書いている。 既存の人間の労働力がすべて機械に取って代わられるとしたら、それは何を意味するのでしょうか? 「生産性は前例のない速度で向上し、既存の商品やサービスの価格はほぼ無料になり、消費者の購買力は急上昇し、新たな需要が爆発的に増加します。

起業家たちは、目まぐるしいほどの新しい産業、製品、サービスを創出し、あらゆる新しい需要を満たすためにできるだけ多くの AI と人間の労働者を雇用するでしょう。 AIが再び人間の労働に取って代わると仮定すると、このサイクルが繰り返され、経済発展と雇用の増加が促進され、アダム・スミスが想像する勇気もなかった物質的なユートピアが実現するでしょう。 」 人間のニーズは無限であり、テクノロジーの進化はこれらのニーズを継続的に満たし、その可能性を定義するプロセスです。

テクノロジーの変化と金融バブルを研究する経済学者カルロタ・ペレス氏は、新たな生産性はそれぞれ異なる形をとるだろうが、最終的には全体の仕事が減るということを必ずしも意味するわけではなく、むしろ仕事の定義が何らかの形で起こることを意味していると述べている。それは変わりました。 逆に、論理的一貫性が厳密に守られるのであれば、すべての新しい技術の進歩を災害と見なすだけでなく、過去のすべての技術の進歩も同様にひどいものと見なすべきです。 機械が敵だと思うなら、戻ってリラックスしたくなるはずですよね？この論理に従って、私たちはすべての始まりである自給自足農業に戻り続けます。自分で服を作ったほうが良いと思いませんか?

**03. 不公平を引き起こしているのは誰ですか? **

機械が人間の失業を引き起こすことに加えて、テクノロジーによって引き起こされる社会的不公平も、人々がAIの規制を求めるもう一つの議論となっている。 「AIが実際に良いものも悪いものもすべての仕事を奪うと仮定すると、AIの所有者がすべての経済的報酬を得る一方、平均的な人間は何も得られないため、巨大な富の不平等が生じることになるだろう。」 これに対するアンダーソン氏の説明は簡単だ。 もしマスク氏が金持ちだけに車を売っていたら、もっと裕福になっただろうか？自分のためだけに車を作っていたら、彼はこれより裕福になったでしょうか?もちろん違います。彼は、最大の市場である世界に車を販売することで利益を最大化しています。 電力、放送、コンピュータ、インターネット、携帯電話、検索エンジンなど、これらのテクノロジーのメーカーは、すべての人が手頃な価格になるまで、積極的に価格を引き下げました。同様に、私たちはすでに New Bing、Google Bard などの最先端の生成 AI に無料または低コストでアクセスできます。 それは彼らが愚かだからとか寛大だからではなく、まさに彼らが市場規模を拡大してより多くのお金を稼ぐという貪欲さがあるからです。つまり、テクノロジーが富の集中を推進するのではなく、最終的にはテクノロジーがすべての人にさらなる力を与え、その価値のほとんどを獲得することになるのです。

**不平等は確かに大きな社会問題ですが、それはテクノロジーによって引き起こされているのではなく、私たちが不平等を減らすためにAIを使用することを許可していないことに起因しています。 **経済分野、特に住宅、教育、医療は、AI 導入に対して最も大きな抵抗に直面する傾向があります。 下のグラフに示されているように、青い曲線は、家電製品、自動車、家具など、製品価格を引き下げながら技術革新によって品質を向上できる業界を表しています。今年3月、マーク・アンダーソン氏はブログ「AIが失業を引き起こさない理由」に書いた。

このグラフは、インフレ調整後の 12 の主要経済部門におけるサービス価格の変化を示しています。

赤いセクションは、技術革新の導入を許可しない（したがって価格を引き下げる）業界を表します。教育、医療、住宅の価格はすべて月並みに高騰しています。 「赤色で示されている業界は、政府と業界自体によって厳しく規制されています。これらの業界は独占、寡占、カルテルであり、政府の正式な規制と規制当局による捕捉、価格操作、ソ連型の価格設定、職業ライセンスなど、想像できるあらゆる変化の障害があります。これらの分野における技術革新は現在、事実上禁止されている。」

私たちは断片化の世界に突入しつつあります。壁全体を覆うフラットスクリーン テレビの価格は 100 ドルで、4 年制大学の学位取得には 100 万ドルかかります。 それで、時間の経過とともに何が起こるでしょうか？ 規制された非テクノロジー製品の価格は上昇し、規制が緩いテクノロジー主導の製品の価格は下がります。前者は拡大し、後者は縮小します。極端な場合、経済の99%は規制された非テクノロジー部門となり、私たちはそこに向かっています。

04. 音声監視と滑りやすい坂効果

私たちが生み出したテクノロジーが台頭して私たちを破壊するのではないかという恐怖は、私たちの文化に深く根付いています。 そのような恐怖が何らかの合理的な根拠に基づいているのか、またそれがカルトとどの程度区別できるのかについては、答えはまだ出ていない。 アンダーソンは、これらを論理的誤分類の一種、つまり特定のカテゴリのものが別のカテゴリに属しているかのように表示されるものとして分類しています。 「AIはトースターのような機械であり、命を吹き込むものではない」と彼は書いた。 それでも、「キラーボットが私たちを捕らえなければ、ヘイトスピーチや誤った情報も捕らえられないでしょう。」ご存知のとおり、ソーシャルメディアの規制を求める「幽霊」は、AIの時代に出没し続けています。 米国を含むすべての国は、ソーシャル プラットフォーム上の特定のコンテンツを違法としています。例としては、児童ポルノや現実世界の暴力の扇動などが挙げられます。したがって、コンテンツを促進または生成する技術プラットフォームは、いくつかの制限を受けることになります。 規制を支持する人々は、生成AIは社会に有益な音声やアイデアを生成すべきであり、社会に有害な生成された音声やアイデアを禁止すべきだと主張する。 アンダーソン氏は、そうすることには「滑りやすい坂道は避けられない」と警告しています。いわゆる滑りやすい坂道効果とは、一度悪いことや問題が始まると、それがどんどん悪化する可能性が高いことを意味します。それを止めれば、それは激化し、その結果は想像を絶するでしょう。 「ヘイトスピーチなどの極めて悪質なコンテンツを制限する枠組みが整備されると、政府機関、活動家団体、非政府団体は、社会や社会に対する脅威とみなしたあらゆる言論を変更するために行動を開始します。 「個人的な好み。大規模な検閲と弾圧、それは完全に犯罪的な方法であっても」と彼は書いた。 この現象はソーシャルメディア上で10年前から続いており、加熱し続けている。 昨年3月、ニューヨーク・タイムズ編集委員会は「アメリカには言論の自由の問題がある」という記事を発表した。タイムズ・ビューとシエナ・カレッジの世論調査では、回答者の46％が10年前に比べて政治について自由に話すことができなくなったと回答した。 30% が同じように感じたと回答しました。 過去 10 年間にソーシャル メディアを介して公共の場での声が劇的に拡大したにもかかわらず、自由になったと回答した人はわずか 21% でした。 「許容される言論に関する社会規範が常に変化しており、害が明確に定義されていない場合、言論に対するこうした制限は不釣り合いな結果をもたらす恣意的なルールになる可能性がある」と彼らは書いている。終わります。 そしてアンダーソンにとって、毎朝起きると何十人もの人がツイッターで自分がバカであることを詳細に説明しているのを見るのは、とても助けになることだ。 他者と議論することで、他者の考え方のモデルが大まかに構築でき、他者の視点で問題を考えることができ、自分の考え方がより客観的かつ中立的になります。 同氏は、生成AIは人間の価値観と一致すべきだと主張する人々は世界人口のごく一部であり、「これはアメリカの沿岸エリート層の特徴であり、テクノロジー業界で働いたり執筆したりする人の多くがその中に含まれている」と警告する。 「音声コードを絶え間なく強化することでソーシャルメディアやAIにニッチな道徳を課すことに反対するなら、AIが発言/生成できる内容を巡る争いがソーシャルメディアの検閲をめぐる争いよりも大きくなるだろうということも認識すべきだ」重要。 AI は、世界のあらゆるものを制御する層になる可能性を秘めています。動作をどのように許可するかが、おそらく何よりも重要です。 現在、少数の孤立したソーシャル エンジニアのグループが、あなたを守るという昔ながらの装いの下で、AI がどのように機能するかを彼らの道徳に任せていることに注意する必要があります。 」

05. 最も現実的で最も恐ろしいリスク

上記の恐怖や懸念が実際のリスクではない場合、AI の最大のリスクは何でしょうか? 彼の見解では、AI には最後の本当のリスクが 1 つあり、おそらく最も恐ろしい最大のリスクが存在します。それは、米国が世界的な AI の優位性を勝ち取れないということです。 ** そのためには、「できるだけ早く、そして全力で AI を経済と社会に導入し、経済的生産性と人間の可能性に対するメリットを最大化する必要があります。」

長い記事の最後に、彼はいくつかの簡単な計画を提案しました。

1. 大規模な AI 企業は、可能な限り迅速かつ積極的に AI を開発することを許可されるべきですが、規制上の捕捉を達成することは許可されるべきではありません（規制当局は少数の営利団体の奉仕者となり、一種の汚職です）。 AI のリスクを偽って主張し、市場競争から隔離された政府保護のカルテルを構築する。

これにより、現代資本主義の宝石であるこれらの企業の驚異的な能力に対する技術的および社会的利益が最大化されます。 2. AI スタートアップ企業は、可能な限り迅速かつ積極的に AI を開発できるようにすべきである。彼らは競争することを許されるべきだ。たとえスタートアップが成功しなくても、市場に参加すること自体が大企業に最善を尽くす動機を与え続けるだろう――いずれにせよ、私たちの経済と社会は勝利するだろう。 3. オープンソース AI は自由に増殖し、大手 AI 企業や新興企業と競争できるようにすべきです。いずれにせよ、オープンソースには規制上の障害があってはなりません。

たとえオープンソースが企業を潰さないとしても、その幅広い利用可能性は、将来のテクノロジーの一部となる AI の構築と使用方法を学びたい世界中の学生にとって恩恵となるでしょう。また、AI が確実に利用できるようになります。誰であろうと、どれだけお金を持っていようと、誰もが。 4. 政府は民間部門と協力して、AI を積極的に活用し、潜在的なリスクのあらゆる分野で社会の防御を最大化します。 AI は問題解決のための強力なツールとなり得るので、私たちはそれを活用する必要があります。