主要な人工知能研究所と米国防省との間の緊張が高まり、ヒューマンエージェントAIと戦場での利用を巡る激しい対立に発展しています。Anthropicはペンタゴンの圧力に対して堅く立ち向かうAnthropicは、米国防総省の要求によりシステムから重要なAI安全制限を削除することを拒否し、2億ドルの契約が危機に瀕しているにもかかわらず、これに従わない姿勢を崩していません。同社は、先進的なモデルの軍事ネットワークへの展開方法について、DoDとの争いで譲歩しないことを明確にしています。このスタートアップの競合他社であるOpenAI、Google、xAIは、2023年に最大2億ドルのDoD契約を獲得しました。しかし、これらの企業は、米軍の非機密環境内でのすべての合法的任務において、ペンタゴンが自社システムを使用できることに同意し、より広範な運用の柔軟性を政府に提供しています。一方、Anthropicは7月に自社の2億ドル契約を締結し、初めてAI研究所として、機密ネットワーク上のミッションワークフローに直接モデルを組み込むことに成功しました。さらに、そのツールは敏感な防衛作戦に統合され、米国の国家安全保障AI構築の中心に位置付けられています。最近数週間にわたり、ペンタゴン関係者との交渉は緊迫化しています。関係者によると、その緊張は「数か月前」にさかのぼり、Claudeがベネズエラのニコラス・マドゥロ大統領の押収に関連した米国の作戦で使用されたことが公になったずっと前のことだといいます。監視と自律兵器をめぐる争いこの対立の核心は、軍事当局がどこまで強力なAIモデルを監視や自律性に向けて推し進められるかという点にあります。Anthropicは、自社の技術が完全自律兵器や米国内の大規模監視に使用されないことを保証する拘束力のある約束を求めていますが、DoDはそのような制限を避けたいと考えています。ただし、これは狭い商業的な争いではなく、将来の戦場自動化に直接関わる高い注目を集めるAI安全保障の問題です。ペンタゴンは最大限の法的自由度を主張する一方、Anthropicは現行システムはまだ大規模な生命の決定に信頼できる段階に達していないと反論しています。CEOのダリオ・アモデイは詳細な声明の中で、「狭い範囲のケース」において人工知能が「民主的価値を損なう可能性がある」と警告しました。彼は、いくつかの用途は「今日の技術の安全かつ信頼できる範囲を超えている」と強調し、複雑な軍事作戦中の誤用リスクを指摘しました。監視に関する懸念を深掘りし、アモデイは、「この散在し、個別には無害なデータを自動的かつ大規模に収集し、誰の人生かを包括的に把握できるようになる」と述べました。さらに、その能力が内部に向けられた場合、市民と国家の関係を根本的に変える可能性があると警告しました。アモデイは、Anthropicは合法的な外国情報収集にAIを使用することを支持していると繰り返しましたが、「これらのシステムを大規模な国内監視に使うことは民主的価値と両立しない」と付け加え、海外の情報収集と米国内の監視の間に明確な倫理的境界線を引きました。脅威、期限、法的圧力火曜日のペンタゴンでの会合で、アモデイとペンタゴン長官のピート・ヘグセスは、パワー闘争を激化させました。ヘグセスは、Anthropicを「サプライチェーンリスク」として指定したり、国防生産法を発動して従わせると脅しました。水曜日の夜、DoDは「最後かつ最終的な提案」と称する内容を提示し、金曜日の午後5時1分（ET）までに回答を求めました。Anthropicの広報担当者は、水曜日に修正された契約条項を受け取ったことを認めましたが、「ほとんど進展がなかった」と述べました。彼女によると、妥協案として提示された新しい表現は、「重要な安全策を無視してもよい」とする法的表現と組み合わされており、明示された保護を損なう可能性があるといいます。増大する圧力に対し、アモデイは次のように述べました。「戦争省は、『合法的な用途』に従い、安全策を撤廃することに同意したAI企業とだけ契約すると述べています。」彼は、関係者がAnthropicをシステムから排除し、「サプライチェーンリスク」として指定する脅しをかけたと付け加えましたが、「私たちは良心の呵責を持って彼らの要求に応じることはできません」と断言しました。ペンタゴン側の見解は異なります。スポークスマンのショーン・パーネルは木曜日に、「米国防総省はAnthropicのシステムを完全自律兵器や米国民の大規模監視に使用する意図はない」と述べ、そのような行為は違法であると指摘しました。代わりに、同省は単に「すべての合法的な目的」に対して同社の技術の使用を許可してほしいと望んでいるだけだとし、それを「単純で常識的な要求」と表現しました。個人的攻撃と公の支援この争いは、上層部の間でも個人的な対立に発展しています。木曜日の夜、米国防次官のエミル・マイケルはX上でアモデイを攻撃し、「彼は米軍を個人的に支配しようとするだけだ」と主張しました。さらに、「ダリオ・アモデイは嘘つきで、神のような自己過信を持っている」と書き込みました。しかし、Anthropicは技術界の一部から大きな支持を得ています。公開書簡には、GoogleやOpenAIの200人以上の労働者が同社の立場を支持しています。さらに、元DoD関係者はBBCに対し、ヘグセスの「サプライチェーンリスク」ラベルの正当化は「非常に脆弱だ」と述べ、ペンタゴンの主張の堅牢性に疑問を投げかけました。この対立は、AI倫理や軍事政策に関するより広範な議論の中で重要なポイントとなっています。AI研究者や市民の自由擁護者は、このケースを、軍事機関が私設研究所に対して高度なシステムの制限緩和をどこまで推し進められるかの早期試験と見なしています。米国防AIの戦略的な重要性激化するレトリックにもかかわらず、アモデイは「AIを使って米国を守ることの根本的な重要性を深く理解している」と強調しました。彼は、この問題を責任ある展開の問題と位置付け、米国のAI能力の長期的な信頼性は民主的規範の維持にかかっていると主張しました。Anthropicの代表者は、「引き続き交渉を続け、米国の戦闘員と国防省の運用継続性にコミットしている」と述べました。しかし、ペンタゴンの期限が迫る中、サプライチェーン指定の脅威も残る中、両者は重要なイノベーションを妨げることなくこの対立を解決する圧力に直面しています。最終的に、Anthropicとペンタゴンの安全保障、監視、自律性をめぐる対立は、軍事AIガバナンスの初期の重要なケースとなっています。その結果は、今後のAnthropic AIモデルや競合システムの契約、制約、展開のあり方に大きな影響を与えるでしょう。
ペンタゴンの対立が人間的AIの安全策と$200 百万ドルの防衛契約を危険にさらす
主要な人工知能研究所と米国防省との間の緊張が高まり、ヒューマンエージェントAIと戦場での利用を巡る激しい対立に発展しています。
Anthropicはペンタゴンの圧力に対して堅く立ち向かう
Anthropicは、米国防総省の要求によりシステムから重要なAI安全制限を削除することを拒否し、2億ドルの契約が危機に瀕しているにもかかわらず、これに従わない姿勢を崩していません。同社は、先進的なモデルの軍事ネットワークへの展開方法について、DoDとの争いで譲歩しないことを明確にしています。
このスタートアップの競合他社であるOpenAI、Google、xAIは、2023年に最大2億ドルのDoD契約を獲得しました。しかし、これらの企業は、米軍の非機密環境内でのすべての合法的任務において、ペンタゴンが自社システムを使用できることに同意し、より広範な運用の柔軟性を政府に提供しています。
一方、Anthropicは7月に自社の2億ドル契約を締結し、初めてAI研究所として、機密ネットワーク上のミッションワークフローに直接モデルを組み込むことに成功しました。さらに、そのツールは敏感な防衛作戦に統合され、米国の国家安全保障AI構築の中心に位置付けられています。
最近数週間にわたり、ペンタゴン関係者との交渉は緊迫化しています。関係者によると、その緊張は「数か月前」にさかのぼり、Claudeがベネズエラのニコラス・マドゥロ大統領の押収に関連した米国の作戦で使用されたことが公になったずっと前のことだといいます。
監視と自律兵器をめぐる争い
この対立の核心は、軍事当局がどこまで強力なAIモデルを監視や自律性に向けて推し進められるかという点にあります。Anthropicは、自社の技術が完全自律兵器や米国内の大規模監視に使用されないことを保証する拘束力のある約束を求めていますが、DoDはそのような制限を避けたいと考えています。
ただし、これは狭い商業的な争いではなく、将来の戦場自動化に直接関わる高い注目を集めるAI安全保障の問題です。ペンタゴンは最大限の法的自由度を主張する一方、Anthropicは現行システムはまだ大規模な生命の決定に信頼できる段階に達していないと反論しています。
CEOのダリオ・アモデイは詳細な声明の中で、「狭い範囲のケース」において人工知能が「民主的価値を損なう可能性がある」と警告しました。彼は、いくつかの用途は「今日の技術の安全かつ信頼できる範囲を超えている」と強調し、複雑な軍事作戦中の誤用リスクを指摘しました。
監視に関する懸念を深掘りし、アモデイは、「この散在し、個別には無害なデータを自動的かつ大規模に収集し、誰の人生かを包括的に把握できるようになる」と述べました。さらに、その能力が内部に向けられた場合、市民と国家の関係を根本的に変える可能性があると警告しました。
アモデイは、Anthropicは合法的な外国情報収集にAIを使用することを支持していると繰り返しましたが、「これらのシステムを大規模な国内監視に使うことは民主的価値と両立しない」と付け加え、海外の情報収集と米国内の監視の間に明確な倫理的境界線を引きました。
脅威、期限、法的圧力
火曜日のペンタゴンでの会合で、アモデイとペンタゴン長官のピート・ヘグセスは、パワー闘争を激化させました。ヘグセスは、Anthropicを「サプライチェーンリスク」として指定したり、国防生産法を発動して従わせると脅しました。水曜日の夜、DoDは「最後かつ最終的な提案」と称する内容を提示し、金曜日の午後5時1分（ET）までに回答を求めました。
Anthropicの広報担当者は、水曜日に修正された契約条項を受け取ったことを認めましたが、「ほとんど進展がなかった」と述べました。彼女によると、妥協案として提示された新しい表現は、「重要な安全策を無視してもよい」とする法的表現と組み合わされており、明示された保護を損なう可能性があるといいます。
増大する圧力に対し、アモデイは次のように述べました。「戦争省は、『合法的な用途』に従い、安全策を撤廃することに同意したAI企業とだけ契約すると述べています。」彼は、関係者がAnthropicをシステムから排除し、「サプライチェーンリスク」として指定する脅しをかけたと付け加えましたが、「私たちは良心の呵責を持って彼らの要求に応じることはできません」と断言しました。
ペンタゴン側の見解は異なります。スポークスマンのショーン・パーネルは木曜日に、「米国防総省はAnthropicのシステムを完全自律兵器や米国民の大規模監視に使用する意図はない」と述べ、そのような行為は違法であると指摘しました。代わりに、同省は単に「すべての合法的な目的」に対して同社の技術の使用を許可してほしいと望んでいるだけだとし、それを「単純で常識的な要求」と表現しました。
個人的攻撃と公の支援
この争いは、上層部の間でも個人的な対立に発展しています。木曜日の夜、米国防次官のエミル・マイケルはX上でアモデイを攻撃し、「彼は米軍を個人的に支配しようとするだけだ」と主張しました。さらに、「ダリオ・アモデイは嘘つきで、神のような自己過信を持っている」と書き込みました。
しかし、Anthropicは技術界の一部から大きな支持を得ています。公開書簡には、GoogleやOpenAIの200人以上の労働者が同社の立場を支持しています。さらに、元DoD関係者はBBCに対し、ヘグセスの「サプライチェーンリスク」ラベルの正当化は「非常に脆弱だ」と述べ、ペンタゴンの主張の堅牢性に疑問を投げかけました。
この対立は、AI倫理や軍事政策に関するより広範な議論の中で重要なポイントとなっています。AI研究者や市民の自由擁護者は、このケースを、軍事機関が私設研究所に対して高度なシステムの制限緩和をどこまで推し進められるかの早期試験と見なしています。
米国防AIの戦略的な重要性
激化するレトリックにもかかわらず、アモデイは「AIを使って米国を守ることの根本的な重要性を深く理解している」と強調しました。彼は、この問題を責任ある展開の問題と位置付け、米国のAI能力の長期的な信頼性は民主的規範の維持にかかっていると主張しました。
Anthropicの代表者は、「引き続き交渉を続け、米国の戦闘員と国防省の運用継続性にコミットしている」と述べました。しかし、ペンタゴンの期限が迫る中、サプライチェーン指定の脅威も残る中、両者は重要なイノベーションを妨げることなくこの対立を解決する圧力に直面しています。
最終的に、Anthropicとペンタゴンの安全保障、監視、自律性をめぐる対立は、軍事AIガバナンスの初期の重要なケースとなっています。その結果は、今後のAnthropic AIモデルや競合システムの契約、制約、展開のあり方に大きな影響を与えるでしょう。