BBC記者トーマス・ジャーマンが昨夜明らかにした不安を掻き立てる実験:彼は長年知り合いの叔母エレノアに電話をかけ、事前に伝えた。次の着信は本物の人間かもしれないし、AIの深偽かもしれないと。
結果、叔母は区別できなかった。ジャーマンの結論は簡単だ:親族さえ見分けられないなら、この問題はもはや技術的な問題だけではない。
彼はカリフォルニア大学バークレー校のデジタル鑑識教授、GetReal Security共同創設者のハニー・ファリドに尋ねた。「今、私ができることは何ですか?自分がAIではないと証明するには?」ファリドの答えは一言だけ:「いいえ(No)」。
あなたはニューヨークにいて、私はカリフォルニアのバークレーにいる。私たちはビデオ通話をしている。現実は、あなたはこれらすべてを偽装できる。
そしてファリドは背筋が寒くなる一言を付け加えた。「もう無理だ。終わった(It’s over)。」
ジャーマンはさらに、最近の最も荒唐無稽な実例を引用した。イスラエルのナタンヤフ首相が動画を公開した際、光の屈折により右手に第六指があるように見えた。これはかつてAI深偽を見破る決定的な弱点だった。
その直後、ネット上は爆発的に拡散:彼はミサイル攻撃で死亡したという噂や、その動画は偽物だという情報が飛び交った。
自己弁護のため、ナタンヤフは次々に二つ目、三つ目の動画を公開し、カフェで両手を挙げて、指の数を一つ一つ正確に見せた。ジャーマンは指摘する。ファリドはその後、これらの動画を音声分析、フレームごとの顔認証、光と影の分析を行い、結論付けた:「すべて本物であり、AI生成の証拠はない」。
Riddance共同創設者のジェレミー・カラズコもBBCに語った。「六本指はもはやAIの特徴ではない。数年前に最良のツールがこの問題を修正した。」
しかし、ジャーマンは最も皮肉な点を観察した。専門家の保証にもかかわらず、多くの人がナタンヤフは死んだと信じている。彼は書いている。これはおそらく、人類史上、主要な大国の指導者が自らがAIではないことを証明しなければならなかった初めてのケース(しかも失敗した)だと。
ジャーマンは研究者たちが定義した「嘘つきの利得(Liar’s Dividend)」の概念を紹介した:**真実を証明するのは高価だが、疑念を生むのは無料だ。**政治家は簡単に本物の動画を深偽だと宣言でき、その反証に必要な時間、資源、信用は、噂を流すコストをはるかに超えることが多い。
ピッツバーグ大学のフェイク情報研究部長サミュエル・ウリーも歴史的な軌跡を指摘している。「ウクライナ戦争初期には、いくつかの拙い深偽を見た。ガザの時代には、より多く、質の良い偽情報が出回った。ベネズエラでは?本物より偽情報の方が多い。イランはそれをさらに進化させている。」
彼はまた、規制を推進する政治家たちに直接言及した。「彼らは今、自分たちが蒔いた種を味わっているところだ。」
そして、現存する解決策について、ジャーマンは少し意外な結論を出している。世界最高峰の深偽専門家、ハニー・ファリドの最終提案は最も平凡な方法だった:合言葉(パスコード)。
ファリドはBBCに語った。彼と妻は専用の合言葉を持ち、怪しい電話を受けたときに互いに確認し合う。これは多要素認証の人間版とも言えるもので、すべての技術手段が無効になったとき、最も原始的な信頼の約束に立ち返る方法だ。
ジャーマンの報道は社会的信頼の危機を中心にしているが、AARP(アメリカ退職者協会)のデータはより直接的な財務的損失を示している。2023年から2025年の間に、AI関連の詐欺事件は20倍に増加した。イギリスのエンジニアリング企業アラップは、財務長の深偽により、ビデオ通話中に2,500万ドルを失った。
暗号市場の状況はさらに深刻だ。Fintech Globalの統計によると、2026年第1四半期の暗号詐欺の被害額は2億ドルに達し、年率340%の増加。深偽詐欺は暗号犯罪の70%を占めると推定されている。
規制当局の頭痛の種となっているのはProKYCというツールだ。年会費はわずか629ドルで、仮想シミュレーター、顔のアニメーション、指紋生成機能を提供し、全く新しい身分を作り出し、暗号取引所のKYC生体認証を回避できる。米国財務省はすでにAIとデジタルアイデンティティシステムの統合規制を強化するよう求めている。
さらに大きな変化は、AI代理人が自らウォレットを所有し、取引を開始できるようになったことだ。この状況下で、「顧客」とは人間なのかAIそのものなのか?KYCの規制定義は空白になる恐れがある。
皮肉なことに、我々はAIを識別するための検証システムを構築したが、AIはそれを回避し進化している。そして最終的に、唯一残る方法は、あなたと親しい人たちの間の古典的な合言葉だけかもしれない。