欧州議会、生成AIトレーニングデータの著作権開示を求める人工知能法案を承認

出典: ザ・ペーパー

ファン・シャオ記者

基礎となるモデルのサプライヤーは、AI のトレーニングに著作権で保護された素材を使用するかどうかを宣言する必要があります。グーグルやマイクロソフトなどのテクノロジー企業の場合、違反に対する罰金は数十億ドルに達する可能性がある。

• 次のステップは、加盟国、議会、欧州委員会が関与する三者交渉です。主要な争点は顔認識の使用です。欧州議会はリアルタイム顔認識の使用を禁止することを可決したが、国家安全保障やその他の法執行目的で免除を許可すべきかどうかについては疑問が残っている。

現地時間6月14日、フランス・ストラスブールで開催された欧州議会本会議では、「人工知能法案」の採決に議員らが参加した。

現地時間の6月14日、欧州連合の「人工知能法（AI法）」が法律成立に向けて重要な一歩を踏み出した。欧州議会は、リアルタイムの顔認識を禁止し、生成型人工知能ツールに制限を課す法案の可決を可決した。 ChatGPT など、新しい透明性要件が導入されています。

AI法案は今後、EUでの規制開始に向けて最終段階に入る。当局者らは法案に関してEU執行機関および加盟国との妥協点を探ろうとするが、意見の相違は依然として残っている。来年のEU総選挙前に法案が発効するには立法手続きを1月に完了する必要がある。

アクセス・ナウのブリュッセル事務所で人工知能を専門とするシニア政策アナリスト、ダニエル・ルーファー氏は、「今は非常に重要な時だ。EUが人権に容認できないリスクをもたらしていると主張するものは、EUの青写真とみなされるだろう」とTIMEに語った。世界。"

EUが承認した同法のバージョンでは、雇用、国境管理、教育などの「高リスク」ユースケースに適用されるAIは、リスク評価、透明性の確保、記録の提出などの一連のセキュリティ要件に準拠する必要があると提案している。この法案は、ChatGPTのような「汎用」AIを自動的に高リスクとみなすものではなく、「ベースモデル」、つまり膨大な量のデータで訓練された強力なAIシステムに透明性とリスク評価の要件を課すことになる。たとえば、OpenAI、Google、Microsoft などの基礎となるモデルのサプライヤーは、AI のトレーニングに著作権で保護された素材を使用したかどうかを宣言する必要があります。ただし、トレーニング中に個人データが使用されるかどうかを宣言する同様の要件はありません。

** これらのルールはどのように機能するのでしょうか? **

2021年に初めて提案された欧州連合の「人工知能法」は、人工知能システムを使用するあらゆる製品やサービスに適用される。

この法案では、最小限から許容不可能までの 4 つのリスク レベルに基づいて AI システムを分類しています。子供を対象とした人材募集やテクノロジーなど、リスクの高いアプリケーションでは、透明性の向上や正確なデータの使用など、より厳しい要件に直面することになります。

EU の主な目的の 1 つは、人工知能によってもたらされる健康と安全へのあらゆる脅威から守り、基本的な権利と価値観を保護することです。

これは、人々の行動に基づいて人々を判断する「ソーシャルスコアリング」システムや、弱い立場のグループ（子供を含む）を搾取したり、危険な行動をインタラクティブに奨励するなど危害を引き起こす可能性のある潜在意識の操作を使用したりするAIなど、特定のAIの使用が絶対に禁止されていることを意味します。ダイアログツール。誰が犯罪を犯すかを予測するために使用される予測警察ツールも禁止される。

さらに、雇用や教育など、人の人生に影響を与えるカテゴリーで使用される AI システムは、ユーザーに対して透明であること、アルゴリズムによってもたらされるバイアスのリスクを評価して軽減するための措置を講じることなど、厳しい要件に直面することになります。

欧州委員会によると、ビデオゲームやスパムフィルターなどのほとんどのAIシステムは、低リスクまたはリスクなしのカテゴリーに分類される。

主要な争点は顔認識の使用です。欧州議会はリアルタイム顔認識の使用を禁止することを可決したが、国家安全保障やその他の法執行目的で免除を許可すべきかどうかについては疑問が残っている。別の規則では、企業がデータベースを構築するためにソーシャルメディアから生体認証データを収集することを禁止する予定だ。

同じ日、欧州議会の右派議員のグループは土壇場でこの法案で提案されているリアルタイム顔認識の禁止を撤回しようとしたが、議員らはこれを拒否した。

規則の施行はEU加盟27カ国次第となる。規制当局は企業にアプリを市場から撤退するよう強制する可能性がある。極端な場合、違反は最大3,000万ユーロ（約3,300万ドル）または企業の年間世界収益の6％の罰金を科せられる可能性があり、グーグルやマイクロソフトなどのテクノロジー企業の場合、罰金は数十億ドルに達する可能性がある。

** と ChatGPT の関係は何ですか? **

法案の当初の措置ではチャットボットについてはほとんど触れておらず、ユーザーが機械と対話していることがわかるようにラベルを付けることだけを要求していた。交渉担当者は後に、ChatGPT のような一般的な AGI をカバーする規定を追加し、このテクノロジーが高リスク システムと同じ要件の一部を満たすようにしました。

重要な追加点は、この法案がAIシステムを訓練して人間の著作物と同様のテキスト、画像、ビデオ、音楽を生成するために使用される著作権で保護された素材の徹底的な文書化を義務付けていることだ。これにより、コンテンツ作成者は、自分のブログ投稿、電子書籍、科学論文、または曲が ChatGPT などのシステムを動かすアルゴリズムのトレーニングに使用されているかどうかを知ることができます。その後、彼らは自分の作品をコピーできるかどうかを判断し、補償金を請求することができます。

AIモデルによってもたらされるセキュリティリスクを懸念する一部の専門家は、この法案はAIシステムが使用できる計算能力に制限を設けていないと主張している。新しいリリースがリリースされるたびに、ChatGPT のような大規模な言語モデルで使用される計算量が指数関数的に増加し、その機能とパフォーマンスが大幅に向上します。 「AI システムのトレーニングに使用される計算量が増えるほど、AI はより強力になります。能力が大きくなるほど、リスクと危険の可能性も大きくなります。」 AI セキュリティ スタートアップの戦略およびガバナンス担当ディレクター、アンドレア ミー氏アンドレア・ミオッティ氏はタイム誌にこう推測している。

ミオッティ氏は、ほとんどの最先端の AI のトレーニングに使用されるチップは物理リソースであるため、研究者がシステムの総コンピューティング能力を測定するのは比較的簡単であると指摘しました。

**EU の規制はなぜ重要ですか? **

「タイム」紙は、EUは最先端の人工知能の開発において重要な役割を果たしているわけではなく、その役割は米国と中国が担っているが、潮流を決める役割はEUが担うことが多いと指摘した。 。

専門家らによると、EUの単一市場には4億5000万人の消費者が存在し、規模が大きいため、企業は地域ごとに異なる製品を開発するよりも順守しやすくなっているという。 EUはAIに関する共通ルールを定めることでユーザーに信頼を与え、市場の成長も図っている。

アイルランド自由人権委員会の上級研究員クリス・シュリー氏は、米国、シンガポール、英国などは「指導とアドバイス」しか提供していないため、「これは強制力のある規制であり、企業が責任を問われるという事実は重大だ」と述べた。同国のクリス・シュリサック最高経営責任者（CEO）は、「他の国もEUの規則を適応し、模倣したいと考えるかもしれない」と述べた。

他の一部の国も規制のペースを加速させています。たとえば、英国のリシ・スナック首相は今秋、AIセキュリティに関する世界サミットを開催する予定だ。スナク氏は今週開催されたテクノロジーカンファレンスで、「英国が単なる知的本拠地ではなく、世界的なAI安全規制の地理的本拠地であってほしいと願っている」と述べ、英国サミットには「学界、企業、政府」の関係者が一堂に会し、協力することになると述べた。 「多国間枠組み」について。

エイダ・ラブレス研究所の所長代理フランシーン・ベネット氏はニューヨーク・タイムズに次のように語った。適切な規制なしで事業を続ければ、私たち全員にとってさらに悪いことになるのは間違いありません。」

しかし、コンピュータ通信産業協会は、EUはイノベーションを抑制する広範すぎる規制を回避すべきだと主張している。同庁の欧州政策マネージャーのボニファス・デ・シャンプリ氏は、「欧州の新しいAIルールは、欧州国民の利益のためにAIアプリケーションを提供するための十分な柔軟性を開発者に与えながら、明確に定義されたリスクに効果的に対処する必要がある」と述べた。

＃＃ **次は何ですか？ **

この法案が完全に発効するまでには数年かかる可能性がある。次のステップは加盟国、議会、欧州委員会が参加する三者協議だが、文言の合意を目指す前にさらなる変更に直面する可能性がある。

ルッフォ氏によると、三者対話の次の段階で、加盟国政府を代表する欧州評議会は、法執行機関や国境警備隊が使用するAIツールを「高リスク」システムの要件から除外することを強く主張すると予想されている。

この法案は年末までに最終承認される予定で、その後、企業や組織が適応するための猶予期間（通常は約2年）が続く。しかし、この法案の策定作業を主導しているイタリアの欧州議会議員ブランド・ベニフェイ氏は、生成AIなど急成長するテクノロジーのより迅速な導入を可能にする規則を推進すると述べた。

法案発効前のギャップを埋めるため、欧州と米国は自主行動規範の草案を作成しており、当局者は5月下旬、数週間以内に作成し、他の「志を同じくする国」にも拡大する可能性があると約束した。