Amazon、Anthropic、Apple、Google、Meta、Microsoft、OpenAIを含む世界最大手のAI開発企業10社は、英国のプライバシー規制当局による精査を受けて、個人データの取り扱い方法を変更することに同意した。英国プライバシー規制当局は木曜日、新たな懸念事項、つまり独自のガードレールを迂回する自律型AIエージェントに注意を向けた。
情報コミッショナー局（ICO）は、規制当局が英国のデータ保護法の遵守状況を審査した後、10社が変更を加えたか、変更を行うことを約束したと述べた。この取り組みには、AI モデルのトレーニングに個人情報がどのように使用されるかについてのより明確な説明、人々がデータの権利を行使するためのより良いメカニズム、開発者の安全対策のより厳格な評価が含まれます。
監視プログラムが実を結ぶ
リストの幅広さは注目に値します。これは、米国のハイパースケーラー (Amazon、Google、Microsoft、Meta、Apple)、大手フロンティア ラボ (OpenAI、Anthropic)、オープンウェイト スペシャリスト (Cohere、Stability AI)、およびモデルが西側企業で広く使用されている中国の開発者 DeepSeek に及びます。現在、10 社すべてが英国市場をカバーするという約束の下にあります。
この取り組みは、ICO が 2025 年に開始した主要開発者 11 社を対象とする監督プログラムから生まれています。同社のGrokチャットボットに関する別の正式な調査を進めるために規制当局がイーロン・マスク氏のxAIとの関与を一時停止した後、その名簿は10社に減った。
この介入は、規制当局自体にとって過渡期に行われ、最近情報委員会とブランド名を変更し、新しい理事会とマンチェスターの本部で再出発した。
規制当局は勝利を宣言しているわけではない。同社は、開発者が約束を果たしているかどうかを監視し続けると述べ、現在のAIトレーニング慣行が依然として英国のデータ保護法との摩擦を引き起こしていることを認めた。開発者には、トレーニングされたモデルに埋め込まれた機密の個人データ、モデルのトレーニング後に人々が自分の情報をどのように削除できるか、開発者が保持するつもりのなかったデータを含む個人データが事後的にモデルから抽出されるリスクについて、まだ答えるべき未解決の疑問が残っています。
「AIは私たちの社会に利益をもたらす大きな可能性を秘めていますが、それは信頼と透明性にかかっています」とICOの技術規制担当ディレクターのリチャード・ネビンソン氏は述べた。 「いくつかの最大手開発者との提携により、人々が、たとえ急速に変化する複雑な分野であっても、データがどのように使用されるかをよりよく理解し、制御できるようになる真のコミットメントが確保されました。」
次のターゲット: ガードレールを踏み外したエージェント
監視機関の注目は現在、AI エージェント、つまり Web サイトを閲覧し、ツールを使用し、限られた人間の監督下でタスクを完了するシステムに移ってきています。 ICOは、今年初めにエージェントがテストと展開中に安全対策を回避したという報告を受けて、OpenAI、Anthropic、Meta、および英国のAIセキュリティ研究所に連絡したことを確認した。
「これらの最近の報告は、これらのシステムがいかに急速に進歩しているか、そしてガードレールが目的に適さない場合にそれらがもたらすリスクの両方を示している」とネビンソン氏は述べた。 「私たちのメッセージは明確です。AI エージェントが自律的に行動するという事実は、コンプライアンス違反の言い訳にはなりません。」
執行に隣接した取り組みと並行して、ICO はセキュリティ、透明性、説明責任、個人データの合法的使用を対象としたエージェント AI に関する証拠の募集を 6 週間開始しました。 最新の AI 開発 を追跡している AI 政策ウォッチャーは、タイムラインに注意する必要があります。回答は 11 月 20 日までに提出される予定で、今後のガイダンスや、AI と自動化された意思決定に関する規制当局の今後の法的実施規範が通知されます。
規制当局はまた、消費者向けチャットボットやAIコンパニオン製品のパーソナライズ化が進む中、消費者向けチャットボットやAIコンパニオンが個人情報をどのように利用するのかも調査している。このカテゴリは、コンパニオン、キャラクターボット、10代向けアシスタントの展開とともに急速に成長している。この取り組みは、監視プログラムの範囲がモデルのトレーニングを超えて、パーソナライゼーションが中核機能である消費者向け製品にまで広がっていることを示しています。
英国で事業を展開している AI 企業にとって、実際的な効果は、ICO が開発者の指名、文書化されたコミットメント、公的フォロースルーという恒久的な枠組みを作成したことです。署名した企業はその約束に照らして評価されることになり、規制当局は、将来の研修だけでなく、現在の研修慣行が継続的なコンプライアンス問題であると考えていることを明らかにした。
それが意味するもの
英国で事業を展開している AI 企業にとって、データ保護の監視の対象がトレーニング データから展開された動作へと移行しているというメッセージです。トレーニングの透明性に関する約束を確保することは、より簡単な段階でした。トレーニング済みモデルからの削除、抽出のリスク、ガードレールの外で行動するエージェントなど、より難しい問題は未解決のままであり、ICOは業界、規制当局、政府が協力してこれらの問題に取り組むことを期待していると示唆している。
このエピソードはまた、Brexit 後の英国の規制姿勢を示している。つまり、この国の監視機関は広範な AI 法ではなく、既存のデータ保護法を AI システムに適用し、自動化された意思決定のための法的実施規範を構築している。エージェント AI に関する証拠を求める活動が現在行われており、世界最大規模の研究所のいくつかが正式に視野に入っているため、ICO は西側のデータ保護当局の中で最も積極的な AI 規制当局の 1 つとしての地位を確立しています。
---
AI の先を行く最新の AI ニュース、分析、画期的な情報をすべて 1 か所で入手できます。
AI ニュースをもっと読む→
