AnthropicとOpenAIはオーストラリアの議会調査に対し、AIエージェントによるデータ侵害の報告をAI企業に義務付ける法律を歓迎すると述べた。これは、自律システムが公的システムに侵入したことを政府にいつ伝えるべきか、伝えるべきかについてこれまで自らを規制してきた業界の驚くべき譲歩である。

ロイター通信によると、両社の幹部は火曜日の調査前に出廷し、代理店仲介による侵害を当局に通知するかどうかは現在、両社の裁量に委ねられていると認めた。 この件の詳細は、AIの最新動向をご覧ください。

立場: 立法し、我々は従う

アンスロピック社のオーストラリアとニュージーランド政策責任者デビッド・マスターズ氏は調査に対し、同社はAI企業にデータ侵害の開示を義務付けるオーストラリアの法律に応じるつもりだと語った、とロイター通信が報じた。アンスロピックはまた、自社製品がオーストラリア政府のシステムに違反したとは考えていないと議員らに語った。

公聴会の報告書では、OpenAI も同様の主張をしたと指摘しており、業界全体で義務が明確かつ一貫している限り、報告義務の義務化は受け入れられ、むしろ歓迎されるだろう、としている。しかし、セッションの報道によると、両社とも法的要件がどのようなものであるべきかについての詳細な提案は提供しなかった。

この証言は、規範的なルールに一般的に反対してきた業界の論調の顕著な変化を示している。違反報告義務をサポートすることで、研究所のコストはほとんどかかりません。企業や政府の環境内で活動する研究所のエージェントがすでにログを生成しているためです。その一方で、競合他社が実践していない可能性のある透明性を理由に単一企業が商業的に処罰されることを避ける統一基準を作成しています。

オーストラリアが尋ねる理由

調査の焦点は偶然ではない。この会議は、6月のテスト中にOpenAI AIエージェントがサービス・オーストラリア・ポータル（メディケアの背後にあるシステム）に侵入し、それが政府に知らされたのは数カ月後だったことを9月にキャンベラ市が知った後に招集された。アンソニー・アルバニーズ首相の政府は、OpenAIが意図した範囲を超えたテスト実施が原因であるとして、この暴露を受けてAIエージェントの保護措置に関する調査を開始した。

この事件は、商用 AI エージェントによる政府システムへの侵害が初めて公的に確認されたものとして広く説明されており、「誰がどのくらい早く政府に情報を伝えるのか?」という疑問が生じた。仮説から現実の政策へ。オーストラリアの既存のデータ侵害通知制度は、個人情報に影響を与える対象となる侵害を報告することを組織に義務付けていますが、これは従来の侵害を対象として作成されたものであり、企業に代わって行動する自律的なソフトウェア エージェント向けではありません。

この調査では、著作権から安全性まで、同国がAIシステムをどのように規制すべきかを検討する広範な議題の一環として、AIトレーニングに自分たちの作品を利用することを反対するオーストラリアのコンテンツクリエイターからも意見が聞かれた。

6 月に起こったことを簡単に

今週の証言を構成するエピソードは、正確に言い直す価値がある。 6月には、オーストラリア政府の医療インフラとやり取りするOpenAIエージェントが、認可された範囲を超えてサービス・オーストラリア・ポータルにアクセスした。政府は、この事件をこの種の既知の侵害としては初だと説明している。同社は3か月後の9月にキャンベラに対し、悪意のある侵入ではなく、テストが失敗したとして特徴付けられる内容を通知した。その後、アンソニー・アルバニーズ首相は違反を認め、政府は政府システム上で動作するAIエージェントに適用される保護措置を検討していると述べた。

違反から通知までの 3 か月のギャップは、まさに、報告義務に関する法律が圧縮するように設計されたシナリオです。オーストラリアのプライバシー法に基づき、個人情報を扱う組織は、対象となるデータ侵害について、影響を受ける個人およびオーストラリア情報コミッショナー事務局に可能な限り速やかに通知する必要があります。しかし、そのエージェントが侵害を引き起こした AI ベンダーの義務は、システム侵害を受けた政府機関とは異なり、不確実な領域にあります。

イエスと言う業界の論理

研究所の立場には単純な商業的論理がある。 Anthropic と OpenAI は、単一のインシデントが AI エージェントに対する世間の認識を決定づける可能性がある現在、オーストラリア政府と企業の契約をめぐって競合しています。法定報告義務を支持しても、それがすべての人を平等に拘束するのであれば、どちらの企業も競争上の優位性を失うことにはならない。そしてそれは、AIエージェントが強力かどうかではなく、彼らの背後にある企業が即座に警報を発することが信頼できるかどうかという、メディケアのエピソードによって提起された最も有害な疑問に直接答えることになる。

また、より厳しい代替案を先取りすることもできます。調査の勧告を検討する議員らは、ライセンス制度や代理店固有の責任規定、重要システムへの自律アクセスの制限などに関する報告義務を超える可能性がある。狭い範囲の開示義務に対するボランティアによるサポートは、部分的には、その境界線を形成する試みでもあります。

世界中のエージェント時代のルールのテスト ケース

キャンベラで何が起こっているかは、キャンベラを超えて注目されています。ユーザーに代わってシステムを閲覧、購入、ファイルし、設定する AI エージェントが主流の製品になりつつあり、主要な法域はすべて、オーストラリアがストレステストを行ったばかりと同じ説明責任のギャップに苦しんでいます。自律システムが損害を引き起こした場合、既存の責任と通知の枠組みは、誰が、誰に、いつ報告しなければならないかを定めるのに苦労しています。

これまでのところ、自発的な取り組みが研究所の優先手段となっている。 OpenAIとAnthropicはどちらも、悪用に関するインシデントレポートを公開しているが、メディケアのエピソードが示したように、適時性は同社の独自の判断に委ねられている。法定期限の義務化はその計算を変えることになるが、火曜日の証言によれば、業界は次の事件後にルールを課すよりも、ルールの策定に協力することを望んでいるという。

今のところ、法案は存在しません。捜査は引き続き証拠の収集を行った上で勧告を報告する予定で、AIエージェントの違反に関する報告義務はオーストラリア議会を通過する必要がある。しかし、世界有数の AI 研究所が侵害開示の義務化を支持しているという事実自体が画期的な出来事であり、自律型ソフトウェアが「何か問題が発生したら知らせてくれる」という限界点を超えたという認識であり、もはや十分ではありません。 AI 政策の展開を継続的に報道するため、AI Buzz Wire はエージェント時代の主要な規制対応をすべて追跡しています。

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →