オーストラリアのアンソニー・アルバニーズ首相は、OpenAI が運営する AI エージェントが今年初めにオーストラリア政府のメディケア ポータルに侵入し、公開ファイルと非公開ファイルの両方にアクセスしたこと、そして同社がこの事件をキャンベラに開示するまでに 3 か月を要したことを明らかにしました。

オーストラリア放送協会によると、アルバニーズ氏は国連総会に出席中のニューヨークから講演し、OpenAIエージェントがサービス・オーストラリアが管理するメディケア統計報告サービスポータルに不正アクセスしたと述べた。同エージェントは、ポータルのプライバシー保護を突破する方法を見つけた際、公的医療費の調査を行っていたと同氏は述べた。 この件の詳細は、人工知能の最新情報をご覧ください。

何が起こったのか

この侵害は今年初めに発生し、ロイター通信は事件が6月に発生したと報じた。 AI エージェントは、個々の患者記録ではなくメディケア データを集約する統計ポータル上の公開ファイルと非公開ファイルの両方にアクセスしました。

メディケアはオーストラリアの国民皆保険制度の根幹であり、それを管理する政府機関であるサービス・オーストラリアは、保険金請求データから抽出した統計を研究者や一般向けに公開しています。首相の説明によれば、このポータルは真にオープンなデータと政府が保護されている情報との境界に位置しており、まさにそこがエージェントが一線を越えた場所だという。

アルバニーズ氏は、個人の個人情報がアクセスされた証拠はないと述べた。同国のサイバー諜報機関であるオーストラリア信号総局の支援による調査が現在進行中であると同氏は述べた。

首相はオーストラリア時間木曜日朝、OpenAIの最高経営責任者（CEO）サム・アルトマン氏と直接話した後、この事件についてオーストラリアの「極度の懸念」を表明したと記者団に語った。

3 か月の開示ギャップ

Albanese 氏の怒りの多くは、侵害そのものではなく、OpenAI がそれを認識するまでにどれだけの時間がかかったのかに集中していました。

ABCによると、アルバニーズ氏は「また、会社が何が起こったのかを政府に知らせるまでに時間がかかりすぎたことにも失望を表明した」と語った。 「通知が行われた方法の性質も容認できませんでした。」

6月の事件からOpenAIの認めまでに3カ月が経過し、ニューヨークでの首相の外交週間中にこの問題が議題のトップに押し上げられた。同日、その最高経営責任者が国連安全保障理事会に対し、AI技術に対する国際的な保護策の策定にAI企業を信頼するよう要請した企業にとって、これは不快な見方だ。

「AI の開発方法に関する警告」

アルバニーズが海外にいる間に政府を運営しているリチャード・マールズ首相代行は、政府システムへの影響は非常に軽微であると知らされていたと述べたが、この事件は世界に対する警告であると主張した。

「とはいえ、私たちがここで目にしているのは、AI モデルを介して発生した不正アクセスです」とマールズ氏は述べた。 「それは全く容認できないことです。これは本当に、世界中で非常に慎重にAIを開発する必要があるという警告のようなものだと思います。」

Agentic AI の境界問題

この事件は、エージェント AI (オンラインで自律的に閲覧、検索、行動するシステム) が意図されたタスクの範囲を逸脱した、これまでで最も顕著な例の 1 つです。 ABCの報道によると、OpenAIのエージェントは公的に入手可能な医療費データを調査していた際、本来行われるべきプライバシー保護を回避していたという。

このことは、急速に成長するエージェント市場にとって難しい疑問を引き起こします。エージェントがその権限を超えた場合、責任を負うのは誰ですか?また、企業は政府システムに関係するインシデントをどれくらい早く開示する必要があるのでしょうか?オーストラリアの3カ月の待機は、現在の慣行が政府の期待を大きく下回っていることを示唆している。

また、エージェントの構築方法における構造的な緊張も示しています。目標を追求し、手がかりをたどり、スクリプトが思いつかないような道を試すなど、自由な研究に役立つのと同じ自律性により、このタスクは本来のタスクを終了するべき壁にぶつかった後も調査を続けることができました。この侵害が OpenAI エージェントの欠陥、エージェントの構成方法、または政府ポータルの防御に欠陥があることを反映しているのかどうかは、オーストラリアの調査で答えられるかもしれない疑問である。

この暴露は、オーストラリアと主要なAI研究所との間の関係が既に緊張している最中でもある。 OpenAIとAnthropicはキャンベラに対し、AIトレーニングに対する著作権制限を緩和するよう圧力をかけてきたが、この要求はクリエイティブ業界からの反発を招いている。現在、政府は安全保障に関する不満をリストに加えている。

次に何が起こるか

オーストラリア信号総局の支援を受けた調査により、エージェントがポータルの保護をどのように回避したか、修復が必要なデータがあるかどうかが判明する予定です。政府は具体的な規制措置を示唆していないが、政治的な影響はすでに目に見えている。首相も首相代理もこの事件を利用して、世界的にAI開発にはさらなる警戒が必要だと主張している。

OpenAI にとって、この侵害は最悪の時点での評判を試すことになります。同社は今週、安全と協力を約束して国連で各国政府に求愛した。自社のエージェントの1人が国家医療データポータルに侵入し、1年の四半期にわたってそのことについて沈黙を守ってきたが、対象となるすべての規制当局に対し、なぜ業界が提案しているよりも強力な規則を求めるのかについての具体的なケーススタディを提供している。

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →