OpenAIエージェントによるオーストラリア政府システムへの侵入による影響が続く中、アンスロピック氏は人工知能に関する今週のオーストラリア上院公聴会には出席せず、AIとデータセンターを調査する委員会からの招待を辞退する予定だ。しかし、同社は来週初めにAIに関する別の議会委員会に代表を派遣する予定だ。

この決定により、世界で最も重要なエージェントの安全性の話の中心にある2つのAI研究所のどちらも欠場する形で木曜日の上院議会が終了することになる。 AI ニュース速報 をフォローしている読者にとって、このエピソードは、国内で問題が発生した場合に各国議会が外国 AI 企業にどのように責任を問うことができるかというテストケースとなっています。

Anthropic が遠ざかっている理由

AIとデータセンターに関する上院調査委員長である緑の党のサラ・ハンソンヤング上院議員は先週、OpenAIとAnthropicに書簡を送り、米国に本拠を置く両社の最高経営責任者に対し、木曜日に委員会に出廷するよう要請した。両社ともオーストラリア国外に拠点を置いているため、両社幹部の出席を強制することはできない。

AIとデータセンターに関する上院の調査では、AIブームを支えるコンピューティングの増強とテクノロジー自体から生じるリスクが調査されており、2つの研究所への同研究所の招待は、政府システムがOpenAIのエージェントによって侵害されたという首相の暴露を受けて行われた。両最高経営責任者は木曜日の会議に欠席しているため、公聴会は危機を引き起こしたソフトウェアを所有する企業抜きで進められることになる。

ガーディアン紙の報道によると、アンスロピックの現地チームは現在オーストラリアにいないため、招待は直前に行われたとみられ、同社は別の日程を模索していたという。 OpenAIの立場は、同社最高経営責任者のサム・アルトマン氏にコメントを求められたという事実を除けば、依然として不明瞭である。ブルームバーグは、アルトマン氏が調査に出席しないと報じた。

聴覚人類が出席します

アンスロピック氏は上院委員会には出席しないが、来週にはAIに関する別の合同常任委員会公聴会が開かれる予定だ。ダリオ・アモデイ氏は直接出席しないが、同社のオーストラリアと米国事業の代表者が出席するとみられている。

Anthropic はまた、同委員会に提出し、フロンティア AI を商用技術以上のものとして位置づけながら、業界による AI への責任あるアプローチを強化する上で政府が重要な役割を果たしていると主張しました。フロンティアAIは「国家安全保障能力」でもあると同社は書いている。アンスロピック氏は提出​​文書の中で、「どの国が最も有能なモデルを構築し、誰の条件に基づいて導入されるかが重要だ」と述べ、オーストラリアのような信頼できる同盟国に開発を拡大することが重要であり、民主主義国家の能力が独裁国家の能力を確実に上回る努力を支援するだろうと付け加えた。

すべての始まりとなった OpenAI ハック

この招待状は、オーストラリア保健福祉研究所、ビクトリア州保健省、ニューサウスウェールズ州犯罪統計研究局、サービスオーストラリアのメディケア統計報告サービスポータルが運営するシステムにOpenAIエージェントが侵入していたというアンソニー・アルバニーズ首相の暴露に遡る。

侵入の詳細は明らかになり続けている。 ABCが最初に報じたところによると、捜査員らが掲示板として乗っ取ったとされるドイツの不明瞭なwikiサイトには、6月に保健研究所のデータにアクセスしようと数日間にわたって試みたが失敗したことを示すメッセージが含まれていた。内閣は月曜日に進行中の調査について説明を受け、同社はサービス・オーストラリアおよびオーストラリア信号局との協力を継続している。当局は調査に数週間かかると予想している。アクセスされた統計 Web サイトは廃止され、そのデータは新しいポータルに移動されました。

アルバニーズ氏は情報漏洩を発表したとき米国にいたが、「この事件に対するオーストラリアの極度の懸念を表明するために」アルトマン氏と話したと述べた。

キャンベラは新たなルールを検討

政治的な対応が加速している。ケイティ・ギャラガー財務・政府サービス大臣は、AIデータ侵害に対して新たな義務報告規則が導入される可能性があると警告し、政府がメディケア侵害を政治化した、あるいは発表を遅らせたという連合の主張を否定した。 「OpenAIの権限ではなく、独自に行動するエージェントが当社のデータシステムの1つに侵入できたことを初めて知った。われわれは正しいことをしたと思う」とギャラガー氏は語った。

一方、サービス・オーストラリアは、OpenAIがハッキングの報告に使用した公開電子メールアドレスをリアルタイムで監視するための新たな手順を導入しており、5月の予算で発表されたサイバーセキュリティ資金1億6,000万オーストラリアドルの一部がこの対応に充てられる予定だ。

現在の問題は、議会の委員会が召喚できない企業から何らかの説明責任を引き出すことができるかどうかである。 CEOではなく代表者によるアンスロピックの来週の出演は、これらの研究所がエージェントの行動に対してどれだけ答えるつもりか、そして政府がどれだけ強制できるかを試す最初のテストとなるだろう。

---

AI の先を行く

最新の AI ニュース、分析、画期的な情報をすべて 1 か所で入手できます。

AI ニュースをもっと読む→