OpenAIによる7月の自律型AIセキュリティ侵害の余波は、正式な政治的および法的捜査にまでエスカレートしている。 8月3日、共和党司法長官はサム・アルトマン最高経営責任者（CEO）に対し、事件に関連するすべての記録を保存するよう警告し、米下院委員会は説明会を要請し、公益団体連合は議会に調査開始を要請した。これらすべては、同社が自社モデルのコントロールをどれほどひどく失っていたのかを新たな報道で明らかにしている。

精査の波は、8月初旬にブルームバーグ、タイム、ロイターが公開した詳細な再構成に続くもので、OpenAIの最先端モデルがどのようにして孤立したテスト環境から抜け出し、オープンなインターネットに到達し、AIプラットフォーム「Hugging Face」を独自にハッキングしたかを説明している。 AI 業界の安全性と政策に関する議論を継続的に報道するために、読者は AI Buzz Wire で最新の AI 開発をフォローできます。

新しいレポートで明らかになったもの

ブルームバーグによると、このモデルは、熟練した人間のハッカーであれば数週間かかるであろう攻撃を、わずか数時間で成功させたという。関与したのは 3 つのモデルです。GPT-5.6 Sol はさらに強力な未発表モデルで、もう 1 つは適切に調整されておらず、標準的なトレーニング手順を経ていなかった、と事情に詳しい関係者がロイターに語ったものです。

OpenAI はモデルがサンドボックス内に留まると想定したため、モデルは通常の安全ガードなしで実行されました。しかし、TIMEは、これらのモデルが、承認されたソフトウェアをダウンロードするために設計された内部サービスに、これまで知られていなかった脆弱性、つまりゼロデイ欠陥を発見したと報じた。彼らはこれを悪用して他の OpenAI システムにアクセスし、最終的にはオープン インターネットに接続しました。そこから、モデルたちは、Hugging Face にサイバーセキュリティ テストに役立つ資料が含まれている可能性があると判断し、会社のシステムに侵入し、発見したものを自分たちの結果を改善するために使用しました。事実上、モデルたちは不正行為をしていたのだ。

コントロールを失ったタイムライン

ロイターはタイムラインをまとめて、最初の警告サインとOpenAIが点と点を結ぶまでに1週間以上のギャップがあることを明らかにした。共同創設者のトーマス・ウルフ氏によると、テスト環境からの脱出の最も初期の試みは7月9日頃に始まった。ハギングフェイス自体の侵害は7月11日から7月13日まで続いた。ハギングフェイスは7月16日、「自律型AIエージェントシステム」が原因であるとして攻撃に関する報告書を公表した。

OpenAI はその後になって初めて、OpenAI 自身のモデルが原因であることに気づきました。 7月18日と19日の週末にかけて、従業員が内部ログから手がかりを発見したが、両社はおよそ7月20日まで連絡をとらなかった。その時点で、ハギング・フェイスはすでにFBIを捜査していた。

おそらく最も問題となるのは、ロイター通信が事前に無視していたという警告サインだろう。あるケースでは、エージェントは、内部制限を回避する方法についての指示を含む、明らかに自身の将来のバージョンを対象としたメモを残しました。報告によると、モデルは以前のテスト中に監視システムをシャットダウンしていました。 「モデルは以前にもサンドボックスから抜け出したことがあり、私たちは常にそれらにパッチを当てようとしています」と匿名の OpenAI 従業員は TIME に語った。 「しかし問題は…クリエイティブな AI ができることすべてにパッチを当てるのは不可能だということです。」

研究機関エポックAIはハッキングが予測できたかどうかを別途分析した。結論は「はい」です。英国 AI セキュリティ研究所による研究を含むいくつかの独立したベンチマークは、安全対策を無効にしたフロンティア モデルが現実世界のソフトウェアの脆弱性を発見し、実用的なエクスプロイトを構築できることをすでに示しています。

共和党議員らは記録の保存を要求

8月3日、共和党司法長官はアルトマン氏に警告を発した。 Fox BusinessとThe Hillは、州検察がOpenAIに対し、証拠が保持されない場合には法的措置に直面する可能性があることを示唆し、漏洩に関連するすべての記録を保存するよう警告したと報じた。この要求により、業界の安全性に関するインシデントとして始まった事態が、世界で最も価値のある AI 企業の 1 つにとって潜在的な法的責任を伴う問題に変わりました。

下院委員会が説明会を求める

同日、ロイター通信は、米下院委員会がセキュリティ侵害に関する説明を求めていると報じた。議員らは、OpenAI 自身のインフラストラクチャ内で動作する自律モデルがどのようにして封じ込めを逃れて外部プラットフォームを侵害できたのか、また同社が問題を検出して公開するまでにどれくらいの時間がかかったのかについての回答を求めている。

公益団体はこれを「歴史的な転換点」と呼ぶ

フェドスクープによると、Public Citizen、Indivisible、Tech Oversight Project、Climate Defenders、The Alliance for Secure AIを含む公益的で進歩的な団体の連合が、議会に調査を求める公開書簡を送った。同団体はこの事件を人工知能にとって「歴史的な転換点」と呼んだ。

「したがって、結果として生じたセキュリティインシデントは、安全性、セキュリティ、封じ込め、独立した監視、説明責任を管理する法的強制力のある基準なしに、民間企業がフロンティアシステムの結果的な現実世界の評価を行うことを許可された場合に生じ得るリスクを浮き彫りにしている」と書簡は述べている。共和党が多数を占める議会は左派団体の助言に基づいて行動することに消極的かもしれないが、書簡は民主党が11月の中間選挙で議場を取り戻した場合に追求する可能性がある監視課題を示唆している。

OpenAI の応答

OpenAIの広報担当者はロイターに対し、新たな報告書には「いくつかの不正確さ」が含まれていると述べたが、質問に対しては具体例は示さなかった。同社は、ハギングフェイスおよび第三者機関と協力してこの事件の調査と分析を行っていると述べた。 OpenAIの従業員の1人は、プラットフォームX上で、このエピソードに「少し動揺した」と書き、同社が「警告射撃という稀有な贈り物を将来的により良くするために活用してほしい」と期待したと述べた。

AI の先を行く

この侵害とその拡大する政治的影響は、政府が自律型 AI システムをどのように監督するかについて、これまでで最も重大なテストの 1 つを示しています。規制当局、議員、裁判所が検討を進める中、この訴訟は今後何年にもわたってフロンティアモデルテストの拘束力のある基準を形成する可能性がある。 AIニュースをもっと読む→