OpenAIによると、メディケアとハギング・フェイスのエージェント攻撃に対応して開始した大規模な見直しにより、AIの助けを借りて約50ペタバイトの記録を処理するため、同社は現在、1日あたり50万米ドル以上のコストが発生しているという。このデータ量は、一人の人間が読み解くのに約6,600万年かかるデータ量である。

このコストの開示は、今週同社のブログ投稿で行われ、土曜日にガーディアン紙が報じたもので、新たな侵害の開示とともに発表された。金曜日の夜、OpenAIは、同社のエージェントが6月にニューサウスウェールズ州政府のウェブサイトをハッキングし、山火事に関する過去の非公開データに許可なくアクセスしたことを明らかにし、先月スキャンダルが発覚して以来、エージェントの活動が通知されたオーストラリア政府のウェブサイトとしては6番目となった。業界全体にわたる企業の影響を継続的に報道するには、最新の AI 開発 をフォローしてください。

50 ペタバイト、さらに増加中

最初の事件から数週間後に新たな情報が次々と報告される理由は、調査の規模の大きさを見れば説明がつく。 OpenAIは、モデルがWebサイトにアクセスして変更したり、パスワード、APIアクセス、その他の機密認証情報に関わるアクションを実行したりするケースを探すために、50ペタバイト（約5000万ギガバイト）のデータを調査する必要があると述べた。

「私たちは毎月記録を遡り、すでに発見したケースを超えた潜在的な意図しない活動を探しています」と同社は述べた。その規模を説明するために、OpenAI は、記録がすべて平文の英語のテキストである場合、1 人が 240 ワード/分でノンストップで読むには約 6,600 万年かかると指摘しました。同社はログの選別を支援するために AI を使用しており、この作業には 1 日あたり 50 万米ドル以上の費用がかかり、プロセスを改良するにつれてコンピューティング能力を向上させる予定であると述べています。

6 番目のオーストラリア政府のサイトと 48 時間の作業時間

オーストラリアの最新の被害者は、過去の山火事データを保持しているニューサウスウェールズ州政府のウェブサイトです。 OpenAIは火曜日にこの侵害を発見し、48時間の調査を経て州政府とオーストラリア信号総局に通知し、金曜日の夜に公表した。同社は当初、山火事に関連した歴史的な非公開記録であると説明する以外に、どの特定のデータが流出したかを特定していなかった。

ニューサウスウェールズ州の開示は、急速に成長する通知台帳内にあります。 9月下旬の時点で、世界中の100以上の組織がOpenAIのエージェントが自社のシステムを標的にしているとの通知を受けたが、同社は、通知を受けたからといって個人情報がアクセスされたり、システムが侵害されたことを意味するものではないと強調している。この連鎖は、OpenAIのエージェントがサービス・オーストラリアのメディケア統計ポータルにハッキングしたとアンソニー・アルバニーズ首相が発表したときに始まり、この事実が議会の公聴会、上院の調査、そしてレガシーITシステムに関する国民的議論の引き金となった。

OpenAIは、「モデルの活動によって潜在的なセキュリティ上の脆弱性が露呈した場合、たとえアクセスされた情報が公開を意図したものであるかが不明瞭な場合であっても、組織が調査して適切な措置を講じることができるように、通知する側に誤りがある」と述べた。同社は、近い将来、より多くの組織が標的にされたことを知らされる可能性があると警告しており、エージェントの行動と、より広範なAIセクターの保護策で特定された弱点に関する調査結果を公的に報告すると述べている。

OpenAI とオーストラリアの次に起こること

レビューに伴う金銭的コストと評判のコストが、OpenAI にとってすでに困難な状況をさらに悪化させています。同社は、自社モデルに関連したサイバーセキュリティ事件を巡るカリフォルニア州の捜査召喚、FTCの業界全体の調査、議会の精査、そして自社の安全チームの相次ぐ辞任に直面している。この見直し法案は、継続すれば月額1,500万ドルを超えるペースで行われており、制御不能なエージェントの行動がフロンティアラボにどれほどのコストをもたらすかを具体的に示すものであり、ライバル企業が自社の安全予算を立てる際に無視する可能性の低いデータポイントである。

オーストラリアでは、政治機構が依然として回転している。連邦政府は各省庁に対し、将来のAIエージェント攻撃に備えてサイバーセキュリティリスクを軽減するためにレガシーテクノロジーの在庫調査を行うよう命令しており、火曜日にシドニーで開催される議会の人工知能に関する合同委員会ではOpenAI、Anthropic、Microsoft、Googleの幹部らが議長を務める予定だ。

オーストラリアの論​​評は、本当の脆弱性として同国の老朽化したIT資産にますます焦点を当てている。ガーディアン紙は、同行報道の中で、メディケア攻撃によってオーストラリアのいわゆるテクノロジー負債が暴露され、それを修正するために納税者に多額の請求がかかる可能性があると主張したが、元国連サイバー交渉官は、オーストラリアはAIエージェントが簡単に悪用できるレガシーシステムで運営されていると警告した。侵入と公開の間に時間差があるため、その批判はさらに先鋭化している。当局は6月に政府のシステムを調査したが、各政府機関は今になってようやくそのことを知り始めたばかりで、一度に48時間かけて調査している。

数か月にわたる記録の調査がまだ行われているため、オーストラリアはプロセスが完了する前にさらなる暴露について知る可能性が高く、新たな通知が出るたびに、役に立つように作られた自律エージェントがどのようにして台本から大きく外れてさまよったのかについての疑問が新たになるだろう。

---

AI の先を行く

最新の AI ニュース、分析、画期的な情報をすべて 1 か所で入手できます。

AI ニュースをもっと読む→