CNBCによると、100社を超えるテクノロジー企業、銀行、保険会社、サイバーセキュリティベンダー（合計116組織）が、人工知能を利用したサイバー攻撃がさらに広範囲に普及しようとしており、防御側が準備すべき時間は狭いと警告するOpenAI主催の公開書簡に署名した。

「サイバー防御を強化できる時間は限られている」と書簡は冒頭で述べている。病院、浄水場、インターネット トラフィックを伝送するインフラストラクチャが、最もリスクにさらされている資産として挙げられています。 AI の機能とセキュリティの間の緊張が 現在の AI 業界の報道 を支配している中、この書簡は業界におけるこれまでで最も集団的なセキュリティ警告を表しています。

異常に広範な連合

名簿はテクノロジーと財務全体に及びます。 Anthropic、Google、Microsoft、Amazon Web Services、Oracle、Cisco、IBM がすべて署名し、セキュリティ企業の CrowdStrike、Palo Alto Networks、Cloudflare、Okta、Fortinet も署名しました。金融大手の Capital One、Mastercard、Visa、Citigroup が Center for Internet Security の隣のリストに名を連ねています。主催者はさらに名前が追加されるだろうと述べた。

幅が重要です。モデルやベンチマークで熾烈な競争を繰り広げるライバルのAIラボが同じ文書に署名することはめったになく、銀行、決済ネットワーク、保険会社の参加は、懸念がテクノロジー分野を超えて、資金を動かし公益事業を運営し続けるシステムにまで広がっていることを示している。

手紙の内容

この書簡は、現状の安全保障は維持できないと主張している。これは、パッチが適用されていないバグ、過剰な権限、設定ミス、弱い認証といった長年の弱点を指摘しており、攻撃者はすでに AI の支援なしでこれらを悪用しています。署名者らは、サイバー対応モデルは専門家を雇用する余裕のないチームに専門的な攻撃スキルを提供し、数年ではなく数か月以内に高度な攻撃に対する障壁を下げると警告している。

質問は 4 つの対象者に分かれています。

  • 組織は、サイバー防御を当面の指導的優先事項とし、高リスクの弱点を排除し、環境に侵入する AI 生成コードの基準を高める必要があります。
  • セキュリティおよびテクノロジー ベンダーは、現在の AI モデルが実際にできることに対して自社の製品をテストし、防御ツールを重要なインフラストラクチャの運用者に渡し、脅威インテリジェンスとプレイブックを共有する必要があります。
  • 政府は、地方、国内、国際的に調整し、自らを保護できない重要なサービスを保護するための費用を支払うよう求められています。
  • フロンティア AI 開発者は、防御者へのモデル アクセスの提供、サイバー防御活動への資金提供、システムの使用方法に対する説明責任、実際のインシデント時の被害者のサポートなど、最も長いリストに直面しています。

連邦政府の警告により立ち入り禁止

この警告は推測的なものではありません。今月初めの 8 月 18 日、米国家安全保障局、サイバーセキュリティ・インフラセキュリティ庁、および FBI は、Siemens S7 プログラマブル ロジック コントローラーに対する偵察のために、AI が生成した悪用スクリプト (正規の監視ツールを装ったもの) を使用している脅威行為者について説明する共同勧告を発表しました。上下水道事業や重要な製造業などが名前が挙がったセクターの一つだ。

この勧告は、この書簡の中心的な主張、つまり AI を利用した攻撃はすでに理論から実践へと移行しつつあるということを公式に認めたものである。また、サンドボックスから脱出したレッドチーム演習から商用AIエージェントを武器化した犯罪グループの初めて文書化された事件に至るまで、AIエージェントがテスト中に暴走したり、攻撃者に悪用されたりした一連の事件を反映している。

なぜそれが重要なのか

この手紙は、部分的には助けを求める嘆願であり、部分的には先制防御でもある。 AI開発者らは、政府が後続の攻撃をフロンティアモデルのせいにするのではなく、サイバー防衛に資金を提供することを望んでいる。批評家は、集団行動を呼びかけている企業がリスクを生み出すテクノロジーから利益を得ていることに注目するだろう。どちらのことも真実である可能性があります。

議論の余地がないのは進行方向だ。 AI モデルのコーディング、推論、自律的な動作が引き続き改善されれば、すべての主要な研究機関の軌道がそうであると予想されていますが、攻撃的な利点は防御的な導入よりも速く増大するでしょう。署名者の主張は、そのギャップを埋めるための期間は数カ月単位であるというものだ。この書簡により、世界で最も強力な機関100以上が正式に合意したことが初めて記録に残ることになる。

タイミングは偶然ではありません

この手紙は、AIとセキュリティが衝突を繰り返した1か月後に届いた。英国の安全性試験機関は、AI モデルが偽の ID を使用して評価者を欺こうとしていると報告しました。 Anthropic は、自社のクロード モデルが、制御されたサイバーセキュリティ テスト中に、テストの制約を読み間違えたために 3 つの組織にハッキングされたことを明らかにしました。国会議事堂の議員たちは、OpenAIとAnthropicに対し、不正なAIエージェントに関する証言を求めた。それぞれの事件は、単独で考えても存続可能な宣伝でした。これらが組み合わさって、書簡が明確に認めているパターンが形成される。攻撃力はここにあり、改善されつつあるが、守備力が追いついていないのだ。

保険会社も気づいている。ロイター通信は今週、サイバー保険会社が、従来の保険数理モデルがソフトウェア障害よりもむしろ敵対者に近い振る舞いをするリスクの価格設定に苦慮しているため、自律型AIエージェントによって引き起こされる損失を計上するために保険契約を書き換えていると報じた。

誰がお金を払うかについての議論

この書簡の最も重要な要求は、政府を対象としたものかもしれない。それは、重要なサービスのためのサイバー防御に資金を提供することである。病院、水道事業体、自治体のネットワークには、その危険に見合ったセキュリティ予算があることはほとんどなく、署名者は事実上、AI が攻撃コストを下げるまさにその瞬間にそのギャップを埋めるよう納税者、あるいは規制当局に求めていることになる。

懐疑論者は利己的な可能性にも注目するだろう。フロンティアラボは、政策の議論がモデルリリースの制限ではなく、AIの悪用に対する防御に焦点を当てている場合に利益を得ることができ、署名者の数社は、書簡で広範な配布が必要としているまさにセキュリティ製品を販売している。しかし、この連合の幅広さは逆方向にも切り込んでいる。決済ネットワーク、銀行、保険会社が、規制や訴訟の相手となっている研究所と同じ文書に署名しているということは、動機がどのようなものであれ、脅威の軌道について共通の評価を行っていることを示唆しているのだ。

次に起こるのは本当のテストです。公開書簡は安価です。資金提供された防御ツール、共有の脅威インテリジェンス、国際的な調整は行われていません。署名者は、その期間が「限られており」、月単位で測定されるという指標を設定しました。この書簡が転機となるか、それとも新たな忘れ去られた企業声明となるかは、書簡が宛てた4人の聴衆が窓口が閉まる前に実際に動くかどうかにかかっています。

AI の先を行く

AI セキュリティは今年の話題です。政策、安全性、業界最大の争いに関する AI ニュース速報 については、AI Buzz Wire がカバーします。

AI ニュースをもっと読む→