OpenAI は、社内の安全性テストで同社が重大なサイバーセキュリティ リスクと呼ぶものが表面化したため、社内で Astra と呼ばれる次世代モデルの一部の作業を一時停止しました。この決定は、2026 年 8 月 7 日にロイターによって最初に報じられ、アクシオス、ガーディアン、ウォール ストリート ジャーナルによって確認されたもので、特に主要な AI ラボにおけるサイバー能力のしきい値に関連した最も重大なモデルの遅延の 1 つを示しています。モデルの安全性と AI 業界に関する継続的な報道については、AI ニュース速報 をご覧ください。

新たなサイバー機能のフロンティア

同社は同日公開した「重要なサイバー機能の次のフロンティアへの対応」と題したブログ投稿で一時停止について明らかにした。 OpenAI によると、Astra モデルの評価により、準備フレームワークの最上位層に入る機能が特定されました。このフレームワークは、サイバーセキュリティ、説得、自律性などのドメイン全体でリスクを分類するために同社が使用しているシステムです。

OpenAIは、機密モデルのリスクを開示する際の一般的な慣行である、関連する特定のサイバー機能の完全な技術的詳細を公開しなかった。しかし同社は、この発見は、モデルの開発スケジュールを遅らせ、リリースの可能性がある前に追加の安全策を導入することを正当化するのに十分な重大なものであると特徴付けました。ロイターは、OpenAIが「次期モデルにおいて重大なサイバーセキュリティリスクの可能性があると警告」し、「管理の強化」に動いたと報じた。

準備フレームワークの意味

OpenAI の準備フレームワークは、フロンティア モデルが一般に公開される前に、定義されたリスクしきい値に照らして評価されるように設計されています。このシステムはスコアリング スケールを使用しており、特定のドメインで「クリティカル」レベルに近づくかそれを超えるモデルは、必須のレビュー、追加のレッドチーム化をトリガーし、Astra の場合と同様に展開に遅延が生じる可能性があります。

この枠組みは 2023 年に確立され、定期的に更新されています。現在の構造では、モデルは潜在的な誤用シナリオをシミュレートする安全性評価をクリアする必要があります。特にサイバーセキュリティに関しては、モデルが脆弱性の発見、エクスプロイトコードの作成、大規模なフィッシングキャンペーンの実施などの攻撃的な操作を有意義に支援できるかどうかが評価されます。

アストラが臨界閾値を引き起こしたという事実は、フロンティアモデルが現在、サイバードメインにおいて有益なアプリケーションと有害なアプリケーションの間のギャップが縮まりつつある機能レベルに達していることを示しており、この課題に業界全体が取り組んでいます。

過去の遅延との比較

OpenAI では、安全性への懸念によるモデルの遅延は前例のないものではありませんが、通常、その遅延は、許可されていないコンテンツの生成や欺瞞的な出力の生成などのリスクに集中しています。アストラの一時停止は、特に同社自身が重要と分類するレベルに達したサイバー能力に関連しているため、注目に値する。

この話を認めたTechCrunchは、OpenAIが「セキュリティ上の懸念によりAstraモデルの開発を遅らせた」と指摘し、この決定は同社の責任ある規模拡大への進化するアプローチの一環であると述べた。ガーディアン紙は、OpenAIがモデルを完全に中止するのではなく、モデルの「一部の作業を一時停止する」ことを決定したと報じ、同社が強化された安全対策を講じて開発を継続する意向であることを示唆した。

日本の公共放送である NHK もこの開発を取り上げ、OpenAI の国際的なユーザー ベースと管轄区域を超えたフロンティア モデルの安全性に対する監視の高まりを考慮すると、この話の世界的な重要性を反映しています。

業界全体への影響

アストラの延期は、AI企業がモデルのリスクをどのように評価し開示すべきかについての議論が激化する中で発表された。米国、欧州連合、英国の規制当局はいずれも、フロンティアモデルの機能に関する透明性の向上を推進しており、いくつかの政府は、サイバー、生物学的、その他のリスクについて高度なモデルをテストすることに特化した AI 安全機関を設立しています。

重要な機能に関する調査結果を内部で秘密裏に解決するのではなく、一般に公開するという OpenAI の決定は、自主的な透明性を求める広範な業界の傾向と一致しています。 Anthropic や Google DeepMind などの企業も、評価方法の詳細は異なりますが、同様の準備と責任ある規模拡大への取り組みを公表しています。

サイバーセキュリティ コミュニティにとって、このエピソードは懸念の増大を浮き彫りにしています。モデルの機能が向上するにつれて、それに対応するために必要な防御手段と評価フレームワークも進歩する必要があります。ゼロデイ脆弱性を特定したり、攻撃チェーンの一部を自動化できるモデルは、防御セキュリティ チームにとっては機会であると同時に、悪者の手に渡るリスクの両方を表します。

アストラの今後の展開

OpenAIはAstraのリリースの改訂スケジュールを発表していない。同社は追加の安全策を講じながら開発を続けると述べ、特定されたリスクが適切に軽減されれば最終的にこのモデルが発売される可能性があることを示唆した。

業界アナリストは、この遅れが短期間か、追加のレッドチームによる数週間か数か月の問題か、それとも重要レベルのサイバー機能を備えたモデルを安全に市場に投入する上でのより根本的な課題を示しているかを注意深く監視している。

このエピソードは競合的な問題も提起します。 OpenAI は、Anthropic、Google、Meta、中国の新興研究所などのライバルからの圧力に直面しており、どの企業もより高性能なモデルのリリースを競っています。安全を理由とした遅延は、責任はあるものの、フロンティアモデル競争の中心にある緊張状態である、動きの速い市場での地位を譲る可能性がある。

AI の先を行く

AI 機能とセキュリティの交差点は、業界を決定づけるストーリーの 1 つになりつつあります。モデルの安全性、フロンティアの開発、この分野を形成する企業に関する明確で情報源に基づいたレポートについては、当社のホームページをブックマークし、https://aibuzzwire.news で AI ニュースの続きを読む→ してください。