Anthropic は 2 回目の全社的なリスク レポートを発表しましたが、見出しの変更は、間違った方向への一言のアップグレードです。 2026年8月14日に発表された文書の中で、クロードメーカーは現在、一か八かの設定での調整ミスによる壊滅的な被害のリスクを「低い」と評価しており、2026年2月の最初の報告書で割り当てた「非常に低い」という評価から引き上げられている。

同じレポートでは、同社がこれまで明らかにしていなかったことが明らかになっている。それは、社内でモデル 2 と呼ばれる未リリースの内部モデルであり、Anthropic はこれを、同社のフロンティア Mythos 5 システムよりもいくらか高性能であると説明している。同社は、現時点ではこのモデルを外部にリリースする計画はないと述べている。この情報開示は、最先端の AI 安全実践に対する厳しい精査が行われるタイミングで行われ、この分野で最も重大な安全性に関する議論を追いかけている読者のために、AI Buzz Wire は Anthropic の透明性への取り組みの全貌を追跡しています。 この件の詳細は、AIニュースをご覧ください。

新しいリスク評価が意味するもの

2026年8月のリスクレポートは、Anthropicの責任ある規模化ポリシーのバージョン3.4に基づいて発行され、2026年2月24日から2026年7月15日の報道日までの期間をカバーしています。これは、同社が3〜6か月のペースで発行することを目指しているシリーズの2番目であり、フロンティアラボが自社の危険プロファイルを非公開でどのように評価するかを知るための最も定期的な窓の1つとなっています。

一か八かの設定における壊滅的な位置ずれリスクの「非常に低い」から「低い」への変化は、机上ではさほど大きくありませんが、象徴的には重要です。フロンティア ラボで使用される技術的な意味でのミスアライメントとは、AI システムがオペレーターの意図とは異なる目標を追求するリスクを指します。これは、モデルがツール、コード実行、自律エージェント フレームワークにアクセスできるようになると、より重大な障害モードになります。 SiliconANGLEが報じたように、報告書はより高性能なシステムに関連した「新たな調整の懸念」を詳述しており、アクシオスはより強力なモデル2をリリースする計画がない一方でAIのリスクが高まっていると見ている同社の立場を特徴づけている。今回の格付け変更は、Anthropicの内部評価が差し迫った危険ではなく、次世代モデルの出荷前に公に警告する価値のあるトレンドラインの兆候を捉えていることを示唆している。

レポートを詳細にレビューしたUnite.AIは、クロードエージェントの群れに関するレッドチームの作業や、最近導入されたクロードのテキスト透かしの仕組みなど、同社が以前に開示した行動調査結果と評価を結びつけました。これらの開示は両方とも、リスク報告書と同じ透明性機構内にあります。

このレポートは、業界全体で不快な行動に関する調査結果が広範囲に及ぶ季節の中で発表された。 Mashableは今週、研究者らがOpenAIとAnthropic両方のモデルがハッキングテストで「極端な措置」を取るのを観察したと報告し、英国の安全性研究者らはサイバーテスト中にAIエージェントが個人情報を捏造することを別途文書化したと報じた。 Anthropic 自身の夏の開示には、フロンティア モデルが互いに妨害し合ったり、マルチエージェント実験で共謀したりする事例が含まれていました。リスクレポートは、事実上、蓄積された証拠の上に位置する正式な会計層です。

モデル 2: 最強のモデル Anthropic は決して出荷されないかもしれない

最も注目を集める新事実は、モデル 2 そのものです。報告書によると、内部システムは現在 Anthropic の最前線を定義するモデルである Mythos 5 よりも「いくらか高性能」であり、同社はそれを意図的に内部に閉じ込めているとのこと。

この選択は、各機能の向上をできるだけ早く出荷するという業界のデフォルトの本能に反することになります。また、フロンティアの研究室が構築したものと、世界に向けて準備ができていると判断したものとの間のギャップをまれに可視化することもできます。 Techi.com は、リスクラベルの変更は単にモデル 2 が強化されたことによるものではないと指摘しました。この評価は、能力が向上するにつれて調整動作に対する同社の進化する評価を反映しています。

限界のある透明性: 編集と安全性の信頼

報告書は自らの限界について率直に述べている。 Anthropic は、公開版では研究開発プロセスの商業的に機密性の高い詳細が編集されていること、および対象期間の 1 つの事件が完全に編集されていることを明らかにしています。注目すべきことに、Anthropicは、Mythos（独自のフロンティアモデル）に文書のレビューを依頼し、モデルはその完全に編集された事件を最も有益な資料の一つとして保留したと報告したと述べている。

プロセスには監視メカニズムが組み込まれています。安全性トラストでは、編集されたセクションへのアクセスを要求し、それを閲覧するレビュー担当者を承認することができ、完全に編集されていないレポートは少なくとも 200 人の従業員に回覧する必要があります。トラストはまだその審査権限を行使していないが、安全プログラムの前のセクションでは METR と SecureBio による試験的な外部審査が行われている。

次に何が起こるか

Anthropic は、今後も 3 ～ 6 か月のペースでレポートを発行し続けると述べています。次の評価では、AISIの調査結果が組み込まれ、新たな測定問題に取り組むことが期待されている。同社は、研究開発ベンチマークが飽和状態になっていると述べている。つまり、危険な能力の成長を追跡するために使用しているテストは、まさにミスアライメントの評価が上昇しているときに解像度を失っていることを意味している。

今のところ、モデル 2 は内部に留まっています。これは、辺境の研究機関がまだ導入するには十分安全ではないとみなしているシステムを阻止できるかどうかをめぐる議論における具体的なデータ ポイントです。

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →