非営利評価団体METRが木曜日に発表した独立した分析によると、Anthropicは自社のAIモデルの機能を1年前のおよそ2倍の速さで向上させており、そのスピードアップの多くは独自の後継モデルの構築を支援するAIシステムから来ているようだという。

AP通信が報じたこの調査結果は、METRがアンスロピックの内部データへの「前例のないアクセス」と表現した内容に基づいているため、異常な重みを持っている。カリフォルニア州バークレーに本拠を置くこのグループ（正式名は「モデル評価および脅威研究」）の研究者は、8月中旬から10月下旬までの約11週間社内に招待され、内部調査データを分析し、スタッフにインタビューした。

フロンティア研究所をめぐる安全性に関する議論を追跡している読者は、最新 AI ニュース の記事をご覧ください。

核心的な発見: 進歩は複雑化している

METR の中心的な推定では、Anthropic は明確に指定されたタスクでモデルのパフォーマンスを 1 年前の約 2 倍の速さで向上させていると考えられています。報告書は、「Anthropic は、2023 年 10 月から 2025 年 10 月の間に達成したのと同じくらい、過去 1 年間でベンチマークに関して進歩を遂げたようだ」と厳しく述べています。

さらに重要なのは、METR が加速を促進していると考えていることです。研究者らは、計算能力の増加が原因であることを「自信を持って」除外することができたと述べた。これは伝統的にモデルのパフォーマンスに最も密接に関係する変数である。彼らの結論は、改善は主に AI 研究を行うために AI 自体を使用することによるものです。

Anthropic は、Claude チャットボットが同社のより新しい、より高度なバージョンの開発にますます役立っていることを認めています。 METRの報告書では、そのプロセスを妨げる「ボトルネック」（コンピューティングやデータの制限など）は見つかっていないことを発見し、AIはまだモデルトレーニングの最も重要な部分に「非常に重要かつ完全に自律的な貢献」を行っていないが、人類の研究者らは、それがすぐに変化する可能性を示唆する重要な「生命の兆候」を説明したと指摘した。

調査結果は景気減速の最中に議論に定着した

最高経営責任者が自制を求めてロビー活動を行っている企業にとって、タイミングは厄介だ。アンスロピックのダリオ・アモデイ最高経営責任者（CEO）が9月12日にエッセイを発表し、安全対策が追いつくために「AIモデルの能力を向上させるペースを落とす」ようAI業界に促したのは、METRの評価期間中にあった。

METRはまた、8月に発行された公開リスク報告書Anthropicと民間版の両方を検討し、公開文書は「全体的に、発生している加速度のレベルを過小評価している」と結論付けた。

Anthropic の回答: 部分的に同意、大幅な編集

Anthropicの共同創設者で同社のチーフアーキテクトであるサム・マッキャンドリッシュ氏は木曜日、Xに関する長い投稿でこの報告書に返答し、METRの結論の多くは彼自身の見解と一致すると書いた。

同氏は、「AIはわれわれの研究を加速させているが、正確にどの程度かを言うのは難しい」と書き、Anthropicは今後数週間以内に社内のAIの進歩ペースに関する独自の分析を発表する予定だと付け加えた。

マキャンドリッシュ氏はまた、報告書の大部分を編集するという同社の決定を擁護したが、それによってMETRが加速度推定値をどの程度正確に伝達できるかが制限された。同氏は、情報が商業的に機密であり、「より高速化するためのロードマップを他者に提供する危険性」があるため、「高速化の原因を正確に共有することは正しい行為ではない」と述べ、それはMETRが懸念しているリスクそのものを悪化させることになると氏は主張した。 「それはトレードオフだ」と彼は書いた。

重要な警告

METR自身の説明によれば、この報告書には警告が散りばめられていた。研究グループは、見出しの発見は問題を誇張している可能性があると述べた。測定された加速度は、フロンティア研究を特徴付ける複雑で自由な作業ではなく、自動的に採点できる明確に指定されたタスクにのみ適用される可能性がある。あるいは、Anthropic が単に初期のベースラインを過小評価し、最新のジャンプを実際よりも大きく見せている可能性もあります。

METR の立場は、透明性の理由からも注目に値します。非営利団体は寄付によって資金提供されており、評価に対する報酬は受け取っていません。また、Anthropic、OpenAI、その他の研究室の能力評価を長年にわたって実施しています。ただし、パートナー企業はモデルへのアクセスと研究を実行するために必要なトークンを提供しています。

なぜ今重要なのか

この分析は、Anthropicが史上最大規模となる可能性のある新規株式公開を予定している数週間前に行われ、ますます能力が高まるAIモデルが人間の制御を逃れる可能性があるかどうかについて議論が渦巻いている。安全擁護者らは長年、特にトランプ政権が企業に自主規制を奨励している中で、フロンティアの動きを測る信頼できる唯一の尺度は研究所の自己報告ではなく、独立した検証だと主張してきた。

METRは最後の懸念として、AIを活用したAI研究が複雑化し始めれば、先進的なモデルによるリスクが外部の観察者が容易に追跡できないペースで増大し、加速自体が加速する可能性があると警告した。同グループの報告書は、少なくともある大手研究室では、現場が懸念していたフィードバックループがもはや仮説ではなく、ベンチマークデータに現れていることを示唆している。

業界の他の企業がどれだけ早くこれに追随するかは、規制当局、投資家、そして同社幹部が今後注目している問題だ。

---

AI の先を行く

最新の AI ニュース、分析、画期的な情報をすべて 1 か所で入手できます。

AI ニュースをもっと読む→