Anthropicは改訂されたS-1/A IPO申請書の中で、自社の責任ある規模化ポリシーの「AIに起因する劇的に加速された進歩」の定義に「間もなく」達する可能性があると警告している。これは、再帰的自己改善（RSI）と広く呼ばれる閾値であり、AIシステムがAIを改善するのに十分な能力を発揮し、能力の向上が自動的に増大し始める点である。 TechCrunchは月曜日にこの開示を報じ、申請書類のリスク要因に埋もれている文言を強調したが、これはAI研究所が自身の軌跡について行った最も重大な声明の1つである。

アンスロピック自身の言葉で、申請書には次のように述べられている。「現在のモデルではなく、将来のモデルに関する当社の内部推定と期待は、当社の責任ある規模化ポリシーの定義である『AIのおかげで劇的に加速した進歩』を間もなく満たす可能性があることを示しています。」現在のモデルはこのしきい値を超えるものとして指定されておらず、基礎となるデータの評価を継続しています。」 この件の詳細は、AIニュースをご覧ください。

申請書の実際の内容

この警告は、Anthropic が自社の研究開発を加速するために AI システムの使用を増やしているという、より広範なリスク要因の中にあります。同社は、この力学がリアルタイムで認識できなかった能力の飛躍をすでに生み出していることを明らかにしています。 「その結果、我々はこれまで開発速度の大幅な加速をそれが起こるまで特定できず、今後も特定できない可能性がある」と申請書には記載されている。

人間性は、根底にある力学をエンジンと危険の両方として枠組み化します。 「より高性能なAIの構築にAIを利用することは、特に進歩のペースを急激に加速させる場合には、かなりの安全上のリスクを引き起こす可能性がある」と申請書には書かれている。 「これは当社の責任ある拡大方針でカバーされる分野の 1 つであり、いわゆる『再帰的自己改善』に取り組む際にリスクを監視し、軽減するための計画を定めています。」

この賭け金は IPO 書類としては異例です。 RSI は、AI の楽観的なビジョンと悲観的なビジョンを他のどの概念よりも明確に区別する概念です。 AI の安全性研究者にとって、再帰的な自己改善は暴走シナリオです。つまり、システムがより良いシステムを構築するのがうまくなり、人間の監視が意味を持ち続けるポイントを超えて加速します。 AI 支持者にとって、これは約束です。人間主導のプロセスでは匹敵できない科学的発見と生産性の向上を実現するツールです。アンスロピック社の申請書は両方の測定値を認めているが、投資家に対して同社はこの現象がリスク要因における独自の見解を正当化するのに十分近いと信じていると事実上伝えている。

人類の安全策は期待できる

アンスロピックは警告とともに、人類を当面はフロンティアモデル開発のループに留めておくことを約束した。 「技術的に可能になったとしても、有意義な人間の監督や理解なしに、Claude を安全に使用して、完全に自律的にフロンティア モデルの連続世代を設計および構築できるとは予想していません」と申請書には記載されています。同社は、「Anthropic 社のフロンティア モデル開発を人間が管理できるよう、責任あるスケーリング ポリシーの更新を検討している」と付け加えた。

同社は現在時制に注意しており、現在の人間モデルは RSI しきい値を超えるものとして指定されていません。しかし、出荷されたモデルではなく将来のモデルに適用される「差し迫った出会いがあるかもしれない」という表現は、研究室が独自の内部推定値と現在進行中のトレーニングの実行をどのように読んでいるかを印象的に認めています。

情報開示かマーケティングか?

懐疑論者は、S-1 が一度に 2 人の聴衆にサービスを提供すること、つまり法的開示と売り込みであることにすぐに気づきました。企業が自ら構築できるほど強力なテクノロジーの頂点に立っているという主張は、警告か評価の議論、あるいはその両方であると解釈できます。 Anthropic の内部推定が「差し迫った」という言葉を正当化するかどうかを外部から監査する方法はなく、同社は現在のモデルが一線を越えていると指定していないため、主張は研究パイプラインの研究所独自の測定に依存することになります。

それでも、申請書類に記載されている根本的な傾向は外部から観察できます。クロードのコーディング、数学、サイバーセキュリティの能力は 2026 年までに急激に進歩し、Anthropic は独自のモデルを使用して研究を行い、アラインメント実験を実行し、開発作業を支援することを徐々に公表してきました。この申請書の中で新しいことは、同社が法的拘束力のある開示文書の中で、このフィードバックループが危険な加速として独自の公式規模でまもなく登録される可能性があることを正式に表明していることである。

なぜ人類を超えて重要なのか

この情報開示は、AI開発のペース調整の問題が会議のパネルから政策議題に移ったタイミングで行われた。安全性を重視する大手研究所がSECへの提出書類の中で、自社のAI主導による加速が間もなく閾値を超える可能性があると述べ、同時にそのような加速が起こるまでそのような加速を見逃してきたことを認めた場合、規制当局、投資家、ライバル研究所は、議論の両側で指摘すべき文書を手に入れることになる。

業界で最も注目されるIPOの1つを準備しているアンスロピックにとって、この申請は微妙なバランスをとる行為を行っている。同社が安全性への取り組みを真剣に受け止めていることを証明する十分な警告と、上値を売り続けるための自社の管理に対する十分な自信を示すものである。同社の「責任あるスケーリングポリシー」の更新が実現した場合、ラボの実際の実践がバランスのどちら側にあるのかが示されることになる。

再帰的自己改善とフロンティア モデル ガバナンスの開発に関する継続的な AI 研究範囲と AI 安全性レポートを追跡します。

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →