Anthropic の修正された IPO 申請書は月曜、同社の財務情報で大きく報道されました。コンピューティングコミットメントが 8,954 億ドルであるのに対し、第 3 四半期の収益は約 170 億ドルです。しかし、改訂されたS-1Aのリスク要因には、より重大であることが判明する可能性のある開示が埋もれている。同社は、自社が再帰的自己改善の閾値を超えようとしている可能性がある、つまりAIシステムが独自の開発を加速できるようになる時点にあると述べている。

TechCrunchの報道によると、この申請書は、Anthropicが一般にRSIとして知られる再帰的自己改善が可能なモデルの作成の真っ最中であることを警告しているようだと報じた。このモデルは、AIがAIの改善に非常に優れるようになり、能力の向上が劇的に増大し始める段階である。 この件の詳細は、人工知能の最新情報をご覧ください。

申請書の実際の内容

Anthropic はすでに AI を活用して自社の研究開発を加速しています。修正された申請書の中で同社は、この慣行は双方向を遮断するものであると警告している。「より有能な AI の構築に AI を使用することは、特に進歩のペースを急激に加速させる場合には、かなりの安全上のリスクを引き起こす可能性もあります。これは当社の責任ある拡大方針がカバーする領域の 1 つであり、いわゆる『再帰的自己改善』に取り組む際にリスクを監視し、軽減する計画を定めています。」

新しいリスク要因の文言は、Anthropic が以前に公開資料で述べた内容よりもさらに踏み込んだものです。同社は、過去に大きな能力の飛躍が起こったときにそれを認識できなかったことを明らかにしている。「開発速度の大幅な加速は、それが起こるまでは過去に認識されておらず、今後も認識されない可能性がある。」

そして、業界の注目を集める声明が発表された。提出書類によると、「現在のモデルではなく将来のモデルに関する当社の内部推定と期待は、当社の責任ある規模化ポリシーの定義である『AIのおかげで劇的に加速した進歩』を間もなく満たす可能性があることを示している」としている。

Anthropic は、「当社の現在のモデルはこのしきい値を超えるものとして指定されていない」と付け加え、基礎となるデータの評価を継続しています。言い換えれば、現在のクロード モデルは適格ではありませんが、同社の内部予測では、次世代が適格である可能性があることが示唆されています。

人間の情報を常に把握しておく

警告とともに、Anthropic は人々がモデル開発を管理できるようにすることを約束します。 「技術的に可能になったとしても、有意義な人間の監督や理解なしに、Claude を安全に使用して、完全に自律的にフロンティア モデルの連続世代を設計および構築できるとは予想していません」と申請書には記載されています。 「したがって、私たちは、Anthropic でのフロンティア モデル開発を人間が管理できるように、責任あるスケーリング ポリシーの更新を検討しています。」

Anthropic 自身の研究における AI の役割の規模は急速に拡大しています。 Business Insider は、現在、Anthropic の社内研究開発業務のおよそ 4 分の 1 を AI がリードしており、3 月の 1% から増加していると報告しました。業界関係者は、このグラフを AI において最も重要なものの 1 つと呼んでいます。

言説の転換: バズワードからバランスシートへ

今年初めに RSI という用語が一般的になったとき、業界の多くの人はそれをバズワード、あるいはせいぜい、達成、証明、規制するには定義が不十分すぎる目標として無視しました。企業が株式を一般に売却する前にSECに提出することが法的に義務付けられている文書に、この概念が正確な社内定義とともに記載されている今、その懐疑論を維持するのはさらに困難になっている。

自己改善を短期的な計画の前提として扱うのは人間学だけではありません。 Googleの共同創設者サーゲイ・ブリン氏は、業界はモデルが後継モデルの構築に役立つ「RSIトレッドミル」に向けて競争していると述べ、元OpenAI共同創設者のジョン・シュルマン氏は、およそ3～4年以内に再帰的な自己改善が見込まれると述べた。 Anthropic 社の開示の特徴は、その形式的な点です。つまり、定義されたしきい値、内部測定プロセス、および企業がそのしきい値を超えると予想される時期についての公式声明です。

RSI がトリップワイヤーである理由 両陣営が注目

RSI は、それを説明する人によって異なる意味を持ちます。 AI の安全性研究者にとって、これは帰還不能点、つまり人間が理解、検証、介入できるよりも早く AI システムが自らを改善し、人間の制御を超えてしまう可能性があるシナリオを表しています。 AI の楽観主義者にとっても、同じ力学が賞品です。確実に自己改善するシステムは、並外れた生産性と科学的発見を生み出すでしょう。

Anthropic のフレーミングは両方の可能性を認めています。この開示は投資家を主な対象読者とする文書に記載されており、懐疑論者はS-1が開示とマーケティングの両方の機能を果たしていると指摘している。同社が自己改善型AIの構築に近づいているという主張は、同社の評価を裏付ける議論と同じくらい簡単に読まれる可能性がある。

しかし、この主張には具体的な根拠がある。 Claude のコーディング、数学、サイバーセキュリティの能力は 2026 年までに急激に進歩しており、Anthropic 独自の責任あるスケーリング ポリシーでは、「AI のおかげで劇的に加速した進歩」基準を定義しており、同社は現在、間もなく満たす可能性があると述べています。

AI ガバナンスのテスト

この開示は、フロンティアモデルを検討するホワイトハウスの枠組みからコンピューティングガバナンスの国際的な議論に至るまで、フロンティアAIの監視を巡る政策議論が激化する中で行われた。主要な AI ラボが独自の加速進歩しきい値を満たすモデルを正式に指定した場合、Anthropic の責任あるスケーリング ポリシーに基づく義務が発動され、そのような業界のフレームワークが実際に機能競争を遅らせたり形成したりできるかどうかを試す、初めての実世界のテストとなるでしょう。

今のところ、一線を越えたモデルはいないとアンスロピックは言う。申請書は、同社がその一線を間もなく超えると予想していることを示唆しており、投資家に対し、それに対して同社がどのような対応をする予定であるかを事前に理解するよう求めている。

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →