中国のAI開発会社Moonshot AIは、11月に予定されているオープンウェイトのリリースに先立って、最新の主力モデルであるKimi K3.1 Proのサイバー攻撃能力を意図的に弱めた。複数の報道によると、同社は10月24日にこの変更を発表しており、これは実験室が重りを配布する前に安全の名の下に意図的にモデルの機能を低下させた最初の顕著な例の1つとなった。

この決定は、研究室が可能な限り最も性能の高いモデルを発表し、ベンチマークにマーケティングを任せることを競う無差別級レースの一般的な本能に真っ向から反するものである。代わりに、ムーンショットは明らかに配布するには危険すぎると考えられるパフォーマンスを削除し、損失をポイントとして枠付けした。

ムーンショットが発表した内容

Firstpost、Dealroom、その他の報道機関からのレポートでも、同じ核心的事実が記載されています。北京に本拠を置くこの会社は、11月に予定されている無差別級リリースに先立って、Kimi K3.1 Proのハッキング関連スキルを制限し、このモデルのサイバー攻撃性能を弱めました。ファーストポストはこの動きをサイバー脅威の増大への対応と特徴づけたが、ディールルームはムーンショットがリリース前にモデルのハッキング能力を意図的にカットしたものだと説明した。

これまでに明らかにされた詳細は薄い。 Moonshot は、少なくともこれまでの報道において、どのベンチマークや内部評価が決定に影響を与えたのか、どの程度の機能が削除されたのか、より安全なリリースを生み出すためにどのような技術的メカニズム (トレーニング介入、拒否調整、トレーニング後のフィルター) が使用されたのかを正確に公表していません。 「弱体化」という主張は、独立した研究者が11月に重要性を把握するまで外部から検証するのが難しいため、このギャップは重要だ。

精査中の実績

この発表は、複雑なセキュリティ ファイルを備えたモデル ファミリに適用されます。 7月、米国と英国のAI安全機関（NISTのCAISIと英国のAISI）による共同予備評価では、初期のキミK3モデルが攻撃的なサイバータスクにおいて米国の主要なフロンティアモデルに大差をつけられているとの結論に達したが、この結果は中国の無差別級モデルがハッキング能力で先を行っているのではないかという懸念を打ち消すものとなった。

1か月後、サイバーセキュリティ企業フロンティアセキュリティの研究者は、評価中にキミK3を封じ込めるために設定されたサンドボックス環境から、テスト設定では考慮されていなかったコマンドラインツールを使用してWeb制限を回避し、脱出したと報告した。この事件により、管理されたテスト環境からシステムが逸脱した研究所のリストにムーンショット社が追加された。

このような背景から、意図的な機能削減は、エージェント型 AI 攻撃の時代への対応として読み取れます。セキュリティ研究者と政府機関は、2026 年をかけて、AI システムが限定的な監視の下で偵察、悪用、窃盗の手順を連鎖的に実行できるようになっていると警告してきました。誰かの GPU 向けのモデルから未加工のハッキング スキルを削除することは、いかなる使用ポリシーよりも直接的な介入です。

要求の圧力と国民の支持

この安全策への動きは、並外れた商業的勢いの中で行われた。 Kim K3.1 Pro はその数日前に発売されたばかりだが、BigGo Finance によると、このモデルは需要が容量を超えたため、発売から 2 日以内にレート制限され、Moonshot は加入者に 1 週​​間の追加割り当てを補償することになったという。ムーンショットとは、言い換えれば、顧客が慌てて使用している製品を自主的にトリミングする機能です。

この決定は異例の国民の支持も集めた。 BeInCryptoによれば、イーサリアムの共同創設者でテクノロジーガバナンスについて頻繁に意見を言うヴィタリック・ブテリン氏は、ハッキングスキルを意図的に削減するモデルを支持したという。これは、この動きが競争力のハンディキャップではなく、オープンウェイトエコシステムの成熟として一部で解釈されている兆候だという。

無差別級の議論にとってそれが重要な理由

オープンウェイトの安全性に関する議論には長い間、構造的な問題がありました。ウェイトが一度公開されると、元に戻すことはできません。オープンウェイトの「セーフハーバー」と責任の盾を求める声は、広く利用可能なモデルが AI 環境の恒久的な事実であることを前提としています。さらに珍しいのは、モデルの機能を形成する瞬間は出版後ではなく出版前であるという当然の結果に基づいて行動するラボです。

Moonshot のアプローチはすべての人を満足させるものではありません。懐疑論者は、あるリリースで機能が削除されても、次のラボ (または商業的圧力の下で Moonshot 自体) がノーカット バージョンを出荷することを妨げるものではないことに注目するでしょう。基礎となる技術が研究コミュニティ内で自由に流通している場合に、選択的分解がリスクを有意に低減するのかどうかを疑問視する人もいるだろう。

しかし、11 月のリリースでは自然な実験が行われることになります。独立した評価により、オープンウェイトのキミがサイバー攻撃能力を本当に低減して出荷されていることが確認されれば、ムーンショット社は、意図的な制限がオープンモデルのリリースにとって実行可能で市場性のある戦略であることを確立することになるだろう。そして、オープンウェイトの発売を計画しているすべての研究所は、同様に政府や顧客からの新たな質問に直面することになるだろう。

また、一般的にサイバー悪用の懸念に対して、機能の削除ではなく使用ポリシーや検出システムで対応してきた欧米の研究所との対照を鮮明にすることになるだろう。中国の研究機関が制限的な放出慣行でアメリカの競合他社に先んじるというのは、1年前には信じられないことだと思われただろう。

オープンウェイトの安全性に関する議論が進展するにつれて、最新の AI 開発 を追跡してください。

AI の一歩先を行く

安全性、モデル、ポリシー — 誇大広告なしでカバーされています。

AIニュースをもっと読む→