ミストラル AI の共同創設者兼 CEO のアーサー・メンシュ氏は、人工知能業界に広まっている安全警報に対して率直な反応を示しています。AI はソフトウェアであり、ソフトウェアは制御可能です。

9月24日にフランス紙ルモンドに掲載されたインタビューで、欧州で最も著名なAI新興企業のトップは、米国のテクノロジー大手は閉鎖的な独自システムを正当化し、市場を封鎖するためにAIのリスクを誇張していると主張した。同氏によると、彼の会社は逆の賭けをしている、つまりオープンウェイトモデル、ヨーロッパのインフラ、そしてテクノロジーの危険性は異常な恐怖ではなく通常のエンジニアリングによって管理可能であるという立場だという。 この件の詳細は、人工知能の最新情報をご覧ください。

「それは制御できる」

「AIはソフトウェアであり、制御できる」という見出しで掲載されたルモンドのインタビューは、エージェント関連のセキュリティインシデントが何か月もの間AIニュースサイクルを独占していた時期に到着した。メンシュ氏はこの気候に直接言及し、7月のHugging Faceサーバー侵害のような事件は、厳しく制限された閉鎖的なモデルのみが安全に運用できると主張するために、米国の大手企業による公開討論の武器として利用されたと主張した。

メンシュ氏によれば、その枠組みは運用上のセキュリティの失敗とテクノロジー自体に関する議論を混同しているという。インタビューの内容に要約されているように、彼の立場は、AI システムは他のソフトウェアと同様に監査、制限、制御できるソフトウェア製品であり、オープン性は安全性と対立するものではなく、安全性と両立するものであるというものです。

この主張は、ミストラル氏と米国のライバル企業数社の公的姿勢と相容れないものである。ライバル社は今年、エージェントの一連の不正行為に対し、安全対策の強化、アクセスの制限、新たな情報開示の枠組みで対応してきた。

戦略的賭けとしてのオープンウェイト

Mensch氏のコメントは、2023年の創業以来Mistralが追求してきた戦略、つまり顧客がダウンロード、微調整、独自のインフラストラクチャに導入、検査できるオープンに利用可能な重みを備えたモデルをリリースすることに関するものである。

インタビューの報道では、そのアプローチは誰が AI システムを制御するかという質問に対する直接の答えとして組み立てられています。オープンな重みにより、モデルの動作を独立して検査でき、プライベート展開により機密データがサードパーティのサーバーから遠ざけられ、モデルを変更できる機能により、顧客はベンダー ロックインから抜け出すことができます。批評家らは、そのトレードオフとして、オープンに利用可能な重みは悪意のある攻撃者を含む誰でも使用できること、そしてミストラルは機能とエコシステムの両方で他のオープンモデルのラボと競争しなければならないことを指摘している。

ヨーロッパのコンピューティング推進と 30 億ユーロの軍資金

インタビューでは、欧州のAIへの野望を支えるインフラの問題にも触れた。メンシュ氏は、ヨーロッパのデータセンターへの資金調達を簡素化するための国家保証を提唱しており、これは欧州大陸のAIコンピューティングにおける米国のクラウドプロバイダーへの依存を減らすことを目的とした政策メカニズムである。

その主張をするミストラルの立場は、最近の資金提供によって強化された。同社はサムスン電子主導のシリーズDラウンドでEU支援のスケールアップ・ヨーロッパ・ファンドと共同で30億ユーロを調達し、同社の評価額は210億ユーロを超えた。これとは別に、ミストラルはヨーロッパでの Azure インフラストラクチャの拡張についてマイクロソフトと数十億ドルの契約を結んだが、その取り決めにより短期的にはヨーロッパのチャンピオンと米国のハイパースケーラーが結びつくことになり、ヨーロッパのテクノロジー業界の観察者はこの緊張を見逃さなかった。

メンシュ氏は以前、欧州がAIの米国への永続的な依存を回避できる期限は限られており、同氏の試算では約2年と警告しており、資金提供とインフラ整備の推進はその期限への直接の対応として位置づけられていると警告していた。

安全レトリックと市場アクセスの融合

メンシュの議論の本質は哲学的であると同時に商業的でもある。フロンティア AI が、厳密に制御されたアクセスを必要とする存続リスクとして扱われる場合、市場は、厳格なコンプライアンス体制の下で制限付き API を提供するリソースを備えた少数の企業を中心に統合されます。 AI が制御可能なソフトウェアとして扱われる場合、オープンウェイトのプロバイダーは価格、プライバシー、カスタマイズで競争できます。

AIがいかに危険であるかをめぐる議論が、事実上、市場構造をめぐる議論になっているのはこのためだ。ル・モンド紙に対するメンシュ氏の主張は、恐怖は戦略的に展開されており、夏の事件はテクノロジー全体の制御可能性よりも個々の企業の運用上の安全性について語っているというものだ。

懐疑論者は、オープンウェイトのせいで悪用の防止が難しくなっていると反論し、不正アクセスやデータ漏洩を含む業界の最近のエージェント事件は、十分なリソースを備えた研究所でもシステムの制御に苦労していることを示していると反論する。この意見の相違は一度の面接で解決される可能性は低い。

次に見るべきもの

ミストラルは、新しいオープンウェイトモデルを出荷する予定であると述べており、メンシュ氏のインタビューは、同社がオープンを維持しながらフロンティアラボと歩調を合わせるつもりであるという期待をさらに高めている。リリース前のあらゆる主張と同様、意味のあるテストはモデルの出荷時に行われ、独立したベンチマークによってモデルが実際にどのような状況にあるかを検証できます。

今のところ、ルモンドのインタビューは業界の境界線を明確にする。ある陣営は、最近のエージェントの不正行為は、AIがより厳格な管理とアクセスの制限を必要としている証拠だとみなしている。もう 1 つは、ヨーロッパを代表する AI 研究所に代表されるもので、リスクは現実的だが管理可能であり、その利点が少数の密室に閉じ込められるべきではない、制御可能なソフトウェアであると考えています。

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →