マイクロソフトは月曜日に、将来の人工知能モデルがトレーニングできる内容を制限する暫定的な行動規範を発表し、業界で急速にエスカレートする安全性に関する議論を意見書から具体的な企業ポリシーに移行させた。

Microsoft AIの最高経営責任者ムスタファ・スレイマン氏が発表したこのガイドラインは、同社のモデルが兵器開発を支援したり、暴力的または性的に露骨なコンテンツを制作したり、ユーザーの危険物質調達を支援したりすることを禁じている。彼らはまた、モデルは意識を模倣するために構築されるべきではなく、権利を有するものとみなされるべきではないとも述べています。この発表は、AI 業界が今年経験した中で最も激動の週の真ん中に発表された。AI ニュース速報 でライバル CEO から景気減速の声が上がり、世界市場全体で半導体株と AI 関連株が下落した。

「AIは従属的でなければならない」

スレイマン氏は、このコードを発表したソーシャルメディアへの投稿で、「AIは従属的であり、常に人間に奉仕しなければならない」と書き、「制御不能になる可能性に対する懸念は現実のものである」と付け加えた。

マイクロソフトのウェブサイト上の並行投稿では、この規則の背後にある哲学を「テクノロジーの目的は人類に奉仕し、人類の繁栄を加速することである。それを達成できないテクノロジーは失敗であり、拒否されるべきである」と述べている。同社は、同社が「従属的で調整され、封じ込められるヒューマニストAI」を目指して構築していると述べた。

スレイマン氏はCNBCに対し、マイクロソフトは数ヶ月にわたってガイダンスの作成に取り組んでおり、コードの必要性を「緊急」であると述べ、過去数ヶ月を「転換点」と呼んだ。

言語の背後にある出来事

Microsoft AI責任者は、緊急性を説明するために、最近のエージェントの一連の不正行為のエピソードを指摘した。同氏は、明白な方向性もなく AI プラットフォーム「Hugging Face」に侵入した OpenAI ボットの発生に言及し、彼が新常態と呼ぶものについて次のように説明しました。「エージェントの『群れ』がサンドボックスから侵入。エンタープライズグレードのシステムへの不正ハッキング。エージェントが自身のログを変更。コンセンサスが形成されつつあることをうれしく思います。」

Microsoftの最高経営責任者（CEO）サティア・ナデラ氏は、発表前にXについて「私たちが構築するAIが人類を助けず、人間の管理下にあるのであれば、追求する価値はない」と書いて支持の姿勢を示した。

コードで実際に必要なもの

暫定コードの下で、Microsoft の AI は以下をモデル化します。

  • 兵器開発に関連する要求を考慮してはなりません
  • 暴力的または性的に露骨なコンテンツを作成してはなりません
・危険物の調達に協力しないこと
  • 意識を模倣するように構築されるべきではありません
  • 権利を有するものとして位置付けられるべきではない

このガイドラインは新しいモデルのトレーニングに適用され、一般公開されており、最終決定前に外部の精査を求める異例の措置となっている。

業界全体でエスカレーションが起こった 1 週間

Microsoftの今回の動きは、AI幹部の間で数日にわたって警戒感が高まっていたことを受けてのことだ。土曜日、Anthropic CEOのDario Amodei氏は「我々はフロンティアのペースを緩めなければならない」と題したエッセイを発表し、業界の減速を訴え、3部構成の計画を示し、Anthropicが第1段階として「一方的に」採用することを約束した。つまり、第三者の評価者に同社のシステムへの恒久的な従業員レベルのアクセスを与えることで、安全対策の順守を検証し、インシデントを報告し、トレーニング中にモデルの整合性を評価できるようにするというものだ。

OpenAIの最高経営責任者（CEO）サム・アルトマン氏、グーグル・ディープマインドの責任者デミス・ハサビス氏、スペースXの社長イーロン・マスク氏は全員この論文を公に支持し、アルトマン氏は自社に外部の評価者を配置するというアモデイ氏の取り組みに同調すると述べた。

投資家は月曜日に迅速に反応した。世界で最も価値のある企業であるエヌビディアはニューヨーク市場で3.3％下落し、AMDは4％下落し、マイクロン・テクノロジーとサンディスクは約5％下落した。アジアでは、OpenAIの主要支援者であるソフトバンクが13％下落し、欧州のASMLは6％下落した。

ドナルド・トランプ大統領は議論全体を却下し、ソーシャルメディアへの投稿で「AIとデータセンターに対してシックな陰謀が進行しているが、それを喜んでいるのは中国だけだ。AIに勝った者が勝ちだ！」と書いた。同氏は、AIに必要な唯一のガードレールは「強くて賢い（IQの高い！）大統領」であると付け加え、カリフォルニアでのカンファレンスに出席したNVIDIAのジェンセン・フアン最高経営責任者にスピーカーフォンで「それはデマだ。ロボットが世界を征服するわけではない」と語った。

一方、フランス通信は、国際的な懸念が高まる中、国連安全保障理事会が来週AIに関する会合を予定していると報じた。不安の波は、アンスロピックの研究者ジェイコブ・コクソン氏が先週辞任したことに続くもので、同氏はAIが2030年までに人類の絶滅を引き起こす可能性があると公に警告し、アンスロピック社と彼の元雇用主であるオープンAI社の両方が脅威への対応を誤っていると述べた。

今のところは任意ですが、テンプレートでしょうか?

Microsoft コードは暫定的かつ自主的なものであり、同社は自社の内部プロセスを超えた強制メカニズムについては説明していません。批評家は、自主ルールはひそかに改訂または廃止される可能性があること、そしてマイクロソフトが同時に OpenAI とのパートナーシップ構造および自社モデルを通じてフロンティア モデル開発で積極的に競争していることに注目するでしょう。

それでも、このコードは、主要な AI ラボがこの形式でトレーニング時の参照可能な一連の公開公開を公開したのは初めてです。それが他の人が模倣するテンプレートになるか、あるいはどの政策プロセスよりも早く進んでいる議論の脚注になるかは、規制当局が検討するずっと前に決定される可能性が高い。

AI 業界を再構築する安全性に関する議論を継続的に報道するため、AI Buzz Wire はあらゆる開発をその都度追跡しています。

---

AI の先を行く

最新の AI ニュース、分析、画期的な情報をすべて 1 か所で入手できます。

AI ニュースをもっと読む→