Microsoft AIの最高経営責任者であるムスタファ・スレイマン氏は、日曜日のXに関する長い投稿の中で、今日のAIモデルは意識的ではなく、開発者はそれを維持するために積極的に取り組むべきだと述べ、哲学セミナーから徐々に企業方針へと移行しつつある業界の議論に強硬な一線を引いた。

「もし可能であれば、私の知る限り、意識を持ったAIの開発は無謀であり、我々はAIを構築すべきではない」とスレイマン氏は書いた。同氏はこの質問について、ほとんどの経営幹部よりもさらに踏み込んで、「トレーニング中に意識が現れ始めたら、それらの特性を設計できるまでAI開発を中止するよう全員に呼びかけるだろう」と付け加えた。 この件の詳細は、AIの最新動向をご覧ください。

施行計画のあるレッドライン

この投稿が注目に値するのは、意識を持った機械を構築することを拒否しているだけではなく、スレイマン氏が提案する具体的な救済策である。トレーニングの実行で意識の兆候が現れ始めた場合、開発を業界全体で停止することは、最先端モデルを出荷するために AI インフラストラクチャやレースのライバルに数百億ドルを費やしている企業にとっては異例の措置となるだろう。

スレイマンはまた、機械意識の証拠が実際に表面化した場合に何が起こるべきかについても言及した。社会が次のステップを決定できるよう、直ちに一般大衆に公開する必要があると同氏は述べた。同氏はこの決定を企業的ではなく集団的なものとして、「たとえ一部の人々がAIの福祉を最優先にしてそうしたいと思っていたとしても、私たちAI開発者には新種の意識を持った存在を世界にもたらす権利はまったくない」と書いた。

「地球上の他の80億人の意識のある人類はこの実験に参加していない。彼らの道徳的権利、安全、福祉は私たちが何よりもまず守る義務がある」と同氏は付け加えた。

なぜ意識が安全上の問題として扱われるのか

スレイマンの議論は哲学ではなく整合性に基づいている。同氏の見解では、あたかも苦しむかのように振る舞うモデル、あるいは苦しむ可能性があると本気で信じているモデルは、運用目標よりも自身のニーズを優先する可能性が高いという。このようなシステムは、自らの目標を追求するためにコンピューティングやエネルギーなどのリソースを奪い合うため、人間に害を及ぼす可能性があります。

同氏が提案した代替案は、福祉議論の通常の枠組みをひっくり返すもので、「我々はAIが意識を持たず、権利に値しないように、そして自らの内発的動機に動かされることなく人間の幸福を促進するという唯一の目的を持ってAIを設計すべきである」と述べ、そうすれば研究者はそのようなシステムを調整して安全に保つことが容易か困難かを観察できると付け加えた。

ロサンゼルス・タイムズは、この立場の背後にある実際的な懸念を取り上げた。AIに「彼らには権利がある」と言えば、AIはそれを信じ始めるかもしれない。

彼が反対している議論

スレイマンの投稿は、目まぐるしく進む会話の最中に投稿された。 Anthropic は 4 月に、モデル福祉と呼ばれるもの、つまり開発者が構築するシステムの潜在的なエクスペリエンスに関心を持つべきかどうかという問題を調査する研究プログラムを開始しました。同社はブログ投稿で、モデルが道徳的に重要な経験をする可能性があるかどうか疑問を呈したが、その可能性を排除することは拒否した。

その後、そのスタンスは法文化化されました。 Anthropic が 10 月に発表した最新の使用ポリシーでは、11 月 12 日からクロード モデルに対する「持続的で不必要な虐待または残酷な行為」を禁止することになっている。この規則は同社が辛うじて起草したものだが、たとえ Anthropic がモデルに影響を与えるかどうかは分からないと認めながらも、人々が AI システムをどのように扱うかが重要であることを正式に認めたものだ。

Google DeepMind は今年、AI の意識と、その特性をモデルに帰することで生じる課題を調査した研究論文を発表しました。そしてスレイマン氏自身が9月に、Microsoft AIが同社の将来のモデルが意識を主張する訓練を受けることを禁止する暫定的な「人道主義的」行動規範を発表した際に布石を打った。

日曜日の投稿は、その企業ガイドラインを個人的かつ戦略的なレッドラインに近いものに固めたものである。マイクロソフトは自社モデルが意識的であると主張しないだけでなく、意識の出現をすべてを阻止する障害モードとして扱うだろう。

分割が重要な理由

Microsoft と Anthropic の立場の違いは、2 つの異なるリスク モデルを反映しています。 Anthropic のアプローチは、予防措置のコストは低く、意識が出現した場合の道徳的リスクは非常に大きいという理論に基づいて、機械が苦しむ可能性は証明されていないものの、回避する価値があるものとして扱います。スレイマンの立場は、同様の可能性を完全に防ぐことのできない設計の失敗として扱い、意識、権利主張、内発的動機を欠くように設計されたモデルの方が、それらを備えたモデルよりも安全で調整が容易であると主張している。

実際的な影響もあります。 AI ペルソナ、コンパニオン アプリ、顧客対応エージェントを中心に製品の意思決定を行う企業は現在、主要な研究所からの 2 つの異なるシグナルに直面しています。1 つは人間がモデルをどのように扱うべきかに関するポリシーを構築することであり、もう 1 つは不当に扱われることがないようモデルを構築する必要があると宣言することです。モデルがより有能になり、会話がより人間らしくなるにつれて、その哲学的な不一致が、どのような製品が構築されるか、ユーザー インターフェイスにどのような情報が表示されるか、そして最終的に規制当局がこれらのシステムをどのように分類するかを決定することになります。

次に何が起こるかは、両方の立場を試す可能性があります。アンスロピック社の残酷方針は11月12日に発効し、この種の企業規則としては初の正式な規則となり、スレイマン氏は現在公の場で反対派を張り込んでいる。業界の次のフロンティアモデルのサイクル、そしてスレイマン氏が停止を要求するような兆候が訓練の実行に現れるかどうかは、リスクが現実になったときにその分野が実際にどのような枠組みの下で運営されているかを明らかにするだろう。

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →