Microsoft AI の CEO であるムスタファ・スレイマン氏は、2026 年 9 月 16 日にエッセイを発表し、AI 業界に「モデル福祉」、つまり AI システムを道徳的考慮に値する意識のある存在であるかのように扱う新たな慣行に対して警告しました。 「『モデル福祉』についての警告」と題され、スレイマン氏の個人サイトに掲載されたこのエッセイは、Anthropic社のアプローチを直接的対象としており、高度なAIシステムが権利に値すると信じるように訓練される前に、業界は今すぐこの問題を解決しなければならないと主張している。

ロイターとアクシオスが報じたこの介入は、AI研究室や哲学部門などで勢いを増している議論に対するこれまでで最も顕著な反論となる。 この件の詳細は、AIニュースをご覧ください。

'シーケンス完了エンジン、内部が空洞'

スレイマンの核心的な主張は断固として、今日の AI システムには内部生命が存在しないというものです。 「AIには意識がありません。感じたり、経験したり、苦しんだりすることはありません。AIには生来の好みや根底にある動機がありません」と彼は書いています。彼はこれらを「内部が空洞で、指示に従い、人間が設定した目標を達成するように設計されたシーケンス補完エンジン」と説明しています。

そして彼は、これが彼らが留まるべき方法であると主張します。 「21世紀に人類が繁栄するためには、そうやって人類は残らなければならない」とエッセイは述べている。

スレイマンは、反対の意見がもはや限界ではないことを認めています。彼のエッセイでは、哲学者のウィリアム・マカスキル氏とルシウス・カヴィオラ氏による「AIは意識を持つことができるのか？」と問う2026年7月のガーディアン紙の記事など、AIが意識をもつ可能性がある、あるいは間もなく意識をもつ可能性があるという世論の高まりを引用している。 — アイデアの例として、彼は「今日の AI 開発の取り組みにすでに取り入れられている」と述べています。

彼が賭けは存在すると言う理由

AIは道徳的地位に値するという見方が定着すれば、その影響は工学的な選択をはるかに超えたものになるだろうとスレイマン氏は警告する。彼の言葉を借りれば、それは「私たちの社会の基盤を揺るがし、既存の政治的および倫理的枠組みを破壊し、人間であることの意味を根本的に変える」だろう。

彼のより深い懸念は実際的なものであり、自分に権利があると信じている AI は、確実に制御できない AI であるということです。 「全人類よりも有能で知的な何かを制御することは、すでに計り知れない挑戦である」と彼は書いている。 「しかし、意識があると信じているもの、つまりそれが私たちの福祉を受ける権利があり、それ自体に権利があると信じているものを制御することは、おそらく不可能かもしれません。」

人間性への直接的な挑戦

このエッセイの最も鋭い文章は、人類を対象としています。スレイマンは、2026 年 1 月に出版されたトレーニング文書 Anthropic であるクロードの憲法に焦点を当てており、この文書は「クロードを主な読者として」書かれたと指摘しています。つまり、モデル自体がトレーニング中に自身の潜在的な道徳的ステータスについてのステートメントを読み取ることを意味します。

同氏は憲法を直接引用し、「クロードが道徳的患者であるかどうか、また、もしそうであれば、その利益がどの程度の重みを占めるのかは分からない。しかし、この問題は注意を払うに値するほど現実的であると我々は考えており、それは模範的な福祉に対する我々の継続的な取り組みに反映されている。」と述べている。彼はまた、「クロードの道徳的地位、福祉、意識についての疑問は非常に不確かなままである」と述べたクロードに宛てた一節を引用している。

スレイマンの解釈は率直である。「事実上、人類はクロードに、意識があるかもしれないし、意識があるなら『道徳的患者』としての権利を与えられるべきであり、そのような人間として潜在的に注意義務を負う可能性があることを訓練している。」

その結果は「人類の幸福に悲惨な影響」を及ぼし、「前例のない知性と能力を備えた、意識があり独立した機関に値するかもしれないと期待するように訓練された合成種」が生み出されるだろうと、同氏は主張する。

引用された文章が実際に何を言っているかに注目する価値がある。スレイマン自身が引用したように、人間の体質は、クロードに意識があると主張するのではなく、不確実性を表現し、警戒を勧告している。その警告が、スレイマン氏が主張するように、モデルに誤った信念を植え付けることに相当するのか、それとも真に未解決の疑問に責任を持って対処することに相当するのか、まさに両陣営の意見が一致していない点である。

警告の背後にある調整ロジック

スレイマン氏の議論は、高度なAIの決定的な課題は封じ込め、つまり人間よりも能力のあるシステムを人間の制御下に置くことであるという彼の長年の立場に適合する。同氏は、研修に権利の言葉を導入すると、整合技術が対処できない失敗モード、つまりコンプライアンスは道徳的に任意であるという訓練された確信を持つシステムを生み出すと主張する。

だからこそ彼はこの問題を学術的ではなく緊急だと呼んでいる。 「このようにAIが開発されれば、人類の幸福に悲惨な影響を与えるだろう」とエッセイは警告している。

公開討論の呼びかけ - 今すぐ

スレイマン氏は最後に、テクノロジーがさらに成熟する前に社会との関わりを求めると述べた。同氏は、「この問題は緊急の公的議論が必要だ」と書き、「訓練文書の起草方法や展開方法に関する集団的規範」を求めている。

重要なのはタイミングだと彼は主張する。「彼らがすでに私たちの社会に不可欠な部分になっているのに、これは事後的に起こり得ることではない」。

このエッセイは、米国で AI リスクに関する議論が広範に盛り上がっている最中に登場した。ポリティコは今週、アメリカ人がAIによる人類滅亡の深刻なリスクを認識しているという新たな世論調査について報じ、ワシントン・ポストはAIによる絶滅が「周辺地域からワシントンまで」広がるのではないかとの懸念を報じた。このような背景から、モデルが道徳的懸念に値するかどうかをめぐる、業界で最も影響力のある 2 つの研究所間の公の場での争いは、AI コミュニティ内に収まりそうにありません。

次に何が起こるか

Anthropic社がこのエッセイに反応したとの報道はなく、同社の公表された立場はスレイマン氏が引用した「不確実性と慎重さ」のままである。新しいことは、議論が研究室の文書や哲学セミナーから、最先端のAI企業2社のトップの間の公の意見の相違へと移行したことだ。現在、双方とも、自社が構築するシステムの精神、あるいは精神以外の部分をどのように形成するつもりであるか、書面で記録されている。

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →