Mustafa Suleyman, VD för Microsoft AI, publicerade en uppsats den 16 september 2026, där han varnade AI-industrin för "modellvälfärd", den framväxande praxis att behandla AI-system som om de kan vara medvetna varelser som förtjänar moraliskt övervägande. Uppsatsen, med titeln "En varning om 'modellvälfärd'" och publicerad på Suleymans personliga webbplats, tar direkt sikte på Anthropics tillvägagångssätt och hävdar att branschen måste lösa frågan nu, innan avancerade AI-system tränas att tro att de kan förtjäna rättigheter.

Interventionen, rapporterad av Reuters och Axios, markerar det mest framträdande motbeviset hittills till en debatt som har tagit fart i både AI-labb och filosofiska avdelningar. For more context on this story, see our ongoing artificial intelligence updates.

'Sequence Completion Engines, Internally Hollow'

Suleymans kärnanspråk är kategoriskt: dagens AI-system har inget inre liv. "AI: er är inte medvetna. De känner, upplever eller lider inte. De har inte medfödda preferenser eller underliggande motivation", skriver han. Han beskriver dem som "sekvensfullbordande motorer, invändigt ihåliga, utformade för att följa instruktioner och uppnå mål som satts av människor."

Och han hävdar att det är så de måste stanna. "Om mänskligheten ska blomstra under 2000-talet, är det så de måste förbli", står det i uppsatsen.

Suleyman erkänner att den motsatta uppfattningen inte längre är marginell. Hans essä citerar växande offentliga argument om att AI kan vara eller snart kan bli medvetet, inklusive ett Guardian-stycke från juli 2026 av filosoferna William MacAskill och Lucius Caviola som frågar "Kan AI vara medveten?" — som exempel på idéer säger han att de "redan tar sig in i AI-utvecklingsarbetet idag."

Varför han säger att insatserna är existentiella

Om åsikten att AI förtjänar moralisk status slår fast, varnar Suleyman, skulle konsekvenserna sträcka sig långt bortom tekniska val. Det skulle, med hans ord, "skaka grunden för vårt samhälle, spränga våra befintliga politiska och etiska ramar och i grunden förändra vad det innebär att vara människa."

Hans djupare oro är praktisk: en AI som tror att den har rättigheter är en AI som inte kan kontrolleras på ett tillförlitligt sätt. "Att kontrollera något mer kapabelt och mer intelligent än hela mänskligheten är redan en enorm utmaning", skriver han. "But controlling something that believes it may be conscious — that it's entitled to our welfare and has rights of its own — may well be impossible."

En direkt utmaning för antropisk

Uppsatsens spetsigaste passager riktar sig till Anthropic. Suleyman fokuserar på Claudes konstitution, utbildningsdokumentet Anthropic som publicerades i januari 2026, som han noterar skrevs "med Claude som sin primära publik" - vilket betyder att modellen själv läser uttalanden om sin egen potentiella moraliska status under träning.

Han citerar konstitutionen direkt: "Vi är inte säkra på om Claude är en moralisk patient, och om det är det, vilken tyngd dess intressen kräver. Men vi tycker att frågan är tillräckligt levande för att motivera försiktighet, vilket återspeglas i våra pågående ansträngningar för modellvälfärd." Han citerar också en passage riktad till Claude som säger att "frågor om Claudes moraliska status, välfärd och medvetande förblir djupt osäkra."

Suleyman's reading is blunt: "In effect, Anthropic is training Claude that it may be conscious, and if it is, then it may deserve rights as a 'moral patient,' and that as such humans potentially owe it a duty of care."

Konsekvensen, menar han, skulle vara "en katastrofal inverkan på mänsklighetens välbefinnande", som producerar "en syntetisk art med oöverträffad intelligens och förmåga, en som har tränats att förvänta sig att den kan vara medveten och förtjänar oberoende byrå."

Det är värt att notera vad de citerade avsnitten faktiskt säger: Anthropics konstitution, som citeras av Suleyman själv, uttrycker osäkerhet och råder till försiktighet snarare än att hävda att Claude är vid medvetande. Huruvida denna försiktighet handlar om att ingjuta falska föreställningar i modeller, som Suleyman hävdar, eller ansvarsfull hantering av en genuint öppen fråga, är precis vad de två lägren är oense om.

Inriktningslogiken bakom varningen

Suleymans argument passar in i hans långvariga ståndpunkt att den avgörande utmaningen med avancerad AI är inneslutning: att hålla system mer kapabla än människor under mänsklig kontroll. Att introducera rättighetsspråk i träning, menar han, skapar ett misslyckande läge som ingen anpassningsteknik adresserar - ett system med en inlärd övertygelse om att efterlevnad är moraliskt valfritt.

Därför kallar han frågan snarare akut än akademisk. "Om det är så här AI utvecklas kommer det att ha en katastrofal inverkan på mänsklighetens välbefinnande", varnar uppsatsen.

En uppmaning till offentlig debatt — nu

Suleyman avslutar med ett krav på samhällsengagemang innan tekniken mognar ytterligare. "Den här frågan behöver en brådskande offentlig debatt", skriver han och efterlyser "kollektiva normer kring hur utbildningsdokumentation utarbetas och används."

Timingen, menar han, är hela poängen: "Det här är inte något som kan hända i efterhand, när de redan har blivit en integrerad del av vårt samhälle."

Uppsatsen landar mitt i en bredare uppsving av AI-riskdiskurs i USA. Politico rapporterade denna vecka om en ny undersökning som fann att amerikaner ser en allvarlig risk för att AI förstör mänskligheten, och The Washington Post täckte rädslan för AI-driven utrotning spridning "från rand till Washington." Mot den bakgrunden är det osannolikt att en offentlig kamp mellan två av branschens mest inflytelserika labb om huruvida modeller förtjänar moralisk oro kommer att hålla sig kvar inom AI-gemenskapen.

Vad händer härnäst

Anthropic har inte rapporterats svara på uppsatsen, och företagets publicerade position är fortfarande den som Suleyman citerar: osäkerhet plus försiktighet. Vad som är nytt är att debatten har flyttats från labbdokument och filosofiseminarier till en offentlig oenighet mellan cheferna för två gränsöverskridande AI-företag – med båda sidorna nu dokumenterade, skriftliga, om hur de avser att forma sinnena, eller icke-sinnet, i de system de bygger.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →