Mustafa Suleyman, generální ředitel společnosti Microsoft AI, publikoval esej 16. září 2026, v níž varoval průmysl umělé inteligence před „modelovým blahobytem“, nově vznikající praxí zacházení se systémy AI, jako by to byly vědomé bytosti, které si zaslouží morální ohled. Esej nazvaná „Varování o ‚modelovém blahobytu‘“ a zveřejněná na Suleymanově osobní stránce se přímo zaměřuje na přístup společnosti Anthropic a tvrdí, že průmysl musí tuto otázku vyřešit nyní, než budou pokročilé systémy umělé inteligence trénovány, aby uvěřily, že si zaslouží práva.

Zásah, o kterém informovaly agentury Reuters a Axios, představuje dosud nejvýraznější vyvrácení debaty, která nabírá na síle jak v laboratořích umělé inteligence, tak v odděleních filozofie. For more context on this story, see our ongoing AI industry coverage.

'Motory pro dokončování sekvencí, vnitřně duté'

Suleymanovo hlavní tvrzení je kategorické: dnešní systémy umělé inteligence nemají žádný vnitřní život. "AI nejsou vědomé. Necítí, neprožívají ani netrpí. Nemají vrozené preference ani základní motivaci," píše. Popisuje je jako „motory pro dokončování sekvencí, vnitřně duté, navržené tak, aby se řídily pokyny a dosahovaly cílů stanovených lidmi“.

A tvrdí, že takhle musí zůstat. „Pokud má lidstvo ve 21. století vzkvétat, tak musí zůstat,“ stojí v eseji.

Suleyman uznává, že opačný názor již není okrajový. Jeho esej cituje narůstající veřejné argumenty, že umělá inteligence by mohla být nebo se brzy může stát vědomou, včetně článku Guardian z července 2026 od filozofů Williama MacAskilla a Luciuse Cavioly, kteří se ptají: „Could AI Be Conscious?“ — jako příklady nápadů říká, že „už dnes razí cestu do úsilí o vývoj AI“.

Proč říká, že sázky jsou existenční

Pokud se ujme názor, že AI si zaslouží morální status, varuje Suleyman, důsledky by sahaly daleko za hranice inženýrských rozhodnutí. Podle jeho slov by to „otřáslo základy naší společnosti, narušilo by naše stávající politické a etické rámce a zásadně změnilo to, co znamená být člověkem“.

Jeho hlubší zájem je praktický: AI, která věří, že má práva, je AI, kterou nelze spolehlivě ovládat. „Ovládnout něco schopnějšího a inteligentnějšího než celé lidstvo je už nyní nesmírnou výzvou,“ píše. "Ale ovládat něco, co se domnívá, že to může být vědomé - že má nárok na naše blaho a má svá vlastní práva - může být docela dobře nemožné."

Přímá výzva pro antropologii

Nejvýraznější pasáže eseje se zaměřují na Anthropic. Suleyman se zaměřuje na Claudeovu ústavu, tréninkový dokument Anthropic publikovaný v lednu 2026, o kterém poznamenává, že byl napsán „s Claudem jako jeho primárním publikem“ – což znamená, že model sám čte prohlášení o svém vlastním potenciálním morálním stavu během tréninku.

Cituje přímo ústavu: "Nejsme si jisti, zda je Claude morálním pacientem, a pokud ano, jakou váhu mu jeho zájmy přisuzují. Myslíme si však, že toto téma je dostatečně živé, aby si vynutilo opatrnost, což se odráží v našem pokračujícím úsilí o modelové blaho." Cituje také pasáž adresovanou Claudovi, v níž se uvádí, že „otázky o Claudově morálním postavení, blahobytu a vědomí zůstávají hluboce nejisté“.

Suleymanovo čtení je přímočaré: "Antropická ve skutečnosti Clauda trénuje, že může být vědomý, a pokud ano, pak si může zasloužit práva jako "morální pacient" a že jako takoví lidé mu potenciálně dluží povinnost péče."

Důsledkem, jak tvrdí, by byl „katastrofální dopad na blahobyt lidstva“, čímž by vznikl „syntetický druh s bezprecedentní inteligencí a schopnostmi, který byl vycvičen tak, aby očekával, že si může být vědom a zasluhuje nezávislou agenturu“.

Stojí za zmínku, co citované pasáže ve skutečnosti říkají: Antropická ústava, jak ji cituje sám Suleyman, vyjadřuje nejistotu a doporučuje opatrnost spíše než tvrzení, že Claude je při vědomí. Zda se tato opatrnost rovná vštěpování falešné víry v modely, jak tvrdí Suleyman, nebo odpovědnému řešení skutečně otevřené otázky, je přesně to, v čem se oba tábory neshodují.

Logika zarovnání za varováním

Suleymanův argument zapadá do jeho dlouhodobějšího postoje, že rozhodující výzvou pokročilé umělé inteligence je omezení: udržení systémů schopnějších než lidé pod lidskou kontrolou. Zavedení jazyka práv do školení, tvrdí, vytváří režim selhání, který žádná technika zarovnání neřeší – systém s trénovaným přesvědčením, že dodržování je morálně volitelné.

Problém proto nazývá spíše naléhavým než akademickým. "Pokud se AI vyvine takto, bude to mít katastrofální dopad na blaho lidstva," varuje esej.

Výzva k veřejné diskusi – nyní

Suleyman uzavírá s požadavkem společenského zapojení, než technologie dále dozraje. "Tato otázka potřebuje naléhavou veřejnou diskusi," píše a vyzývá k "kolektivním normám ohledně toho, jak je vypracovávána a nasazována dokumentace školení."

Tvrdí, že načasování je hlavním bodem: "Toto není něco, co se může stát poté, kdy se již stali nedílnou součástí naší společnosti."

Esej přistane uprostřed širšího nárůstu diskursu o riziku umělé inteligence ve Spojených státech. Politico tento týden informovalo o novém průzkumu, který zjistil, že Američané vidí vážné riziko, že umělá inteligence zničí lidstvo, a The Washington Post se zabýval obavami z vyhynutí způsobeného umělou inteligencí, které se šíří „od okraje k Washingtonu“. V této souvislosti je nepravděpodobné, že veřejný boj mezi dvěma nejvlivnějšími laboratořemi v oboru o to, zda si modely zaslouží morální obavy, zůstane uzavřen v komunitě AI.

Co se stane dál

Antropická nebyla hlášena jako odpověď na esej a zveřejněný postoj společnosti zůstává ten, který Suleyman cituje: nejistota plus opatrnost. Nové je, že se debata přesunula od laboratorních dokumentů a filozofických seminářů k veřejné neshodě mezi šéfy dvou hraničních společností s umělou inteligencí – přičemž obě strany nyní písemně zaznamenávají, jak hodlají utvářet myšlení či nemysli systémů, které budují.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →