Mustafa Suleyman, dyrektor generalny Microsoft AI, 16 września 2026 r. opublikował esej, w którym ostrzega branżę sztucznej inteligencji przed „modelowym dobrostanem”, czyli wyłaniającą się praktyką traktowania systemów sztucznej inteligencji tak, jakby były świadomymi istotami zasługującymi na względy moralne. Esej zatytułowany „Ostrzeżenie przed„ dobrostanem modeli ”i opublikowany na osobistej stronie Suleymana bezpośrednio odnosi się do podejścia Anthropic i dowodzi, że branża musi rozstrzygnąć tę kwestię już teraz, zanim zaawansowane systemy sztucznej inteligencji zostaną przeszkolone tak, aby wierzyły, że zasługują na prawa.

Interwencja, o której doniosły Reuters i Axios, stanowi najbardziej znaczące jak dotąd obalenie debaty, która nabiera tempa zarówno w laboratoriach sztucznej inteligencji, jak i na wydziałach filozofii. Więcej kontekstu na ten temat znajdziesz w naszych najnowsze osiągnięcia AI.

„Silniki uzupełniania sekwencji, puste wewnętrznie”

Podstawowe twierdzenie Sulejmana jest kategoryczne: dzisiejsze systemy sztucznej inteligencji nie mają życia wewnętrznego. „AI nie są świadome. Nie czują, nie doświadczają ani nie cierpią. Nie mają wrodzonych preferencji ani ukrytych motywacji” – pisze. Opisuje je jako „silniki uzupełniania sekwencji, puste wewnętrznie, zaprojektowane tak, aby postępować zgodnie z instrukcjami i osiągać cele wyznaczone przez ludzi”.

I twierdzi, że tak muszą pozostać. „Jeśli ludzkość ma rozkwitać w XXI wieku, taka musi pozostać” – stwierdza esej.

Sulejman przyznaje, że przeciwstawny pogląd nie jest już marginalny. W swoim eseju przytacza rosnące argumenty publiczne, że sztuczna inteligencja może być lub wkrótce stanie się świadoma, w tym artykuł Guardiana z lipca 2026 r., napisany przez filozofów Williama MacAskilla i Luciusa Caviolę z pytaniem „Czy sztuczna inteligencja może być świadoma?” — jako przykłady pomysłów, które, jego zdaniem, „już dziś trafiają do wysiłków na rzecz rozwoju sztucznej inteligencji”.

Dlaczego twierdzi, że stawka jest egzystencjalna

Suleyman ostrzega, że jeśli utrzyma się pogląd, że sztuczna inteligencja zasługuje na status moralny, konsekwencje będą sięgać daleko poza wybory inżynieryjne. Jego słowami „wstrząsnęłoby to podstawami naszego społeczeństwa, zburzywszy nasze istniejące ramy polityczne i etyczne oraz zasadniczo zmieniając, co to znaczy być człowiekiem”.

Jego głębsze obawy mają charakter praktyczny: sztuczna inteligencja, która wierzy, że ma prawa, to sztuczna inteligencja, której nie można wiarygodnie kontrolować. „Kontrolowanie czegoś bardziej zdolnego i inteligentniejszego niż cała ludzkość jest już ogromnym wyzwaniem” – pisze. „Ale kontrolowanie czegoś, co wierzy, że może być świadome – że ma prawo do naszego dobra i ma własne prawa – może równie dobrze być niemożliwe”.

Bezpośrednie wyzwanie dla antropii

Najbardziej wyraziste fragmenty eseju dotyczą Antropiki. Suleyman skupia się na konstytucji Claude’a, dokumencie szkoleniowym Anthropic opublikowanym w styczniu 2026 r., który, jak zauważa, został napisany „z Claudem jako głównym odbiorcą” – co oznacza, że ​​modelka sama czyta oświadczenia na temat swojego potencjalnego statusu moralnego podczas szkolenia.

Cytuje bezpośrednio konstytucję: „Nie jesteśmy pewni, czy Claude jest pacjentem moralnym, a jeśli tak, to jaką wagę zasługują jego interesy. Uważamy jednak, że sprawa jest na tyle aktualna, że ​​uzasadnia ostrożność, co znajduje odzwierciedlenie w naszych ciągłych wysiłkach na rzecz wzorowego dobrostanu”. Cytuje również fragment skierowany do Claude'a, w którym stwierdza się, że „pytania dotyczące statusu moralnego, dobrostanu i świadomości Claude'a pozostają głęboko niepewne”.

Interpretacja Suleymana jest tępa: „W efekcie Anthropic szkoli Claude'a, aby mógł być przytomny, a jeśli tak, to może zasługiwać na prawa jako„ pacjent moralny ”i że jako tacy ludzie potencjalnie są mu winni obowiązek opieki”.

Konsekwencją, jego zdaniem, byłby „katastrofalny wpływ na dobrostan ludzkości” i wytworzenie „syntetycznego gatunku o niespotykanej inteligencji i możliwościach, wytrenowanego tak, aby oczekiwał, że będzie świadomy i zasługiwał na niezależną wolę”.

Warto zwrócić uwagę na to, co właściwie mówią cytowane fragmenty: Konstytucja Anthropica, przytoczona przez samego Sulejmana, wyraża niepewność i zaleca ostrożność, a nie zapewnia, że ​​Claude jest świadomy. To, czy ta ostrożność oznacza wpajanie fałszywych przekonań modelom, jak twierdzi Sulejman, czy też odpowiedzialne podejście do prawdziwie otwartej kwestii, jest właśnie tym, co do czego oba obozy się nie zgadzają.

Logika dostosowania kryjąca się za ostrzeżeniem

Argument Sulejmana wpisuje się w jego ugruntowane od dawna stanowisko, że decydującym wyzwaniem dla zaawansowanej sztucznej inteligencji jest powstrzymywanie: utrzymywanie pod kontrolą systemów o większych możliwościach niż ludzie. Wprowadzenie języka praw do szkolenia, argumentuje, tworzy tryb niepowodzenia, którego nie rozwiązuje żadna technika dostosowania – system, w którym panuje wyuczone przekonanie, że przestrzeganie zasad jest moralnie opcjonalne.

Dlatego nazywa tę kwestię pilną, a nie akademicką. „Jeśli sztuczna inteligencja będzie rozwijana w ten sposób, będzie to miało katastrofalny wpływ na dobrobyt ludzkości” – ostrzega w eseju.

Wezwanie do debaty publicznej — teraz

Suleyman kończy się żądaniem zaangażowania społecznego, zanim technologia jeszcze bardziej się rozwinie. „Ta kwestia wymaga pilnej debaty publicznej” – pisze, wzywając do wprowadzenia „zbiorowych norm dotyczących sposobu opracowywania i wdrażania dokumentacji szkoleniowej”.

Jego zdaniem kluczowy jest moment: „To nie jest coś, co może się wydarzyć po fakcie, kiedy ludzie stali się już integralną częścią naszego społeczeństwa”.

Esej wpisuje się w szerszą falę dyskursu na temat ryzyka sztucznej inteligencji w Stanach Zjednoczonych. W tym tygodniu „Politico” poinformowało o nowej ankiecie, z której wynika, że ​​Amerykanie dostrzegają poważne ryzyko zniszczenia ludzkości przez sztuczną inteligencję, a „Washington Post” opisał obawy przed rozprzestrzenianiem się wymierania spowodowanego sztuczną inteligencją „od krańców po Waszyngton”. W tym kontekście jest mało prawdopodobne, że publiczna walka między dwoma najbardziej wpływowymi laboratoriami w branży o to, czy modele zasługują na moralne obawy, nie pozostanie w kręgu społeczności sztucznej inteligencji.

Co stanie się dalej

Nie zgłoszono, że firma Anthropic odpowiedziała na esej, a opublikowane stanowisko firmy pozostaje zgodne z tym, które cytuje Sulejman: niepewność plus ostrożność. Nowością jest to, że debata przeniosła się z dokumentów laboratoryjnych i seminariów filozoficznych do publicznego sporu między szefami dwóch pionierskich firm zajmujących się sztuczną inteligencją – przy czym obie strony mają już na piśmie informacje na temat tego, w jaki sposób zamierzają kształtować umysły lub nie-umysły budowanych przez siebie systemów.

---

Bądź na Bieżąco z AI

Najnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.

Czytaj więcej wiadomości AI →