Мустафа Сулейман, генеральний директор Microsoft AI, опублікував есе 16 вересня 2026 року, застерігаючи індустрію штучного інтелекту від «моделі добробуту», нової практики ставлення до систем штучного інтелекту так, ніби вони можуть бути свідомими істотами, які заслуговують на моральну увагу. Есе під назвою «Попередження про «модель добробуту»», опубліковане на особистому сайті Сулеймана, прямо спрямовано проти підходу Anthropic і стверджує, що галузь має вирішити це питання зараз, перш ніж передові системи штучного інтелекту навчать вважати, що вони можуть заслуговувати на права.
Втручання, про яке повідомляють Reuters і Axios, є найвидатнішим спростуванням дебатів, які набирають обертів як у лабораторіях ШІ, так і на факультетах філософії. For more context on this story, see our ongoing latest AI developments.
"Двигуни завершення послідовності, внутрішньо порожнисті"
Основна претензія Сулеймана категорична: сучасні системи ШІ не мають внутрішнього життя. «ШІ не є свідомими. Вони не відчувають, не переживають і не страждають. У них немає вроджених уподобань чи глибинних мотивацій», — пише він. Він описує їх як «механії завершення послідовності, внутрішньо порожнисті, призначені для виконання інструкцій і досягнення цілей, поставлених людьми».
І він стверджує, що так вони повинні залишитися. «Якщо людство хоче процвітати в 21-му столітті, таким воно і повинно залишатися», — йдеться в есе.
Сулейман визнає, що протилежна точка зору більше не є маргінальною. У його есе цитується дедалі більше публічних аргументів про те, що штучний інтелект може бути або незабаром стане свідомим, у тому числі стаття філософів Вільяма Макаскілла та Луціуса Кавіоли в Guardian за липень 2026 року із запитанням «Чи може ШІ бути свідомим?» — як приклади ідей, які, за його словами, «вже сьогодні впроваджуються в розвиток ШІ».
Чому він каже, що ставки екзистенційні
Сулейман попереджає, що якщо думка, що ШІ заслуговує на моральний статус, утвердиться, наслідки вийдуть далеко за рамки інженерних рішень. За його словами, це «похитне основи нашого суспільства, розірве наші існуючі політичні та етичні рамки та докорінно змінить те, що означає бути людиною».
Його глибоке занепокоєння стосується практичності: штучний інтелект, який вважає, що він має права, є таким, яким неможливо надійно керувати. «Контролювати щось більш здібне та розумніше, ніж усе людство, вже є величезним викликом», — пише він. «Але контролювати щось, що вважає, що воно може бути свідомим — що воно має право на наше добробут і має власні права — цілком може бути неможливим».
Прямий виклик Anthropic
Найбільш різкі уривки есе спрямовані на антропік. Сулейман зосереджується на конституції Клода, навчальному документі Anthropic, опублікованому в січні 2026 року, який, як він зазначає, був написаний «з Клодом як основною аудиторією», тобто сама модель читає заяви про свій власний потенційний моральний статус під час навчання.
Він прямо цитує конституцію: «Ми не впевнені, чи є Клод моральним пацієнтом, і якщо так, то яку вагу виправдовують його інтереси. Але ми вважаємо, що проблема досить актуальна, щоб вимагати обережності, що відображається в наших постійних зусиллях щодо зразкового добробуту». Він також цитує уривок, адресований Клоду, в якому стверджується, що «питання щодо морального статусу, добробуту та свідомості Клода залишаються глибоко невизначеними».
Читання Сулеймана є відвертим: «По суті, Антропік навчає Клода, що він може бути свідомим, і якщо це так, то він може заслуговувати на права «морального пацієнта», і що як такі люди потенційно зобов’язані піклуватися про нього».
Наслідком, як він стверджує, буде «катастрофічний вплив на добробут людства», утворення «синтетичного виду з безпрецедентним інтелектом і здібностями, який був навчений очікувати, що він може бути свідомим і заслуговувати незалежної діяльності».
Варто зауважити, що насправді говорять цитовані уривки: конституція Антропіка, яку цитує сам Сулейман, виражає невпевненість і радить бути обережними, а не стверджувати, що Клод є свідомим. Чи є ця обережність прищепленням хибних переконань моделям, як стверджує Сулейман, чи відповідальним ставленням до справді відкритого питання, це саме те, у чому обидва табори розходяться.
Логіка вирівнювання за попередженням
Аргумент Сулеймана вписується в його давню позицію про те, що вирішальним викликом передового штучного інтелекту є стримування: утримання систем, більш здатних, ніж люди, під контролем людини. Запровадження мови прав у навчання, стверджує він, створює режим невдачі, на який не звертається техніка узгодження — система з навченим переконанням, що відповідність є морально необов’язковою.
Тому він називає питання не академічним, а терміновим. «Якщо штучний інтелект буде розвиватися таким чином, це матиме катастрофічний вплив на добробут людства», — попереджається в есе.
Заклик до громадських дебатів — зараз
Сулейман закінчується вимогою залучити суспільство до того, як технологія розвиватиметься далі. «Це питання потребує термінового громадського обговорення», — пише він, закликаючи до «колективних норм щодо того, як розробляється та розгортається навчальна документація».
Він стверджує, що головне – це час: «Це не те, що може статися постфактум, коли вони вже стали невід’ємною частиною нашого суспільства».
Це есе з’являється на тлі ширшого сплеску дискурсу про ризик ШІ в Сполучених Штатах. Цього тижня Politico повідомило про нове опитування, яке виявило, що американці бачать серйозний ризик того, що штучний інтелект знищить людство, а The Washington Post опублікувала побоювання щодо поширення зникнення, спричиненого штучним інтелектом, «від периферії до Вашингтона». На цьому тлі публічна боротьба між двома найвпливовішими лабораторіями галузі щодо того, чи заслуговують моделі на моральне занепокоєння, навряд чи залишиться всередині спільноти ШІ.
Що станеться далі
Не повідомляється, що Anthropic відповіла на це есе, і опублікована позиція компанії залишається тією, яку цитує Сулейман: невизначеність плюс обережність. Новим є те, що дебати перемістилися від лабораторних документів і філософських семінарів до публічних розбіжностей між керівниками двох передових компаній штучного інтелекту — обидві сторони тепер записують письмово про те, як вони збираються формувати уми чи не уми систем, які вони будують.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
