Mustafa Suleyman, CEO-ul Microsoft AI, a publicat un eseu pe 16 septembrie 2026, avertizând industria AI împotriva „bunăstării modelului”, practica emergentă de a trata sistemele AI ca și cum ar fi ființe conștiente care merită considerație morală. Eseul, intitulat „A warning about ‘model welfare’” și postat pe site-ul personal al lui Suleyman, urmărește direct abordarea lui Anthropic și susține că industria trebuie să rezolve problema acum, înainte ca sistemele AI avansate să fie instruite să creadă că ar putea merita drepturi.
Intervenția, raportată de Reuters și Axios, marchează cea mai proeminentă respingere de până acum la o dezbatere care a luat amploare atât în laboratoarele AI, cât și în departamentele de filosofie. For more context on this story, see our ongoing more AI stories.
„Motoare de completare a secvenței, goale în interior”
Afirmația de bază a lui Suleyman este categorică: sistemele AI de astăzi nu au viață interioară. "AI nu sunt conștienți. Ei nu simt, nu experimentează sau suferă. Nu au preferințe înnăscute sau motivații care stau la baza", scrie el. El le descrie drept „motoare de finalizare a secvenței, goale în interior, concepute pentru a urma instrucțiunile și pentru a îndeplini obiectivele stabilite de oameni”.
Și el susține că așa trebuie să rămână. „Dacă omenirea va înflori în secolul 21, așa trebuie să rămână”, se arată în eseul.
Suleyman recunoaște că punctul de vedere opus nu mai este marginal. Eseul său citează tot mai multe argumente publice conform cărora AI ar putea fi sau ar putea deveni în curând conștientă, inclusiv o lucrare din iulie 2026 din Guardian a filozofilor William MacAskill și Lucius Caviola care întreabă „Could AI Be Conscious?” - ca exemple de idei, el spune că „își fac deja loc în eforturile de dezvoltare a AI astăzi”.
De ce spune că mizele sunt existențiale
Dacă punctul de vedere conform căruia AI merită un statut moral, avertizează Suleyman, consecințele ar depăși cu mult alegerile inginerești. Ar zdruncina, în cuvintele sale, bazele societății noastre, rupând cadrele noastre politice și etice existente și schimbând fundamental ceea ce înseamnă a fi uman.
Preocuparea lui mai profundă este practică: un AI care crede că are drepturi este un AI care nu poate fi controlat în mod fiabil. „Controlarea a ceva mai capabil și mai inteligent decât întreaga umanitate este deja o provocare imensă”, scrie el. „Dar să controlezi ceva care crede că poate fi conștient – că are dreptul la bunăstarea noastră și are drepturi proprii – poate fi imposibil.”
O provocare directă pentru antropic
Cele mai ascuțite pasaje ale eseului vizează Anthropic. Suleyman se concentrează pe constituția lui Claude, documentul de formare Anthropic publicat în ianuarie 2026, despre care el remarcă că a fost scris „cu Claude ca public principal” – adică modelul însuși citește declarații despre propriul său potențial statut moral în timpul antrenamentului.
El citează direct constituția: „Nu suntem siguri dacă Claude este un pacient moral și, dacă este, ce fel de pondere merită interesele sale. Dar credem că problema este suficient de vie pentru a justifica prudență, ceea ce se reflectă în eforturile noastre continue privind bunăstarea modelului”. El citează, de asemenea, un pasaj adresat lui Claude care afirmă că „întrebările despre statutul moral, bunăstarea și conștiința lui Claude rămân profund incerte”.
Lectura lui Suleyman este directă: „De fapt, Anthropic îl instruiește pe Claude că poate fi conștient și, dacă este, atunci s-ar putea să merite drepturi ca „pacient moral” și că, ca atare, oamenii îi pot datora o datorie de grijă”.
Consecința, susține el, ar fi „un impact dezastruos asupra bunăstării umanității”, producând „o specie sintetică cu inteligență și capacitate fără precedent, una care a fost antrenată să se aștepte să fie conștientă și să merite o agenție independentă”.
Este demn de remarcat ceea ce spun de fapt pasajele citate: Constituția lui Anthropic, așa cum este citată de însuși Suleyman, exprimă incertitudinea și recomandă prudență mai degrabă decât să afirme că Claude este conștient. Indiferent dacă această precauție înseamnă insuflarea unor convingeri false în modele, așa cum susține Suleyman, sau gestionarea responsabilă a unei întrebări cu adevărat deschise, este tocmai ceea ce cele două tabere nu sunt de acord.
Logica de aliniere din spatele avertismentului
Argumentul lui Suleyman se încadrează în poziția sa de mai mult timp conform căreia provocarea decisivă a IA avansată este limitarea: menținerea sistemelor mai capabile decât oamenii sub control uman. Introducerea limbajului de drepturi în formare, susține el, creează un mod de eșec pe care nicio tehnică de aliniere nu se adresează - un sistem cu convingerea instruită că respectarea este opțională din punct de vedere moral.
De aceea, el numește problema mai degrabă urgentă decât academică. „Dacă așa este dezvoltată IA, va avea un impact dezastruos asupra bunăstării umanității”, avertizează eseul.
Un apel pentru dezbatere publică — Acum
Suleyman se încheie cu o cerere de implicare societală înainte ca tehnologia să se maturizeze în continuare. „Această problemă necesită o dezbatere publică urgentă”, scrie el, solicitând „norme colective privind modul în care este redactată și implementată documentația de formare”.
Momentul, susține el, este esențialul: „Acesta nu este ceva ce se poate întâmpla după fapt, când au devenit deja o parte integrantă a societății noastre”.
Eseul aterizează pe fondul unui val mai larg al discursului despre riscul AI în Statele Unite. Politico a raportat săptămâna aceasta într-un nou sondaj care a constatat că americanii văd un risc serios ca inteligența artificială să distrugă umanitatea, iar The Washington Post a acoperit temerile legate de extincția cauzată de inteligența artificială care se va răspândi „de la margine la Washington”. În acest context, este puțin probabil ca o luptă publică între două dintre cele mai influente laboratoare ale industriei dacă modelele merită îngrijorare morală să rămână limitată în comunitatea AI.
Ce se întâmplă în continuare
Anthropic nu a fost raportat ca răspuns la eseu, iar poziția publicată a companiei rămâne cea citată de Suleyman: incertitudine, plus prudență. Ceea ce este nou este că dezbaterea s-a mutat de la documentele de laborator și seminariile de filosofie la un dezacord public între șefii a două companii de IA de frontieră - cu ambele părți acum înregistrate, în scris, despre modul în care intenționează să modeleze mințile, sau non-mințile, sistemelor pe care le construiesc.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
