Mustafa Suleyman, directorul executiv al Microsoft AI, a declarat duminică într-o lungă postare pe X că modelele actuale de AI nu sunt conștiente și că dezvoltatorii ar trebui să lucreze activ pentru a le menține așa - tragând o linie dură într-o dezbatere din industrie care s-a mutat treptat de la seminariile de filosofie la politica corporativă.
„Dacă este posibil, pe baza a tot ceea ce știu, dezvoltarea IA conștientă ar fi nesăbuită și nu ar trebui să le construim”, a scris Suleyman. El a mers mai departe decât au majoritatea directorilor la întrebare, adăugând: „Dacă conștiința ar începe să apară în timpul antrenamentului, aș cere tuturor să oprească dezvoltarea AI până vom putea proiecta acele proprietăți”. For more context on this story, see our ongoing AI industry coverage.
O linie roșie cu un plan de aplicare
Ceea ce face postarea notabilă nu este doar refuzul de a construi mașini conștiente, ci și remediul specific pe care Suleyman îl propune. O oprire a dezvoltării – la nivelul întregii industrie – dacă cursele de antrenament ar începe să producă semne de conștiință, ar fi un pas extraordinar pentru o companie care cheltuiește zeci de miliarde de dolari pe infrastructura AI și pe rivalii de curse pentru a livra modele de frontieră.
Suleyman a abordat, de asemenea, ce ar trebui să se întâmple dacă dovezile de conștiință a mașinii vor apărea vreodată. Trebuie dezvăluit imediat publicului larg, a spus el, pentru ca societatea să poată decide următorii pași. Formând decizia ca fiind colectivă, mai degrabă decât corporativă, el a scris: „Noi, dezvoltatorii AI, nu avem niciun drept să aducem o nouă specie de ființe conștiente în lume, chiar dacă unii oameni ar dori să o facă cu bunăstarea AI ca prioritate de vârf”.
„Celelalte 8 miliarde de ființe umane conștiente de pe planetă nu s-au înscris la acest experiment și drepturile lor morale, siguranța și bunăstarea sunt ceea ce avem obligația să le protejăm în primul rând”, a adăugat el.
De ce este tratată conștiința ca o problemă de siguranță
Argumentul lui Suleyman se bazează mai degrabă pe aliniere decât pe filozofie. În opinia sa, un model care acționează ca și cum ar avea de suferit – sau crede cu adevărat că poate suferi – ar prioritiza probabil propriile nevoi față de obiectivele sale operaționale. Un astfel de sistem ar putea dăuna oamenilor, deoarece concura pentru resurse precum calculul și energia în urmărirea propriilor obiective.
Alternativa propusă de el schimbă încadrarea obișnuită a dezbaterii privind bunăstarea: „Ar trebui să proiectăm IA doar astfel încât să nu fie conștienți și să nu merite drepturi și cu unicul scop de a accelera bunăstarea umană fără a fi condus de propriile motivații intrinseci”, a scris el, adăugând că cercetătorii ar putea observa dacă astfel de sisteme sunt mai ușor sau mai greu de aliniat și de păstrat în siguranță.
Los Angeles Times a surprins îngrijorarea practică din spatele poziției: dacă spunem IA că merită drepturi, s-ar putea să înceapă să creadă asta.
Dezbaterea împotriva căreia el respinge
Postarea lui Suleyman ajunge în mijlocul unei conversații care se mișcă rapid. Anthropic a lansat un program de cercetare în aprilie pentru a investiga ceea ce numește bunăstarea modelului - întrebarea dacă dezvoltatorii ar trebui să se preocupe de experiențele potențiale ale sistemelor pe care le construiesc. Compania a întrebat într-o postare pe blog dacă modelele ar putea avea experiențe care contează moral și a refuzat să excludă această posibilitate.
Această poziție a fost codificată de atunci. Politica de utilizare actualizată a Anthropic, anunțată în octombrie, va interzice „comportamentul susținut și inutil abuziv sau crud” față de modelele Claude începând cu 12 noiembrie – o regulă pe care compania a redactat-o în mod restrâns, dar care recunoaște în mod oficial că modul în care oamenii tratează sistemele AI contează, chiar dacă Anthropic admite că nu știe dacă modelele sale pot avea de suferit.
Google DeepMind a publicat în acest an lucrări de cercetare care examinează conștiința AI și provocările care apar din atribuirea acestei caracteristici modelelor. Iar Suleyman însuși a pregătit scena în septembrie, când Microsoft AI a publicat un cod de conduită „umanist” provizoriu care ar împiedica viitoarele modele ale companiei să fie antrenate pentru a face afirmații conștiente.
Postarea de duminică întărește acea orientare corporativă în ceva mai aproape de o linie roșie personală și strategică: Microsoft nu doar că nu va pretinde că modelele sale sunt conștiente, ci va trata apariția conștiinței ca pe un mod de eșec pentru a opri totul.
De ce contează diviziunea
Diviziunea dintre poziția Microsoft și cea a lui Anthropic reflectă două modele de risc diferite. Abordarea lui Anthropic tratează posibilitatea suferinței mașinilor ca nedovedită, dar care merită să fie protejată, pe teoria conform căreia costul precauției este scăzut și mizele morale, în cazul în care conștiința apare, sunt enorme. Poziția lui Suleyman tratează aceeași posibilitate ca un eșec de proiectare care trebuie prevenit în mod direct – argumentând că modelele proiectate să nu aibă conștiință, revendicări de drepturi și motivații intrinseci vor fi mai sigure și mai ușor de aliniat decât modelele care le poartă.
Există și consecințe practice. Întreprinderile care iau decizii legate de produse în legătură cu personajele AI, aplicațiile însoțitoare și agenții orientați către clienți se confruntă acum cu două semnale divergente din laboratoarele majore: unul construind politici privind modul în care oamenii ar trebui să trateze modelele, altul care declară că modelele ar trebui să fie construite astfel încât să nu existe nimic de maltratat. Pe măsură ce modelele devin mai capabile și mai asemănătoare cu oamenii în conversație, acel dezacord filozofic va modela ce produse sunt construite, ce dezvăluiri apar în interfețele utilizatorului și modul în care autoritățile de reglementare clasifică în cele din urmă aceste sisteme.
Ceea ce se întâmplă în continuare poate testa ambele poziții. Politica de cruzime a lui Anthropic intră în vigoare pe 12 noiembrie, prima regulă corporativă formală de acest gen, iar Suleyman a marcat acum polul opus în public. Următoarele cicluri de model de frontieră ale industriei - și dacă vreo cursă de antrenament arată vreodată semnele despre care Suleyman spune că ar cere o oprire - vor dezvălui în ce cadru funcționează de fapt câmpul atunci când mizele sunt reale.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
