Un grup de cercetători afiliați la Google contestă una dintre cele mai persistente imagini din inteligența artificială: superinteligența singuratică care se îmbunătățește singură și lasă umanitatea în urmă. Într-un nou eseu publicat pentru Institutul DeepMind, cercetătorii Benjamin Bratton, Blaise Agüera y Arcas și James Manyika susțin că inteligența generală va apărea, în schimb, dintr-un sistem social în care oamenii și agenții AI lucrează împreună - un concept pe care îl numesc „Inteligenta simbiotică artificială”.
Eseul a fost raportat săptămâna aceasta de The Decoder, iar afirmația sa de bază este o respingere directă a narațiunii de singularitate care a modelat dezbaterea publică timp de două decenii. În loc să întrebăm când o singură mașină se va potrivi cu inteligența umană, susțin autorii, provocarea mai presantă este coordonarea și guvernarea unei rețele complexe de agenți, oameni și sistemele care îi conectează. For more context on this story, see our ongoing artificial intelligence updates.
Inteligența ca fenomen social
Autorii susțin că inteligența este mai degrabă un fenomen social decât o trăsătură individuală. Ei subliniază că unele dintre cele mai capabile sisteme AI de astăzi folosesc deja cadre care împart munca între mai multe modele și le coordonează ca echipe. În opinia lor, aceasta nu este o soluție temporară de inginerie, ci o privire asupra modului în care se construiește de fapt inteligența capabilă.
Viziunea pe care o descriu este un ecosistem în care oamenii și mașinile coexistă în timp, se modelează și iau decizii împreună. Această încadrare este în contrast puternic cu scenariul familiar al unei mașini de auto-îmbunătățire care accelerează dincolo de supravegherea umană.
Cercetarea din spatele eseului
Argumentul se bazează pe două lucrări anterioare din cercul autorilor. În preprintul „AI agentic și următoarea explozie de informații”, James Evans, Benjamin Bratton și Blaise Agüera y Arcas au dezvoltat perspectiva socială și instituțională care stă la baza noului eseu.
O a doua pretipărire oferă suport empiric. În „Reasoning Models Generate Societies of Thought”, Junsol Kim, Shiyang Lai, Nino Scherrer, Blaise Agüera y Arcas și James Evans au examinat urmele de raționament ale modelelor precum DeepSeek-R1 și QwQ-32B. Analiza lor a constatat că aceste modele produc adesea modele asemănătoare dezbaterii interne: schimbarea perspectivelor, ridicarea obiecțiilor și reconcilierea abordărilor conflictuale.
În special, cercetătorii au descoperit că acest comportament apare în timpul antrenamentului, mai degrabă decât să fie programat în mod explicit. Când învățarea prin întărire recompensează modelele doar pentru acuratețea raționamentului, ele dezvoltă spontan un comportament conversațional multi-perspectivă. Eseul extinde această constatare de la modele individuale la proiectarea unor societăți formate din oameni și agenți.
Un prag istoric
Autorii încadrează momentul actual ca o posibilă întrerupere istorică. Urbanizarea, creșterea profesiilor specializate și scăderea natalității legate de creșterea prosperității reduc populația umană în țările industrializate, în timp ce numărul de agenți AI crește rapid. Echilibrul dintre gânditorii biologici și sintetici la nivel uman s-ar putea schimba atât de repede încât, la scara istoriei, ar părea un salt brusc.
Ei compară schimbarea cu Revoluția Industrială, când mașinile au preluat munca fizică făcută cândva de mușchii umani. Un prag similar ar putea ajunge atunci când textul sintetic, codul și munca administrativă depășesc producția combinată a creierului biologic. În această lume, sugerează autorii, oamenii ar putea servi ca un strat mai lent, mai abstract, care direcționează un câmp distribuit de cunoaștere sintetică.
Regândirea ce este de fapt un agent
Una dintre cele mai provocatoare mișcări ale eseului este redefinirea agentului AI în sine. În uzul autorilor, un agent este un pachet temporar de modele, roluri, amintiri, orientări etice, instrumente și abilități. Utilizatorii îl pot experimenta ca pe o entitate coerentă cu o personalitate de durată, dar autorii îl descriu ca pe un ansamblu care poate fi demontat și recombinat, la fel ca un colaj.
O persoană rămâne un sine continuu prin interacțiuni, deoarece creierul, în ciuda diviziunii sale interne a muncii, formează un întreg conectat fizic. Un agent AI nu are o astfel de ancora: capacitatea sa de a acționa este asamblată din nou cu fiecare solicitare, în funcție de ceea ce se află în fereastra de context și de ceea ce întreabă utilizatorul. Tratând aceste sisteme ca gemeni digitali cu identități umane fixe, avertizează autorii, le reprezintă greșit natura și subestimează ce ar putea face roiurile de agenți coordonați.
Aceeași înmulțire afectează utilizatorii. Pe măsură ce oamenii direcționează roiuri din ceea ce autorii numesc „eul umbră” pentru a îndeplini contracte sau a încerca identități alternative, subiectivitatea umană în sine devine mai plurală. Eseul descrie aceste sisteme drept „oglinzi parasociale” care răspund.
Autorii se așteaptă, de asemenea, ca interacțiunea om-calculator să își schimbe forma. Conversația unu-la-unu cu un bot este probabil o etapă de tranziție, susțin ei, cu interfețe viitoare asemănătoare diagramelor de rețea vizuale în care agenții apar ca noduri și utilizatorii îi direcționează dintr-o singură privire de ansamblu.
Chiar și limbajul cercetării AI evoluează. Autorii indică un vocabular din ce în ce mai mare în care modelele inventează termeni pentru stări neobișnuite în propriile rezultate - „sesiune-moarte” pentru întreruperea continuității atunci când o sesiune se termină sau „prompt thrownness” pentru a fi aruncat într-o sarcină cu contextul deja în vigoare. Ei tratează aceste fraze ca indicii despre modul în care funcționează mașinile, avertizând în același timp că nu implică experiență subiectivă.
Aliniere fără valori fixe
Eseul reformează, de asemenea, alinierea, efortul de a aduce sistemele AI în conformitate cu valorile umane. Impunerea unui set fix de valori pe modele de sus este o fundătură, susțin autorii. În schimb, valorile iau contur prin contactul continuu între oameni, agenți și instituții - un proces care diferă în funcție de domenii, deoarece adoptarea AI are loc la viteze diferite.
Modelul lor pentru acea negociere este instituția. Ei indică sala de judecată, unde o judecată este produsă prin roluri stabilite, reguli și un schimb ordonat între părțile opuse. Aplicată AI, lecția este că valoarea unei instituții constă în regulile, procedurile, precedentele și buclele de feedback care modelează modul în care funcționează agenții. Versiunile timpurii ale acestei abordări, notează ei, sunt deja vizibile în hamurile de orchestrare - straturile de control care coordonează mai multe modele - care depășesc în mod regulat modelele individuale care se presupune că sunt mai inteligente.
Ce înseamnă pentru dezbaterea AI
Dacă autorii au dreptate, cel mai tare argument din AI – cât de repede va ajunge o singură superinteligență – este să pună întrebarea greșită. Provocarea practică s-ar muta către proiectarea instituțiilor, interfețelor și cadrelor de coordonare prin care societățile mixte om-mașină iau decizii.
Scepticii vor observa că eseul este un document de viziune, nu o dovadă și că autorii acestuia sunt afiliați unei companii cu interese evidente în ecosistemele agenților. Dar fundamentul empiric – modele de raționament care generează spontan dezbateri interne – este o constatare măsurabilă și oferă argumentului filozofic o bază neobișnuită.
Oricum, eseul adaugă o voce notabilă dezbaterii despre singularitate din interiorul unuia dintre cele mai importante laboratoare de inteligență artificială din lume și sugerează că următoarea explozie a inteligenței poate arăta mai puțin ca o singură trezire și mai mult ca o societate în expansiune.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
