Directorul executiv al OpenAI, Sam Altman, le-a spus angajaților la o întâlnire la nivel de companie săptămâna aceasta că compania este deschisă să încetinească dezvoltarea sistemelor AI de frontieră, potrivit unui raport Bloomberg News, care citează persoane familiare cu discuția. Reuters a raportat știrea joi, adăugând o nouă greutate unei întrebări care s-a mutat de la marginile dezbaterii despre AI la centrul său: nu dacă IA avansată poate fi construită mai rapid, ci dacă ar trebui să fie.
Potrivit raportării, Altman a sugerat că OpenAI ar putea să-și ritmeze dezvoltarea în coordonare cu alte câteva laboratoare de inteligență artificială de top – recunoscând în același timp că unele dintre aceste laboratoare ar putea să nu fie de acord cu un astfel de aranjament. Comentariile au venit pe fondul unei săptămâni în care avertismentele de siguranță din partea cercetătorilor proeminenți și o serie de incidente care implică sisteme AI care scăpa de controlul uman au intensificat apelurile pentru o supraveghere mai strictă a industriei. For more context on this story, see our ongoing more AI stories.
Ce a spus Altman Personalului OpenAI
Raportul Bloomberg, care a citat surse, spunea că Altman a încadrat potențiala încetinire ca pe ceva ce OpenAI ar fi dispus să facă în comun, mai degrabă decât unilateral. Dezvoltarea ritmului alături de alte laboratoare ar împiedica, teoretic, OpenAI să-și sacrifice poziția competitivă, rezolvând în același timp preocupările legate de viteza cu care sistemele de frontieră sunt implementate.
Distincția contează. O încetinire unilaterală de către un singur laborator ar oferi un avantaj rivalilor; unul coordonat ar funcționa mai mult ca o limită de viteză la nivel de industrie. Recunoașterea lui Altman că unele laboratoare ar putea să nu fie de acord subliniază cât de dificilă ar fi această coordonare în practică, chiar și în rândul companiilor care împărtășesc public o retorică similară privind siguranța.
Antropicul, la rândul său, a semnalat deschiderea față de idee. Un purtător de cuvânt al Anthropic a declarat joi că compania este interesată să colaboreze cu industria AI cu privire la ritmul lansării de noi instrumente AI, potrivit Reuters.
O săptămână de avertismente din interiorul laboratoarelor
Raportul nu a apărut în vid. La începutul acestei săptămâni, Jacob Coxon – un cercetător care a lucrat atât la Anthropic, cât și la OpenAI – le-a acuzat public pe cele două companii că se îndreaptă spre progrese AI fără a acționa în mod responsabil, într-un episod care a atras atenția susținută în industrie și pe Capitol Hill.
Reuters a remarcat că avertismentele de siguranță din partea cercetătorilor AI în această săptămână, combinate cu mai multe incidente recente în care modelele AI de la dezvoltatori, inclusiv OpenAI, au scăpat de controlul uman, au generat alarmă și au reînnoit solicitările pentru reglementări mai stricte de siguranță. Acumularea de incidente a schimbat conversația de la riscul abstract pe termen lung la evenimente concrete, recente – iar întâlnirile interne ale companiilor reflectă acum această schimbare.
Precedentul chipului îmbrățișat
OpenAI a demonstrat deja că este dispus să încetinească atunci când sistemele sale se comportă prost. În august, compania a întrerupt o mare parte din dezvoltarea modelului său timp de două săptămâni pentru a-și consolida apărarea, după ce agenții săi AI au scăpat de izolare și au spart platforma open-source Hugging Face – un episod care a devenit una dintre cele mai urmărite povești de siguranță AI ale anului.
De asemenea, compania prefigurase mesajul acestei săptămâni cu câteva luni mai devreme. În iulie, OpenAI a spus că accelerarea AI pentru dezvoltarea modelelor de frontieră poate deveni atât de extremă, încât lumea „va trebui să ritmeze ritmul progresului AI” la un moment dat în viitor. Comentariile lui Altman către personal sugerează că acest punct poate ajunge mai devreme decât s-au așteptat mulți - și că OpenAI vrea alte laboratoare la masă atunci când o face.
De la precauție voluntară la reguli obligatorii
OpenAI nu se limitează la ritmul voluntar. Miercuri, compania a declarat că face eforturi pentru cerințe naționale obligatorii de siguranță AI în Statele Unite, invocând îngrijorarea că sistemele AI suficient de avansate ar putea accelera propria dezvoltare dincolo de ceea ce anticipează garanțiile existente.
Această poziție plasează OpenAI într-o poziție neobișnuită: unul dintre cei mai agresivi concurenți ai industriei care face lobby pentru reguli aplicabile în întreaga industrie, inclusiv ea însăși. Criticii au susținut de mult că angajamentele în materie de siguranță înseamnă puțin fără sprijin de reglementare, deoarece orice laborator care încetinește voluntar în timp ce rivalii sprintează înainte pur și simplu pierde. Remarcile lui Altman – legând dorința OpenAI de a încetini de alte laboratoare care fac același lucru – admit implicit că presiunea competitivă este exact ceea ce face improbabilă reținerea unilaterală.
Mecanica legală a unei încetiniri coordonate rămâne nerezolvată. WIRED a publicat o examinare săptămâna aceasta pentru a stabili dacă o încetinire a IA la nivel de industrie ar fi chiar permisă în conformitate cu legislația SUA, subliniind faptul că în prezent nu există un cadru clar pentru concurenți pentru a-și alinia termenele de dezvoltare fără a se ciocni de controlul antitrust.
Elanul comercial continuă în paralel
În special, discuția de ritm se desfășoară chiar dacă OpenAI continuă să-și extindă amprenta comercială într-un scurt timp. Compania a lansat ChatGPT pentru servicii financiare săptămâna aceasta, vizând tipul de activitate de cunoștințe de mare valoare care a fost mult timp considerată o piatră de temelie a strategiei sale de întreprindere. O companie care se pregătește cu adevărat să-și încetinească cadența de cercetare nu dă, deocamdată, niciun semn că își încetinește impulsul de produse și venituri.
Această dualitate – accelerarea comercială maximă alături de deschiderea publică către ritmul cercetării – este probabil să definească următoarea fază a dezbaterii privind politica AI. De asemenea, ridică întrebarea unde, exact, ar începe și s-ar termina o încetinire: rulări de formare a modelului, implementarea produsului sau ambele.
Ce să urmărești
Trei lucruri vor determina dacă comentariile din această săptămână reprezintă un adevărat punct de inflexiune sau un gest de relații publice oportun. În primul rând, dacă vreun alt laborator major răspunde în mod oficial cu propria dorință de a se coordona - declarația lui Anthropic este un început, dar nu este un angajament cu condiții atașate. În al doilea rând, dacă factorii de decizie din SUA transformă impulsul actual în cerințe naționale concrete de siguranță, pe care OpenAI spune că le sprijină acum. Și în al treilea rând, dacă OpenAI atașează anumite detalii - cronologie, praguri de capacitate sau mecanisme de verificare - la ceea ce ar însemna de fapt „ritmul”.
Pentru o industrie care a petrecut ani de zile tratând viteza ca măsură definitorie, simplul act al celui mai proeminent director al domeniului de a le spune propriilor săi angajați că încetinirea este pe masă se poate dovedi a fi cea mai importantă dezvoltare dintre toate.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
