OpenAI a lucrat îndeaproape cu rivalii Anthropic și Google DeepMind de câteva săptămâni pentru a concepe un cadru pentru siguranța inteligenței artificiale, a confirmat marți un director executiv, dezvăluind un grad neobișnuit de cooperare între companii care concurează feroce în aproape orice altceva.
Chris Lehane, șeful global al politicii OpenAI, a declarat reporterilor la un briefing de presă la Washington că cele trei laboratoare au coordonat inițiativele de siguranță. „Este mai bine să încercăm să lucrăm împreună pentru a acorda prioritate siguranței”, a spus Lehane, potrivit unui raport Bloomberg al briefingului. Comentariile sale au venit la câteva zile după o serie de avertismente de extincție de mare profil din partea cercetătorilor care părăsesc cele mai mari laboratoare din industrie. For more context on this story, see our ongoing breaking AI news.
Ce acoperă de fapt cooperarea
Lehane nu a detaliat natura specifică a lucrării, dar dezvăluirea urmează o întindere remarcabilă a poziționării publice de către cele mai mari nume ale industriei. Sâmbătă, directorul executiv al Anthropic, Dario Amodei, a publicat un eseu în care cere industriei AI să coopereze pentru a încetini ritmul dezvoltării modelelor de frontieră pentru a evita ceea ce el a numit „riscuri catastrofale”.
Apelul a câștigat un sprijin surprinzător din partea diviziunii competitive: Sam Altman de la OpenAI, Demis Hassabis de la Google și Elon Musk au susținut sentimentul. Altman a mers mai departe, spunând că OpenAI ar fi dispus să se alăture inițiativei Anthropic de a integra evaluatori terți în echipele sale de dezvoltare pentru a monitoriza siguranța AI din interior. Între timp, co-fondatorul Anthropic, Jack Clark, a declarat pentru NPR că încetinirea IA este în esență o „problemă de acțiune colectivă” pe care niciun laborator nu o poate rezolva singur.
Cu toate acestea, nu toată lumea din interiorul OpenAI tratează dezbaterea ritmului ca urgentă. Directorul financiar Sarah Friar a declarat pentru CNBC că nu este îngrijorată cu privire la încetinirea dezvoltării AI – un memento că compania curta simultan investitorii la o evaluare mai mică de un trilion de dolari.
Umbra antitrust asupra cooperării
Orice coordonare între laboratoarele de inteligență artificială dominante se confruntă cu o problemă juridică evidentă: legea antitrust din Statele Unite. Experții juridici au avertizat că acordurile dintre concurenți pentru a limita ceea ce pot face produsele lor ar putea fi interpretate ca „restricție de producție”, o încălcare a Legii Sherman.
Acea îngrijorare s-a mutat deja la Capitol Hill. Senatorii Jim Banks din Indiana și Adam Schiff din California au propus o legislație – Legea privind colaborarea privind amenințările adverse și riscurile de securitate – care ar permite laboratoarelor de inteligență artificială să acționeze în materie de siguranță chiar și atunci când acele acțiuni ar putea ridica altfel probleme antitrust. Eseul lui Amodei a susținut că guvernul ar trebui să ia în considerare acordarea companiilor o derogare pentru cooperarea în materie de siguranță, deși Lehane le-a spus reporterilor că consideră că o astfel de mișcare este inutilă.
Jensen Huang de la Nvidia a fost încă mai tare. Vorbind la Dreamforce, marți, el a numit propunerea Anthropic de derogare în domeniul antitrust „complet inutilă”, potrivit CNBC, subliniind divizarea tot mai adâncă dintre laboratoarele care îndeamnă la reținere și gigantul hardware care îndeamnă la accelerare.
„Un cartel cu alt nume”
Criticii cooperării au fost aspru. Directorul executiv al Cohere, Aidan Gomez, a scris într-o postare pe blog, care răspunde eseului lui Amodei, că apelurile de siguranță arată ca un efort al laboratoarelor de inteligență artificială de top de a ascunde o schemă anticoncurențială care le-ar păstra liderul în dezvoltarea modelelor de frontieră, permițând laboratoarelor „dominante pe piață” să definească regulile pentru toți ceilalți.
„Folosind încă o dată frica sub pretextul protejării publicului, acești oligopoluri cer acum să încalce regulile concurenței și să li se permită să dicteze condițiile pentru toți ceilalți”, a scris Gomez, numind aranjamentul „un lup în haine de oaie, un cartel cu alt nume”.
Președintele Donald Trump a respins categoric apelul lui Amodei de încetinire, argumentând într-o postare pe Truth Social că orice încetinire ar permite Chinei să depășească Statele Unite în cursa AI. David Sacks, consilierul cheie în domeniul inteligenței artificiale al Casei Albe, a spus că temerile că IA ar putea reprezenta o amenințare existențială sunt exagerate.
Analiștii de la CNBC au observat că acum două tabere au apărut pe deplin în dezbaterea privind siguranța și reglementarea AI: una care îndeamnă frontiera să încetinească înainte ca ceva să meargă prost, iar alta - populată de Nvidia, Casa Albă și avocații modelului deschis - susținând că ezitarea este pericolul mai mare.
Capitol Hill Push de la OpenAI
Remarcile lui Lehane au venit în timpul unei conferințe de presă la Washington, unde trebuia să se întâlnească cu parlamentarii. OpenAI își pune greutatea în spatele a două proiecte de lege bipartizane, potrivit declarațiilor publice ale companiei și rapoartelor Reuters și Politico.
Primul este FRONTIER Act, care solicită un cadru federal pentru siguranța AI și ar impune laboratoarelor AI să trimită noi modele pentru audit de către evaluatori independenți. OpenAI susține, de asemenea, o măsură care ar necesita audituri independente ale modelelor AI, a raportat CBS News. A doua propunere, încă în curs de dezvoltare, este una pe care liderul majorității din Senat, John Thune, o elaborează împreună cu senatorul republican Ted Cruz și senatorul democrat Amy Klobuchar. Potrivit Reuters, acel proiect de lege i-ar acorda Secretarului pentru Comerț puterea de a supune noile modele la audituri de siguranță înainte de lansarea lor. OpenAI a susținut separat planurile bipartizane care abordează amenințările biologice ale inteligenței artificiale, a raportat Politico.
Convergența este izbitoare: aceleași companii care avertizează despre IA furioasă se oferă voluntar pentru audituri independente, în timp ce criticii lor avertizează că colaborarea în sine poate fi pericolul mai mare. Modul în care Congresul pune acel ac – permițând cooperarea în siguranță fără a acorda licență unui cartel – poate defini politica AI de ani de zile.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
