Centrul Moscone din San Francisco a găzduit un dezacord public neobișnuit săptămâna aceasta: liderii Nvidia, Anthropic și OpenAI, apărând pe aceeași scenă la câteva ore unul de celălalt, la conferința Dreamforce a Salesforce, au oferit răspunsuri radical diferite la întrebarea cât de repede ar trebui lăsată AI să avanseze.
CEO-ul Nvidia, Jensen Huang, i-a spus șefului Salesforce, Marc Benioff, că încadrarea vitezei versus siguranță este greșită. „Este o alegere falsă”, a spus Huang, potrivit CNBC. „Cu siguranță le poți avea pe amândouă în același timp.” For more context on this story, see our ongoing artificial intelligence updates.
Poziția sa a fost în contrast direct cu cea exprimată mai devreme de CEO-ul Anthropic, Dario Amodei, și mai târziu de CEO-ul OpenAI, Sam Altman, într-o dezbatere care s-a mutat de la blogurile de cercetare la discursurile cheie la Washington în decurs de o săptămână.
Slowdown Pitch a lui Amodei primește o platformă Keynote
Amodei a apărut primul, alăturându-se lui Benioff pentru prezentarea anuală Salesforce în fața unui public de aproximativ 12.000 de persoane. Apariția a urmat unui eseu publicat de Amodei în weekend, care îndeamnă industria să încetinească ritmul dezvoltării modelelor, o propunere despre care spune că poate tempera cât de repede se îmbunătățesc capacitățile fără a „sacrifica avantajul comercial sau conducerea Statelor Unite în domeniul inteligenței artificiale”.
Potrivit CNBC, Amodei a încadrat reținerea voluntară ca un test de conducere pentru industrie. „Cred că acesta este modul de a conduce industria înainte, de a da un exemplu, de a spune că oricine poate fi întotdeauna mai bun”, a spus el pentru Benioff.
Eseul a atras rapid sprijinul publicului din partea altor directori din industrie, inclusiv Sam Altman de la OpenAI, CEO-ul SpaceX Elon Musk și președintele Google DeepMind Demis Hassabis. A aterizat la câteva zile după ce cercetătorii din industrie au ridicat alarme cu privire la potențialul AI de a provoca daune catastrofale, dând argumentului încetinirii o nouă urgență.
Huang: Forțele pieței, nu legi noi
Huang, a cărei companie a devenit cea mai valoroasă din lume prin vânzarea hardware-ului care antrenează și conduce modele de frontieră, a respins atât premisa unui compromis, cât și ideea unei noi reglementări. Există deja forțe de piață care disciplinează comportamentul nesăbuit, a susținut el, și este la latitudinea dezvoltatorilor de modele să acționeze responsabil cu produsele lor.
„Fugi cât de repede poți”, i-a spus Huang lui Benioff. „Dar dacă simțiți că, la un moment dat, compania este scăpată de sub control sau produsul nu va fi sigur, faceți o pauză și asigurați-vă că ați înțeles corect.”
Distincția contează: Huang nu susține că companiile nu ar trebui să se oprească niciodată, ci doar că decizia ar trebui să rămână la fiecare companie, mai degrabă decât să fie pusă în aplicare prin legi sau acorduri coordonate de ritm la nivel de industrie. Cu o zi mai devreme, la Summit-ul All-In din Los Angeles, Huang a primit un apel telefonic cu difuzor de la președintele Donald Trump, care și-a exprimat îngrijorarea cu privire la oamenii care încearcă să obstrucționeze construcția centrelor de date AI. „Nu vom lăsa să se întâmple asta, domnule”, a răspuns Huang.
Altman: Siguranța „Ar trebui să nu aibă calificative”
Rândul lui Altman pe scena Dreamforce a venit mai târziu în cursul zilei și s-a poziționat mai aproape de Amodei decât de Huang. În timpul unei conversații cu Benioff, Altman a spus că siguranța și monitorizarea trebuie să fie înaintea capacităților, având în vedere puterea modelelor actuale.
El a vizat companiile care își condiționează angajamentele în materie de siguranță de comportamentul concurenților. „Aveți companii care spun lucruri de genul „Vom fi responsabili doar dacă alte companii sunt responsabile”, a spus Altman, adăugând că atunci când oamenii întreabă ce va face o companie pentru a fi în siguranță „indiferent de ce”, răspunsul nu ar trebui să lase loc pentru condiții. „Nu ar trebui să existe nicio calificare în acest sens”.
Benioff stă la mijloc
Benioff, gazdă a tuturor celor trei directori, a refuzat să aleagă o parte în ceea ce privește ritmul. "Dacă simt că ar trebui să încetinească, atunci ar trebui să încetinească. Dacă simt că ar trebui să accelereze, ar trebui să accelereze", a spus el reporterilor, înainte de a adăuga că companiile "ar trebui să fie trase la răspundere".
Conferința a arătat, de asemenea, cât de încurcate au devenit relațiile de afaceri. Marți, Salesforce și Nvidia au anunțat un nou model de raționament pentru platforma Salesforce Agentforce, construită pe unul dintre modelele Nemotron deschise ale Nvidia. La sfârșitul lunii august, Salesforce și Anthropic și-au extins parteneriatul strategic și au dezvăluit „Claudeforce”, care le permite vânzătorilor să acceseze datele Salesforce din interiorul lui Claude.
De ce contează diviziunea
Schimburile Dreamforce au cristalizat ceea ce a devenit linia centrală de defect în dezbaterile privind guvernarea AI: dacă reținerea ar trebui să fie coordonată și potențial codificată, sau lăsată la presiunea competiției și raționamentul corporativ individual.
Propunerea lui Amodei rămâne voluntară, dar aprobarea ei de către directorii executivi ai OpenAI, DeepMind și xAI marchează pentru prima dată când liderii marilor laboratoare de frontieră se aliniază public la încetinirea încetinirii. Contraargumentul lui Huang, oferit de cea mai valoroasă companie din lume, acoperă directorii și factorii de decizie politică care susțin că impunerea prudenței ar aduce un avantaj concurenților, în special în China.
Președintele Trump s-a opus noilor reguli de inteligență artificială, o poziție care subminează propriile cereri ale industriei de încetinire, după cum a remarcat CNBC într-o analiză aferentă. Acest lucru lasă orice acord de ritm voluntar fără mecanismul de aplicare de care susținătorii siguranței spun că are nevoie și menține dezbaterea fermă asupra sistemelor de onoare corporative pentru moment.
Întrucât cercetătorii avertizează public despre riscurile catastrofale și liderii celor mai mari companii din domeniu fiind acum în dezacord deschis pe scenă, problema ritmului este probabil să domine următorul ciclu de politici de la Washington - orice va decide piața să facă între timp.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
