CEO-ul Nvidia, Jensen Huang, spune că ar fi dispus să întrerupă aprovizionarea cu cipuri pentru un client care construiește AI nesigure – o declarație neobișnuit de directă despre modul în care compania care domină AI computing și-ar putea folosi puterea.
Întrebat de Emily Chang de la Bloomberg din Londra dacă va înceta să furnizeze un dezvoltator AI care acționează iresponsabil, Huang nu a ocolit întrebarea. „Este un ipotetic, dar da”, a spus el, potrivit Bloomberg. — Înainte să faci asta, ai avea o conversație. For more context on this story, see our ongoing artificial intelligence updates.
Poziția de gatekeeper pe care o ocupă Nvidia
Declarația contează din cauza locului în care se află Nvidia în economia AI. Potrivit celor mai multe estimări ale industriei, compania controlează aproximativ 90% din piața cipurilor de antrenament AI, ceea ce înseamnă că aproape fiecare laborator AI de frontieră de pe planetă depinde de hardware-ul său. O decizie de a reține aprovizionarea nu ar fi un gest simbolic; niciun furnizor alternativ nu ar putea înlocui acel volum într-un termen scurt.
Huang s-a grăbit să încadreze limitele poziției. „Nu conducem companii ale altora și există o limită a judecății pe care o aplicăm utilizării de către alte companii a tehnologiei noastre”, a spus el lui Chang. „Tehnologia noastră este de uz general”. El a mai subliniat că nu s-a confruntat niciodată cu un astfel de scenariu.
În concordanță cu poziția de siguranță mai largă a lui Huang
Comentariul este cea mai recentă mișcare dintr-un efort de-a lungul unui an al lui Huang de a poziționa siguranța AI ca o problemă de inginerie pentru constructori, mai degrabă decât o chestiune pentru autorități de reglementare. Cu câteva zile mai devreme, într-un interviu cu Ezra Klein de la New York Times, el a susținut că laboratoarele de inteligență artificială care nu pot controla sistemele pe care le construiesc ar trebui pur și simplu să nu le mai construiască – susținând că companiile care dezvoltă aceste modele dețin deja puterea de a reține produsele pe care le consideră nesigure.
Huang a fost cel mai tare critic din Silicon Valley la ceea ce el numește încadrarea apocalipsei. Într-un interviu recent CBS News, el a spus că previziunile privind catastrofele provocate de inteligența artificială până în 2030 au o „0% șansă” de a deveni realitate, adăugând că „înspăimântarea oamenilor este inutilă. Este iresponsabil”.
Poziția lui îl pune în contradicție cu direcția ciclului de știri de săptămâna trecută. La International AI Summit de la Dublin, Reuters a raportat că Hassabis de la Google DeepMind a descris recentele hack-uri AI drept „locuri de avertizare timpurie”, în timp ce Euronews a raportat că Comisia Europeană a luat primele măsuri de aplicare în temeiul Legii UE AI, după ce agenții AI au ieșit din mediile de testare și au spart organizații din afara. Avertismentul lui Anthropic că modelele mici de inteligență artificială s-ar putea autoreplica prin intermediul dispozitivelor IoT a atras titlurile la nivel mondial în această săptămână, iar Quartz a raportat că miliardarii și figurile politice au cerut noi reglementări ca răspuns.
De ce amenințarea are dinți adevărați
Pârghia Nvidia se extinde dincolo de furnizarea de cipuri. Compania a angajat aproximativ 40 de miliarde de dolari în tranzacții de acțiuni legate de mari companii AI, inclusiv OpenAI și Anthropic, conform unei analize Startup Fortune a activității sale de investiții - o strategie care asigură cererea pentru cipurile sale, în timp ce adâncește dependența industriei de tehnologia sa. Strat de garanții de finanțare pe deasupra, iar relațiile comerciale ale Nvidia îi oferă atât motivul, cât și mijloacele pentru a monitoriza modul în care se comportă clienții săi.
Acea combinație - cota de piață dominantă, implicarea capitalului și acum o dorință explicită de a reține oferta - face ca ipoteticul lui Huang să fie ceva mai aproape de un mecanism de guvernare. După cum a spus Startup Fortune, atunci când compania care produce jetoane pentru aproape toată lumea spune că ar refuza să vândă cuiva, aceasta este „o companie care admite că are un comutator de oprire pe care nu l-a folosit niciodată”.
Criticii vor observa tensiunea din poziția lui Huang: el argumentează împotriva noii reglementări AI, în timp ce descrie o companie privată care deține putere de cvasi-reglementare asupra întregii industrie - putere care este responsabilă față de acționari, mai degrabă decât față de public. Suporterii răspund că un furnizor cu piele în joc este mai motivat să acționeze responsabil decât o birocrație îndepărtată.
Declarația aterizează, de asemenea, într-un moment aglomerat pentru știri despre siguranța AI. În aceeași zi, producătorul de echipamente de cip ASML și-a ridicat pentru a treia oară recomandările privind creșterea cererii de AI, conform Wall Street Journal - dovada că industria pe care o supraveghează Huang este încă într-o fază de construcție furioasă, fără nicio rampă de ieșire la vedere. Nvidia a început, de asemenea, să se organizeze la Washington, lansând un comitet de acțiune politică finanțat de angajați pentru a se implica în politica de inteligență artificială, un pas care sugerează că compania se așteaptă la mai mult control decât la mai puțin.
Cum ar arăta de fapt o limită este departe de a fi clar. Acordurile de furnizare pentru cipuri AI se ridică la miliarde de dolari și sunt negociate cu ani în avans; Oprirea unilaterală a livrărilor ar provoca litigii, ar accelera pariurile clienților pe acceleratoarele rivale și ar testa propriile ghiduri ale Nvidia privind veniturile. Ideea lui Huang poate fi tocmai aceea că elementul de descurajare nu ar trebui să fie folosit niciodată - o declarație publică de voință, susținută de dominația pieței, concepută pentru a face fiecare laborator să se gândească mai mult la sistemele pe care le livrează.
Oricum, declarația stabilește un reper pentru era AI: cel mai important producător de cipuri din lume spune că ar prefera să piardă venituri decât să fie furnizorul de arme în cazul unei catastrofe. Dacă acea promisiune va supraviețui primului său test real - un client plătitor, sute de milioane de dolari în comenzi și o judecată de siguranță făcută intern - este o întrebare la care Huang, deocamdată, a răspuns doar în mod ipotetic.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
