CEO-ul Anthropic, Dario Amodei, a respins ideea că a pictat o imagine prea pesimistă a inteligenței artificiale, argumentând într-o serie de postări că reacția publică în creștere împotriva tehnologiei este „în esență o criză a încrederii” în instituții – nu produsul avertismentelor directorilor AI.
Schimbul, raportat duminică de TechCrunch, a început atunci când investitorul Gavin Baker a argumentat pe podcastul All-In și pe X că avertismentele lui Amodei despre pericolele AI au contribuit la alimentarea unei reacții în Statele Unite, în special împotriva centrelor de date. Baker a susținut că Amodei a „pierdut argumentul” cu privire la reglementarea inteligenței artificiale și, având în vedere că „este pe cale să fie directorul general al uneia dintre cele mai importante companii din lume”, a scris: „Cred cu respect că ar trebui să facă un efort pentru a fi un avocat mai pozitiv pentru propria sa industrie”. For more context on this story, see our ongoing more AI stories.
Răspunsul lui Amodei, postat pe X, a atras atenția în toată industria AI pentru ceea ce dezvăluie despre modul în care unul dintre cei mai proeminenți lideri ai domeniului interpretează starea de spirit amară a publicului - și pentru o autocritică neobișnuit de clară cu privire la promisiunile nerespectate ale industriei.
„Oamenii obișnuiți nu au încredere în companii”
Amodei a recunoscut în postările sale că „publicul are o viziune negativă asupra inteligenței artificiale” și a fost de acord că „aceasta este o mare problemă”. Dar el a respins ideea că negativitatea este „cauzată în primul rând” de el „sau de orice alt lider AI care avertizează despre riscurile AI”.
„Cred că este fundamental o criză de încredere”, a scris Amodei. „Cred că oamenii obișnuiți nu au încredere în companii, guverne sau în industria tehnologiei și întotdeauna bănuiesc că găsim o nouă modalitate de a le da peste cap”.
În povestirea lui Amodei, aceasta este o criză de decenii în devenire, cu reacția AI „doar cea mai recentă iterație a acesteia”. Comentariul ajunge într-un moment de tensiune vizibilă între firmele de inteligență artificială și public: protestele împotriva construcției centrelor de date s-au răspândit în Statele Unite, iar opoziția comunității a amânat în mod repetat construcțiile majore în acest an.
Contestarea taxei pentru „mesajare negativă”.
Sub acuzația specifică că propria sa comunicare a fost prea întunecată, Amodei a fost direct. „Nu sunt de acord că mesajele mele au fost disproporționat de negative”, a scris el, spunând că scrisul său a fost „aproximativ echilibrat între riscuri și beneficii”. El a menționat că și-a scris eseul „Machines of Loving Grace” tocmai pentru că „nu a simțit că industria AI pictează o imagine suficient de inspirată a modului în care tehnologia ar putea transforma radical lumea în bine”.
Dar cel mai citat pasaj din răspunsul lui Amodei a vizat propria sa industrie, inclusiv propria sa companie. „Cred că, de departe, cea mai precisă critică la adresa companiilor de inteligență artificială, inclusiv Anthropic, este că încă nu ne-am îndeplinit marile noastre promisiuni de a aduce beneficii lumii”, a scris el. „Aceasta depinde în totalitate de noi și cred că este critica pe care ar trebui să o faci, în loc de toate chestiile astea despre mesaje și marketing.”
A promite că AI va vindeca cancerul, a adăugat el, este „mai mult un clișeu decât inspirator”. Ceea ce ar schimba de fapt opinia publică, a susținut el, este „de fapt vindecarea cancerului”.
Lupta de reglementare
Amodei a respins, de asemenea, încadrarea lui Baker asupra reglementărilor, acuzându-l că a făcut „o alegere falsă” între a distribui AI pe scară largă fără reguli sau concentrarea tehnologiei în mâinile câtorva companii prin reguli.
„Știu că există un fel de prescurtare în Silicon Valley în care reglementarea = captarea reglementărilor = concentrarea puterii, dar întotdeauna am considerat că aceasta este o imagine prea simplificată a lumii”, a scris Amodei. „Mulți oameni din afara acestei bule cred că reglementarea este ceva care constrânge puterea corporativă și aduce beneficii oamenilor obișnuiți”.
El a spus că Anthropic a elaborat în mod deliberat propuneri de politici pentru a evita înrădăcinarea titularilor. „Încercăm foarte mult să facem propuneri care dezavantajează (încetinesc) companiile de frontieră AI, în timp ce avantajează concurenții mai mici”, a scris el. Anthropic a pledat pentru cerințe de transparență pentru marile companii de inteligență artificială, inclusiv pentru un proiect de lege din California care impune obligații de divulgare.
În ceea ce privește modelele deschise - un punct de foc în dezbaterea politică actuală, cu Casa Albă trecând recent pentru a scuti modelele deschise de la anumite revizuiri federale - Amodei a oferit o poziție nuanțată. „AI este structural o tehnologie care tinde să concentreze puterea”, a argumentat el. Greutățile deschise „ajută pe unii în acest sens, dar nu sunt nici pe departe o soluție suficientă, deoarece pur și simplu schimbă oarecum concentrația către cei cu cele mai multe calculatoare și cip”. „Regulile de drum” potrivite, a spus el, pot aborda simultan riscurile cibernetice, biologice și de aliniere, pot limita puterea laboratoarelor de frontieră și pot lăsa loc modelelor deschise.
De ce contează schimbul
Dezbaterea aterizează într-un moment sensibil pentru Anthropic. Compania se află într-un val de succes comercial, cu o creștere a veniturilor care a făcut-o una dintre cele mai urmărite afaceri din domeniul tehnologiei și este de așteptat să urmărească o listă publică. CEO-ul său rămâne în același timp unul dintre cei mai vocali susținători din industrie pentru a lua în serios riscurile legate de inteligența artificială - o combinație care face din mesajele sale un paratrăsnet.
Argumentul lui Baker reflectă un curent mai larg în capitalul de risc și printre stimulatorii AI: că scepticismul public față de AI este în mare măsură o problemă de comunicații creată de prudența proprie a industriei. Răspunsul lui Amodei inversează efectiv această încadrare - problema nu este ceea ce spun liderii AI, ci ceea ce industria nu a reușit să ofere și cât de puțină încredere are publicul în instituțiile care construiesc tehnologia.
Pentru o companie a cărei marcă se bazează pe a fi un laborator responsabil de inteligență artificială, poziția este consecventă. Dar concesia lui Amodei - că cea mai dură și mai precisă critică este decalajul industriei dintre promisiuni și livrare - este o recunoaștere deosebit de sinceră a unui CEO a cărui companie a făcut unele dintre cele mai mari promisiuni dintre toate.
Postările schițează, de asemenea, poziția pe care Anthropic ar putea să o apere pe măsură ce luptele politice se intensifică la Washington: reguli de transparență pentru laboratoarele de frontieră, protecții care avantajează concurenții mai mici și nicio prezumție generală că ponderile deschise rezolvă problema concentrării puterii.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
