Il CEO di Anthropic, Dario Amodei, ha respinto l’idea di aver dipinto un quadro eccessivamente pessimistico dell’intelligenza artificiale, sostenendo in una serie di post che la crescente reazione pubblica contro la tecnologia è “fondamentalmente una crisi di fiducia” nelle istituzioni – non il prodotto degli avvertimenti dei dirigenti dell’intelligenza artificiale.
Lo scambio, riportato domenica da TechCrunch, è iniziato quando l'investitore Gavin Baker ha sostenuto sul podcast All-In e su X che gli avvertimenti di Amodei sui pericoli dell'intelligenza artificiale hanno contribuito ad alimentare una reazione negli Stati Uniti, in particolare contro i data center. Baker ha affermato che Amodei ha "perso la discussione" sulla regolamentazione dell'intelligenza artificiale e, dato che "sta per diventare amministratore delegato di una delle aziende più importanti al mondo", ha scritto: "Ritengo rispettosamente che dovrebbe fare uno sforzo per essere un sostenitore più positivo del proprio settore". Per maggiori informazioni su questa storia, consulta la nostra aggiornamenti sull'intelligenza artificiale.
La risposta di Amodei, pubblicata su X, ha attirato l'attenzione di tutto il settore dell'intelligenza artificiale per ciò che rivela su come uno dei leader più importanti del settore interpreta l'umore inasprito del pubblico - e per un pezzo di autocritica insolitamente schietto sulle promesse non mantenute del settore.
"La gente comune non si fida delle aziende"
Amodei ha riconosciuto nei suoi post che "il pubblico ha una visione negativa dell'intelligenza artificiale" e ha convenuto che "questo è un grosso problema". Ma ha rifiutato l’idea che la negatività sia “causata principalmente” da lui “o da qualsiasi altro leader dell’IA che mette in guardia sui rischi dell’IA”.
"Penso che sia fondamentalmente una crisi di fiducia", ha scritto Amodei. "Penso che la gente comune non si fidi delle aziende, dei governi o dell'industria tecnologica e sospetti sempre che stiamo escogitando qualche nuovo modo per fregarli."
Secondo il racconto di Amodei, questa è una crisi in atto da decenni, di cui la reazione dell'intelligenza artificiale è "solo l'ultima iterazione". Il commento arriva in un momento di visibile tensione tra le aziende di intelligenza artificiale e il pubblico: le proteste contro la costruzione di data center si sono diffuse in tutti gli Stati Uniti e l’opposizione della comunità ha ripetutamente ritardato quest’anno importanti costruzioni.
Contestazione dell'addebito di "messaggi negativi".
Sull'accusa specifica che la sua comunicazione fosse stata troppo oscura, Amodei è stato diretto. "Non sono d'accordo sul fatto che i miei messaggi siano stati sproporzionatamente negativi", ha scritto, affermando che i suoi scritti sono stati "quasi equamente bilanciati tra rischi e benefici". Ha notato di aver scritto il suo saggio "Machines of Loving Grace" proprio perché "non sentiva che l'industria dell'intelligenza artificiale stava dipingendo un quadro sufficientemente stimolante di come la tecnologia potrebbe trasformare radicalmente il mondo in meglio".
Ma il passaggio più citato della risposta di Amodei era rivolto alla sua stessa industria, compresa la sua stessa azienda. "Penso che la critica di gran lunga più accurata alle società di intelligenza artificiale, inclusa Anthropic, sia che non abbiamo ancora mantenuto le nostre grandi promesse a beneficio del mondo", ha scritto. "Dipende totalmente da noi, e penso che sia la critica che dovresti fare, invece di tutta questa roba sulla messaggistica e sul marketing."
Promettere che l’intelligenza artificiale curerà il cancro, ha aggiunto, è “più un cliché che una fonte di ispirazione”. Ciò che realmente cambierebbe l’opinione pubblica, ha sostenuto, è “curare effettivamente il cancro”.
La lotta per la regolamentazione
Amodei ha anche respinto l'impostazione di Baker sulla regolamentazione, accusandolo di dipingere "una falsa scelta" tra la distribuzione ampia dell'intelligenza artificiale senza regole o la concentrazione della tecnologia nelle mani di poche aziende attraverso regole.
"So che esiste una sorta di abbreviazione della Silicon Valley in cui regolamentazione = cattura normativa = concentrazione del potere, ma ho sempre trovato che questa sia un'immagine eccessivamente semplificata del mondo", ha scritto Amodei. “Molte persone al di fuori di questa bolla pensano alla regolamentazione come a qualcosa che limita il potere aziendale e avvantaggia la gente comune”.
Ha affermato che Anthropic ha deliberatamente elaborato proposte politiche per evitare di trincerare gli operatori storici. "Cerchiamo con tutte le nostre forze di avanzare proposte che svantaggino (rallentino) le aziende di intelligenza artificiale di frontiera mentre vantaggiano i concorrenti più piccoli", ha scritto. Anthropic ha sostenuto requisiti di trasparenza per le grandi società di intelligenza artificiale, incluso un disegno di legge della California che impone obblighi di divulgazione.
Sui modelli a peso aperto – un punto critico nell’attuale dibattito politico, con la Casa Bianca che recentemente si è mossa per esentare i modelli a peso aperto da alcune revisioni federali – Amodei ha offerto una posizione sfumata. "L'intelligenza artificiale è strutturalmente una tecnologia che tende a concentrare il potere", ha affermato. I pesi aperti "aiutano alcuni in questo, ma non sono affatto una soluzione sufficiente perché semplicemente spostano un po' la concentrazione su quelli con più calcolo e chip". Le giuste “regole della strada”, ha affermato, possono affrontare contemporaneamente i rischi informatici, biologici e di allineamento, limitare il potere dei laboratori di frontiera e lasciare spazio a modelli a peso aperto.
Perché lo scambio è importante
Il dibattito arriva in un momento delicato per Anthropic. L’azienda sta cavalcando un’ondata di successo commerciale, con una crescita dei ricavi che l’ha resa una delle aziende più seguite nel settore tecnologico, e si prevede che persegua una quotazione pubblica. Il suo CEO rimane allo stesso tempo uno dei sostenitori più accesi del settore per prendere sul serio i rischi legati all’intelligenza artificiale, una combinazione che rende i suoi messaggi un parafulmine.
L'argomentazione di Baker riflette una corrente più ampia nel capitale di rischio e tra i promotori dell'intelligenza artificiale: che lo scetticismo del pubblico nei confronti dell'intelligenza artificiale è in gran parte un problema di comunicazione creato dalla cautela stessa del settore. La risposta di Amodei inverte di fatto questo quadro: il problema non è ciò che dicono i leader dell’intelligenza artificiale, ma ciò che l’industria non è riuscita a fornire e quanto poco il pubblico si fida delle istituzioni che costruiscono la tecnologia.
Per un’azienda il cui marchio si basa sull’essere un laboratorio di intelligenza artificiale responsabile, la posizione è coerente. Ma la concessione di Amodei – che la critica più dura e accurata riguarda il divario del settore tra promesse e risultati – è un’ammissione particolarmente schietta da parte di un CEO la cui azienda ha fatto alcune delle più grandi promesse di tutte.
I post delineano anche la posizione che Anthropic probabilmente difenderà man mano che gli scontri politici si intensificano a Washington: regole di trasparenza per i laboratori di frontiera, protezioni che avvantaggiano i concorrenti più piccoli e nessuna presunzione generale che i pesi aperti risolvano il problema della concentrazione del potere.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
