Alcune ore dopo che il CEO di Anthropic, Dario Amodei, ha pubblicato il suo saggio "Dobbiamo superare la frontiera" invitando i governi a rallentare la corsa all'intelligenza artificiale, una risposta mirata ha iniziato a scalare Hacker News, diventando alla fine una delle storie più votate della giornata. La sua argomentazione, esposta in una lettera aperta dallo scrittore e sviluppatore Jacob Gold, è di una semplicità disarmante: se Amodei è sincero nel rallentare l’intelligenza artificiale, c’è una legge che potrebbe invocare per farlo effettivamente – e nessun altro dirigente di laboratorio potrebbe proporla. Richiedere che ogni modello di intelligenza artificiale che un'azienda offre al pubblico venga rilasciato come pesi aperti.
"Credo che tu sia sincero - si apre la lettera, rivolgendosi direttamente ad Amodei - e allora ti chiedo di chiedere una legge diversa, che rallenti davvero le cose, anche se richiederebbe un vero sacrificio da parte tua". La lettera ha colpito un nervo scoperto proprio perché si confronta con la versione più forte dell'argomentazione di Amodei piuttosto che respingerla - e perché si colloca nel mezzo del dibattito politico più importante sull'intelligenza artificiale oggi, un dibattito che seguiamo quotidianamente nella nostra copertura politica sull'intelligenza artificiale.
Cosa ha proposto Amodei e perché Gold dice che non funzionerà
Il saggio di Amodei impegnava Anthropic a integrare valutatori terzi e chiedeva ai governi di richiedere a ogni altra azienda di frontiera di mantenere tale impegno. Sam Altman ha concordato in poche ore: "Sono d'accordo con Dario sul fatto che dobbiamo accelerare la frontiera", ha detto, secondo Politico, con OpenAI che corrisponde anche all'impegno del valutatore. A prima vista, si tratta di uno schieramento senza precedenti: i capi dei due laboratori di intelligenza artificiale più preziosi al mondo chiedono pubblicamente di essere rallentati.
La lettera di Gold sostiene che è proprio questo consenso che dovrebbe insospettire gli osservatori. "Ogni regolamentazione che avete chiesto finisce con la cattura", avverte. Valutatori integrati, soglie di calcolo, coordinamento del settore con deroghe antitrust: "Tutto viene scritto con l'aiuto degli attuali laboratori di frontiera, perché nessun altro comprende i dettagli tecnici abbastanza bene da scriverlo". Una volta che tali regole diventano legge, ogni incidente aggiunge una regola e nessuna viene mai rimossa, e i giganti possono permettersi i team di conformità che tengono lontani gli sfidanti più piccoli. "Invece di rallentarti", dice la lettera ad Amodei, "protegge la tua posizione e i tuoi profitti".
La controproposta dei pesi aperti
Gli schizzi alternativi di Gold sono volutamente schietti. Qualsiasi modello di intelligenza artificiale offerto da un’azienda al pubblico dovrebbe essere spedito con i pesi pubblicati. I modelli interni e di ricerca rimarrebbero intatti e i governi manterrebbero l’accesso ai sistemi non rilasciati, ma Anthropic dovrebbe pubblicare i pesi del suo prossimo modello di frontiera il giorno in cui viene rilasciato, e OpenAI dovrebbe fare lo stesso. "Non c'è niente da giocare o da schivare", conclude la lettera, "nemmeno per te".
Il meccanismo è finanziario e non burocratico. Come spiega Gold, i finanziamenti per lo sviluppo del modello di frontiera dipendono da valutazioni che presuppongono che i pesi rimangano proprietari. Un mandato ribalta questo presupposto: se ogni rilascio pubblico è aperto, il vantaggio competitivo va a chi forma il modello migliore piuttosto che a chi ne vende l’accesso, il premio incorporato nelle valutazioni private si sgonfia e il denaro disponibile per il successivo ciclo di formazione si riduce – “in ogni laboratorio contemporaneamente, senza che un regolatore decida nulla”. Si tratta, in effetti, di una tesi secondo cui l'aspettativa del mercato nei confronti dei modelli chiusi è il motore della corsa, e che rimuovendo l'aspettativa si rimuove il motore.
Perché Amodei, nello specifico
La tesi della lettera sul motivo per cui Amodei è l'unica persona che potrebbe fare questa proposta si basa sul suo passato, ed è particolarmente rispettosa. Gold gli attribuisce il merito di aver lasciato OpenAI alla fine del 2020 per fondare Anthropic "quando la mossa sicura per la carriera doveva restare", di aver sostenuto per anni la regolamentazione del proprio settore e di aver spinto i controlli sulle esportazioni che riducono il suo mercato. Fa notare che Anthropic si è strutturata come una società di pubblica utilità con una missione legale - "lo sviluppo responsabile e il mantenimento dell'intelligenza artificiale avanzata per il beneficio a lungo termine dell'umanità" - che consentirebbe alla sua leadership di assorbire il colpo finanziario che una tale legge comporterebbe. Nel saggio di Amodei, osserva Gold, si afferma che i sostenitori della regolamentazione antropica "anche quando questo ci fa accusare di esagerazione, 'doomerismo' o cattura normativa".
Gli scettici noteranno le ovvie controargomentazioni, e la lettera non risponde completamente: i pesi aperti facilitano gli abusi e rendono più difficile il progresso, un mandato di pesi aperti affronterebbe una feroce opposizione da parte degli investitori di ogni laboratorio, e i critici delle precedenti posizioni di Amodei sui modelli aperti cinesi sentiranno echi di vecchie lotte nella proposta. Ma la sfida principale della lettera non dipende dall’adozione della sua politica. Dipende da una tensione che nomina esplicitamente: un laboratorio che chiede ai governi di rallentare tutti gli altri, mentre la sua valutazione dipende dal restare in vantaggio, non ha ancora chiesto nulla che gli costi qualcosa.
Un dibattito ormai inevitabile
Che Amodei risponda è quasi irrilevante. Nel giro di un solo giorno, i laboratori di frontiera sono passati dalla competizione sulle capacità all’accordo sulla necessità di un ritmo, e la risposta del pubblico è passata dal chiedersi se l’intelligenza artificiale sia pericolosa alla domanda se si possa credere a chi mette in guardia al riguardo. La lettera di Gold – poche centinaia di parole di dettaglio politico avvolte attorno a una domanda scomoda – è diventata l’espressione più acuta di quello scetticismo, e la sua viralità suggerisce che il dibattito sarà combattuto non solo a Washington ma in pubblico, su piattaforme come Hacker News, dove la comunità dei pesi aperti ha apportato variazioni a questo argomento per anni.
Stai al passo con l'intelligenza artificiale
Regolamentazione, pesi aperti e lotta per il ritmo dell'intelligenza artificiale: tutto questo senza troppe esagerazioni.
Leggi altre notizie sull'AI →
