L’amministratore delegato di Anthropic Dario Amodei ha avvertito i legislatori che la tendenza accelerata verso l’intelligenza artificiale open source potrebbe portare la società su un percorso pericoloso se modelli potenti verranno rilasciati senza attente garanzie, riaccendendo uno dei dibattiti più controversi sulla politica dell’IA.
Amodei, che ha fondato e guida l’azienda dietro la famiglia di modelli Claude, ha sostenuto che la natura unica dell’intelligenza artificiale open source, che rende i sistemi avanzati liberamente disponibili a chiunque per scaricarli, modificarli e implementarli, crea rischi che i software open source convenzionali non hanno mai posto. Le sue osservazioni, riportate da Tekedia, sono incentrate sulla difficoltà di controllare l'intelligenza artificiale una volta che questa è stata distribuita pubblicamente. Per ulteriori informazioni su questa storia, consulta le nostre altre storie sull'intelligenza artificiale in corso.
A differenza dei software tradizionali, i sistemi di intelligenza artificiale all’avanguardia possono generare testi convincenti, produrre immagini realistiche, scrivere codici informatici e assistere nelle attività di sicurezza informatica. Amodei sostiene che nelle mani sbagliate tali capacità potrebbero essere sfruttate per automatizzare attacchi informatici, lanciare sofisticate campagne di disinformazione o portare avanti ricerche biologiche dannose.
Il problema della permanenza
Uno dei rischi centrali evidenziati da Amodei è che una volta che un modello potente viene reso pubblico, diventa effettivamente impossibile revocarlo. I sistemi chiusi gestiti dalle aziende possono essere monitorati, patchati e limitati quando emergono nuove vulnerabilità. Un modello open source, al contrario, può essere copiato indefinitamente e ridistribuito su Internet, lasciando agli sviluppatori nessun meccanismo per limitarne l’utilizzo dopo il rilascio.
Questa permanenza, ha avvertito Amodei, è particolarmente preoccupante poiché i modelli si avvicinano alle prestazioni di livello umano in compiti sempre più complessi. Ha sostenuto che l’intelligenza artificiale avanzata dovrebbe essere sottoposta a robusti test di sicurezza, implementazione controllata e adeguata supervisione normativa prima che diventi ampiamente accessibile, piuttosto che essere trattata come un normale software che può essere migliorato in modo collaborativo all’aperto.
La sua posizione riflette una linea di frattura crescente nel settore. I sostenitori dell’intelligenza artificiale open source sostengono che l’accesso pubblico stimola la concorrenza, democratizza il progresso tecnologico e impedisce a una manciata di aziende di monopolizzare l’intelligenza artificiale. Gli sviluppatori di tutto il mondo possono ispezionare l'architettura del modello, evidenziare i difetti di sicurezza e migliorare i sistemi in modo collaborativo, mentre startup, ricercatori e istituti scolastici possono costruire senza dipendere da costose piattaforme proprietarie.
Rischi specifici sul tavolo
Le preoccupazioni di Amodei non sono astratte. I modelli pubblicati apertamente sono già stati privati delle loro protezioni di sicurezza dai ricercatori che utilizzano semplici tecniche di messa a punto, una pratica che ha dimostrato quanto velocemente le misure protettive possono essere rimosse una volta che i pesi sottostanti sono pubblici. Man mano che i modelli diventano più capaci in compiti come la chimica, la biologia e lo sfruttamento del software, la preoccupazione è che i rilasci aperti possano conferire potenti capacità ad attori che non supererebbero mai lo screening che i laboratori responsabili impongono ai loro clienti.
Anche la dimensione della disinformazione è stata oggetto di attenzione. I modelli in grado di generare testo, immagini e audio realistici su larga scala potrebbero essere utilizzati per favorire interferenze elettorali, frodi finanziarie o produzione di massa di propaganda. Poiché un modello aperto funziona interamente sull'hardware dell'aggressore, ha osservato Amodei, non vi è alcuna API da limitare, nessun account da sospendere e nessun provider da ritenere responsabile una volta che il danno è stato fatto.
Uno scenario competitivo
Gli avvertimenti di Amodei arrivano nel mezzo di un'ondata di modelli aperti capaci da parte degli sviluppatori cinesi. Il GLM-5.2 di Zhipu, insieme ad altri sistemi cinesi a basso costo, ha attirato nuova attenzione sulla rapidità con cui i modelli aperti e liberamente disponibili stanno colmando il divario con i sistemi proprietari di frontiera di Anthropic e OpenAI. Questa pressione competitiva ha intensificato il dibattito politico sulla questione se le restrizioni sui rilasci aperti avvantaggeranno le aziende dominanti o lascerebbero le società esposte ad abusi.
I critici della posizione di Amodei sostengono che limitare l’intelligenza artificiale open source potrebbe inavvertitamente rafforzare le grandi aziende tecnologiche limitando l’innovazione indipendente. Notano inoltre che la trasparenza spesso consente ai ricercatori di identificare le vulnerabilità più velocemente di quanto non faccia lo sviluppo chiuso. Anche molti sostenitori dello sviluppo aperto riconoscono, tuttavia, che sistemi sempre più potenti possono richiedere strutture di governance più forti rispetto alle precedenti generazioni di software.
Il filo del rasoio normativo
La discussione è diventata urgente mentre i governi di tutto il mondo valutano le nuove normative sull’intelligenza artificiale. I politici si trovano ad affrontare un difficile equilibrio: restrizioni eccessive potrebbero rallentare la crescita economica e la scoperta scientifica, mentre una supervisione insufficiente potrebbe esporre le società a rischi difficili da prevedere. Per raggiungere questo equilibrio, suggerisce Amodei, è necessaria la collaborazione tra governi, aziende tecnologiche, ricercatori accademici e società civile.
La sua testimonianza sottolinea uno dei dibattiti politici decisivi del decennio. Man mano che l’intelligenza artificiale diventa più capace, la società deve decidere come incoraggiare l’innovazione riducendo al minimo i pericoli associati all’accesso diffuso ai sistemi trasformativi. Sia attraverso la regolamentazione, gli standard di settore o la cooperazione internazionale, le scelte fatte nei prossimi mesi sull’intelligenza artificiale open source potrebbero influenzare chi controlla la tecnologia e la sicurezza con cui verrà implementata negli anni a venire.
Per Anthropic, la posizione è coerente con l’enfasi di lunga data dell’azienda sulla sicurezza dell’intelligenza artificiale e sui rilasci controllati. Ma con i modelli aperti che avanzano rapidamente e le autorità di regolamentazione che stanno ancora lottando per recuperare il ritardo, il divario tra gli avvertimenti di Amodei e il ritmo del movimento open source potrebbe ridursi più velocemente di quanto i politici riescano a colmarlo.
---
Stai al passo con l'intelligenza artificialeRicevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.
Leggi altre notizie sull'AI →
