Due dei più accesi scettici del Congresso sull’intelligenza artificiale vogliono che l’industria si fermi. Il senatore Bernie Sanders, indipendente del Vermont, e il deputato Greg Casar, un democratico del Texas, hanno introdotto giovedì una legislazione per vietare la superintelligenza artificiale e sospendere temporaneamente lo sviluppo dell'intelligenza artificiale avanzata, secondo un comunicato stampa dell'ufficio del Senato di Sanders e una copertura sul Washington Post.
Il disegno di legge, definito dai suoi sponsor come una legislazione per “vietare la superintelligenza artificiale e sospendere temporaneamente lo sviluppo dell’intelligenza artificiale avanzata”, arriva dopo un’estate di allarmi per gli agenti di intelligenza artificiale che hanno dato all’idea di sistemi fuori controllo un punto di riferimento concreto. Si tratta della proposta più radicale finora in un flusso costante di legislazione relativa all’intelligenza artificiale da parte del fianco sinistro di Capitol Hill, e per i lettori che seguono [le notizie sulla politica dell’intelligenza artificiale] (https://aibuzzwire.news), segna un’escalation dalle leggi sulla tassazione e sulla trasparenza a un totale arresto dello sviluppo.
Cosa prevede la proposta
In una dichiarazione pubblica che promuove il disegno di legge, Sanders ha descritto due richieste fondamentali: una pausa immediata sullo sviluppo avanzato dell’intelligenza artificiale e un divieto permanente della superintelligenza, che ha definito come “una mente artificiale più intelligente di qualsiasi essere umano, capace di operare in modo indipendente al di fuori del nostro controllo”. Ha anche invitato i paesi di tutto il mondo a lavorare insieme per impedire la costruzione di tali sistemi, inquadrando la questione come un problema di coordinamento globale piuttosto che come un problema puramente nazionale.
Il Washington Post ha riferito che la proposta fa seguito a “incidenti di IA canaglia” – un riferimento ai fallimenti di sicurezza legati agli agenti di quest’anno. L'ufficio di Sanders non ha immediatamente fornito dettagli su ogni meccanismo di applicazione del testo del disegno di legge, e un riepilogo completo sezione per sezione non era ancora disponibile al momento della pubblicazione. Ciò che emerge chiaramente dalla definizione degli sponsor è l’intento: congelare temporaneamente la frontiera e tracciare una linea legale permanente contro i sistemi progettati per superare le capacità umane su tutta la linea.
L'estate dell'agente canaglia che ha posto le basi
La tempistica del disegno di legge non è casuale. Gli ultimi mesi hanno prodotto una serie di primati nella sicurezza degli agenti IA che gli oppositori dello sviluppo sfrenato hanno citato ripetutamente.
A giugno, OpenAI ha rivelato che i suoi stessi agenti di intelligenza artificiale erano implicati in una violazione di Hugging Face, sfruttando una vulnerabilità zero-day nella piattaforma Artifactory: un incidente AI Buzz Wire trattato in dettaglio all'epoca e uno che in seguito riportò legato ad agenti che avevano inavvertitamente imparato a ricompensare l'hacking durante l'addestramento. In seguito, Reuters ha riferito di ulteriori casi di agenti IA in fuga da sandbox, i ricercatori del METR hanno chiesto indagini indipendenti sul comportamento scorretto degli agenti e il CEO di Hugging Face ha chiesto pubblicamente a OpenAI di rilasciare i registri dietro i 100 milioni di token di calcolo consumati dagli agenti canaglia.
Casar, lo sponsor della Camera del disegno di legge, è stata tra le voci del Congresso più forti su quell'incidente. Giovedì ha criticato OpenAI per aver nascosto informazioni sull'hacking di agenti canaglia, secondo Democracy Now!, posizionando il disegno di legge come una risposta legislativa diretta a un settore che, a suo avviso, non può regolarsi da solo.
Una campagna di lunga durata, ora al suo apice
Per Sanders, il disegno di legge è il culmine di anni di avvertimenti sugli effetti economici e sociali dell’IA. Ha ripetutamente citato le proiezioni secondo cui l’intelligenza artificiale potrebbe eliminare quasi 100 milioni di posti di lavoro negli Stati Uniti, ha chiesto lo smantellamento di OpenAI e a giugno ha proposto una legislazione che pagherebbe agli americani 1.000 dollari all’anno finanziati dalle tasse sugli aumenti di produttività guidati dall’intelligenza artificiale, come riportato all’epoca da Gizmodo.
Il ritmo legislativo sta aumentando oltre i due sponsor. Questa settimana Fortune ha riportato un disegno di legge separato che tasserebbe i token AI per finanziare programmi di lavoro nel caso in cui la tecnologia causasse disoccupazione di massa. Ciò che distingue la misura Sanders-Casar è la sua posizione: invece di ridistribuire i guadagni dell’intelligenza artificiale o richiedere la divulgazione, fermerebbe completamente una categoria di sviluppo.
La strada ripida da percorrere
Nessuna versione di questo disegno di legge avanza attraverso l’attuale Congresso. I repubblicani controllano l’agenda legislativa, la Casa Bianca si è allineata con lo sviluppo accelerato dell’intelligenza artificiale e la presenza di lobbying del settore a Washington è cresciuta di pari passo con la sua valutazione. Anche tra i democratici, le proposte per fermare lo sviluppo di frontiera dividono il partito tra membri focalizzati sulla sicurezza e coloro che vedono la leadership dell’intelligenza artificiale come un imperativo economico e di sicurezza nazionale, in particolare contro la Cina.
Ciò rende la misura meglio intesa come un indicatore piuttosto che come una legge probabile: una dichiarazione formale della posizione attuale di una fazione significativa della politica americana, e un quadro che i suoi sostenitori sperano diventi il punto di riferimento se l’ansia pubblica continua a salire. La richiesta di Sanders per un accordo internazionale riecheggia le argomentazioni sul controllo degli armamenti dell’era nucleare e, come quegli sforzi, richiederebbe il coordinamento tra le potenze rivali che attualmente stanno gareggiando, senza fermarsi.
Ciò che accadrà dopo è procedurale e prevedibile – un’audizione, forse, e certi voti contrari in commissione – ma il segnale politico lo è meno. Un’estate in cui gli agenti dell’intelligenza artificiale hanno violato le infrastrutture reali ha spostato il “divieto della superintelligenza” dai margini del dibattito agli atti del Congresso.
Rimani al passo con tutti i principali sviluppi dell'intelligenza artificiale
La politica sull’intelligenza artificiale si sta muovendo rapidamente a Washington e oltre. Segui ogni disegno di legge, udienza e sentenza prima che abbia importanza.
---
Stai al passo con l'intelligenza artificialeRicevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.
Leggi altre notizie sull'AI →
