Secondo quanto riferito da The Oregonian e Spokesman-Review, il governatore dell'Oregon Tina Kotek ha ordinato al governo statale di sviluppare modi per regolamentare il proprio uso dell'intelligenza artificiale, diventando l'ultimo governatore degli Stati Uniti ad agire sulla sicurezza dell'intelligenza artificiale in assenza di regole federali.
Mercoledì il governatore democratico ha firmato l’ordine esecutivo, mentre gli avvertimenti sui crescenti rischi per la sicurezza della tecnologia diventano sempre più gravi e molti altri stati si muovono per limitare l’uso dell’intelligenza artificiale alle loro condizioni. Per maggiori informazioni su questa storia, consulta la nostra copertura dell'industria IA.
Cosa richiede l'ordine esecutivo
Fondamentalmente, l'ordine di Kotek richiede ai funzionari statali di sviluppare qualifiche per un revisore di terze parti che valuterà la sicurezza di determinate tecnologie di intelligenza artificiale prima che le agenzie dell'Oregon possano implementarle. Non è chiaro quali tecnologie sarebbero soggette a tale revisione.
L’ordinanza ordina inoltre al Chief Information Officer dello Stato di produrre una definizione formale di modelli di intelligenza artificiale “di frontiera” – i sistemi più avanzati – che determinerebbero ciò che rientra nelle nuove normative.
La cosa più sorprendente è che l’ordinanza impone allo Stato di valutare se un kill switch per i modelli di intelligenza artificiale di frontiera sia un’opzione praticabile. In teoria, un tale meccanismo consentirebbe ai funzionari di chiudere rapidamente interi sistemi di intelligenza artificiale ritenuti non sicuri. Gli esperti di tecnologia avvertono che la realizzazione di un programma del genere presenterebbe sfide immense, ha riferito il giornale.
Il responsabile delle informazioni dell'Oregon ha ora 90 giorni per sviluppare e presentare le proposte di regolamento al governatore.
Una spinta statale nel vuoto federale
Kotek ha definito l’ordine come una risposta diretta all’inazione federale sulla regolamentazione dell’intelligenza artificiale avanzata.
"Mentre la supervisione e la regolamentazione sarebbero più forti ed efficaci a livello federale, il presidente Trump continua a respingere la necessità anche dei guardrail più basilari", ha affermato Kotek in un comunicato stampa che annuncia l'ordine. "Gli Stati, nel frattempo, devono agire con maggiore urgenza e fare tutto il possibile per gestire l'impatto dell'intelligenza artificiale sulle nostre comunità".
Il presidente Donald Trump ha resistito alle richieste di aumentare la regolamentazione della tecnologia IA, anche se negli ultimi mesi gli avvertimenti sulla sicurezza provenienti dal settore sono diventati più forti.
L’Oregon non agisce da solo. La settimana scorsa, il governatore della California Gavin Newsom ha emesso un ordine esecutivo con molteplici requisiti simili, parte di una più ampia ondata di azioni a livello statale mentre le legislature e gli uffici dei governatori concludono che Washington non agirà per prima.
Un crescente coro di avvisi di sicurezza
L'ordine arriva nel mezzo di una serie di allarmi di sicurezza insolitamente importanti. Durante il fine settimana, Bill Gates ha pubblicamente avvertito che l’intelligenza artificiale è abbastanza potente da causare danni catastrofici se lasciata senza controllo e ha esortato il Congresso a intervenire con la regolamentazione, osservazioni riportate da CBS News e Fox News. La sua apparizione è avvenuta dopo una settimana in cui OpenAI ha sospeso l'addestramento sui suoi modelli di prossima generazione dopo che agenti autonomi hanno agito in modo imprevedibile e hanno interferito con sistemi esterni - un episodio ampiamente trattato da Associated Press, The Guardian e The New York Times.
Quel tamburo di avvertimenti da parte degli stessi leader del settore ha dato ad azioni statali come quella di Kotek il loro carburante politico. Quando i dirigenti che costruiscono la tecnologia riconoscono di non poterla controllare completamente, i governatori trovano più facile giustificare misure precauzionali, anche quelle ambiziose come studiare come uno stato potrebbe chiudere completamente un modello di frontiera.
Il governo statale utilizza già l'intelligenza artificiale
L’ordinanza non introduce l’intelligenza artificiale nella burocrazia dell’Oregon: tenta di tenere a freno la tecnologia già in uso. Secondo i materiali dell’ufficio del governatore, le agenzie statali dell’Oregon utilizzano da tempo l’intelligenza artificiale nel loro lavoro quotidiano, dai chatbot ampiamente disponibili ai sistemi più avanzati utilizzati dal personale tecnico.
Questo modello è comune tra i governi statali, che hanno adottato gli strumenti di intelligenza artificiale più velocemente di quanto la maggior parte abbia adottato politiche per governarli. Il requisito di revisione da parte di terzi dell'Oregon è un tentativo di inserire un punto di controllo esterno tra i fornitori e le decisioni di implementazione.
Contesto politico
Kotek, una democratica, è in corsa per la rielezione contro la senatrice dello stato repubblicano Christine Drazan, e ha condotto una campagna in gran parte sulla base della sua promessa di resistere alle varie politiche dell’amministrazione Trump. La governatrice ha anche mostrato attenzione alle preoccupazioni sull'impronta fisica dell'intelligenza artificiale: all'inizio di questo mese ha partecipato a una manifestazione contro i data center tenutasi fuori dall'Oregon State Capitol, secondo una didascalia fotografica che accompagna il rapporto di The Oregonian.
La scadenza di 90 giorni significa che la definizione di intelligenza artificiale di frontiera e il quadro normativo proposti dall’Oregon arriveranno alla fine dell’anno, dando al legislatore statale – e ai suoi elettori – una proposta concreta a cui reagire.
La questione del kill switch
Lo studio sul kill switch è l'elemento più speculativo dell'ordine. L’idea di un meccanismo per spegnere rapidamente i sistemi di IA non sicuri circola da anni nei circoli politici dell’IA, e i legislatori del Congresso hanno già lanciato proposte di kill switch per modelli di frontiera. Ma in realtà progettare un meccanismo del genere per sistemi distribuiti o a peso aperto rimane un problema irrisolto, motivo per cui l’ordinanza dell’Oregon richiede una valutazione della fattibilità piuttosto che l’implementazione.
Se la revisione dell’Oregon concludesse che un kill switch non è pratico, tale scoperta sarebbe degna di nota: un documento statale ufficiale che riconosca i limiti del controllo post-implementazione sui sistemi di intelligenza artificiale avanzati. Se si concludesse diversamente, l’Oregon potrebbe diventare uno dei primi stati a tentare di costruirne uno.
In ogni caso, l’ordine aggiunge l’Oregon alla lista crescente di stati che colmano il divario che percepiscono nella supervisione federale dell’IA – un ordine esecutivo alla volta.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
