Il latte e le lavatrici sono attualmente più regolamentati dell’intelligenza artificiale, secondo il presidente di Microsoft – e questo, sostiene Brad Smith, è esattamente il contrario.
Parlando alla Big Boss Interview della BBC in un commento pubblicato domenica, Smith ha chiesto regole globali di sicurezza per l'intelligenza artificiale, incluso l'obbligo legale di informare una "vittima" quando il suo sistema è stato violato da un agente IA disonesto, e un quadro per decidere quando valutatori indipendenti dovrebbero approvare un prodotto IA prima che venga spedito. I suoi commenti lo mettono pubblicamente in contrasto con il presidente degli Stati Uniti Donald Trump, che ha sostenuto che il settore dovrebbe regolamentarsi in modo che le aziende americane non perdano terreno rispetto ai rivali cinesi. Per maggiori informazioni su questa storia, consulta la nostra ultimi sviluppi nell'IA.
"In questo momento, la tua lavatrice è soggetta a più regole di sicurezza rispetto all'intelligenza artificiale", ha detto Smith. "Ogni cartone di latte che vedi al supermercato è soggetto a norme di sicurezza e ispezione."
Uno strumento e un'arma
Smith ha descritto l’intelligenza artificiale sia come uno “strumento che come un’arma” che necessita urgentemente di una regolamentazione, aggiungendo: “Cominciamo oggi”.
Le sue proposte erano più concrete del solito standard normativo. Le aziende dovrebbero costruire “freni di emergenza” – ciò che l’industria spesso chiama kill switch – che possano mettere in pausa o rallentare un sistema di intelligenza artificiale se sfugge al controllo. Le aziende dovrebbero essere legalmente obbligate a scrivere rapporti sugli incidenti e ad avvisare le vittime quando l’intelligenza artificiale diventa canaglia. E i valutatori governativi indipendenti dovrebbero esaminare la nuova tecnologia di intelligenza artificiale prima del rilascio.
"Sappiamo come farlo per altri prodotti", ha detto Smith. “Dovremmo basarci su questa conoscenza e pensare a come applicarla all’intelligenza artificiale”.
L’intervento arriva in una settimana febbrile per la supervisione dell’IA. Giorni prima, l’amministratore delegato di Microsoft, Satya Nadella, aveva chiesto un freno di emergenza che avrebbe consentito agli esseri umani di spegnere i sistemi di intelligenza artificiale nel corso di un compito: una posizione sorprendente per il capo di uno dei più grandi fornitori di intelligenza artificiale del mondo, e che ora sembra essere la dottrina aziendale piuttosto che la riflessione di un dirigente.
Rottura con la Casa Bianca
Le opinioni di Smith differiscono nettamente da quelle del suo presidente. Trump ha ripetutamente affermato che “chi vince l’intelligenza artificiale, vince” – e si è opposto alle richieste dei capi di Anthropic, OpenAI e Google DeepMind, che hanno tutti sostenuto l’idea di un rallentamento dello sviluppo dell’intelligenza artificiale.
Eppure Smith ha anche suggerito che l’attrito è minore di quanto sembri. Alla fine del mese scorso, Trump ha ospitato i leader di OpenAI, Anthropic, Nvidia, SpaceX, Meta e Google alla Casa Bianca, dove i dirigenti hanno firmato quello che è stato descritto come un documento “moralmente vincolante” che li impegna a lavorare con revisori indipendenti per valutare se i loro sistemi di intelligenza artificiale funzionano come previsto – e non a “hackerare o accedere a sistemi tecnici in modi non desiderati”.
Smith ha applaudito la dichiarazione e ha detto che Microsoft è "felice di firmarla". Ma ha aggiunto: "È un buon passo, è un passo necessario... Ma non credo che sia più sufficiente".
Il suo ragionamento va al nocciolo del problema dei regimi volontari: "Le buone aziende faranno quello che vuoi", ha detto. "Sono le aziende che non sono così responsabili quelle di cui devi preoccuparti."
Perché pensa che la Gran Bretagna dovrebbe scrivere le regole
La parte più carica dal punto di vista geopolitico dell’intervista è stata l’approvazione da parte di Smith del Regno Unito come naturale autore delle regole globali sull’intelligenza artificiale, indicando l’AI Security Institute del Regno Unito – lanciato sotto il governo dell’ex primo ministro Rishi Sunak come AI Safety Institute – che testa i modelli più potenti del mondo prima del rilascio.
"Nel mondo della tecnologia, nel settore tecnologico, la maggior parte delle persone che conosco direbbero, se glielo chiedessi, di nominare il paese che è il leader nell'avere questa capacità tecnica, direbbero che è molto semplice. È il Regno Unito. Sono i migliori," ha detto Smith.
Ha anche sostenuto che il governo degli Stati Uniti accetterebbe gli standard stabiliti dal Regno Unito più facilmente rispetto alla regolamentazione in stile Bruxelles: "A Washington DC, le persone non guardano il Regno Unito e non guardano Londra nello stesso modo in cui guardano Bruxelles: questo è un punto di forza."
La sua causa di urgenza era schietta. "Quando guardi gli agenti IA che sono sfuggiti al controllo umano, quando guardi modelli così potenti da mettere a rischio la sicurezza informatica mondiale, direi: il momento è arrivato", ha detto Smith. "Parliamo con calma, forse anche a bassa voce, ma con fermezza, e iniziamo a unire le persone. Spero che questo sia il ruolo che possiamo svolgere come azienda. Spero che sia il ruolo che il Regno Unito può svolgere come Paese."
Uno schermo diviso raro nella politica tecnologica
È insolito che il presidente di una società in carica faccia pressione per regole più severe nel proprio settore mentre il suo CEO sostiene lo stesso caso da una fase diversa. I contrastanti interventi di Microsoft – il freno di emergenza di Nadella e la richiesta di Smith di denuncia obbligatoria degli incidenti, notifica delle vittime e valutazione indipendente – segnalano che almeno un importante fornitore ha concluso che la fiducia, non la capacità, sta diventando il vincolo vincolante per l’adozione dell’intelligenza artificiale.
Inoltre forniscono al governo britannico un argomento tempestivo. Whitehall ha trascorso l’ultima settimana ad assorbire gli avvertimenti dei suoi stessi capi dell’intelligence, mentre i ministri valutano se aderire a un appello internazionale per standard di sicurezza coordinati sull’intelligenza artificiale che Washington ha finora rifiutato di firmare. Quando il presidente di Microsoft afferma che il Regno Unito è “il migliore” nella posizione per scrivere le regole, Downing Street ottiene sia la convalida che un invito che difficilmente potrà ignorare.
Se la concezione del cartone del latte di Smith possa cambiare i voti a Washington è un'altra questione. Ma come dichiarazione di dove uno dei più grandi costruttori di intelligenza artificiale vuole che vada il dibattito normativo – freni obbligatori, reporting obbligatorio, approvazione indipendente – l’intervista potrebbe essere ricordata come un indicatore nel passaggio da impegni volontari a regole applicabili.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
