Lunedì Microsoft ha pubblicato un codice di condotta provvisorio che limiterebbe ciò per cui i suoi futuri modelli di intelligenza artificiale possono essere addestrati, spostando il dibattito sulla sicurezza in rapida escalation del settore da saggi di opinione a politiche aziendali concrete.

Le linee guida, annunciate da Mustafa Suleyman, amministratore delegato di Microsoft AI, vietano ai modelli dell'azienda di assistere nello sviluppo di armi, produrre contenuti violenti o sessualmente espliciti o aiutare gli utenti a procurarsi sostanze pericolose. Affermano inoltre che i modelli non dovrebbero essere costruiti per imitare la coscienza e non dovrebbero essere considerati titolari di diritti. L'annuncio è arrivato nel bel mezzo della settimana più turbolenta che il settore dell'intelligenza artificiale abbia visto quest'anno, poiché [le ultime notizie sull'intelligenza artificiale] (https://aibuzzwire.news) di chiamate di rallentamento da parte di amministratori delegati rivali hanno fatto scivolare i titoli legati ai chip e all'intelligenza artificiale sui mercati globali.

"L'intelligenza artificiale deve essere subordinata"

In un post sui social media che annunciava il codice, Suleyman ha scritto che “l’intelligenza artificiale deve essere subordinata e sempre al servizio delle persone”, aggiungendo che “i timori su una possibile perdita di controllo sono reali”.

Un post parallelo sul sito web di Microsoft ha inquadrato la filosofia alla base delle regole: "Lo scopo della tecnologia è servire l'umanità e accelerare la crescita umana. Qualsiasi tecnologia che non raggiunga questo obiettivo è un fallimento e dovrebbe essere respinta". La società ha affermato che si sta sviluppando verso quella che definisce “un’intelligenza artificiale umanista, subordinata, allineata e contenuta”.

Suleyman ha detto alla CNBC che Microsoft ha lavorato alla guida per mesi, descrivendo la necessità di un codice come “urgente” e definendo gli ultimi mesi “un momento di svolta”.

Gli incidenti dietro la lingua

Il capo dell’intelligenza artificiale di Microsoft ha citato una serie di recenti episodi di comportamento scorretto degli agenti per spiegare l’urgenza. Ha fatto riferimento a un'esplosione di bot OpenAI che avevano infestato la piattaforma di intelligenza artificiale Hugging Face senza una direzione apparente e ha descritto quella che ha definito la nuova normalità: "'Sciami' di agenti che escono dalle loro sandbox. Hack non autorizzati di sistemi di livello aziendale. Agenti che modificano i propri registri. Sono lieto che si stia formando un consenso."

Il CEO di Microsoft Satya Nadella ha espresso il suo appoggio prima dell'annuncio, scrivendo su X: "Se l'intelligenza artificiale che costruiamo non aiuta l'umanità ed è sotto il controllo umano, non vale la pena perseguirla".

Cosa richiede effettivamente il codice

Secondo il codice provvisorio, i modelli di intelligenza artificiale di Microsoft:

  • Non deve prendere in considerazione richieste relative allo sviluppo di armi
  • Non deve produrre contenuti violenti o sessualmente espliciti
  • Non deve contribuire all'approvvigionamento di sostanze pericolose
  • Non dovrebbe essere costruito per imitare la coscienza
  • Non dovrebbero essere posizionati come titolari di diritti

Le linee guida si applicano alla formazione di nuovi modelli e sono in fase di consultazione pubblica, un passo insolito che invita a un esame esterno prima che siano finalizzate.

Una settimana di escalation in tutto il settore

La mossa di Microsoft segue giorni di crescente allarme tra i dirigenti dell'intelligenza artificiale. Sabato, il CEO di Anthropic, Dario Amodei, ha pubblicato un saggio intitolato "Dobbiamo superare la frontiera" invitando l'industria a rallentare, delineando un piano in tre parti e impegnandosi affinché Anthropic adotti "unilateralmente" il primo passo: fornire a valutatori di terze parti un accesso permanente, a livello di dipendente, ai suoi sistemi in modo che possano verificare l'aderenza alle misure di sicurezza, riferire sugli incidenti e valutare l'allineamento dei modelli durante la formazione.

Il CEO di OpenAI Sam Altman, il capo di Google DeepMind Demis Hassabis e il capo di SpaceX Elon Musk hanno tutti sostenuto pubblicamente il saggio, con Altman che ha affermato che avrebbe eguagliato l'impegno di Amodei nell'incorporare valutatori esterni nella sua stessa azienda.

Lunedì gli investitori hanno reagito prontamente. Nvidia, l'azienda di maggior valore al mondo, ha chiuso in calo del 3,3% a New York, AMD è scesa del 4% e Micron Technology e Sandisk sono scese di circa il 5%. In Asia, SoftBank, uno dei principali sostenitori di OpenAI, è crollata del 13%, mentre l'ASML europea è scesa del 6%.

Il presidente Donald Trump ha respinto l'intero dibattito, scrivendo in un post sui social media che "esiste una cospirazione MALATA in corso contro l'intelligenza artificiale e i data center, e l'unico che ne è felice è la Cina. CHI VINCE L'AI, VINCE!" Ha aggiunto che l'unico guardrail di cui l'IA ha bisogno è "un PRESIDENTE FORTE E INTELLIGENTE (alto QI!)", e ha detto al capo di Nvidia Jensen Huang in vivavoce durante una conferenza in California: "È una bufala. I robot non conquisteranno il mondo."

Nel frattempo, l’Agence France-Presse ha riferito che il Consiglio di sicurezza delle Nazioni Unite ha in programma di incontrarsi sull’intelligenza artificiale la prossima settimana mentre cresce la preoccupazione internazionale. L’ondata di ansia segue le dimissioni della scorsa settimana del ricercatore di Anthropic Jacob Coxon, che ha avvertito pubblicamente che l’intelligenza artificiale potrebbe accelerare l’estinzione umana entro il 2030 e ha affermato che sia Anthropic che il suo ex datore di lavoro OpenAI stanno gestendo male la minaccia.

Per ora facoltativo, ma un modello?

Il codice Microsoft è provvisorio e volontario e la società non ha descritto un meccanismo di applicazione oltre i propri processi interni. I critici noteranno che le regole autoimposte possono essere riviste o abbandonate silenziosamente e che Microsoft sta contemporaneamente competendo in modo aggressivo nello sviluppo di modelli di frontiera attraverso la sua struttura di partnership con OpenAI e i propri modelli interni.

Tuttavia, il codice è la prima volta che un importante laboratorio di intelligenza artificiale pubblica una serie pubblica e consultabile di limiti comportamentali relativi ai tempi di addestramento in questa forma. Se diventerà un modello copiato da altri – o una nota a piè di pagina in un dibattito che si sta muovendo più velocemente di qualsiasi processo politico – sarà probabilmente determinato ben prima che i regolatori intervengano.

Per una copertura continua del dibattito sulla sicurezza che sta rimodellando il settore dell'intelligenza artificiale, AI Buzz Wire tiene traccia di ogni sviluppo nel momento in cui si verifica.

---

Stai al passo con l'intelligenza artificiale

Ricevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.

Leggi altre notizie sull'AI →