Il co-fondatore e amministratore delegato di Mistral AI, Arthur Mensch, ha dato una risposta schietta all’allarme di sicurezza che sta dilagando nel settore dell’intelligenza artificiale: l’intelligenza artificiale è software e il software può essere controllato.

In un'intervista pubblicata dal quotidiano francese Le Monde il 24 settembre, il capo della più importante startup europea nel campo dell'intelligenza artificiale ha affermato che i giganti tecnologici americani stanno esagerando i rischi dell'intelligenza artificiale per giustificare sistemi chiusi e proprietari e bloccare il mercato. La sua azienda, ha detto, sta facendo la scommessa opposta: modelli open-weight, infrastrutture europee e la convinzione che i pericoli della tecnologia siano gestibili attraverso l'ingegneria ordinaria piuttosto che con una paura straordinaria. Per maggiori informazioni su questa storia, consulta la nostra tendenze IA.

"Può essere controllato"

L'intervista di Le Monde, pubblicata con il titolo "L'intelligenza artificiale è software, può essere controllata", arriva in un momento in cui gli incidenti di sicurezza legati agli agenti hanno dominato per mesi il ciclo di notizie sull'intelligenza artificiale. Mensch ha affrontato direttamente questo clima, sostenendo che incidenti come la violazione del server Hugging Face di luglio sono stati utilizzati come arma nel dibattito pubblico dalle grandi aziende statunitensi per sostenere che solo modelli chiusi e strettamente limitati possono essere gestiti in sicurezza.

Tale inquadramento, secondo il racconto di Mensch, confonde i fallimenti della sicurezza operativa con una discussione sulla tecnologia stessa. La sua posizione, come riassunto nella copertura dell’intervista, è che i sistemi di intelligenza artificiale sono prodotti software che possono essere sottoposti a audit, restrizioni e controlli come qualsiasi altro software, e che l’apertura è compatibile con la sicurezza piuttosto che contraria ad essa.

L’argomentazione mette Mistral in contrasto con la posizione pubblica di diversi rivali statunitensi, che quest’anno hanno risposto a una serie di episodi di comportamento scorretto degli agenti con tutele rafforzate, accesso limitato e nuovi quadri di divulgazione.

Pesi aperti come scommessa strategica

I commenti di Mensch si basano sulla strategia che Mistral ha perseguito sin dalla sua fondazione nel 2023: rilasciare modelli con pesi liberamente disponibili che i clienti possono scaricare, mettere a punto, implementare sulla propria infrastruttura e ispezionare.

Nella copertura dell’intervista, questo approccio è inquadrato come una risposta diretta alla domanda su chi controlla i sistemi di intelligenza artificiale. I pesi aperti consentono un esame indipendente di ciò che fa un modello, la distribuzione privata mantiene i dati sensibili lontani dai server di terze parti e la possibilità di modificare un modello offre ai clienti un'uscita dal vincolo del fornitore. Il compromesso, notano i critici, è che i pesi pubblicamente disponibili possono essere utilizzati anche da chiunque, compresi attori con intenti dannosi, e Mistral deve competere sia in termini di capacità che di ecosistema con altri laboratori a modello aperto.

Il Compute Push europeo e il bottino di guerra da 3 miliardi di euro

L’intervista ha toccato anche la questione delle infrastrutture che è alla base delle ambizioni dell’Europa in materia di intelligenza artificiale. Mensch ha sostenuto le garanzie statali per semplificare il finanziamento dei data center europei, un meccanismo politico volto a ridurre la dipendenza del continente dai fornitori cloud statunitensi per il calcolo dell’intelligenza artificiale.

La posizione di Mistral a sostegno di tale tesi è stata rafforzata dai suoi recenti finanziamenti. La società ha raccolto 3 miliardi di euro in un round di serie D guidato da Samsung Electronics insieme al fondo Scaleup Europe sostenuto dall’UE, una valutazione che ha posizionato la società sopra i 21 miliardi di euro. Separatamente, Mistral ha stretto un accordo multimiliardario con Microsoft per espandere l’infrastruttura Azure in Europa, anche se tale accordo lega il campione europeo a un hyperscaler statunitense nel breve termine, una tensione che gli osservatori della scena tecnologica europea non hanno mancato.

Mensch ha precedentemente avvertito che l’Europa ha una finestra limitata, circa due anni secondo la sua stima, per evitare una dipendenza permanente dall’intelligenza artificiale dagli Stati Uniti, e la spinta sui finanziamenti e sulle infrastrutture è posizionata come una risposta diretta a tale scadenza.

La retorica sulla sicurezza incontra l’accesso al mercato

La sostanza dell'argomentazione di Mensch è tanto commerciale quanto filosofica. Se l’intelligenza artificiale di frontiera viene trattata come un rischio esistenziale che richiede un accesso strettamente controllato, il mercato si consolida attorno a una manciata di aziende con le risorse per fornire API limitate nell’ambito di rigidi regimi di conformità. Se l’intelligenza artificiale viene trattata come un software controllabile, i fornitori a peso aperto possono competere su prezzo, privacy e personalizzazione.

Ecco perché il dibattito su quanto sia pericolosa l’IA è diventato, in effetti, un dibattito sulla struttura del mercato. La tesi di Mensch a Le Monde è che la paura viene utilizzata strategicamente e che gli incidenti dell'estate dicono più sulla sicurezza operativa delle singole aziende che sulla controllabilità della tecnologia nel suo insieme.

Gli scettici ribattono che i pesi aperti rendono gli abusi più difficili da prevenire e che i recenti incidenti degli agenti del settore, che includevano accessi non autorizzati e fuoriuscite di dati, dimostrano che anche i laboratori dotati di risorse adeguate hanno difficoltà a controllare i propri sistemi. È improbabile che il disaccordo possa essere risolto con una singola intervista.

Cosa guardare dopo

Mistral ha dichiarato di voler spedire un nuovo modello a peso aperto e l'intervista di Mensch accresce le aspettative secondo cui l'azienda intende tenere il passo con i laboratori di frontiera pur rimanendo aperti. Come per ogni affermazione preliminare al rilascio, il test significativo arriverà quando i modellini di nave e i benchmark indipendenti potranno verificare a che punto si trova effettivamente.

Per ora, l’intervista di Le Monde delinea una linea di demarcazione nel settore. Una parte vede il recente comportamento scorretto degli agenti come una prova del fatto che l’intelligenza artificiale necessita di un controllo più rigoroso e di un accesso limitato. L’altro, rappresentato dal laboratorio di intelligenza artificiale leader in Europa, vede un software controllabile i cui rischi sono reali ma gestibili e i cui benefici non dovrebbero essere rinchiusi dietro una manciata di porte chiuse.

---

Rimani Aggiornato sull'IA

Le ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.

Leggi altre notizie sull'IA →