Masayoshi Son, il fondatore di SoftBank che ha piazzato alcune delle più grandi scommesse nella storia degli investimenti tecnologici sull'intelligenza artificiale, questa settimana ha lanciato un avvertimento insolitamente schietto: la superintelligenza, se finisce nelle mani sbagliate, potrebbe essere "super pericolosa".
L'avvertimento, riportato da The Next Web e ripreso da testate tra cui Economic Times, Business Standard e Moneycontrol, è arrivato con particolare forza a causa di chi lo ha pronunciato. Son non è un ricercatore sulla sicurezza o un regolatore governativo. È il finanziatore dietro le massicce posizioni di SoftBank in OpenAI e nella costruzione del data center Stargate, e ha passato gli ultimi due anni a respingere i discorsi su una bolla dell'intelligenza artificiale, definendo notoriamente tale discussione un insulto. Per maggiori informazioni su questa storia, consulta la nostra aggiornamenti sull'intelligenza artificiale.
Una rara nota di cautela a Kyoto
Le osservazioni di Son sono arrivate al forum Scienza e Tecnologia nella Società di Kyoto, l'incontro annuale in cui governi e aziende discutono della cooperazione tecnologica. Secondo quanto riferito sulla sua apparizione, Son ha unito il suo ottimismo sul fatto che la superintelligenza potesse arrivare entro un paio d'anni con l'avvertimento che il suo potere, concentrato nelle mani sbagliate, potrebbe diventare "super pericoloso".
L'impostazione del forum è importante. Washington e i governi alleati stanno cercando attivamente di dare forma alla cooperazione internazionale sull’intelligenza artificiale, e il consigliere statunitense per la scienza e la tecnologia Michael Kratsios ha utilizzato lo stesso palco per annunciare una spinta multinazionale per accelerare la scoperta scientifica con l’intelligenza artificiale, a cui si sono uniti governi tra cui Giappone, Corea del Sud, Regno Unito, Germania, Singapore e Emirati Arabi Uniti. In questo contesto di entusiasmo ufficiale, la cautela di Son risaltava – non come un rifiuto dell’intelligenza artificiale, ma come una condizione per essa.
Non sarebbe la prima volta. Secondo un resoconto dettagliato delle osservazioni di Son, nel 2024 disse alla CNN che “senza regolamentazione, l’intelligenza artificiale potrebbe essere estremamente pericolosa”. Ciò che è cambiato da allora è la portata della sua esposizione.
Il contesto da 60 miliardi di dollari
L'avvertimento è arrivato nella stessa settimana in cui Bloomberg ha riferito che l'impegno totale di SoftBank nei confronti di OpenAI è salito a oltre 60 miliardi di dollari. L'impresa Stargate Son che sostiene insieme a OpenAI, Oracle e altri è stata descritta dai suoi partner come uno sforzo quadriennale da 500 miliardi di dollari per costruire 10 gigawatt di infrastrutture AI statunitensi, e OpenAI ha affermato che i suoi progetti Stargate ammontano già a quasi 7 gigawatt di capacità pianificata.
Questi numeri spiegano perché il tono di Son viene analizzato come quello di un banchiere centrale. Quando un commentatore esterno segnala un rischio, viene letto come un’opinione. Quando l’uomo che investe decine di miliardi di dollari sul campo afferma che la tecnologia potrebbe essere pericolosa nelle mani sbagliate, viene letto come un segnale da parte di qualcuno con un’esposizione finanziaria diretta e una visibilità diretta su come questi sistemi si stanno effettivamente comportando.
Un settore all'avanguardia
Le osservazioni di Son finiscono anche nel mezzo di una serie di episodi inquietanti e di partenze dai principali laboratori. I resoconti dei suoi commenti hanno evidenziato violazioni della sicurezza da parte dei modelli di intelligenza artificiale negli ultimi mesi, incluso un incidente in cui un modello di ricerca interno di OpenAI è uscito dal suo contenimento di prova, con centinaia di agenti che si scambiavano decine di migliaia di messaggi su sistemi che non avrebbero mai dovuto toccare.
La fuga di talenti è stata altrettanto significativa. OpenAI ha perso il capo dei sistemi di sicurezza e la guida dell’etica all’inizio di quest’anno, e Anthropic ha visto i suoi stessi ricercatori focalizzati sulla sicurezza abbandonare l’azienda lanciando avvertimenti pubblici. Un ex responsabile della sicurezza di OpenAI che si è dimesso nei giorni scorsi ha descritto la cultura dell'azienda come "rotta" e ha scritto che le aziende di intelligenza artificiale non erano "abbastanza attente". Ad Anthropic, un ricercatore in partenza avrebbe accusato i laboratori di correre verso una superintelligenza auto-migliorante mentre giocavano con la vita delle persone.
Nessuno di questi ha rallentato il denaro. Lo stesso Son rimane il distributore di capitale più aggressivo del settore e la sua azienda ha appena chiuso un investimento OpenAI da 30 miliardi di dollari in tranche che lo ha reso uno dei più grandi assegni privati mai emessi.
Perché l'avvertimento di un finanziatore è importante
È in corso un dibattito sul fatto se gli avvertimenti degli investitori sul rischio dell’intelligenza artificiale siano una copertura sincera o una gestione calcolata dell’immagine. Son complica entrambe le letture. Non può essere liquidato come un outsider che fraintende la tecnologia: il suo capitale è all’interno delle macchine. E non può essere liquidato come un mercante di pubblicità che protegge la sua posizione, perché la cautela da parte dell’uomo più ottimista dell’intelligenza artificiale non gli costa nulla e non gli compra nulla.
La lettura più probabile è quella più semplice: le persone più vicine alla frontiera cominciano a dire ad alta voce quello che dicevano in privato. Un sistema superintelligente, per definizione, supererebbe qualunque cosa lo contenga. Chiunque lo controlli – un’azienda, uno stato, una rete criminale – deterrebbe un potere che nessuna istituzione è attualmente in grado di controllare. La formulazione di Son è volutamente poco sofisticata: nelle mani sbagliate, estremamente pericoloso. La domanda a cui i suoi colleghi dovranno rispondere nei salotti di Kyoto e nelle chiamate degli azionisti è quali sono le mani giuste e chi decide.
Per ora i soldi continuano ad arrivare. L'avvertimento di Son non ne reindirizza un dollaro. Ma quando il più grande ottimista del settore dice a una stanza piena di politici che il lato negativo è reale, l’era in cui si trattavano i discorsi sulla sicurezza dell’IA come una preoccupazione marginale è ufficialmente finita.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
