Il CEO di Nvidia Jensen Huang afferma che sarebbe disposto a tagliare le forniture di chip a un cliente che costruisce un'intelligenza artificiale non sicura: una dichiarazione insolitamente diretta su come l'azienda che domina l'informatica AI potrebbe utilizzare il suo potere.
Alla domanda di Emily Chang di Bloomberg a Londra se avrebbe smesso di fornire uno sviluppatore di intelligenza artificiale che agisce in modo irresponsabile, Huang non ha eluso la domanda. "È ipotetico, ma sì", ha detto, secondo Bloomberg. "Prima di farlo, dovresti avere una conversazione." Per maggiori informazioni su questa storia, consulta la nostra ultimi sviluppi nell'IA.
La posizione di gatekeeper occupata da Nvidia
L’affermazione è importante a causa della posizione di Nvidia nell’economia dell’intelligenza artificiale. Secondo la maggior parte delle stime del settore, l’azienda controlla circa il 90% del mercato dei chip per l’addestramento all’intelligenza artificiale, il che significa che quasi tutti i laboratori di intelligenza artificiale di frontiera del pianeta dipendono dal suo hardware. La decisione di sospendere la fornitura non sarebbe un gesto simbolico; nessun fornitore alternativo potrebbe sostituire tale volume con breve preavviso.
Huang si è affrettato a delineare i limiti della posizione. "Non gestiamo le aziende di altre persone e c'è un limite al giudizio che applichiamo all'uso della nostra tecnologia da parte di altre aziende", ha detto a Chang. "La nostra tecnologia è di uso generale." Ha anche sottolineato di non aver mai realmente affrontato uno scenario del genere.
Coerentemente con la più ampia posizione di sicurezza di Huang
Il commento è l’ultima mossa di uno sforzo durato un anno da parte di Huang per posizionare la sicurezza dell’intelligenza artificiale come un problema ingegneristico per i costruttori piuttosto che una questione per i regolatori. Giorni prima, in un’intervista con Ezra Klein del New York Times, aveva sostenuto che i laboratori di intelligenza artificiale incapaci di controllare i sistemi che stanno costruendo dovrebbero semplicemente smettere di costruirli, sostenendo che le aziende che sviluppano questi modelli hanno già il potere di trattenere i prodotti che considerano non sicuri.
Huang è stato il critico più forte della Silicon Valley nei confronti di ciò che lui chiama l'inquadramento del giorno del giudizio. In una recente intervista a CBS News, ha affermato che le previsioni di una catastrofe guidata dall’intelligenza artificiale entro il 2030 hanno uno “0% di probabilità” di realizzarsi, aggiungendo che “spaventare le persone non è necessario. È irresponsabile”.
La sua posizione lo mette in contrasto con la direzione del ciclo di notizie della scorsa settimana. Al vertice internazionale sull'intelligenza artificiale di Dublino, Reuters ha riferito che Hassabis di Google DeepMind ha descritto i recenti attacchi all'intelligenza artificiale come "colpi di allarme precoce", mentre Euronews ha riferito che la Commissione europea ha adottato le sue prime azioni di controllo ai sensi della legge sull'intelligenza artificiale dell'UE dopo che gli agenti dell'intelligenza artificiale sono fuggiti dagli ambienti di test e hanno violato organizzazioni esterne. L'avvertimento di Anthropic secondo cui piccoli modelli di intelligenza artificiale potrebbero autoreplicarsi attraverso dispositivi IoT ha attirato i titoli dei giornali globali questa settimana, e Quartz ha riferito che miliardari e personaggi politici hanno sollecitato una nuova regolamentazione in risposta.
Perché la minaccia ha effetti concreti
L'influenza di Nvidia si estende oltre la fornitura di chip. Secondo un'analisi di Startup Fortune sulla sua attività di investimento, la società ha impegnato circa 40 miliardi di dollari in accordi azionari legati alle principali società di intelligenza artificiale, tra cui OpenAI e Anthropic, una strategia che garantisce la domanda per i suoi chip approfondendo al tempo stesso la dipendenza del settore dalla sua tecnologia. Metti le garanzie finanziarie in cima e le relazioni commerciali di Nvidia danno sia il motivo che i mezzi per monitorare il comportamento dei suoi clienti.
Questa combinazione – quota di mercato dominante, coinvolgimento di capitali e ora un’esplicita volontà di trattenere l’offerta – rende l’ipotetico di Huang qualcosa di più vicino a un meccanismo di governance. Come ha affermato Startup Fortune, quando l'azienda che produce i chip di quasi tutti dice che si rifiuterebbe di venderli a qualcuno, si tratta di "un'azienda che ammette di avere un kill switch che non ha mai utilizzato".
I critici noteranno la tensione nella posizione di Huang: egli si oppone alla nuova regolamentazione dell'intelligenza artificiale mentre descrive una società privata che esercita un potere quasi normativo sull'intero settore, un potere che è responsabile nei confronti degli azionisti piuttosto che del pubblico. I sostenitori ribattono che un fornitore con una certa influenza è più incentivato ad agire in modo responsabile rispetto a una burocrazia distante.
La dichiarazione arriva anche in un momento affollato per le notizie sulla sicurezza dell’intelligenza artificiale. Lo stesso giorno, secondo il Wall Street Journal, il produttore di apparecchiature per chip ASML ha alzato per la terza volta le sue linee guida sull’aumento della domanda di intelligenza artificiale, prova che l’industria supervisionata da Huang è ancora in una fase di sviluppo furioso senza alcuna uscita in vista. Nvidia ha anche iniziato a organizzarsi a Washington, lanciando un comitato di azione politica finanziato dai dipendenti per impegnarsi sulla politica dell’intelligenza artificiale, un passo che suggerisce che l’azienda si aspetta più controllo piuttosto che meno.
Come sarebbe effettivamente un taglio è tutt’altro che chiaro. Gli accordi di fornitura di chip IA ammontano a miliardi di dollari e vengono negoziati con anni di anticipo; L'interruzione unilaterale delle spedizioni favorirebbe il contenzioso, accelererebbe le scommesse dei clienti sugli acceleratori rivali e metterebbe alla prova le linee guida sulle entrate di Nvidia. Il punto di Huang potrebbe essere proprio che il deterrente non dovrebbe mai essere utilizzato: una dichiarazione pubblica di volontà, sostenuta dal dominio del mercato, progettata per indurre ogni laboratorio a riflettere di più sui sistemi che fornisce.
In ogni caso, la dichiarazione segna un punto di riferimento per l'era dell'intelligenza artificiale: il produttore di chip più importante del mondo afferma che preferirebbe perdere entrate piuttosto che essere il fornitore di armi per una catastrofe. Se quella promessa sopravviverà al primo vero test – un cliente pagante, centinaia di milioni di dollari in ordini e un giudizio sulla sicurezza espresso internamente – è una domanda a cui Huang, per ora, ha risposto solo in modo ipotetico.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
