Il Moscone Center di San Francisco ha ospitato un insolito disaccordo pubblico questa settimana: i leader di Nvidia, Anthropic e OpenAI, presentandosi sullo stesso palco a poche ore di distanza l'uno dall'altro alla conferenza Dreamforce di Salesforce, hanno dato risposte nettamente diverse alla domanda su quanto velocemente si dovrebbe consentire all'intelligenza artificiale di avanzare.
Il CEO di Nvidia Jensen Huang ha detto al capo di Salesforce Marc Benioff che il rapporto tra velocità e sicurezza è sbagliato. "È una scelta falsa", ha detto Huang, secondo la CNBC. "Potresti sicuramente averli entrambi allo stesso tempo." Per maggiori informazioni su questa storia, consulta la nostra aggiornamenti sull'intelligenza artificiale.
La sua posizione è in diretto contrasto con quella articolata all'inizio della giornata dal CEO di Anthropic, Dario Amodei, e successivamente dal CEO di OpenAI Sam Altman, in un dibattito che si è spostato dai blog di ricerca alle keynote delle conferenze a Washington nell'arco di una settimana.
Il Slowdown Pitch di Amodei ottiene una piattaforma Keynote
Amodei è apparso per primo, unendosi a Benioff per il keynote annuale di Salesforce davanti a un pubblico di circa 12.000 persone. L'apparizione ha fatto seguito a un saggio pubblicato da Amodei durante il fine settimana che esortava l'industria a rallentare il ritmo di sviluppo del modello, una proposta che secondo lui può mitigare la rapidità con cui le capacità migliorano senza "sacrificare il vantaggio commerciale o il vantaggio degli Stati Uniti nell'intelligenza artificiale".
Secondo CNBC, Amodei ha definito la restrizione volontaria come un test di leadership per il settore. "Penso che questo sia il modo per portare avanti l'industria, per dare l'esempio, per dire che tutti possono sempre essere migliori", ha detto a Benioff.
Il saggio ha rapidamente ottenuto il sostegno pubblico di altri dirigenti del settore, tra cui Sam Altman di OpenAI, il CEO di SpaceX Elon Musk e il presidente di Google DeepMind Demis Hassabis. È arrivato giorni dopo che i ricercatori del settore avevano lanciato allarmi sul potenziale dell’intelligenza artificiale di causare danni catastrofici, dando nuova urgenza all’argomento del rallentamento.
Huang: Forze di mercato, non nuove leggi
Huang, la cui azienda è diventata la più preziosa al mondo vendendo l'hardware che addestra e gestisce modelli di frontiera, ha rifiutato sia la premessa di un compromesso sia l'idea di una nuova regolamentazione. Esistono già forze di mercato che disciplinano comportamenti sconsiderati, ha affermato, e spetta agli sviluppatori modello agire in modo responsabile con i loro prodotti.
"Corri più veloce che puoi", ha detto Huang a Benioff. "Ma se in un dato momento ritieni che l'azienda sia fuori controllo o che il prodotto non sia sicuro, fai una pausa e assicurati di farlo bene."
La distinzione è importante: Huang non sostiene che le aziende non dovrebbero mai fermarsi, ma solo che la decisione dovrebbe spettare a ciascuna azienda anziché essere applicata attraverso leggi o accordi di ritmo coordinati a livello di settore. Il giorno prima, all’All-In Summit di Los Angeles, Huang ha ricevuto una chiamata in vivavoce dal presidente Donald Trump, che aveva espresso preoccupazione per le persone che cercavano di ostacolare la costruzione del data center AI. "Non permetteremo che ciò accada, signore", rispose Huang.
Altman: la sicurezza "non dovrebbe avere qualificazioni"
Il turno di Altman sul palco della Dreamforce è arrivato più tardi nel corso della giornata, e si è posizionato più vicino ad Amodei che a Huang. Durante una chiacchierata con Benioff, Altman ha affermato che la sicurezza e il monitoraggio devono venire prima delle capacità, data la potenza dei modelli attuali.
Ha preso di mira le aziende che condizionano i loro impegni in materia di sicurezza al comportamento dei concorrenti. "Ci sono aziende che dicono cose del tipo: 'Saremo responsabili solo se altre aziende sono responsabili'", ha detto Altman, aggiungendo che quando le persone chiedono cosa farà un'azienda per essere sicura "qualunque cosa accada", la risposta non dovrebbe lasciare spazio a condizioni. "Non dovrebbe esserci alcuna qualificazione su questo."
Benioff siede nel mezzo
Benioff, che ha ospitato tutti e tre i dirigenti, ha rifiutato di prendere posizione sul ritmo. "Se sentono che dovrebbero rallentare, allora dovrebbero rallentare. Se sentono che dovrebbero accelerare, dovrebbero accelerare", ha detto ai giornalisti, prima di aggiungere che le aziende "dovrebbero essere ritenute responsabili".
La conferenza ha anche mostrato quanto siano diventati intricati i rapporti commerciali. Martedì, Salesforce e Nvidia hanno annunciato un nuovo modello di ragionamento per la piattaforma Agentforce di Salesforce costruita su uno dei modelli Nemotron a peso aperto di Nvidia. Alla fine di agosto, Salesforce e Anthropic hanno ampliato la loro partnership strategica e hanno presentato "Claudeforce", che consente ai venditori di accedere ai dati Salesforce dall'interno di Claude.
Perché la scissione è importante
Gli scambi della Dreamforce hanno cristallizzato quella che è diventata la linea di faglia centrale nei dibattiti sulla governance dell’IA: se la moderazione debba essere coordinata e potenzialmente codificata, o lasciata alla pressione competitiva e al giudizio aziendale individuale.
La proposta di Amodei rimane volontaria, ma il suo appoggio da parte dei CEO di OpenAI, DeepMind e xAI segna la prima volta che i leader dei principali laboratori di frontiera si allineano pubblicamente a sostegno del rallentamento. La controargomentazione di Huang, avanzata dall’azienda più preziosa del mondo, dà copertura ai dirigenti e ai politici che sostengono che imporre cautela darebbe un vantaggio ai concorrenti, in particolare in Cina.
Il presidente Trump si è opposto alle nuove regole sull’intelligenza artificiale, una posizione che mina le richieste di rallentamento del settore, come ha osservato la CNBC in un’analisi correlata. Ciò lascia qualsiasi accordo volontario di ritmo senza il meccanismo di applicazione di cui i sostenitori della sicurezza affermano che sia necessario, e per ora mantiene fermo il dibattito sui sistemi di onore aziendale.
Con i ricercatori che mettono pubblicamente in guardia sui rischi catastrofici e i leader delle più grandi aziende del settore che ora sono apertamente in disaccordo sul palco, è probabile che la questione del ritmo domini il prossimo ciclo politico a Washington, qualunque cosa il mercato decida di fare nel frattempo.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
