Le Moscone Center de San Francisco a accueilli cette semaine un désaccord public inhabituel : les dirigeants de Nvidia, Anthropic et OpenAI, apparaissant sur la même scène à quelques heures d'intervalle lors de la conférence Dreamforce de Salesforce, ont présenté des réponses très différentes à la question de savoir à quelle vitesse l'IA devrait pouvoir progresser.
Le PDG de Nvidia, Jensen Huang, a déclaré au chef de Salesforce, Marc Benioff, que la comparaison entre vitesse et sécurité était erronée. "C'est un faux choix", a déclaré Huang, selon CNBC. "Vous pourriez certainement avoir les deux en même temps." Pour plus de contexte sur cette histoire, consultez notre actualités IA.
Sa position contrastait directement avec celle exprimée plus tôt dans la journée par le PDG d'Anthropic, Dario Amodei, et plus tard par le PDG d'OpenAI, Sam Altman, dans un débat qui est passé des blogs de recherche aux discours de conférence à Washington en l'espace d'une semaine.
Le discours sur le ralentissement d'Amodei obtient une plate-forme principale
Amodei est apparu en premier, rejoignant Benioff pour le discours annuel de Salesforce devant un public d'environ 12 000 personnes. Cette comparution faisait suite à un essai publié ce week-end par Amodei exhortant l'industrie à ralentir le rythme du développement des modèles, une proposition qui, selon lui, peut tempérer la rapidité avec laquelle les capacités s'améliorent sans « sacrifier l'avantage commercial ou l'avance des États-Unis en matière d'IA ».
Selon CNBC, Amodei a présenté l'autolimitation comme un test de leadership pour l'industrie. "Je pense que c'est le moyen de faire avancer l'industrie, de donner l'exemple, de dire que tout le monde peut toujours être meilleur", a-t-il déclaré à Benioff.
L'essai a rapidement attiré le soutien du public d'autres dirigeants de l'industrie, notamment Sam Altman d'OpenAI, Elon Musk, PDG de SpaceX, et Demis Hassabis, président de Google DeepMind. Elle a été lancée quelques jours après que des chercheurs de l'industrie ont tiré la sonnette d'alarme sur le potentiel de l'IA à causer des dommages catastrophiques, donnant ainsi une nouvelle urgence à l'argument du ralentissement.
Huang : Les forces du marché, pas de nouvelles lois
Huang, dont l'entreprise est devenue la plus précieuse au monde en vendant le matériel nécessaire à l'entraînement et au fonctionnement des modèles frontières, a rejeté à la fois la prémisse d'un compromis et l'idée d'une nouvelle réglementation. Il existe déjà des forces du marché qui disciplinent les comportements imprudents, a-t-il soutenu, et il appartient aux développeurs de modèles d'agir de manière responsable avec leurs produits.
"Courez aussi vite que vous le pouvez", a dit Huang à Benioff. "Mais si vous sentez à un moment donné que l'entreprise est hors de contrôle ou que le produit ne sera pas sûr, faites une pause et assurez-vous de bien faire les choses."
La distinction est importante : Huang ne prétend pas que les entreprises ne devraient jamais s’arrêter, mais simplement que la décision devrait rester entre les mains de chaque entreprise plutôt que d’être appliquée par le biais de lois ou d’accords coordonnés à l’échelle du secteur. Un jour plus tôt, lors du Sommet All-In à Los Angeles, Huang avait reçu un appel par haut-parleur du président Donald Trump, qui avait exprimé son inquiétude quant aux tentatives de personnes d'entraver la construction de centres de données IA. "Nous n'allons pas permettre que cela se produise, monsieur", a répondu Huang.
Altman : La sécurité « ne devrait avoir aucun qualificatif »
Le tour d'Altman sur la scène Dreamforce est arrivé plus tard dans la journée, et il s'est positionné plus près d'Amodei que de Huang. Lors d'une conversation au coin du feu avec Benioff, Altman a déclaré que la sécurité et la surveillance devaient passer avant les capacités, compte tenu de la puissance des modèles actuels.
Il s'en prend aux entreprises qui conditionnent leurs engagements en matière de sécurité au comportement de leurs concurrents. "Il y a des entreprises qui disent des choses comme : 'Nous ne serons responsables que si d'autres entreprises le sont'", a déclaré Altman, ajoutant que lorsque les gens demandent ce qu'une entreprise fera pour être en sécurité "quoi qu'il arrive", la réponse ne devrait laisser aucune place à des conditions. "Il ne devrait y avoir aucun qualificatif à ce sujet."
Benioff est assis au milieu
Benioff, qui accueille les trois dirigeants, a refusé de choisir un camp en matière de rythme. "S'ils sentent qu'ils devraient ralentir, alors ils devraient ralentir. S'ils pensent qu'ils devraient accélérer, ils devraient accélérer", a-t-il déclaré aux journalistes, avant d'ajouter que les entreprises "devraient être tenues pour responsables".
La conférence a également montré à quel point les relations commerciales sont devenues enchevêtrées. Mardi, Salesforce et Nvidia ont annoncé un nouveau modèle de raisonnement pour la plate-forme Agentforce de Salesforce, construit sur l'un des modèles Nemotron à poids ouvert de Nvidia. Fin août, Salesforce et Anthropic ont élargi leur partenariat stratégique et dévoilé « Claudeforce », qui permet aux commerciaux d'accéder aux données Salesforce depuis Claude.
Pourquoi la scission est importante
Les échanges Dreamforce ont cristallisé ce qui est devenu la ligne de fracture centrale dans les débats sur la gouvernance de l’IA : la restriction doit-elle être coordonnée et potentiellement codifiée, ou laissée à la pression concurrentielle et au jugement individuel des entreprises ?
La proposition d'Amodei reste volontaire, mais son approbation par les PDG d'OpenAI, DeepMind et xAI marque la première fois que les dirigeants des principaux laboratoires pionniers s'alignent publiquement en faveur du ralentissement. Le contre-argument de Huang, présenté par l'entreprise la plus valorisée au monde, donne une couverture aux dirigeants et aux décideurs politiques qui affirment qu'imposer la prudence donnerait un avantage aux concurrents, en particulier en Chine.
Le président Trump s’est opposé aux nouvelles règles sur l’IA, une position qui va à l’encontre des propres appels au ralentissement de l’industrie, comme l’a noté CNBC dans une analyse connexe. Cela laisse tout accord volontaire de régulation sans le mécanisme d'application dont les défenseurs de la sécurité affirment qu'il a besoin, et maintient pour l'instant le débat fermement sur les systèmes d'honneur des entreprises.
Alors que les chercheurs mettent publiquement en garde contre les risques catastrophiques et que les dirigeants des plus grandes entreprises du secteur sont désormais ouvertement en désaccord sur scène, la question du rythme dominera probablement le prochain cycle politique à Washington – quelle que soit la décision du marché entre-temps.
---
Restez à la Pointe de l'IALes dernières actualités, analyses et percées en IA — au même endroit.
Lire plus d'actualités IA →
