OpenAI travaille en étroite collaboration avec ses concurrents Anthropic et Google DeepMind depuis plusieurs semaines pour concevoir un cadre pour la sécurité de l'intelligence artificielle, a confirmé mardi un haut dirigeant, révélant un degré inhabituel de coopération entre des entreprises qui se livrent une concurrence féroce sur presque tout le reste.
Chris Lehane, responsable mondial de la politique d'OpenAI, a déclaré aux journalistes lors d'un point de presse à Washington que les trois laboratoires coordonnaient leurs initiatives en matière de sécurité. "Il vaut mieux essayer de travailler ensemble pour donner la priorité à la sécurité", a déclaré Lehane, selon un rapport de Bloomberg sur le briefing. Ses commentaires interviennent quelques jours après une série d'avertissements d'extinction très médiatisés émanant de chercheurs quittant les plus grands laboratoires de l'industrie. Pour plus de contexte sur cette histoire, consultez notre tendances IA.
Ce que couvre réellement la coopération
Lehane n'a pas précisé la nature spécifique du travail, mais la divulgation fait suite à une remarquable série de prises de position publiques de la part des plus grands noms de l'industrie. Samedi, le directeur général d'Anthropic, Dario Amodei, a publié un essai appelant l'industrie de l'IA à coopérer pour ralentir le rythme de développement des modèles frontières afin d'éviter ce qu'il appelle des « risques catastrophiques ».
L'appel a reçu un soutien surprenant de tous les côtés : Sam Altman d'OpenAI, Demis Hassabis de Google et Elon Musk ont tous approuvé ce sentiment. Altman est allé plus loin, affirmant qu'OpenAI serait disposé à se joindre à l'initiative d'Anthropic visant à intégrer des évaluateurs tiers au sein de ses équipes de développement pour surveiller la sécurité de l'IA de l'intérieur. Le co-fondateur d'Anthropic, Jack Clark, a quant à lui déclaré à NPR que le ralentissement de l'IA est fondamentalement un « problème d'action collective » qu'aucun laboratoire ne peut résoudre seul.
Cependant, tout le monde au sein d’OpenAI ne considère pas le débat sur le rythme comme urgent. La directrice financière Sarah Friar a déclaré à CNBC qu'elle ne s'inquiétait pas du ralentissement du développement de l'IA – un rappel que l'entreprise courtise simultanément les investisseurs avec une valorisation au nord de mille milliards de dollars.
L'ombre de l'antitrust sur la coopération
Toute coordination entre les laboratoires d’IA dominants se heurte à un problème juridique évident : la loi antitrust des États-Unis. Les experts juridiques ont averti que les accords entre concurrents visant à limiter les possibilités de leurs produits pourraient être interprétés comme une « restriction de production », une violation de la loi Sherman.
Cette préoccupation s’est déjà déplacée vers Capitol Hill. Les sénateurs Jim Banks de l'Indiana et Adam Schiff de Californie ont proposé une législation – la Collaboration on Adversarial Threats and Security Risks Act – qui permettrait aux laboratoires d'IA d'agir en matière de sécurité même lorsque ces actions pourraient autrement soulever des problèmes antitrust. L'essai d'Amodei soutient que le gouvernement devrait envisager d'accorder aux entreprises une dérogation en matière de coopération en matière de sécurité, bien que Lehane ait déclaré aux journalistes qu'il pensait qu'une telle décision était inutile.
Jensen Huang de Nvidia a été encore plus direct. S'exprimant mardi à Dreamforce, il a qualifié la proposition de renonciation antitrust d'Anthropic de "complètement inutile", selon CNBC, soulignant la division croissante entre les laboratoires appelant à la retenue et le géant du matériel informatique appelant à l'accélération.
"Un cartel sous un autre nom"
Les critiques de la coopération ont été cinglantes. Le directeur général de Cohere, Aidan Gomez, a écrit dans un article de blog en réponse à l'essai d'Amodei que les appels à la sécurité ressemblent à un effort des principaux laboratoires d'IA pour dissimuler un stratagème anticoncurrentiel qui préserverait leur avance dans le développement de modèles frontières, permettant aux laboratoires « dominants sur le marché » de définir les règles pour tout le monde.
"Utilisant une fois de plus la peur sous prétexte de protéger le public, ces oligopoles demandent maintenant de contourner les règles de la concurrence et d'être autorisés à dicter les conditions à tout le monde", a écrit Gomez, qualifiant cet arrangement de "loup déguisé en mouton, de cartel sous un autre nom".
Le président Donald Trump a rejeté catégoriquement l’appel au ralentissement d’Amodei, affirmant dans un article sur Truth Social que tout ralentissement permettrait à la Chine de dépasser les États-Unis dans la course à l’IA. David Sacks, le principal conseiller de la Maison Blanche en matière d'IA, a déclaré que les craintes selon lesquelles l'IA pourrait constituer une menace existentielle étaient exagérées.
Les analystes de CNBC ont observé que deux camps ont désormais pleinement émergé dans le débat sur la sécurité et la réglementation de l’IA : l’un exhortant la frontière à ralentir avant que quelque chose ne se passe mal, et l’autre – peuplé de Nvidia, de la Maison Blanche et des partisans du modèle ouvert – arguant que l’hésitation constitue le plus grand danger.
Capitol Hill Push d'OpenAI
Les remarques de Lehane ont été faites lors d'un point de presse à Washington, où il devait rencontrer les législateurs. OpenAI soutient deux projets de loi bipartites, selon les déclarations publiques de la société et les rapports de Reuters et Politico.
Le premier est le FRONTIER Act, qui appelle à un cadre fédéral pour la sécurité de l’IA et obligerait les laboratoires d’IA à soumettre de nouveaux modèles pour des audits par des évaluateurs indépendants. OpenAI soutient également une mesure qui nécessiterait des audits indépendants des modèles d'IA, a rapporté CBS News. La deuxième proposition, encore en cours d’élaboration, est celle que le chef de la majorité sénatoriale, John Thune, est en train d’élaborer avec le sénateur républicain Ted Cruz et la sénatrice démocrate Amy Klobuchar. Selon Reuters, ce projet de loi donnerait au secrétaire au Commerce le pouvoir de soumettre les nouveaux modèles à des audits de sécurité avant leur sortie. OpenAI a approuvé séparément des plans bipartites visant à lutter contre les biomenaces causées par l'IA, a rapporté Politico.
La convergence est frappante : les mêmes entreprises qui mettent en garde contre l’emballement de l’IA se portent volontaires pour des audits indépendants, tandis que leurs détracteurs préviennent que la collaboration elle-même pourrait constituer le plus grand danger. La façon dont le Congrès enfile cette aiguille – permettant une coopération en matière de sécurité sans autoriser un cartel – peut définir la politique en matière d’IA pendant des années.
---
Restez à la Pointe de l'IALes dernières actualités, analyses et percées en IA — au même endroit.
Lire plus d'actualités IA →
