Quelques heures après que le PDG d'Anthropic, Dario Amodei, a publié son essai "We Must Pace the Frontier" appelant les gouvernements à ralentir la course à l'IA, une réponse pointue a commencé à grimper dans Hacker News, devenant finalement l'un des articles les plus votés de la journée. Son argument, exposé dans une lettre ouverte de l’écrivain et développeur Jacob Gold, est d’une simplicité désarmante : si Amodei est sincère quant au ralentissement de l’IA, il pourrait réclamer une loi qui le ferait réellement – et aucun autre dirigeant de laboratoire ne pourrait la proposer. Exiger que chaque modèle d’IA qu’une entreprise propose au public soit publié sous forme de pondérations ouvertes.
"Je crois que vous êtes sincère", s'ouvre la lettre, s'adressant directement à Amodei, "c'est pourquoi je vous demande de réclamer une loi différente, une loi qui ralentirait réellement les choses, même si cela exigerait de réels sacrifices de votre part." La lettre a touché une corde sensible précisément parce qu'elle s'attaque à la version la plus forte de l'argument d'Amodei plutôt que de le rejeter – et parce qu'elle atterrit au milieu du débat politique le plus important sur l'IA aujourd'hui, un débat que nous suivons quotidiennement dans notre [Couverture politique sur l'IA] (https://aibuzzwire.news).
Ce qu'Amodei a proposé et pourquoi Gold dit que ça ne marchera pas
L'essai d'Amodei engageait Anthropic à intégrer des évaluateurs tiers et demandait aux gouvernements d'exiger que toutes les autres entreprises pionnières respectent cet engagement. Sam Altman a accepté en quelques heures : « Je suis d'accord avec Dario sur le fait que nous devons arpenter la frontière », a-t-il déclaré, selon Politico, OpenAI correspondant également à l'engagement de l'évaluateur. À première vue, il s’agit d’un alignement sans précédent : les dirigeants des deux laboratoires d’IA les plus précieux au monde demandent publiquement à être ralentis.
La lettre de Gold affirme que c'est précisément ce consensus qui devrait rendre les observateurs méfiants. "Chaque réglementation que vous demandez aboutit à une capture", prévient-il. Évaluateurs intégrés, seuils de calcul, coordination de l'industrie avec les dérogations antitrust — "Tout cela est écrit avec l'aide des laboratoires frontaliers actuels, car personne d'autre ne comprend suffisamment bien les détails techniques pour l'écrire." Une fois que ces règles deviennent une loi, chaque incident ajoute une règle et aucune n’est jamais supprimée, et les géants peuvent se permettre d’engager des équipes de conformité qui maintiennent à l’écart les petits challengers. "Au lieu de vous ralentir", indique la lettre à Amodei, "cela protège votre position et vos profits".
La contre-proposition des pondérations ouvertes
Les croquis alternatifs de Gold sont délibérément brutaux. Tout modèle d’IA qu’une entreprise propose au public devra être livré avec ses pondérations publiées. Les modèles internes et de recherche resteraient intacts et les gouvernements conserveraient l’accès aux systèmes inédits – mais Anthropic devrait publier les poids de son prochain modèle frontière le jour de sa sortie, et OpenAI devrait faire de même. "Il n'y a rien à jouer ou à esquiver", conclut la lettre, "même pour vous".
Le mécanisme est financier plutôt que bureaucratique. Comme l’explique Gold, le financement du développement du modèle frontière dépend de valorisations qui supposent que les pondérations restent exclusives. Un mandat renverse cette hypothèse : si chaque publication publique est ouverte, l'avantage concurrentiel revient à celui qui forme le meilleur modèle plutôt qu'à celui qui en vend l'accès, la prime intégrée dans les évaluations privées se dégonfle et l'argent disponible pour la prochaine formation diminue - "dans chaque laboratoire en même temps, sans qu'un régulateur ne décide quoi que ce soit". Il s'agit en fait d'un argument selon lequel les attentes du marché à l'égard des modèles fermés sont le moteur de la course, et que supprimer ces attentes supprime le moteur.
Pourquoi Amodei, en particulier
Les arguments de la lettre expliquant pourquoi Amodei est la seule personne susceptible de faire cette proposition reposent sur son dossier et sont particulièrement respectueux. Gold lui attribue le mérite d'avoir quitté OpenAI fin 2020 pour fonder Anthropic « alors que le choix de carrière sûr devait rester », d'avoir préconisé la réglementation de sa propre industrie pendant des années et d'avoir poussé des contrôles à l'exportation qui rétrécissaient son propre marché. Il note qu'Anthropic s'est structurée comme une société d'utilité publique avec une mission juridique – « le développement et la maintenance responsables de l'IA avancée pour le bénéfice à long terme de l'humanité » – qui permettrait à ses dirigeants d'absorber le choc financier qu'une telle loi entraînerait. Le propre essai d'Amodei, observe Gold, affirme qu'Anthropic plaide en faveur de la réglementation « même lorsque cela nous amène à être accusé de battage médiatique, de « catastrophisme » ou de capture réglementaire ».
Les sceptiques noteront les contre-arguments évidents, et la lettre n'y répond pas complètement : les pondérations ouvertes facilitent les abus et rendent les progrès plus difficiles, un mandat de pondérations ouvertes se heurterait à une opposition farouche de la part des investisseurs de chaque laboratoire, et les critiques des positions antérieures d'Amodei sur les modèles ouverts chinois entendront des échos d'anciens combats dans la proposition. Mais le principal défi de la lettre ne dépend pas de l’adoption de la politique adoptée. Cela dépend d’une tension qu’il désigne explicitement : un laboratoire qui demande aux gouvernements de ralentir tout le monde, alors que sa propre évaluation dépend de sa capacité à rester en tête, n’a encore rien demandé qui lui coûte quoi que ce soit.
Un débat désormais incontournable
La réponse d’Amodei est presque hors de propos. En une seule journée, les laboratoires pionniers sont passés d’une compétition sur les capacités à un accord sur la nécessité d’un rythme, et la réponse du public est passée de la question de savoir si l’IA est dangereuse à la question de savoir si les personnes qui en avertissent peuvent être crues. La lettre de Gold – quelques centaines de mots de détails politiques enroulés autour d’une question inconfortable – est devenue l’expression la plus nette de ce scepticisme, et sa viralité suggère que le débat sur le rythme se déroulera non seulement à Washington mais en public, sur des plateformes comme Hacker News, où la communauté des poids ouverts propose des variantes de cet argument depuis des années.
Gardez une longueur d'avance sur l'IA
Réglementation, poids ouverts et lutte pour le rythme de l'IA - couverts sans battage médiatique.
Lire plus d'actualités sur l'IA →
