Les avertissements de sécurité des chercheurs d’Anthropic qui ont dominé le discours sur l’IA cette semaine ont maintenant produit quelque chose de concret à Washington : une poussée législative. Reuters a rapporté jeudi que les législateurs américains réclamaient de nouvelles règles sur l'IA en réponse aux déclarations des chercheurs, tandis que la représentante du Massachusetts, Lori Trahan, a profité d'une interview jeudi matin pour détailler son Frontier Act, un projet de loi qui imposerait pour la première fois des obligations contraignantes aux développeurs d'IA frontaliers.

S'exprimant dans l'édition matinale de WBUR, Trahan a déclaré que la réaction à Capitol Hill aux événements de cette semaine ne ressemblait à rien de ce qu'elle a vu depuis qu'elle a commencé à travailler sur la réglementation de l'IA plus tôt cette année. Pour une couverture quotidienne des évolutions politiques en matière d'IA à Washington, à Bruxelles et au-delà, suivez AI Buzz Wire, votre source d'actualités de dernière minute en matière d'IA et de mises à jour sur la réglementation.

Ce que ferait le Frontier Act

Trahan, co-auteur du projet de loi bipartite, l'a décrit comme un ensemble de « règles de conduite » pour une poignée d'entreprises dont les modèles pourraient causer des dommages catastrophiques. Selon la députée, le Frontier Act imposerait quatre choses : des exigences de transparence pour les développeurs d'IA frontalières, le signalement des incidents, une vérification indépendante des allégations de sécurité des modèles et ce qu'elle a appelé un bouton pause du gouvernement si un modèle présente un risque imminent de catastrophe.

"À un niveau fondamental, nous devons mettre des garde-fous sur les laboratoires frontières", a déclaré Trahan, décrivant ces dispositions comme des "enjeux de table" pendant que le Congrès élabore une politique pour les nombreux autres secteurs touchés par l'IA.

« Le système d'honneur » : les arguments de Trahan en faveur de règles contraignantes

Le cœur de l’argument de Trahan est que rien ne lie actuellement les développeurs des systèmes d’IA les plus puissants. "Aujourd'hui, la seule chose que nous avons en place est le système d'honneur", a-t-elle déclaré. "La technologie la plus puissante de l'histoire de l'humanité est réglementée par ses développeurs."

Elle a reconnu le scepticisme de ses collègues, affirmant que certains considéraient les avertissements de la semaine comme alarmistes ou trop extrêmes. Mais elle a décrit un changement rapide dans l'ambiance de la Chambre : "Mon téléphone n'a pas arrêté de sonner depuis que Jacob Coxon a dénoncé. Je pense que mes collègues ont peur. Ils entendent leurs électeurs qui veulent que nous agissions... Cette semaine vient de franchir un tournant."

Elle a notamment déclaré que la pression ne se limite pas à un seul parti. "Il n'y a pas que les démocrates", a déclaré Trahan, soulignant que "les républicains de MAGA ont appelé hier à une action bipartite. Le terrain a vraiment changé".

Les avertissements qui l'ont déclenché

Le ferment législatif trouve son origine directement dans les déclarations de deux chercheurs d'Anthropic. Jacob Coxon a quitté l'entreprise mardi, écrivant sur les réseaux sociaux qu'Anthropic « se dirige directement vers une superintelligence qui s'améliore et joue avec nos vies ». Evan Hubinger, chercheur sur Anthropic, l'a publiquement soutenu en écrivant : "Jacob a raison ici... Nous croyons sincèrement que l'IA pourrait tuer tous les humains ! Je pense personnellement que ce chiffre est supérieur à 10 % au cours de la prochaine décennie."

L’histoire s’est métastasée au fil de la semaine. The Hill a rapporté que les législateurs avaient tiré la sonnette d'alarme sur les dangers de l'IA après les avertissements, la BBC et CBS ont couvert l'estimation de probabilité de Hubinger, et NBC News a rapporté jeudi que deux chercheurs en IA avaient quitté Anthropic et Google pour des raisons de sécurité, citant l'un d'entre eux qui a déclaré "qu'il n'y avait pas d'adultes dans la pièce". Reuters a rapporté jeudi que les législateurs réclamaient désormais de nouvelles règles, et des informations ont également circulé selon lesquelles OpenAI aurait demandé des règles américaines régissant les puissants modèles d'IA.

Des avertissements à un fichier de facture

Ce qui différencie cette semaine des controverses précédentes sur la sécurité, c’est la rapidité de la réponse politique. Les propres révélations d'Anthropic cette semaine – un rapport de renseignements sur les menaces détaillant les campagnes d'utilisation abusive perturbées, y compris les tentatives possibles d'utiliser Claude pour développer des armes biologiques – ont donné aux avertissements une base de preuves qui manquait au débat précédent, et les législateurs semblent bouger pendant que le moment est venu.

Le chemin à parcourir pour la législation sur l'IA

Les perspectives du Frontier Act restent incertaines. Le Congrès a lutté pendant des années pour adopter une législation complète sur l’IA, et tout projet de loi touchant à la vérification obligatoire ou à une autorité fédérale de pause se heurterait à un lobbying intense de la part des laboratoires qu’il réglementerait, ainsi qu’à des luttes de compétence entre comités. En marge, les États n’attendent pas : le gouverneur de Californie, Gavin Newsom, a signé cette semaine une série de projets de loi sur la sécurité de l’IA, selon le Los Angeles Times, maintenant la pression en faveur d’un cadre fédéral qui anticipe un patchwork de règles étatiques.

Pour l’instant, la dynamique s’est inversée. Pour la première fois au cours de ce Congrès, ceux qui construisent des modèles pionniers exigent publiquement des restrictions sur leur propre industrie – et les législateurs sont en train de les rédiger.

Que cet alignement produise une loi ou fasse simplement la une des journaux dépendra des mois à venir. Mais la semaine a démontré quelque chose que ni les laboratoires ni leurs détracteurs ne peuvent ignorer : la sécurité de l’IA est passée de la salle de séminaire au décompte des voix, et les membres qui comptent les votes disent que ce sont finalement leurs électeurs qui leur demandent d’agir.

AI Buzz Wire continuera de suivre le Frontier Act au fur et à mesure de son évolution au Congrès.

---

Gardez une longueur d'avance sur l'IA

Recevez les dernières actualités, analyses et avancées en matière d'IA, le tout en un seul endroit.

Lire plus d'actualités sur l'IA →