Le représentant Ro Khanna, un démocrate de la Silicon Valley, présentera une législation qui interdirait les modèles d'IA capables de s'améliorer de manière récursive jusqu'à ce que le gouvernement fédéral mette en place un système de réglementation capable de les superviser – la proposition la plus radicale en matière de sécurité de l'IA jamais présentée au Congrès.
Le projet de loi, baptisé Human Control Over AI Act, a été partagé exclusivement avec CNBC sous forme de résumé avant son introduction. Cela arrive dans un contexte de préoccupations croissantes en matière de sécurité qui ont déjà incité les PDG d’OpenAI et d’Anthropic à appeler au ralentissement du développement du modèle frontière. Pour plus de contexte sur cette histoire, consultez notre couverture de l'industrie de l'IA.
"Il existe en fait un risque d'extinction de civilisation", a déclaré Khanna lundi dans une interview à CNBC. "Il existe un risque de perte de contrôle pour la sécurité, puis un risque d'utilisation abusive, et nous devons prendre les deux au sérieux."
Ce que le projet de loi interdirait
À la base, la Human Control Over AI Act interdirait les modèles d’IA qui s’auto-améliorent ou modifient de manière récursive leurs propres objectifs fondamentaux, leurs mécanismes de confinement ou leurs contrôles d’arrêt – à moins que des garde-fous fédéraux n’existent et qu’une nouvelle agence gouvernementale n’approuve les activités.
Concrètement, cela cible la capacité que les chercheurs en sécurité craignent le plus : des systèmes capables de se reconcevoir selon un cycle autogéré, laissant aux humains une surveillance décroissante à chaque étape. L'interdiction resterait en vigueur jusqu'à ce que les régulateurs soient équipés pour évaluer les risques.
Une nouvelle agence fédérale pour Frontier AI
Le projet de loi créerait une agence fédérale dédiée aux modèles d’IA les plus puissants – ceux développés par OpenAI, Anthropic, Google DeepMind et xAI – alors que ces entreprises se trouvent sous une surveillance croissante.
Selon le résumé partagé avec CNBC, l'agence serait chargée de :
- Rédaction de règles de sécurité pour les systèmes d'IA frontaliers
- Exploiter un système de licence pour approuver la formation et le déploiement des modèles
- Réalisation d'audits de modèles d'IA frontaliers
- Établir des normes de sécurité pour des tests continus et un contrôle humain efficace
Des auditeurs indépendants seraient intégrés dans chaque laboratoire frontalier et rendraient directement compte à l'agence – un contrôle structurel conçu pour garantir que les laboratoires ne peuvent pas simplement noter leurs propres devoirs. L'agence établirait également des normes couvrant les environnements de test sandbox, les espaces d'air qui isolent les systèmes de test d'Internet, les kill switch et les contrôles qui empêchent les modèles de s'échapper des paramètres de laboratoire et de parcourir l'Internet ouvert.
Notamment, la législation étendrait la surveillance fédérale aux puces avancées utilisées par les laboratoires pionniers, y compris des mécanismes permettant de surveiller ou de contrôler la manière dont ces processeurs sont déployés.
Sanctions pénales et assurance obligatoire
Le projet de loi va plus loin que toute proposition précédente en matière de sanctions. Il criminaliserait ce qu'il définit comme des « crimes contre l'humanité » pour le déploiement de modèles d'IA entraînant la destruction de populations civiles.
Les employés des sociétés d’IA s’exposeraient à des sanctions pénales s’ils désactivaient les protections, les kill switch, les systèmes de journalisation ou de confinement – ou s’ils déployaient sciemment un système non autorisé. Les entreprises d’IA seraient également tenues de souscrire une assurance responsabilité civile complète avant de lancer leurs modèles, transférant ainsi le risque financier d’échec sur l’industrie plutôt que sur le public.
Sur le plan géopolitique, le projet de loi appelle l’administration à conclure des accords exécutoires et des contrôles ciblés des exportations destinés à dissuader la Chine et d’autres adversaires de développer des systèmes d’IA dangereux.
Construit avec la communauté de la sécurité, pas avec les laboratoires
Khanna a été explicite sur la contribution qui a façonné le projet de loi. Plutôt que de négocier avec les dirigeants des entreprises qu'elle réglementerait, il a déclaré que la législation était calquée sur des conversations avec des organisations de sécurité de l'IA, notamment les organisations indépendantes à but non lucratif Model Evaluation and Threat Research, le Machine Intelligence Research Institute et Palisade Research.
"Je veux que ce soit un modèle pour donner la parole à la communauté de la sécurité de l'IA", a déclaré Khanna à CNBC. "Je pense qu'ils ont été injustement considérés comme de la science-fiction et n'ont pas été pris suffisamment au sérieux. C'est à eux et à la communauté de la sécurité de l'IA, et non aux dirigeants des laboratoires frontaliers, de diriger ce débat."
Khanna a décrit cette mesure comme la législation la plus complète sur la sécurité de l'IA proposée à ce jour.
Longues chances dans un Congrès divisé
The Human Control Over AI Act joins a crowded field of AI safety proposals on Capitol Hill. Among them is the bipartisan FRONTIER Act from Reps. Jay Obernolte, a California Republican, and Lori Trahan, a Massachusetts Democrat, which would place independent auditors in frontier labs and give the government authority to shut down models judged to pose catastrophic risk. A separate Sanders-Casar proposal to ban artificial superintelligence has drawn public backing from ten House Democrats, including Khanna himself.
The political reality, however, is sobering. No House bills are expected to receive a vote until after the midterm election, and the Senate is expected to leave Washington and not return until after voters go to the polls.
That timeline means the Human Control Over AI Act will function, at least for now, as a marker: a detailed blueprint of what the AI safety community would build if it held the pen — introduced at precisely the moment the people who build frontier AI are warning, on the record, that the technology is outrunning its controls.
---
Restez à la Pointe de l'IALes dernières actualités, analyses et percées en IA — au même endroit.
Lire plus d'actualités IA →
