Demis Hassabis, PDG de Google DeepMind, a proposé la création d'un organisme de normalisation indépendant dirigé par les États-Unis, sur le modèle de l'Autorité de régulation du secteur financier (FINRA), pour évaluer et réglementer les modèles d'IA d'avant-garde avant leur diffusion publique, avertissant que l'humanité dispose d'une « fenêtre précieuse » pour garantir que l'intelligence artificielle générale soit développée en toute sécurité.
Dans un document-cadre intitulé « Un cadre pour l'IA frontalière et l'aube d'une nouvelle ère », publié mardi matin sur X, Hassabis a présenté une proposition détaillée sur la manière dont les États-Unis pourraient établir une infrastructure réglementaire crédible pour les systèmes d'IA les plus puissants. Le plan appelle à une nouvelle organisation qui testerait les modèles pionniers et développerait les meilleures pratiques pour leur déploiement – financée par l’industrie de l’IA mais fonctionnant indépendamment de toute entreprise.
Pour les dernières dernières nouvelles sur l'IA et une analyse politique approfondie, AI Buzz Wire suit les développements qui façonnent l'industrie.
Comment fonctionnerait l'organisme de normalisation proposé
Selon la proposition de Hassabis, les laboratoires d'IA partageraient volontairement leurs modèles pionniers avec l'organisme de normalisation pour examen jusqu'à 30 jours avant leur publication publique. Cette évaluation préalable au déploiement évaluerait les modèles en termes de sûreté, de sécurité et de risques potentiels d'utilisation abusive. Une fois que le protocole d'évaluation s'est avéré efficace et robuste, le cadre envisage de formaliser le processus afin que les modèles frontières soient tenus de le réussir avant d'être déployés sur le marché américain.
La proposition comble directement une lacune révélée par les récentes révisions gouvernementales des systèmes d’IA frontaliers. Plus tôt cette année, le gouvernement américain a mené des examens de sécurité ad hoc du modèle Mythos d'Anthropic et du modèle Sol d'OpenAI avant leurs versions respectives. Ces examens ont suscité de nombreuses critiques pour leur manque de profondeur technique et pour leur prise de décision opaque quant au moment où un modèle était jugé suffisamment sûr pour un déploiement public.
Dans le cadre de Hassabis, ces décisions seraient prises par une organisation dédiée composée d'experts techniques, soutenue par le gouvernement américain mais isolée de toute pression politique. Les laboratoires seraient également tenus de travailler avec l'organisme de normalisation pour remédier aux vulnérabilités critiques découvertes après la publication.
Une « fenêtre précieuse » avant l'AGI
Dans des entretiens avec Axios, CNBC et The Economist accompagnant la publication du cadre, Hassabis a souligné que le moment actuel représente une opportunité limitée d'établir des mécanismes de gouvernance avant l'arrivée de l'intelligence artificielle générale. Il a décrit cette période comme une « fenêtre précieuse », ce qui implique que la fenêtre ne restera pas ouverte indéfiniment.
Hassabis est depuis longtemps un défenseur d’une gouvernance proactive de l’IA. Son cadre intervient au milieu d’un débat qui s’intensifie sur la question de savoir si les États-Unis devraient créer un régulateur formel de l’IA et, si oui, quelle forme il devrait prendre. Le modèle de la FINRA est remarquable parce que l'organisme d'autoréglementation du secteur financier est financé par les sociétés membres mais fonctionne sous la surveillance du gouvernement, ce qui lui confère à la fois une expertise du secteur et une responsabilité publique.
Résistance de l'administration Trump
La proposition se heurte à d’importants vents contraires politiques. L’administration Trump a fait preuve d’un profond scepticisme quant à la création de nouveaux organismes de réglementation de l’intelligence artificielle. Sriram Krishnan, conseiller en IA de la Maison Blanche et associé général d'a16z – qui a depuis quitté ses fonctions – a publiquement rejeté l'idée d'un régulateur de l'IA au sein du pouvoir exécutif, déclarant sans ambages qu'« il n'y aura pas de FDA pour l'IA ».
Cette position a mis les responsables de l'administration en désaccord avec certains des dirigeants les plus éminents de l'industrie. Bien que des entreprises comme Anthropic et OpenAI soutiennent largement les tests de sécurité avant le déploiement, le mécanisme et l’autorité de ces tests restent contestés. La proposition de Hassabis tente d'enfiler cette aiguille en positionnant l'organisme de normalisation comme étant financé par l'industrie et volontaire dans un premier temps, la formalisation n'intervenant qu'après que le processus ait prouvé sa valeur.
S'appuyer sur les efforts existants
Le cadre ne part pas de zéro. Il s’appuie sur les engagements volontaires que plusieurs entreprises pionnières de l’IA ont déjà pris en matière de tests de sécurité et de red-teaming. Il s'appuie également sur des efforts internationaux, notamment l'AI Safety Institute du Royaume-Uni et le Hiroshima AI Process du G7, qui ont établi des cadres préliminaires pour évaluer les modèles avancés.
Cependant, la proposition de Hassabis va plus loin en appelant à une organisation permanente, dotée de ressources suffisantes, ayant pour mandat de tester chaque modèle frontière avant sa publication – un niveau de contrôle qu'aucun organisme actuel n'offre. L’analogie avec la FINRA suggère une opération professionnelle à grande échelle avec des centaines d’experts techniques, et non un petit comité consultatif.
La proposition aborde également la surveillance post-déploiement, obligeant les laboratoires à travailler avec l'organisme de normalisation sur les vulnérabilités découvertes après qu'un modèle soit rendu public. Cela reflète une prise de conscience croissante du fait que les risques pour la sécurité ne s'arrêtent pas au lancement, comme le démontrent les cas de jailbreak et d'utilisation abusive qui sont apparus après plusieurs versions de modèles très médiatisées.
Réponse de l'industrie et prochaines étapes
Le cadre a suscité une attention considérable au sein de la communauté politique de l’IA. Les partisans soutiennent qu’un régime crédible de tests préalables au déploiement pourrait renforcer la confiance du public dans les modèles pionniers et réduire le risque d’une utilisation abusive catastrophique. Les critiques, y compris certains partisans du libre marché, préviennent qu'une exigence de tests obligatoires pourrait consolider les grands opérateurs historiques en créant des barrières réglementaires pour les petites entreprises et les développeurs open source.
La proposition de Hassabis ne précise pas quels modèles pourraient être qualifiés de « frontières » – une question préliminaire qui déterminera la portée de tout futur régime réglementaire. Cela laisse également ouverte la manière dont l’organisme de normalisation gérerait les applications classifiées ou à double usage, en particulier compte tenu des récentes inquiétudes concernant l’utilisation de modèles d’IA pour pirater des systèmes américains classifiés.
Le moment choisi pour la proposition est délibéré. Alors que l’AGI semble de plus en plus plausible au cours des prochaines années, Hassabis insiste sur le fait que l’infrastructure de gouvernance doit être construite maintenant, et non après l’émergence d’une capacité dangereuse. Reste à savoir si Washington donnera suite à son appel.
Gardez une longueur d'avance sur l'IA
Pour une couverture complète de la politique, de la réglementation et des développements de l'industrie en matière d'IA, visitez AI Buzz Wire.
Lire plus d'actualités sur l'IA →
