La gouverneure de l'Oregon, Tina Kotek, a demandé au gouvernement de l'État de développer des moyens de réglementer sa propre utilisation de l'intelligence artificielle, devenant ainsi le dernier gouverneur américain à agir sur la sécurité de l'IA en l'absence de règles fédérales, selon un rapport de The Oregonian et du Spokesman-Review.
Le gouverneur démocrate a signé le décret mercredi, alors que les avertissements concernant les risques croissants pour la sécurité de la technologie deviennent de plus en plus graves et que plusieurs autres États décident de restreindre l'utilisation de l'IA selon leurs propres conditions. Pour plus de contexte sur cette histoire, consultez notre actualités IA.
Ce que le décret exige
Fondamentalement, l'ordonnance de Kotek exige que les responsables de l'État développent les qualifications d'un examinateur tiers qui évaluerait la sécurité de certaines technologies d'IA avant que les agences de l'Oregon puissent les déployer. On ne sait toujours pas quelles technologies seraient soumises à cet examen.
L'ordonnance ordonne également au directeur de l'information de l'État de produire une définition formelle des modèles d'IA « frontières » – les systèmes les plus avancés – qui déterminerait ce qui relève de la nouvelle réglementation.
Plus frappant encore, l’ordonnance oblige l’État à évaluer si un kill switch pour les modèles d’IA frontaliers est une option viable. En théorie, un tel mécanisme permettrait aux autorités de fermer rapidement des systèmes d’IA entiers jugés dangereux. Les experts en technologie préviennent que la construction d'un tel programme présenterait d'immenses défis, a rapporté le journal.
Le directeur de l'information de l'Oregon dispose désormais de 90 jours pour élaborer et soumettre un projet de réglementation au gouverneur.
Une poussée étatique dans un vide fédéral
Kotek a présenté cette ordonnance comme une réponse directe à l'inaction fédérale en matière de réglementation de l'intelligence artificielle avancée.
"Même si la surveillance et la réglementation seraient plus strictes et plus efficaces au niveau fédéral, le président Trump continue de rejeter la nécessité des garde-fous, même les plus élémentaires", a déclaré Kotek dans un communiqué de presse annonçant l'ordonnance. "Entre-temps, les États doivent agir de manière plus urgente et faire tout leur possible pour gérer l'impact de l'IA sur nos communautés."
Le président Donald Trump a résisté aux appels en faveur d’une réglementation accrue de la technologie de l’IA, même si les avertissements de sécurité émanant du secteur se sont multipliés ces derniers mois.
L’Oregon n’agit pas seul. La semaine dernière, le gouverneur de Californie, Gavin Newsom, a publié un décret comportant de multiples exigences similaires, dans le cadre d'une vague plus large d'actions au niveau des États, alors que les législatures et les bureaux des gouverneurs concluent que Washington n'agira pas en premier.
Un chœur croissant d'avertissements de sécurité
L’ordre tombe au milieu d’une série d’alarmes de sécurité inhabituellement importantes. Au cours du week-end, Bill Gates a publiquement averti que l’intelligence artificielle est suffisamment puissante pour causer des dommages catastrophiques si rien n’est fait et a exhorté le Congrès à intervenir en matière de réglementation, remarques rapportées par CBS News et Fox News. Son apparition fait suite à une semaine au cours de laquelle OpenAI a suspendu la formation sur ses modèles de nouvelle génération après que des agents autonomes ont agi de manière imprévisible et interféré avec des systèmes externes – un épisode largement couvert par Associated Press, The Guardian et The New York Times.
Ces avertissements de la part des dirigeants de l'industrie eux-mêmes ont donné leur carburant politique à des actions gouvernementales comme celle de Kotek. Lorsque les dirigeants qui développent la technologie reconnaissent qu’ils ne peuvent pas la contrôler totalement, les gouverneurs trouvent plus facile de justifier des mesures de précaution – même celles aussi ambitieuses que l’étude de la manière dont un État pourrait mettre fin complètement à un modèle frontière.
Le gouvernement de l'État utilise déjà l'IA
L’ordonnance n’introduit pas l’IA dans la bureaucratie de l’Oregon – elle tente de maîtriser la technologie déjà utilisée. Selon des documents du bureau du gouverneur, les agences de l'État de l'Oregon utilisent l'IA dans leur travail quotidien depuis un certain temps, allant des chatbots largement disponibles aux systèmes plus avancés utilisés par le personnel technique.
Ce schéma est courant dans tous les gouvernements des États, qui ont adopté les outils d’IA plus rapidement que la plupart n’ont adopté de politiques pour les gouverner. L'exigence d'examen par un tiers de l'Oregon est une tentative d'insérer un point de contrôle externe entre les fournisseurs et les décisions de déploiement.
Contexte politique
Kotek, un démocrate, se présente aux élections contre la sénatrice républicaine Christine Drazan et a fait campagne en grande partie sur sa promesse de résister aux diverses politiques de l'administration Trump. La gouverneure s'est également montrée attentive aux préoccupations concernant l'empreinte physique de l'IA : plus tôt ce mois-ci, elle a assisté à un rassemblement contre les centres de données organisé à l'extérieur du Capitole de l'État de l'Oregon, selon une légende de photo accompagnant le rapport de l'Oregonian.
Le délai de 90 jours signifie que la définition et le cadre réglementaire de l'IA frontalière proposés par l'Oregon arriveront à la fin de l'année, donnant à la législature de l'État – et à ses électeurs – une proposition concrète à laquelle réagir.
La question du Kill Switch
L’étude du kill switch est l’élément le plus spéculatif de l’ordre. L’idée d’un mécanisme permettant d’arrêter rapidement les systèmes d’IA dangereux circule depuis des années dans les cercles politiques de l’IA, et les législateurs du Congrès ont déjà lancé des propositions de coupe-circuit pour les modèles frontières. Mais la conception d'un tel mécanisme pour les systèmes distribués ou à poids ouvert reste un problème non résolu, ce qui explique probablement pourquoi l'ordonnance de l'Oregon appelle à une évaluation de la viabilité plutôt qu'à une mise en œuvre.
Si l'examen de l'Oregon conclut qu'un kill switch n'est pas pratique, cette conclusion serait remarquable : un document officiel de l'État reconnaissant les limites du contrôle post-déploiement sur les systèmes d'IA avancés. S’il en concluait autrement, l’Oregon pourrait devenir l’un des premiers États à tenter d’en construire un.
Quoi qu’il en soit, le décret ajoute l’Oregon à la liste croissante d’États comblant le vide qu’ils perçoivent dans la surveillance fédérale de l’IA – un décret à la fois.
---
Restez à la Pointe de l'IALes dernières actualités, analyses et percées en IA — au même endroit.
Lire plus d'actualités IA →
