Le personnel du petit bureau du gouvernement américain chargé de tester la sécurité des modèles d'IA frontaliers a récemment été invité à faire rapport de manière informelle à un bureau de la Maison Blanche, a rapporté samedi l'Associated Press, suscitant de nouvelles inquiétudes quant à l'indépendance du principal évaluateur de la sécurité de l'IA du pays.
Le bureau, le Centre pour l'avancement de l'innovation et des normes pour la super intelligence – connu sous le nom de CAISSI et hébergé au sein du ministère du Commerce – a également cessé de publier ses recherches, selon l'AP. Le rapport arrive au milieu d’une inquiétude croissante du public face à une série d’histoires sur des agents d’IA incontrôlables, et il décrit un organisme de surveillance en sous-effectif, sans chef et de plus en plus silencieux. Pour plus de contexte sur cette histoire, consultez notre couverture de l'industrie de l'IA.
Ce que fait CAISSI — et ce que l'AP a trouvé
CAISSI est chargé d'évaluer la sécurité des nouvelles offres d'IA avant qu'elles n'atteignent le public, un mandat qui comprend l'évaluation de la capacité des modèles frontières à résister à une utilisation abusive à des fins de cyberattaques et d'autres dommages graves. Selon l'AP, le personnel du centre a été « récemment » invité à se présenter de manière informelle à un bureau de la Maison Blanche. L'agence de presse a cité deux anciens responsables gouvernementaux au courant des discussions, qui se sont exprimés de manière anonyme pour protéger les employés actuels. La Maison Blanche n'a pas répondu aux questions spécifiques sur le centre.
L'ampleur de l'opération est modeste. L'AP rapporte que CAISSI reçoit environ 10 millions de dollars par année, soit environ un huitième de ce que reçoit son homologue britannique, même si c'est aux États-Unis que sont construits la plupart des modèles frontaliers.
Les arrangements informels en matière de reporting ne sont que la dernière perturbation en date au centre. L'AP décrit un vide de leadership qui remonte à plusieurs mois : un directeur a été embauché en avril et licencié en quelques jours, son remplaçant a duré quelques mois avant de démissionner, et le directeur de l'institut parent exerce actuellement les fonctions de directeur par intérim. En pratique, cela signifie qu'aucun mandat permanent ne défend actuellement l'indépendance du centre.
Un chien de garde qui a arrêté de publier
Le changement le plus conséquent, selon l’AP, est ce que le centre ne fait plus. En août, le Congrès a demandé pourquoi le CAISSI avait cessé de publier des rapports sur les performances des systèmes d’IA lors des tests de sécurité. Les tests préalables au déploiement fonctionnent comme un contrôle public sur les créateurs de modèles uniquement si leurs résultats sont visibles en dehors du laboratoire – et, pour l’instant, ils ne le sont pas.
Ce changement n’est pas venu de nulle part. En octobre, Reuters, citant un rapport de The Information, a révélé que l’administration prévoyait de transférer trois hauts responsables du CAISSI à la Maison Blanche. Un responsable de la Maison Blanche avait déclaré à l'époque à The Information que les problèmes de coordination avec le Commerce montraient la nécessité de rapprocher les dirigeants du centre de la prise de décision en matière d'IA. Selon ce rapport, les responsables répondraient à Michael Kratsios, qui dirige le Bureau de la politique scientifique et technologique, et au directeur national de la cybersécurité, Sean Cairncross. Le secrétaire au Commerce, Howard Lutnick, avait invité les deux hommes à cogérer le centre environ six mois plus tôt.
Lus ensemble, les nouveaux rapports de l'AP suggèrent que le plan se concrétise – de manière informelle et avant toute restructuration formelle.
Préoccupations en matière d'indépendance, dans les deux sens
Les critiques cités par l'AP craignent que les décisions concernant la cybersécurité et les risques liés aux armes biologiques ne soient politisées, ou que les conclusions puissent être adoucies pour convenir à l'industrie technologique. Amos Toh du Brennan Center for Justice a déclaré à l'AP que de telles décisions ont d'immenses conséquences publiques et devraient être expliquées publiquement. Caroline Siegel Singh, de la Fédération des scientifiques américains, a décrit les centres comme le CAISSI comme des institutions puissantes qui peuvent améliorer considérablement la vie ou faire le contraire.
Il existe un contre-argument, et l’AP ne le rejette pas. L'évaluation de la capacité d'un modèle à contribuer à l'écriture de logiciels malveillants est une question de sécurité nationale, et une administration qui souhaite savoir qui voit ces résultats a des arguments défendables. La difficulté est institutionnelle : un arbitre qui répond à l'un des sponsors des équipes est mal placé pour mettre le jeu au clair, et le centre a cessé de publier les rapports qui autrement démontreraient son indépendance.
Pourquoi c'est important pour les constructeurs et les acheteurs
Pour les entreprises qui s’appuient sur des modèles pionniers, le risque pratique identifié dans le rapport n’est pas une interdiction mais bien une incertitude. Si les évaluations restent secrètes et alimentent les contrôles à l’exportation et les marchés publics, un laboratoire pourrait perdre un contrat ou un marché sur la base d’une découverte qu’il n’a jamais pu voir ou contester. Ce risque se propagerait tout au long de la chaîne d’approvisionnement jusqu’aux produits en aval sans aucun avertissement.
Deux choses méritent d’être surveillées ensuite. La première est de savoir si l’administration nomme un directeur permanent pour le centre et qui le choisit. La seconde est de savoir si le Congrès, qui a déjà fait pression sur le centre à cause de son silence sur les rapports publiés, décide d'inscrire l'indépendance du centre dans la loi. Jusqu’à ce que l’un ou l’autre se produise, l’arbitre américain en matière de sécurité de l’IA fonctionne avec un budget de 10 millions de dollars, sans leader permanent et avec une ligne hiérarchique qui se dirige vers la Maison Blanche.
---
Restez à la Pointe de l'IALes dernières actualités, analyses et percées en IA — au même endroit.
Lire plus d'actualités IA →
