Des dirigeants de Wall Street et des responsables de la National Security Agency ont déclaré aux membres du Congrès que la cascade de pannes technologiques américaines de cette semaine n'était pas causée par des cyberattaques, mais par des efforts d'urgence visant à corriger les vulnérabilités découvertes par les modèles d'intelligence artificielle, selon un rapport du Washington Sun citant trois sources proches des conversations privées.
Cette affirmation, si elle est fondée, constituerait l’un des cas les plus clairs à ce jour d’effets de second ordre de l’IA déstabilisant les infrastructures critiques – non pas parce que les modèles ont attaqué quoi que ce soit, mais parce qu’ils ont découvert tellement de faiblesses réelles que les opérateurs humains se sont précipités pour les corriger toutes en même temps. Pour plus de contexte sur cette histoire, consultez notre plus d'articles sur l'IA.
Une semaine d'échecs en cascade
Les pannes ont commencé à s’accumuler le 12 novembre et se sont accélérées au fil de la semaine. Le 13 novembre, les autorités américaines de l'aviation ont ordonné une escale à l'échelle nationale en raison d'une panne de technologie de communication – ce que le Straits Times a décrit comme la plus longue interruption des vols à l'échelle nationale depuis les attentats du 11 septembre 2001. Le service de messagerie Outlook de Microsoft a subi des perturbations qui ont interrompu la correspondance de nombreuses entreprises américaines, et les services Apple, notamment iCloud, l'App Store et Apple Pay, ont également été interrompus.
Le 16 novembre, la tourmente a atteint le système bancaire, les clients d'institutions telles que JPMorgan Chase n'ayant pas pu accéder à leurs comptes ; la banque a attribué ses problèmes de service à des bogues logiciels. Le 17 novembre, la NSA elle-même a annoncé que son réseau avait connu une « dégradation temporaire » lors de ce qu'elle appelle une maintenance de routine programmée, tout en insistant sur le fait que les « capacités critiques à la mission » restaient pleinement opérationnelles.
Les autorités ont toujours exclu une cyberattaque hostile. Le secrétaire d'État Marco Rubio, également conseiller à la sécurité nationale, a reconnu que les incidents étaient « troublants », mais a déclaré aux journalistes à Manille, où le président Donald Trump assistait à la conférence économique de l'ASEAN : « Nous ne sommes pas la cible d'attaques systémiques. Nous n'avons aucune preuve ni aucune raison de croire que l'un de ces éléments soit lié ».
L'explication des correctifs AI
En coulisses, une explication différente circule au Capitole. Selon le Washington Sun, des responsables du gouvernement et du secteur bancaire ont déclaré aux législateurs que les perturbations résultaient de tentatives visant à réparer les failles des cyberdéfenses identifiées par les modèles d'IA, et que le flot de correctifs qui en a résulté a temporairement submergé les systèmes concernés.
"Ces modèles identifient des vulnérabilités massives, ce qui augmente l'urgence de les corriger immédiatement", a déclaré au média un responsable du Congrès informé du sujet. "Ils essaient de publier un grand nombre de correctifs en même temps – plus que ce pour quoi le système a été conçu."
Le secrétaire à la Sécurité intérieure, Markwayne Mullin, a présenté un diagnostic connexe dans une interview à CNBC, affirmant que les organisations « poussent de nouvelles technologies au-dessus de systèmes informatiques très anciens, et cela semble tout simplement submerger le système.
Le compte s'aligne sur une dynamique de sécurité contre laquelle les équipes ont mis en garde à mesure que l'analyse de code assistée par l'IA mûrit : les modèles capables d'analyser d'énormes bases de code à la recherche de failles exploitables génèrent des résultats plus rapidement que les processus de gestion des changements ne peuvent les absorber en toute sécurité. L'application de correctifs est en soi une opération risquée, et en appliquer trop et trop rapidement sur une infrastructure vieillissante peut être aussi perturbateur que les vulnérabilités corrigées.
Les législateurs réclament des réponses
La réaction politique a été particulièrement bipartite dans son impatience. Le sénateur Josh Hawley, un républicain du Missouri, a déclaré aux journalistes : « Si tout cela n'est qu'une coïncidence, c'est comme la plus grande coïncidence de l'histoire du monde », tandis que le sénateur Jack Reed, l'un des principaux démocrates de la commission des services armés, s'est joint aux appels pour une explication plus complète de ce schéma.
Trump a publiquement minimisé l’épisode. "C'est comme quand vous êtes grand et puissant et que vous avez tout l'argent. Des choses comme ça arrivent. C'est bien", a déclaré le président aux journalistes à Manille. La Maison Blanche a déclaré qu'il n'y avait « pas de crise ».
Les analystes cités dans la couverture des pannes ont souligné deux facteurs aggravants : de fortes réductions de personnel dans les opérations technologiques au cours des dernières années et l'intégration accélérée des outils d'IA dans la maintenance des systèmes, qui peuvent avoir rendu les infrastructures critiques à la fois moins résilientes et plus visiblement fragiles en cas de panne.
Ce que cela signifie pour l'industrie de l'IA
Pour le secteur de l’IA, cette semaine est un avertissement sur le rythme opérationnel créé par les outils d’IA. Les mêmes capacités du modèle qui permettent aux défenseurs de trouver des vulnérabilités à la vitesse de la machine les obligent également à respecter des calendriers de remédiation que les systèmes existants n'ont jamais été conçus pour respecter. Plusieurs fournisseurs commercialisent désormais une analyse de sécurité continue basée sur l'IA, précisément parce qu'elle détecte les failles que les humains ignorent : les pannes suggèrent que le goulot d'étranglement est passé de la découverte au déploiement.
Les législateurs devraient demander des informations formelles sur la vague de pannes lorsque le Congrès portera à nouveau son attention sur la surveillance des infrastructures, et les agences et les banques seront probablement confrontées à des questions sur la manière dont la maintenance basée sur l'IA est planifiée, testée et limitée. Cet épisode pourrait également alimenter un débat réglementaire émergent sur la question de savoir si les changements apportés aux systèmes critiques assistés par l’IA devraient être échelonnés et limités en rythme, comme d’autres changements opérationnels à haut risque.
Pour l’instant, les vols volent, les banques répondent à leurs applications et la NSA affirme que ses systèmes critiques fonctionnent parfaitement. La leçon inconfortable que l’on demande au Congrès d’assimiler est que les machines qui découvrent les failles sont peut-être en avance sur les institutions qui les corrigent.
---
Restez à la Pointe de l'IALes dernières actualités, analyses et percées en IA — au même endroit.
Lire plus d'actualités IA →

