La Federal Aviation Administration a interrompu vendredi après-midi tous les vols commerciaux au départ des États-Unis, effectuant une escale à l'échelle nationale qui a bloqué les voyageurs dans les aéroports d'un océan à l'autre – et le timing a transformé une défaillance d'infrastructure en une enquête fédérale pour savoir si le tout nouveau système d'intelligence artificielle de l'agence a joué un rôle.

La FAA a ordonné l'arrêt au sol vers 16 heures. ET le 13 novembre, invoquant des « circonstances extraordinaires » et des « raisons de sécurité », selon le New York Post. Les premières alertes offraient peu de détails et l'agence n'a pas immédiatement relié la perturbation à SMART, le système de trafic aérien basé sur l'IA qu'elle avait étendu à tous ses centres de contrôle trois jours plus tôt. Pour continuer à couvrir cette histoire et d'autres développements majeurs en matière d'IA, nous suivons l'enquête au fur et à mesure de son déroulement.

Que s'est-il passé vendredi

La perturbation a été considérable. Les départs ont été interrompus dans tous les aéroports américains, une mesure extraordinaire que le pays n'a pas connue depuis janvier 2023, lorsqu'un dysfonctionnement du système d'avis aux missions aériennes (NOTAM) de la FAA a immobilisé les vols dans tout le pays. Vendredi soir, les décomptes de l'industrie aéronautique cités dans les principaux médias faisaient état d'environ 10 000 vols retardés et d'environ 4 700 annulés, et les compagnies aériennes ont averti que la reprise s'étendrait tout au long du week-end alors que les équipages atteindraient les limites d'heures de service et que les avions resteraient hors de position.

La FAA a finalement imputé l'arrêt à un problème de télécommunications. Des reportages de Reuters et du Washington Post ont décrit une panne des communications du trafic aérien, et des rapports ultérieurs ont indiqué que la panne impliquait les systèmes de radiofréquence que les pilotes et les contrôleurs utilisent pour communiquer. L'avis d'arrêt au sol a été initialement diffusé jusqu'à 23 h 30. ET, bien que les responsables aient averti que l'horodatage n'était pas une heure de reprise garantie. L'agence a levé l'interdiction plus tard vendredi soir, mais pas avant que l'incident n'ait suscité des questions aux plus hauts niveaux du gouvernement.

Le système SMART a été mis en service quelques jours plus tôt

La raison de cet examen est le timing. Le 10 novembre – trois jours avant l’arrêt au sol – la FAA a étendu SMART, abréviation de Strategic Management of Airspace, Routes and Trajectories, à ses 22 centres de contrôle du trafic aérien, selon le Washington Times et le New York Post.

SMART a été développé dans le cadre d'un contrat de 875 millions de dollars sur 12 ans attribué à Air Space Intelligence, un entrepreneur gouvernemental. Le système fusionne environ 200 flux de données en direct (modèles météorologiques, trajectoires de vol, flux de trafic, mesures du personnel des contrôleurs, etc.) en une seule plate-forme conçue pour faire passer la gestion du trafic aérien d'un modèle réactif à un modèle prédictif. Il génère des recommandations d'itinéraire et de planification que les spécialistes de la FAA à Washington examinent avant de les transmettre au centre de commandement du système de contrôle du trafic aérien à Warrenton, en Virginie ; la direction de chaque établissement local décide ensuite d’accepter ou de refuser chaque suggestion.

Surtout, la FAA a clairement indiqué que SMART est une couche consultative et non autonome. L'agence a déclaré que le système ne peut pas remplacer les contrôleurs humains et ne peut pas prendre le contrôle d'un avion. Mais la plate-forme se situe à l’intersection d’un énorme volume de données opérationnelles en direct – et c’est exactement là que les enquêteurs se tournent actuellement.

Les enquêteurs n'excluront pas l'IA

Lorsqu'un journaliste a demandé vendredi soir au secrétaire à la Sécurité intérieure, Markwayne Mullin, si le nouvel outil d'IA de la FAA aurait pu contribuer à l'échec des communications, sa réponse a été soigneusement évasive.

"Nous étudions cela", a déclaré Mullin, faisant directement référence au système SMART. Lorsque le journaliste a utilisé le terme « IA », Mullin a noté que l'administration appelle désormais officiellement la technologie « Super Intelligence », ou SI, en vertu d'un décret de septembre – avant d'ajouter : « Vous ne pouvez rien exclure à ce stade. »

Mullin a simultanément cherché à apaiser les craintes quant à la cause, déclarant aux journalistes "c'est juste une panne de télécommunications" et qu'il n'y avait aucune indication d'une "attaque néfaste", selon ABC News. Il n'a également vu aucun lien apparent entre l'arrêt au sol et la panne distincte de Microsoft 365 qui a commencé un jour plus tôt, selon GeekWire.

L’entreprise derrière SMART a rapidement pris ses distances avec son produit face à la perturbation. "L'arrêt au sol actuel n'est pas basé sur ni le résultat du système SMART, d'un quelconque produit d'ASI ou de notre intégration avec la FAA et l'ATC", a déclaré Air Space Intelligence dans un communiqué publié sur X.

Tout le monde ne considère pas le moment comme une coïncidence. "Je ne sais pas s'ils sont liés", a déclaré Mary Schiavo, ancienne inspectrice générale du ministère des Transports, sur CNN. "Mais c'est tout simplement une trop grande coïncidence s'ils ont essayé de lancer ce mouvement aujourd'hui – et maintenant nous avons des problèmes avec le système."

Les contrôleurs ont signalé des problèmes il y a des semaines

Les événements de vendredi ont eu un poids supplémentaire car le personnel de l'aviation avait déjà sonné l'alarme par écrit à propos de SMART. En octobre, plus de deux douzaines de législateurs ont écrit au secrétaire aux Transports Sean Duffy et à l'administrateur de la FAA Bryan Bedford, relayant les inquiétudes des contrôleurs aériens concernant le déploiement. Cette lettre, telle que rapportée par le Latin Times, indiquait que « le personnel de première ligne en matière de sécurité aérienne du pays n'avait apparemment que peu ou pas de contribution au développement de SMART et avait reçu une formation et des informations limitées au cours du processus de déploiement actuel ».

Les contrôleurs ont spécifiquement averti que SMART pourrait « interférer avec la prise de décision des contrôleurs aériens expérimentés » – ou, dans un scénario plus alarmant, qu’un système d’IA traitant d’énormes volumes de données en direct pourrait halluciner des résultats confiants mais incorrects dans un environnement critique pour la sécurité. Les législateurs, dont le représentant Don Beyer, avaient signalé les risques de sécurité de l'IA de la FAA des semaines avant la perturbation, et vendredi, les membres du Congrès des deux partis ont commencé à exiger des réponses sur ce qui n'allait pas.

Pourquoi c'est important au-delà d'un mauvais après-midi

Quelle que soit la conclusion finale des enquêteurs, l’incident constitue un test de résistance pour la volonté plus large d’intégrer l’IA dans les infrastructures critiques pour la sécurité. Le Congrès a approuvé l'année dernière 12,5 milliards de dollars pour moderniser le système de contrôle du trafic aérien du pays, en remplaçant les câblages en cuivre vieillissants par des fibres optiques, en supprimant les anciens systèmes radio et en installant de nouvelles plates-formes informatiques sur le réseau. Le secrétaire aux Transports, Duffy, a déclaré publiquement que 30 milliards de dollars supplémentaires seraient nécessaires pour terminer le travail. SMART est un élément visible de cette refonte.

La panne NOTAM de 2023, attribuée à un seul fichier de base de données corrompu qui s'est propagé dans le système de sauvegarde, a démontré que les pannes dans les infrastructures aéronautiques ont tendance à trouver des lacunes que les architectes n'avaient pas prévues. Un tout nouveau système de conseil s'appuyant sur 200 flux de données en direct - y compris le personnel des contrôleurs et les communications des installations - superposé à un espace aérien national en direct est précisément le type d'interaction que les enquêteurs devront désormais modéliser, selon l'analyse du Latin Times sur l'orientation de l'enquête.

Pour l’instant, la cause officielle reste non identifiée. Ce que l’on sait, c’est que la panne impliquait une infrastructure de communication à laquelle SMART, en tant que conseiller en routage et en planification, ne touche pas directement – ​​un détail qui, s’il était confirmé, ne serait pas le système d’IA comme point d’origine. Mais cet épisode est déjà devenu une étude de cas sur la façon dont les États-Unis déploient l’IA dans des systèmes où le coût d’une mauvaise journée se mesure en milliers de vols annulés, et où « on ne peut rien exclure » est la réponse la plus honnête qu’un responsable puisse donner.

---

Gardez une longueur d'avance sur l'IA

Recevez les dernières actualités, analyses et avancées en matière d'IA, le tout en un seul endroit.

Lire plus d'actualités sur l'IA →