De Federal Aviation Administration stopte vrijdagmiddag elke vertrekkende commerciële vlucht in de Verenigde Staten en vaardigde een landelijke grondstop uit waardoor reizigers op luchthavens van kust tot kust strandden – en de timing heeft een infrastructuurstoring omgezet in een federaal onderzoek naar de vraag of het gloednieuwe kunstmatige intelligentiesysteem van het agentschap een rol heeft gespeeld.

De FAA beval de grondstop rond 16.00 uur. ET op 13 november, onder vermelding van “buitengewone omstandigheden” en “veiligheidsredenen”, aldus de New York Post. Vroege waarschuwingen boden weinig details, en de dienst bracht de verstoring niet onmiddellijk in verband met SMART, het AI-ondersteunde luchtverkeerssysteem dat het slechts drie dagen eerder had uitgebreid naar al zijn controlecentra. Voor voortdurende berichtgeving over dit verhaal en andere belangrijke AI-ontwikkelingen volgen we het onderzoek terwijl het zich ontvouwt.

Wat er vrijdag gebeurde

De verstoring was groot. Op elke Amerikaanse luchthaven werden de vluchten stopgezet, een buitengewone stap die het land niet meer heeft gezien sinds januari 2023, toen een storing in het Notice to Air Missions (NOTAM)-systeem van de FAA vluchten in het hele land aan de grond hield. Vrijdagavond bleek uit tellingen van de luchtvaartindustrie bij grote verkooppunten dat er grofweg 10.000 vluchten waren vertraagd en ongeveer 4.700 geannuleerd. Luchtvaartmaatschappijen waarschuwden dat het herstel zich het hele weekend zou voortzetten, omdat bemanningen de diensttijdlimieten bereikten en vliegtuigen uit positie kwamen.

De FAA gaf de onderbreking uiteindelijk de schuld van een telecommunicatieprobleem. In rapporten van Reuters en The Washington Post werd een storing in de luchtverkeerscommunicatie beschreven, en daaropvolgende rapporten gaven aan dat de storing betrekking had op de radiofrequentiesystemen die piloten en verkeersleiders gebruiken om te communiceren. Het grondstopadvies duurde aanvankelijk tot 23.30 uur. ET, hoewel ambtenaren waarschuwden dat het tijdstempel geen gegarandeerde hervattingstijd was. Het agentschap hief de stop later vrijdagavond op, maar niet voordat het incident aanleiding had gegeven tot vragen op het hoogste bestuursniveau.

Het SMART-systeem ging dagen eerder live

De reden voor het onderzoek is timing. Op 10 november – drie dagen vóór de grondstop – breidde de FAA SMART, een afkorting van Strategic Management of Airspace, Routes and Trajectories, uit naar alle 22 Air Route Traffic Control Centers, aldus de Washington Times en de New York Post.

SMART is ontwikkeld onder een twaalfjarig contract ter waarde van $ 875 miljoen, toegekend aan Air Space Intelligence, een overheidscontractant. Het systeem voegt ongeveer 200 live datastromen – weerpatronen, vliegroutes, verkeersstromen, personeelsgegevens van controllers en meer – samen in één enkel platform dat is ontworpen om het luchtverkeersbeheer te verschuiven van een reactief naar een voorspellend model. Het genereert route- en planningsaanbevelingen die FAA-specialisten in Washington beoordelen voordat ze deze doorsturen naar het Air Traffic Control System Command Center in Warrenton, Virginia; Het leiderschap van elke lokale faciliteit beslist vervolgens of elke suggestie wordt geaccepteerd of afgewezen.

Cruciaal is dat de FAA expliciet heeft gesteld dat SMART een advieslaag is en geen autonome laag. De dienst heeft verklaard dat het systeem menselijke verkeersleiders niet kan vervangen en de controle over een vliegtuig niet kan overnemen. Maar het platform bevindt zich wel op het kruispunt van een enorme hoeveelheid live operationele gegevens – en dat kruispunt is precies waar onderzoekers nu naar kijken.

Onderzoekers zullen de AI niet uitsluiten

Toen een verslaggever vrijdagavond minister van Binnenlandse Veiligheid, Markwayne Mullin, vroeg of de nieuwe AI-tool van de FAA had kunnen bijdragen aan het mislukken van de communicatie, was zijn antwoord zorgvuldig vrijblijvend.

"Daar kijken we naar", zei Mullin, rechtstreeks verwijzend naar het SMART-systeem. Toen de verslaggever de term ‘AI’ gebruikte, merkte Mullin op dat de regering de technologie nu officieel ‘Super Intelligence’ of SI noemt, onder een uitvoerend bevel van september – voordat hij eraan toevoegde: ‘Je kunt op dit moment niets uitsluiten.’

Mullin probeerde tegelijkertijd de angst over de oorzaak te kalmeren door tegen verslaggevers te zeggen dat “het slechts een telecommunicatiestoring was” en dat er nog geen aanwijzingen waren voor een “snode aanval”, aldus ABC News. Volgens GeekWire zag hij ook geen duidelijk verband tussen de grondstop en de afzonderlijke Microsoft 365-storing die een dag eerder begon.

Het bedrijf achter SMART kwam snel in actie om zijn product te distantiëren van de verstoring. “De huidige grondstop is niet gebaseerd op of een resultaat van het SMART-systeem, enig product van ASI of onze integratie met FAA en ATC”, zei Air Space Intelligence in een verklaring aan X.

Niet iedereen beschouwt de timing als toeval. “Ik weet niet of ze met elkaar verbonden zijn”, zei de voormalige inspecteur-generaal van het ministerie van Transport, Mary Schiavo, op CNN. "Maar het is gewoon te veel toeval dat ze vandaag met die beweging probeerden te beginnen - en nu hebben we problemen met het systeem."

Verwerkingsverantwoordelijken hebben weken geleden zorgen gesignaleerd

De gebeurtenissen van vrijdag kregen extra gewicht omdat het luchtvaartpersoneel al schriftelijk alarm had geslagen over SMART. In oktober schreven ruim twintig wetgevers aan minister van Transport Sean Duffy en FAA-beheerder Bryan Bedford, waarin zij de zorgen van luchtverkeersleiders over de inzet uitten. In die brief werd, zoals gerapporteerd door de Latin Times, gesteld dat "het personeel van de frontlinie van de luchtvaartveiligheid blijkbaar weinig tot geen inbreng heeft gehad in de ontwikkeling van SMART en slechts beperkte training en informatie heeft ontvangen tijdens het huidige inzetproces."

De luchtverkeersleiders waarschuwden specifiek dat SMART “de besluitvorming van ervaren luchtverkeersleiders zou kunnen verstoren” – of, in een meer alarmerend scenario, dat een AI-systeem dat enorme hoeveelheden live gegevens verwerkt, zelfverzekerde maar onjuiste uitvoer zou kunnen hallucineren in een veiligheidskritische omgeving. Wetgevers, waaronder vertegenwoordiger Don Beyer, hadden al weken vóór de verstoring de veiligheidsrisico’s van de FAA op het gebied van de veiligheid van de AI opgemerkt, en vrijdag begonnen congresleden van beide partijen antwoorden te eisen over wat er mis was gegaan.

Waarom dit ertoe doet na één slechte middag

Wat de onderzoekers uiteindelijk ook concluderen, het incident is een stresstest voor de bredere impuls om AI te integreren in veiligheidskritische infrastructuur. Het Congres keurde vorig jaar 12,5 miljard dollar goed om het luchtverkeerscontrolesysteem van het land te moderniseren – het vervangen van verouderde koperen bedrading door glasvezel, het uitfaseren van oude radiosystemen en het installeren van nieuwe computerplatforms over het hele netwerk. Minister van Transport Duffy heeft publiekelijk verklaard dat er nog eens 30 miljard dollar nodig zal zijn om de klus te klaren. SMART is een zichtbaar onderdeel van die revisie.

De NOTAM-storing in 2023, die terug te voeren was op een enkel beschadigd databasebestand dat zich in het back-upsysteem verspreidde, toonde aan dat fouten in de luchtvaartinfrastructuur de neiging hebben om gaten te vinden waar architecten niet op hadden gerekend. Een gloednieuw adviessysteem dat is gebaseerd op 200 live datastromen – inclusief personeel van controllers en faciliteitscommunicatie – gelaagd bovenop een live nationaal luchtruim, is precies het soort interactie dat onderzoekers nu zullen moeten modelleren, volgens de analyse van de Latin Times over de richting van het onderzoek.

Voorlopig blijft de officiële oorzaak onbekend. Wat wel bekend is, is dat de storing betrekking had op de communicatie-infrastructuur waar SMART, als routerings- en planningsadviseur, niet direct invloed op heeft – een detail dat, indien bevestigd, zou wegwijzen van het AI-systeem als oorsprongspunt. Maar de aflevering is al een case study geworden van hoe de Verenigde Staten AI inzetten in systemen waar de kosten van een slechte dag worden gemeten in duizenden geannuleerde vluchten, en waar ‘je niets kunt uitsluiten’ het eerlijkste antwoord is dat een functionaris kan geven.

---

Blijf AI een stap voor

Ontvang het laatste AI-nieuws, analyses en doorbraken – allemaal op één plek.

Lees meer AI-nieuws →