Federalna Administracja Lotnicza wstrzymała w piątkowe popołudnie wszystkie odlatujące loty komercyjne w Stanach Zjednoczonych, nakazując ogólnokrajowy przystanek naziemny, który unieruchomił podróżnych na lotniskach od wybrzeża do wybrzeża – a zbieg okoliczności sprawił, że awaria infrastruktury stała się federalnym dochodzeniem w sprawie tego, czy zupełnie nowy system sztucznej inteligencji agencji odegrał jakąś rolę.
FAA zarządziła przystanek naziemny około godziny 16:00. Według „New York Post” ET 13 listopada, powołując się na „nadzwyczajne okoliczności” i „względy bezpieczeństwa”. Wczesne alerty nie zawierały zbyt wielu szczegółów, a agencja nie powiązała od razu zakłócenia ze SMART – systemem ruchu lotniczego wspieranym przez sztuczną inteligencję, który rozszerzyła na wszystkie swoje centra kontroli zaledwie trzy dni wcześniej. Aby móc stale relacjonować tę historię i inne główne wydarzenia związane ze sztuczną inteligencją, śledzimy rozwój śledztwa.
Co się wydarzyło w piątek
Zakłócenia były ogromne. Odloty zostały wstrzymane na każdym lotnisku w USA, co jest niezwykłym krokiem, jakiego kraj nie widział od stycznia 2023 r., kiedy awaria systemu powiadamiania o misjach lotniczych (NOTAM) FAA uziemiła loty w całym kraju. Do piątkowego wieczoru dane branży lotniczej cytowane w głównych punktach sprzedaży wykazały, że około 10 000 lotów było opóźnionych, a około 4700 odwołanych, a linie lotnicze ostrzegały, że powrót do normalności potrwa przez cały weekend, ponieważ załogi osiągną limity godzin pracy, a samoloty pozostaną na nieodpowiednich pozycjach.
Ostatecznie FAA obwiniła za zatrzymanie problemy telekomunikacyjne. W doniesieniach Reutersa i The Washington Post opisano przerwę w komunikacji w ruchu lotniczym, a późniejsze raporty wskazywały, że awaria dotyczyła systemów częstotliwości radiowej wykorzystywanych przez pilotów i kontrolerów do komunikacji. Zalecenie dotyczące przystanku naziemnego było początkowo podawane do 23:30. ET, chociaż urzędnicy ostrzegli, że znacznik czasu nie jest gwarantowanym czasem wznowienia. Agencja zniosła zatrzymanie w piątek wieczorem, ale dopiero po tym, jak incydent wywołał pytania na najwyższych szczeblach rządowych.
System SMART został uruchomiony kilka dni wcześniej
Powodem kontroli jest czas. Według „Washington Times” i „New York Post” 10 listopada – trzy dni przed lądowaniem – FAA rozszerzyła SMART, skrót od strategicznego zarządzania przestrzenią powietrzną, trasami i trajektoriami, na wszystkie 22 centra kontroli ruchu na trasach lotniczych.
SMART został opracowany w ramach 12-letniego kontraktu o wartości 875 milionów dolarów przyznanego rządowemu wykonawcy Air Space Intelligence. System łączy około 200 bieżących strumieni danych – wzorców pogody, tras lotów, przepływu ruchu, wskaźników personelu kontrolerów i innych – w jedną platformę zaprojektowaną w celu przeniesienia zarządzania ruchem lotniczym z modelu reaktywnego na model predykcyjny. Generuje zalecenia dotyczące tras i harmonogramów, które specjaliści FAA w Waszyngtonie przeglądają przed przesłaniem ich do Centrum Dowodzenia Systemem Kontroli Ruchu Powietrznego w Warrenton w Wirginii; Następnie kierownictwo każdej lokalnej placówki decyduje, czy przyjąć, czy odrzucić każdą sugestię.
Co najważniejsze, FAA wyraźnie stwierdziła, że SMART jest warstwą doradczą, a nie autonomiczną. Agencja stwierdziła, że system nie może zastąpić ludzkich kontrolerów i nie może przejąć kontroli nad statkiem powietrznym. Jednak platforma faktycznie znajduje się na przecięciu ogromnej ilości bieżących danych operacyjnych – i to właśnie to skrzyżowanie jest dokładnie tym, czego obecnie szukają śledczy.
Śledczy nie wykluczą sztucznej inteligencji
Kiedy w piątkowy wieczór reporter zapytał Sekretarza Bezpieczeństwa Wewnętrznego Markwayne’a Mullina, czy nowe narzędzie sztucznej inteligencji FAA mogło przyczynić się do awarii komunikacji, jego odpowiedź była ostrożnie niezobowiązująca.
„Przyglądamy się temu” – powiedział Mullin, odnosząc się bezpośrednio do systemu SMART. Kiedy reporter użył terminu „AI”, Mullin zauważył, że administracja oficjalnie nazywa tę technologię „Super Inteligencją” lub SI, zgodnie z wrześniowym rozporządzeniem wykonawczym, po czym dodał: „Na tym etapie nie można niczego wykluczyć”.
Mullin jednocześnie starał się uspokoić obawy co do przyczyny, mówiąc reporterom, że „to tylko awaria telekomunikacji” i że nic nie wskazuje jeszcze na „nikczemny atak” – według ABC News. Według GeekWire nie widział także wyraźnego związku między zatrzymaniem naziemnym a oddzielną awarią Microsoft 365, która rozpoczęła się dzień wcześniej.
Firma stojąca za SMART szybko podjęła działania, aby zdystansować swój produkt od zakłóceń. „Obecny przystanek naziemny nie jest oparty na systemie SMART ani nie jest wynikiem działania systemu SMART, żadnego produktu ASI ani naszej integracji z FAA i ATC” – stwierdził Air Space Intelligence w oświadczeniu przesłanym do X.
Nie wszyscy traktują ten moment jako zbieg okoliczności. „Nie wiem, czy są one powiązane” – powiedziała w CNN była inspektor generalna Departamentu Transportu Mary Schiavo. „Ale to zbyt duży zbieg okoliczności, że próbowali rozpocząć tę przeprowadzkę dzisiaj, a teraz mamy problemy z systemem”.
Kontrolerzy zgłosili obawy kilka tygodni temu
Piątkowe wydarzenia miały dodatkową wagę, ponieważ pracownicy lotnictwa już pisemnie podnieśli alarm dotyczący SMART. W październiku ponad dwudziestu prawodawców napisało do Sekretarza Transportu Seana Duffy’ego i administratora FAA Bryana Bedforda, przekazując obawy kontrolerów ruchu lotniczego dotyczące rozmieszczenia. Jak donosi Latin Times, w piśmie tym stwierdzono, że „krajowi pracownicy pierwszej linii bezpieczeństwa lotniczego najwyraźniej mieli niewielki lub żaden wkład w rozwój SMART i otrzymali ograniczone szkolenia i informacje w trakcie obecnego procesu rozmieszczania”.
Kontrolerzy szczególnie ostrzegli, że SMART może „zakłócać proces podejmowania decyzji przez doświadczonych kontrolerów ruchu lotniczego” lub, w bardziej alarmującym scenariuszu, że system sztucznej inteligencji przetwarzający ogromne ilości bieżących danych może powodować halucynacje pewnych, ale nieprawidłowych wyników w środowisku o krytycznym znaczeniu dla bezpieczeństwa. Ustawodawcy, w tym republikanin Don Beyer, na kilka tygodni przed zakłóceniami sygnalizowali zagrożenia dla bezpieczeństwa AI FAA, a w piątek członkowie Kongresu obu partii zaczęli domagać się odpowiedzi na temat tego, co poszło nie tak.
Dlaczego to ma znaczenie poza jednym złym popołudniem
Niezależnie od ostatecznych wniosków śledczych, incydent stanowi test warunków skrajnych dla szerszych działań mających na celu osadzenie sztucznej inteligencji w infrastrukturze o krytycznym znaczeniu dla bezpieczeństwa. W ubiegłym roku Kongres zatwierdził kwotę 12,5 miliarda dolarów na modernizację krajowego systemu kontroli ruchu lotniczego — wymianę starzejącego się okablowania miedzianego na światłowody, wycofywanie starych systemów radiowych i instalację nowych platform obliczeniowych w sieci. Sekretarz transportu Duffy publicznie oświadczył, że na ukończenie zadania potrzebne będzie kolejne 30 miliardów dolarów. SMART jest jednym z widocznych elementów tego remontu.
Awaria NOTAM w 2023 r., powiązana z pojedynczym uszkodzonym plikiem bazy danych, który przedostał się do systemu kopii zapasowych, pokazała, że awarie w infrastrukturze lotniczej zwykle powodują znalezienie luk, których nie planowali architekci. Jak wynika z analizy kierunku dochodzenia przeprowadzonej przez Latin Times, zupełnie nowy system doradczy wykorzystujący 200 strumieni danych na żywo – obejmujący personel kontrolerów i komunikację z obiektem – nałożony na aktywną krajową przestrzeń powietrzną. To dokładnie ten rodzaj interakcji, który śledczy będą teraz musieli modelować.
Na razie oficjalna przyczyna pozostaje nieznana. Wiadomo, że awaria dotyczyła infrastruktury komunikacyjnej, której SMART, jako doradca ds. routingu i planowania, nie dotyka bezpośrednio – szczegół, który, jeśli zostanie potwierdzony, wskazywałby na system sztucznej inteligencji jako punkt początkowy. Jednak ten odcinek stał się już studium przypadku pokazującym, jak Stany Zjednoczone wdrażają sztuczną inteligencję w systemach, w których koszt złego dnia mierzony jest w tysiącach odwołanych lotów i gdzie „nie można niczego wykluczyć” jest najbardziej szczerą odpowiedzią, jakiej może udzielić urzędnik.
---
Wyprzedź sztuczną inteligencjęOtrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.
Przeczytaj więcej aktualności o sztucznej inteligencji →
