Jak wynika z raportu The Washington Sun, powołującego się na trzy źródła zaznajomione z prywatnymi rozmowami, dyrektorzy Wall Street i urzędnicy Agencji Bezpieczeństwa Narodowego powiedzieli członkom Kongresu, że kaskada przerw w technologii w USA, która miała miejsce w tym tygodniu, nie była spowodowana cyberatakami, ale nadzwyczajnymi wysiłkami mającymi na celu załatanie luk wykrytych przez modele sztucznej inteligencji.
Twierdzenie to, jeśli zostanie uzasadnione, oznaczałoby jeden z najwyraźniejszych jak dotąd przypadków skutków drugiego rzędu sztucznej inteligencji destabilizujących infrastrukturę krytyczną – nie dlatego, że modele cokolwiek zaatakowały, ale dlatego, że odkryły tak wiele rzeczywistych słabości, że operatorzy rzucili się, aby je wszystkie naprawić na raz. Więcej kontekstu na ten temat znajdziesz w naszych trendy AI.
Tydzień kaskadowych niepowodzeń
Awarie zaczęły się kumulować 12 listopada i nasilały się w ciągu tygodnia. 13 listopada władze lotnicze Stanów Zjednoczonych zarządziły ogólnokrajowy postój naziemny w związku z awarią technologii komunikacyjnej — co „The Straits Times” określił jako najdłuższe ogólnokrajowe wstrzymanie lotów od ataków z 11 września 2001 roku. Usługa poczty e-mail Microsoft Outlook uległa zakłóceniom, które uniemożliwiły korespondencję wielu amerykańskim firmom, a usługi Apple, w tym iCloud, App Store i Apple Pay, również przestały działać.
16 listopada zamieszanie dotarło do systemu bankowego, a klienci instytucji, w tym JPMorgan Chase, nie mogli uzyskać dostępu do rachunków; bank przypisał problemy z obsługą błędom oprogramowania. 17 listopada sama NSA ogłosiła, że w jej sieci doszło do „tymczasowej degradacji” podczas tak zwanej zaplanowanej rutynowej konserwacji, podkreślając jednocześnie, że „możliwości o znaczeniu krytycznym” pozostały w pełni sprawne.
Urzędnicy konsekwentnie wykluczają wrogi cyberatak. Sekretarz stanu Marco Rubio, pełniący jednocześnie funkcję doradcy ds. bezpieczeństwa narodowego, przyznał, że incydenty były „niepokojące”, ale powiedział reporterom w Manili, gdzie prezydent Donald Trump uczestniczył w konferencji gospodarczej ASEAN: „Nie jesteśmy przedmiotem systemowego ataku. Nie mamy żadnych dowodów ani żadnego powodu, aby sądzić, że którekolwiek z nich są ze sobą powiązane”.
Wyjaśnienie łatania AI
Za kulisami na Kapitolu krążyło inne wyjaśnienie. Według doniesień „The Washington Sun” urzędnicy rządowi i bankowi powiedzieli ustawodawcom, że zakłócenia wynikały z prób naprawienia luk w zabezpieczeniach cybernetycznych zidentyfikowanych przez modele sztucznej inteligencji oraz że wynikający z nich zalew poprawek tymczasowo przytłoczył dotknięte systemy.
„Modele te identyfikują ogromne luki w zabezpieczeniach, co zwiększa pilną potrzebę natychmiastowego załatania” – powiedział portalowi jeden z urzędników Kongresu poinformowany w tej sprawie. „Próbują przepuścić wiele poprawek na raz — więcej, niż system został zaprojektowany”.
Sekretarz ds. bezpieczeństwa wewnętrznego Markwayne Mullin postawił podobną diagnozę w wywiadzie dla CNBC, mówiąc, że organizacje „wypychają nowe technologie na naprawdę stare systemy komputerowe i wydaje się, że to po prostu przytłacza system. ... Będziemy widzieć tego więcej w miarę pojawiania się nowych technologii”.
Konto jest zgodne z dynamicznym zjawiskiem, przed którym ostrzegały zespoły ds. bezpieczeństwa w miarę dojrzewania analizy kodu wspomaganej sztuczną inteligencją: modele, które potrafią skanować ogromne bazy kodu w poszukiwaniu możliwych do wykorzystania błędów, generują wnioski szybciej, niż procesy zarządzania zmianami są w stanie je bezpiecznie wchłonąć. Łatanie samo w sobie jest ryzykowną operacją, a zbyt szybkie wykonywanie zbyt wielu czynności w starzejącej się infrastrukturze może być równie destrukcyjne, jak luki, które usuwa.
Ustawodawcy domagają się odpowiedzi
Reakcja polityczna była szczególnie dwustronna ze względu na swą niecierpliwość. Senator Josh Hawley, republikanin ze stanu Missouri, powiedział reporterom: „Jeśli to wszystko jest zbiegiem okoliczności, to jest to jakby największy zbieg okoliczności w historii świata”, natomiast senator Jack Reed, czołowy Demokrata w Komisji Sił Zbrojnych, przyłączył się do apeli o pełniejsze wyjaśnienie tej prawidłowości.
Trump publicznie zminimalizował ten odcinek. „To tak, jakbyś był duży i potężny i miał wszystkie pieniądze. Takie rzeczy się zdarzają. W porządku” – powiedział prezydent reporterom w Manili. Biały Dom stwierdził, że „nie ma kryzysu”.
Analitycy cytowani w opisie przestojów wskazali na dwa nakładające się czynniki: głębokie redukcje kadrowe w operacjach technologicznych w ostatnich latach oraz przyspieszającą integrację narzędzi sztucznej inteligencji z konserwacją systemów, co mogło sprawić, że infrastruktura krytyczna będzie zarówno mniej odporna, jak i bardziej widocznie niestabilna w przypadku awarii.
Co to oznacza dla branży sztucznej inteligencji
Dla sektora sztucznej inteligencji ten tydzień jest ostrzeżeniem przed tempem operacyjnym, jakie stwarzają narzędzia AI. Te same możliwości modelu, które pozwalają obrońcom znajdować luki w zabezpieczeniach z szybkością maszyny, zmuszają ich również do stosowania harmonogramów naprawczych, do spełnienia których starsze systemy nigdy nie były przystosowane. Kilku dostawców oferuje obecnie ciągłe skanowanie zabezpieczeń oparte na sztucznej inteligencji właśnie dlatego, że wykrywa wady, które ludzie przeoczają — awarie sugerują, że wąskie gardło przeszło od wykrycia do wdrożenia.
Oczekuje się, że prawodawcy zwrócą się do formalnych odpraw na temat fali przestojów, gdy Kongres ponownie skupi się na nadzorze nad infrastrukturą, a zarówno agencje, jak i banki prawdopodobnie staną przed pytaniami dotyczącymi planowania, testowania i ograniczania konserwacji opartej na sztucznej inteligencji. Epizod ten może również zasilić wyłaniającą się debatę regulacyjną na temat tego, czy zmiany w systemach krytycznych wspomagane sztuczną inteligencją powinny być etapowane i ograniczane w tempie, jak inne zmiany operacyjne wysokiego ryzyka.
Na razie loty latają, banki odpowiadają na swoje aplikacje, a NSA twierdzi, że jej systemy o znaczeniu krytycznym działają prawidłowo. Kongres ma wyciągnąć niewygodną lekcję: maszyny wyszukujące wady mogą wyprzedzać instytucje, które je naprawiają.
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →

