Tej wiosny armia Stanów Zjednoczonych była bliżej bezpośredniej konfrontacji z Chinami, niż prawie ktokolwiek przypuszczał, a według opublikowanego w piątek ekskluzywnego artykułu CNN przyczyną była halucynacja sztucznej inteligencji.
W raporcie szczegółowo opisano, jak dokument wywiadowczy wygenerowany za pomocą chatbota zapoczątkował łańcuch wydarzeń, w wyniku których uzbrojony personel USA przygotowywał się do wejścia na pokład chińskiego statku na Bliskim Wschodzie w przekonaniu, że statek przewozi elementy programu broni nuklearnej. Według źródeł zaznajomionych z operacją samoloty wojskowe były już w powietrzu. Więcej kontekstu na ten temat znajdziesz w naszych wiadomości AI.
Misję przerwano dopiero tuż przed planowanym przechwyceniem, kiedy urzędnicy zagłębili się w raport i odkryli, że zawarte w nim główne twierdzenie – to, które zmobilizowało armię amerykańską – było błędne.
Jedno ze źródeł zaznajomionych z tym odcinkiem określiło raport wywiadu dla CNN jako „całkowicie fałszywy”. To także, jak podało źródło, „prawie rozpoczęło wojnę”. Jakakolwiek operacja USA przeciwko chińskiemu statkowi mogła przerodzić się w konflikt zbrojny między obydwoma narodami.
Jak roszczenie Chatbota stało się operacją wojskową
Epizod ten rozpoczął się wiosną tego roku, podczas wojny z Iranem, kiedy w armii amerykańskiej zaczął krążyć raport wywiadu. W dokumencie stwierdzono, że chiński statek na Bliskim Wschodzie przewoził komponenty programu broni nuklearnej, co natychmiast uruchomiło sygnały alarmowe.
Według CNN raport został sporządzony przez analityka z amerykańskiego dowództwa operacji specjalnych, który zadał chatbotowi pytanie dotyczące doniesień wywiadowczych zawartych w manifeście statku – raporty te pochodziły z amerykańskiego Dowództwa Operacji Specjalnych na Pacyfiku z siedzibą na Hawajach. Nie jest jasne, czy chatbot był produktem dostępnym na rynku, czy narzędziem rządu USA. Były wyższy rangą urzędnik amerykański zaznajomiony z systemami sztucznej inteligencji używanymi przez analityków wojskowych i wywiadowczych przedstawił CNN bez ogródek ocenę wewnętrznej oferty rządu: „Narzędzia wewnętrzne to w większości kopie materiałów komercyjnych ze szminką”.
Chatbot połączył dane wywiadowcze typu open source z tajnymi danymi wywiadowczymi będącymi w posiadaniu rządu i doszedł do fatalnego wniosku na temat ładunku statku. Następnie analityk po raz drugi wykorzystał sztuczną inteligencję, aby umieścić ustalenia w standardowym raporcie wywiadu – takim, do którego funkcjonariusze wojskowi są przyzwyczajeni ufać – i rozpowszechnił go.
Z CNN rozmawiały cztery źródła zaznajomione z odcinkiem. Według dwóch z nich uzbrojeni członkowie armii amerykańskiej przygotowywali się do wejścia na statek, gdy doniesienia się rozpadły. CNN nie było w stanie dowiedzieć się, czym właściwie był błędnie zidentyfikowany ładunek. Dowództwo Operacji Specjalnych USA na Pacyfiku i Pentagon nie odpowiedziały na prośbę CNN o komentarz.
Strategia przyspieszenia spotyka się z rzeczywistością
Sytuacja niemal niecelna ma miejsce w momencie, gdy Pentagon stara się wplecić sztuczną inteligencję w niemal każdy aspekt swojej pracy – analizując ogromne ilości nieprzetworzonych danych wywiadowczych, wybierając cele ataków i zajmując się bardziej przyziemnymi zadaniami, takimi jak budżetowanie, logistyka i łańcuchy dostaw.
W styczniu sekretarz obrony Pete Hegseth opublikował departamentową „Strategię przyspieszenia sztucznej inteligencji”, mającą na celu przyspieszenie przyjęcia sztucznej inteligencji w wojsku.
„Uwolnimy eksperymenty, wyeliminujemy bariery biurokratyczne, skoncentrujemy nasze inwestycje i zademonstrujemy podejście do realizacji niezbędne do zapewnienia nam przewodnictwa w wojskowej sztucznej inteligencji” – powiedział Hegseth w przemówieniu ogłaszającym strategię.
Załączona notatka idzie dalej i nakazuje departamentowi udostępnienie sztucznej inteligencji za pośrednictwem kilku programów w celu „demokratyzacji eksperymentów i transformacji sztucznej inteligencji w całym Departamencie poprzez oddanie wiodących na świecie amerykańskich modeli sztucznej inteligencji bezpośrednio w ręce naszych trzech milionów personelu cywilnego i wojskowego, na wszystkich poziomach klasyfikacji”.
Jednak wysiłki te są zdecentralizowane, powiedziało CNN wielu urzędników amerykańskich, a różne części rządu korzystają z różnych narzędzi w ramach różnych poleceń i standardów bezpieczeństwa. Nie ma jednego zestawu standardów weryfikacji informacji generowanych przez te narzędzia, a niezawodność różnych systemów jest bardzo zróżnicowana.
Targetowanie wiąże się z ryzykiem
Analitycy od dawna obawiali się, że sztuczna inteligencja może przyczynić się do katastrofalnych błędów w obliczeniach, jeśli państwa narodowe będą działać w oparciu o słabe lub uszkodzone dane. Epizod z chińskim statkiem to udokumentowany przypadek wystąpienia dokładnie tego rodzaju awarii w czasie rzeczywistym i braku zabezpieczenia w ostatniej chwili.
„Sztuczna inteligencja w zakresie namierzania zdecydowanie zyskuje na popularności i nie ma realnych wskazówek, w jaki sposób posiadanie człowieka na bieżąco zapobiegnie ofiarom cywilnym lub bratobójstwu” – powiedziało CNN inne źródło zaznajomione z obecną polityką wojska.
Według doniesień CNN rodzaj halucynacji, który spowodował fałszywe twierdzenie, nie był odosobnionym przypadkiem w społeczności wywiadowczej, odkąd narzędzia sztucznej inteligencji zaczęły rozprzestrzeniać się w rządzie. Kilka źródeł wskazało również na ryzyko kulturowe: młodsi analitycy, opisywani jako osoby, które znają te narzędzia, chętniej obdarzają je bezkrytycznym zaufaniem, a presja szybszego generowania informacji wywiadowczych pozostawia więcej miejsca na błędy.
„Sztuczna inteligencja pozwala szybciej wpaść na zły pomysł” – podało jedno ze źródeł.
Bardziej bezpośrednie ryzyko niż superinteligencja
Od tygodni Waszyngton pochłonęła debata na temat długoterminowego ryzyka związanego ze sztuczną inteligencją po serii złowieszczych ostrzeżeń publicznych ze strony inżynierów i dyrektorów technologicznych z Doliny Krzemowej dotyczących systemów, które mogą uwolnić się od ludzkich ograniczeń. Raport CNN podkreśla inne, bardziej bezpośrednie niebezpieczeństwo: ludzie podejmują katastrofalne decyzje w oparciu o niedokładne lub wprowadzające w błąd wyniki sztucznej inteligencji – właśnie teraz, w środku prawdziwych napięć geopolitycznych.
Tej wiosny nie padły żadne strzały i do abordażu nigdy nie doszło. Ale ten epizod stanowi najjaśniejszy jak dotąd przykład na to, że błędy wygenerowane maszynowo, po przedostaniu się do oficjalnych raportów, mogą przedostać się przez najpotężniejszy aparat wojskowy na świecie aż do krawędzi konfliktu zbrojnego między mocarstwami nuklearnymi – bez stałego standardu weryfikacji, który mógłby zatrzymać następny.
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →
