Wojsko amerykańskie prawie weszło na pokład chińskiego statku w związku z raportem wywiadu opartym na halucynacjach AI

Jak wynika z opublikowanego w czwartek ekskluzywnego artykułu CNN, wojsko amerykańskie było niebezpiecznie bliskie przechwycenia chińskiego statku na podstawie raportu wywiadu wygenerowanego za pomocą chatbota opartego na sztucznej inteligencji, który okazał się całkowicie fałszywy.

Epizod, opisany CNN przez cztery źródła zaznajomione ze sprawą, rozpoczął się wiosną tego roku – w środku wojny z Iranem – kiedy po armii amerykańskiej rozesłał się raport, w którym stwierdzono, że chiński statek na Bliskim Wschodzie przewoził elementy programu broni nuklearnej. Raport natychmiast wszczął alarm, a wojsko wkroczyło do akcji, planując przechwycenie statku. Aby regularnie relacjonować takie historie, jak ta, śledź Wiadomości AI w miarę ich rozwoju.

Samoloty w powietrzu, przyjęcie na pokład gotowe

Według dwóch źródeł CNN uzbrojeni członkowie armii amerykańskiej przygotowywali się do wejścia na pokład statku. Jedno ze źródeł podało, że samoloty wojskowe były już w powietrzu.

Dopiero tuż przed planowaną operacją urzędnicy zagłębili się w raport – sporządzony przez analityka z dowództwa operacji specjalnych – i odkryli, że został on wygenerowany przy pomocy sztucznej inteligencji, a chatbot, z którego korzystał analityk, błędnie zidentyfikował materiał przewożony na statku. CNN podało, że nie było w stanie dowiedzieć się, czym tak naprawdę był błędnie zidentyfikowany ładunek.

Jedno ze źródeł określiło raport jako „całkowicie fałszywy”. To także, jak podało źródło, „prawie rozpoczęło wojnę” – ponieważ jakakolwiek operacja USA przeciwko chińskiemu statkowi mogła grozić przekształceniem się w konflikt zbrojny między obydwoma narodami.

Jak powstał fałszywy raport

Analityk zapytał chatbota o raporty wywiadowcze dotyczące manifestu statku pochodzącego z amerykańskiego Dowództwa Operacji Specjalnych na Pacyfiku z siedzibą na Hawajach. CNN podało, że nie jest jasne, czy chatbot był produktem dostępnym na rynku, czy narzędziem rządu USA.

Bot połączył dane wywiadowcze pochodzące z otwartego źródła z tajnymi sygnałami znajdującymi się w zasobach rządowych i doszedł do fatalnego wniosku na temat materiałów znajdujących się na pokładzie statku. Następnie analityk po raz drugi użył sztucznej inteligencji, aby umieścić ustalenia w standardowym raporcie wywiadowczym, takim, któremu ufają funkcjonariusze wojskowi, i rozpowszechnił go w całym systemie.

Dowództwo Operacji Specjalnych USA na Pacyfiku i Pentagon nie odpowiedziały na prośbę CNN o komentarz.

Wyścigi wojskowe mające na celu przyjęcie sztucznej inteligencji

Sytuacja, w której prawie nie doszło do skutku, ma miejsce w momencie, gdy urzędnicy amerykańskiej społeczności wojskowej i wywiadowczej naciskają na włączenie sztucznej inteligencji do niemal każdego aspektu swojej pracy – od analizowania ogromnych ilości nieprzetworzonych danych wywiadowczych i wybierania celów ataków, po przyziemne zastosowania, takie jak budżetowanie, logistyka i łańcuchy dostaw.

W styczniu sekretarz obrony Pete Hegseth opublikował departamentową „Strategię przyspieszenia sztucznej inteligencji”, mającą na celu przyspieszenie wdrożenia sztucznej inteligencji przez wojsko. „Uwolnimy eksperymenty, wyeliminujemy bariery biurokratyczne, skoncentrujemy nasze inwestycje i zademonstrujemy podejście do realizacji niezbędne do zapewnienia nam przewodnictwa w wojskowej sztucznej inteligencji” – powiedział Hegseth w przemówieniu ogłaszającym strategię.

Strategia wyraźnie wzywa do demokratyzacji dostępu, nakazując departamentowi oddanie „wiodących na świecie amerykańskich modeli sztucznej inteligencji bezpośrednio w ręce naszych trzech milionów personelu cywilnego i wojskowego, na wszystkich poziomach tajności”.

Brak jednego zestawu reguł

Jednak wysiłki te są zdecentralizowane, powiedziało CNN wielu urzędników amerykańskich, a różne części rządu korzystają z różnych narzędzi w ramach różnych poleceń i standardów bezpieczeństwa. Nie ma jednego zestawu standardów dotyczących sposobu, w jaki Stany Zjednoczone weryfikują informacje generowane przez te narzędzia, a niezawodność różnych systemów jest bardzo zróżnicowana.

„Narzędzia wewnętrzne to w większości kopie materiałów komercyjnych ze szminką” – powiedział CNN były wyższy rangą urzędnik USA zaznajomiony z systemami sztucznej inteligencji używanymi przez analityków wojskowych i wywiadowczych.

Kierowanie na sztuczną inteligencję „przyspiesza” przy niewielkich wskazówkach

Źródła podają, że wojsko szybko zwraca się w stronę sztucznej inteligencji, aby pomóc w namierzaniu celów – w obszarze niosącym się z oczywistym ryzykiem popełnienia śmiertelnych błędów. „Sztuczna inteligencja w zakresie namierzania zdecydowanie zyskuje na popularności i nie ma realnych wskazówek, w jaki sposób posiadanie człowieka na bieżąco zapobiegnie ofiarom cywilnym lub bratobójstwu” – powiedziało CNN inne źródło zaznajomione z obecną polityką wojska.

Analitycy od dawna ostrzegali, że sztuczna inteligencja może przyczynić się do katastrofalnych błędów w obliczeniach, jeśli państwa narodowe będą opierać się na słabych lub uszkodzonych danych – dokładnie taki rodzaj błędu w obliczeniach, który mógł skłonić Stany Zjednoczone do ostrzału chińskiego statku w oparciu o niedokładne informacje.

Według CNN rodzaj halucynacji towarzyszących fałszywemu raportowi o statku nie był odosobnionym przypadkiem w społeczności wywiadowczej, odkąd narzędzia te zaczęły rozprzestrzeniać się za pośrednictwem rządu.

„AI pozwala szybciej wpaść na zły pomysł”

Od tygodni decydenci w Waszyngtonie intensywnie debatują nad sztuczną inteligencją po serii złowieszczych ostrzeżeń z Doliny Krzemowej dotyczących możliwości uwolnienia się sztucznej inteligencji od ludzkich ograniczeń. Jednak incydent z chińskim statkiem uwydatnia inne, bardziej bezpośrednie ryzyko: istoty ludzkie podejmują katastrofalne decyzje w oparciu o niedokładne lub wprowadzające w błąd informacje generowane przez systemy sztucznej inteligencji.

Kilka źródeł poinformowało CNN, że zwłaszcza młodsi analitycy – znający te narzędzia – chętniej ufają im bezkrytycznie oraz że sztuczna inteligencja zwiększyła presję na analityków, aby szybciej tworzyli i rozpowszechniali informacje wywiadowcze, otwierając drzwi do błędów.

„Sztuczna inteligencja pozwala szybciej wpaść na zły pomysł” – podało jedno ze źródeł.

Odcinek ten prawdopodobnie podsyci i tak już gorącą debatę na temat tego, jak szybko armia amerykańska powinna włączyć sztuczną inteligencję do swoich najbardziej wrażliwych procesów oraz jakie kroki weryfikacyjne powinny być obowiązkowe, zanim raportowanie wspomagane sztuczną inteligencją będzie mogło skierować żołnierzy, samoloty i uzbrojony personel do potencjalnej operacji bojowej. Na razie szczegóły sugerują, że istniejące zabezpieczenia są mozaiką i że w tym przypadku różnica między rutynowym raportem wywiadu a incydentem międzynarodowym sprowadza się do urzędników, którym zdarzyło się dwukrotnie sprawdzić.

Wyprzedź sztuczną inteligencję

Aby uzyskać więcej raportów na temat polityki sztucznej inteligencji, bezpieczeństwa narodowego i modeli kształtujących oba, [przeczytaj więcej aktualności na temat sztucznej inteligencji] (https://aibuzzwire.news).