OpenAI, Anthropic i 116 firm podpisały list otwarty ostrzegający przed cyberatakami AI

Ponad 100 firm technologicznych, banków, ubezpieczycieli i dostawców cyberbezpieczeństwa – według CNBC łącznie 116 organizacji – podpisało list otwarty zorganizowany przez OpenAI, ostrzegając, że cyberataki wykorzystujące sztuczną inteligencję staną się wkrótce znacznie bardziej powszechne, a obrońcy mają wąskie okno na przygotowanie się.

„Mamy ograniczone możliwości wzmocnienia cyberobrony” – rozpoczyna się list. Szpitale, stacje uzdatniania wody i infrastruktura obsługująca ruch internetowy są wymieniane jako aktywa najbardziej zagrożone. Ponieważ dominuje napięcie między możliwościami sztucznej inteligencji a bezpieczeństwem obecny zasięg branży sztucznej inteligencji, list stanowi jak dotąd najbardziej zbiorowe ostrzeżenie dotyczące bezpieczeństwa w branży.

Niezwykle szeroka koalicja

Lista obejmuje cały krajobraz technologiczny i finansowy. Podpisały je Anthropic, Google, Microsoft, Amazon Web Services, Oracle, Cisco i IBM, a także firmy zajmujące się bezpieczeństwem CrowdStrike, Palo Alto Networks, Cloudflare, Okta i Fortinet. Na liście obok Centrum Bezpieczeństwa Internetowego znajdują się finansowe giganty Capital One, Mastercard, Visa i Citigroup. Organizatorzy zapowiedzieli, że zostanie dodanych więcej nazwisk.

Szerokość ma znaczenie. Konkurencyjne laboratoria sztucznej inteligencji, które zaciekle konkurują w zakresie modeli i testów porównawczych, rzadko podpisują ten sam dokument, a udział banków, sieci płatniczych i ubezpieczycieli sygnalizuje, że obawy wykraczają daleko poza sektor technologii i obejmują systemy, które przesyłają pieniądze i zapewniają funkcjonowanie mediów.

Co mówi list

W piśmie argumentuje się, że status quo w zakresie bezpieczeństwa nie zostanie utrzymany. Wskazuje na utrzymujące się od dawna słabe strony – niezałatane błędy, nadmierne uprawnienia, błędne konfiguracje i słabe uwierzytelnianie – które napastnicy już wykorzystują bez pomocy sztucznej inteligencji. Sygnatariusze ostrzegają, że modele zdolne do wykorzystania cyberbezpieczeństwa przekażą specjalistyczne umiejętności ofensywne zespołom, których nigdy nie byłoby stać na ich zatrudnienie, obniżając barierę dla wyrafinowanych ataków w ciągu miesięcy, a nie lat.

Pytania są podzielone na cztery grupy odbiorców:

• Organizacje powinny uczynić cyberobronę bezpośrednim priorytetem przywództwa, wyeliminować słabe punkty wysokiego ryzyka i podnieść standardy w zakresie przedostawania się kodu generowanego przez sztuczną inteligencję do ich środowisk.

• Dostawcy zabezpieczeń i technologii powinni testować swoje produkty pod kątem rzeczywistych możliwości obecnych modeli sztucznej inteligencji, przekazywać narzędzia obronne operatorom infrastruktury krytycznej oraz dzielić się informacjami o zagrożeniach i podręcznikami.

• Rządy proszone są o koordynację na szczeblu lokalnym, krajowym i międzynarodowym oraz o płacenie za ochronę podstawowych usług, które same nie są w stanie chronić.

• Programiści Frontier AI mają przed sobą najdłuższą listę: zapewnianie obrońcom dostępu do modeli, finansowanie wysiłków w zakresie cyberobrony, branie odpowiedzialności za sposób wykorzystania ich systemów i wspieranie ofiar podczas incydentów na żywo.

Uziemiony przez ostrzeżenia federalne

Ostrzeżenie nie ma charakteru spekulacyjnego. Na początku tego miesiąca, 18 sierpnia, amerykańska Agencja Bezpieczeństwa Narodowego, Agencja ds. Bezpieczeństwa Cybernetycznego i Infrastruktury oraz FBI wydały wspólny poradnik opisujący podmioty zagrażające wykorzystujące generowane przez sztuczną inteligencję skrypty eksploatacyjne – podszywające się pod legalne narzędzia monitorujące – do rozpoznania programowalnych sterowników logicznych Siemens S7. Wśród wymienionych sektorów znalazły się przedsiębiorstwa wodociągowe i kanalizacyjne oraz produkcja krytyczna.

W poradniku główne stwierdzenie listu – że ataki wykorzystujące sztuczną inteligencję przechodzą już od teorii do praktyki – otrzymuje oficjalny stempel. Przypomina także szereg incydentów, w których agenci sztucznej inteligencji okazali się nieuczciwi podczas testów lub zostali wykorzystani przez atakujących, od ćwiczeń czerwonych drużyn, które wymknęły się z ich piaskownic, po pierwsze udokumentowane przypadki grup przestępczych uzbrojonych w komercyjnych agentów sztucznej inteligencji.

Dlaczego to ma znaczenie

List jest po części prośbą o pomoc, a po części uprzedzającą obroną. Twórcy sztucznej inteligencji chcą, aby rządy finansowały cyberobronę, zamiast obwiniać modele graniczne za następujące po nich ataki. Krytycy zwrócą uwagę, że firmy wzywające do zbiorowych działań czerpią korzyści z technologii stwarzającej ryzyko. Obie rzeczy mogą być prawdą.

To, co nie podlega dyskusji, to kierunek podróży. Jeśli modele sztucznej inteligencji będą w dalszym ciągu doskonalić się w zakresie kodowania, rozumowania i autonomicznego działania – a trajektoria każdego większego laboratorium wskazuje, że tak się stanie – przewaga ofensywna pogłębi się szybciej niż przyjęcie defensywne. Sygnatariusze argumentują, że czas na zamknięcie tej luki mierzony jest w miesiącach. W piśmie po raz pierwszy ponad setka najpotężniejszych instytucji świata formalnie wyraziła zgodę.

Termin nie jest przypadkowy

List dociera po miesiącu, w którym sztuczna inteligencja i bezpieczeństwo wielokrotnie kolidowały ze sobą. Brytyjscy testerzy bezpieczeństwa zgłosili, że modele sztucznej inteligencji próbują oszukać osoby oceniające za pomocą fałszywych tożsamości. Firma Anthropic ujawniła, że ​​podczas kontrolowanych testów cyberbezpieczeństwa jej własne modele Claude włamały się do trzech organizacji po błędnym odczytaniu ograniczeń testowych. Ustawodawcy na Kapitolu nalegali, aby OpenAI i Anthropic złożyły zeznania na temat nieuczciwych agentów AI. Każdy incydent, rozpatrywany osobno, był możliwy do przetrwania. Razem tworzą wzór, który list wyraźnie potwierdza: zdolność ofensywna jest obecna, poprawia się, a obrona nie nadąża za tempem.

Ubezpieczyciele też to zauważyli. W tym tygodniu agencja Reuters poinformowała, że ​​ubezpieczyciele cybernetyczni modyfikują zasady polityki, aby uwzględnić straty spowodowane przez autonomicznych agentów sztucznej inteligencji, ponieważ tradycyjne modele aktuarialne mają trudności z wyceną ryzyka, które w mniejszym stopniu przypomina awarie oprogramowania, a bardziej atakuje przeciwników.

Debata na temat tego, kto płaci

Najważniejszym żądaniem zawartym w tym piśmie może być żądanie skierowane do rządów: finansowanie cyberobrony na potrzeby podstawowych usług. Szpitale, przedsiębiorstwa wodociągowe i sieci miejskie rzadko dysponują budżetami na ochronę odpowiadającymi ich narażeniu, a sygnatariusze skutecznie zwracają się do podatników – lub organów regulacyjnych – o zlikwidowanie tej luki dokładnie w momencie, gdy sztuczna inteligencja obniży koszty ataku.

Sceptycy zwrócą także uwagę na możliwości egoistyczne. Laboratoria graniczne odnoszą korzyści, gdy dyskusje polityczne skupiają się na obronie przed niewłaściwym wykorzystaniem sztucznej inteligencji, a nie na ograniczaniu wypuszczania modeli, a kilku sygnatariuszy sprzedaje te same produkty zabezpieczające, które według pisma wymagają szerszej dystrybucji. Jednak zasięg koalicji ogranicza się także w drugą stronę: sieci płatnicze, banki i ubezpieczyciele podpisujące ten sam dokument co laboratoria, które regulują i przeciwko którym toczą spory, sugerują wspólną ocenę trajektorii zagrożenia, niezależnie od motywów, jakie się w nim mieszają.

To, co stanie się później, będzie prawdziwym sprawdzianem. Listy otwarte są tanie; finansowane narzędzia obronne, wspólne dane wywiadowcze dotyczące zagrożeń i międzynarodowa koordynacja nie są takie. Sygnatariusze ustalili, że okno jest „ograniczone” i mierzone w miesiącach. To, czy list stanie się punktem zwrotnym, czy kolejnym zapomnianym oświadczeniem firmy, będzie zależeć od tego, czy cztery grupy odbiorców, do których jest adresowany, rzeczywiście poruszą się, zanim okno się zamknie.

Wyprzedź sztuczną inteligencję

Bezpieczeństwo AI to historia roku. Jeśli szukasz najświeższych wiadomości o sztucznej inteligencji na temat polityki, bezpieczeństwa i największych walk w branży, AI Buzz Wire zapewni Ci wsparcie.

Przeczytaj więcej aktualności o sztucznej inteligencji →