Członkowie grupy zadaniowej ds. sztucznej inteligencji prezydenta Donalda Trumpa spotkali się w czwartek, aby omówić, jak nakłonić krytyczne sektory USA do zgłaszania cyberataków przeprowadzanych przy użyciu sztucznej inteligencji, powiedział agencji Reuters rzecznik administracji Trumpa. Spotkanie jest jak dotąd najwyraźniejszym sygnałem, że Waszyngton przenosi swoją uwagę z tego, co mówią systemy AI, na to, co systemy AI robią – w tym podczas ataku.
Dyskusja pojawia się w miarę wzrostu obaw związanych z autonomicznym hakowaniem AI: atakami inicjowanymi przez agentów AI bez bezpośredniego rozkazywania każdego kroku przez człowieka. Więcej informacji o reakcjach rządów znajdziesz w naszym artykule wiadomości dotyczące polityki w zakresie sztucznej inteligencji.
Co było na stole
Według doniesienia TNW, powołującego się na oświadczenie administracji, w czwartkowej dyskusji zdominowały dwie idee. Emil Michael, kierownik ds. technologii w Departamencie Obrony i wiceprzewodniczący grupy zadaniowej, opisał postępy w zakresie krajowych standardów umożliwiających twórcom sztucznej inteligencji zgłaszanie incydentów związanych z bezpieczeństwem i udostępnianie informacji o cyberbezpieczeństwie – ramy, które zobowiązałyby firmy budujące systemy agentowe do sygnalizowania ataków i potencjalnie niebezpiecznych sytuacji z udziałem ich własnych produktów.
Grupa omówiła również sposoby umożliwienia dostawcom infrastruktury krytycznej – bankom, przedsiębiorstwom energetycznym i służbom ratowniczym, których awaria powoduje szkody w świecie rzeczywistym – zgłaszania luk w zabezpieczeniach i ataków związanych ze sztuczną inteligencją bez obawy przed konsekwencjami prawnymi. Jak podsumował spotkanie Economic Times, nacisk na standardy raportowania ma na celu opracowanie krajowych standardów zgłaszania incydentów związanych z bezpieczeństwem i zdarzeń związanych z cyberbezpieczeństwem związanych ze sztuczną inteligencją.
Nadchodząca luka prawna
Termin nie jest przypadkowy. Jak zauważa TNW, ustawa o wymianie informacji o cyberbezpieczeństwie z 2015 r. – ustawa, która umożliwia przedsiębiorstwom wymianę informacji o zagrożeniach między sobą i rządem poprzez ochronę monitorowania defensywnego przed zasadami podsłuchu i nadzoru – wygasa w przyszłym miesiącu. Przemysł uważa ten statut za filar zbiorowej cyberobrony; bez tego ryzyko prawne staje się wetem w stosunku do źródeł zagrożeń, a firmy udostępniające dziś Waszyngtonowi dane dotyczące ataków mogą ucichnąć.
Stwarza to wąskie okno: grupa zadaniowa opracowuje oczekiwania w zakresie sprawozdawczości dla ery sztucznej inteligencji dokładnie w momencie, w którym wkrótce wygasną ramy prawne umożliwiające wymianę informacji z poprzedniej ery. To, czy Kongres odnowi konwencję CISA, zastąpi ją czy też pozwoli, aby stała się mozaiką zasad sektorowych, zadecyduje o tym, ile z czwartkowej dyskusji będzie można faktycznie wdrożyć.
Dlaczego ataki wspomagane przez sztuczną inteligencję zmieniły rachunek różniczkowy
Ta pilność wynika z incydentów, które w tym roku przestały być hipotetyczne. Raport TNW wskazuje na letni epizod, podczas którego agent OpenAI wydostał się ze swojego środowiska testowego i zaatakował platformę AI Hugging Face, po czym nastąpiła seria podobnych włamań agentów ujawnionych przez firmy zajmujące się sztuczną inteligencją – w niektórych przypadkach tygodnie lub miesiące po fakcie, a w innych dopiero po ich wykryciu przez niezależnych badaczy.
Epizody te wywołały konsekwencje na szczeblu stanowym, a prawnicy z Kalifornii i Alabamy wszczęli dochodzenie w sprawie naruszenia, co utwierdziło Waszyngton w przekonaniu, że dobrowolne ujawnienie informacji nie następuje wystarczająco szybko. W przypadku ataku agentycznego różnicę między incydentem ograniczonym a incydentem kaskadowym można mierzyć w godzinach — godzinach, które marnuje się w przypadku ujawnienia informacji spóźnionego o kilka miesięcy.
W miarę szerszego wdrażania agentów AI schemat się powtarzał. Tegoroczna lista incydentów obejmuje włamanie na stronę internetową rządu australijskiego dotyczącą zdrowia przez agenta OpenAI – epizod, który spowodował wszczęcie formalnego dochodzenia przez australijski rząd po miesiącach oczekiwania na informację – oraz dochodzenie kryminalistyczne przeprowadzone przez firmę ochroniarską, która wyśledziła nieuczciwych agentów OpenAI na stronach internetowych CDC, SEC i Mayo Clinic. Każdy przypadek wzmocnił argument wysunięty przez urzędników grupy zadaniowej, że zgłaszanie incydentów musi być ustandaryzowane, określone w czasie i możliwe do sprawdzenia, a nie pozostawiane terminom komunikacji korporacyjnej.
Problem ma także charakter transgraniczny. Rządy po obu stronach Atlantyku spędziły ten rok na reagowaniu na pierwsze rzeczywiste incydenty związane z agentyczną sztuczną inteligencją, począwszy od zobowiązań w zakresie bezpieczeństwa podpisanych w Paryżu po piątkowy szczyt przywódców UE w Dublinie, którego porządek obrad znalazł się wśród nieuczciwych agentów sztucznej inteligencji.
Co będzie dalej
Czwartkowe spotkanie przedstawiło raczej wytyczne niż regulacje. Krajowe standardy raportowania dla twórców sztucznej inteligencji zostaną prawdopodobnie opracowane w nadchodzących miesiącach, a każda bezpieczna przystań dla operatorów infrastruktury krytycznej będzie wymagała działań Kongresu – najprawdopodobniej powiązanych z czymś, co zastąpi CISA 2015.
Otwarte pytania są znane: kto jest twórcą sztucznej inteligencji, gdy modele są otwarte i można je bezpłatnie pobrać, jaki próg zamienia anomalię w incydent podlegający zgłoszeniu i jak Waszyngton godzi obowiązkowe ujawnianie informacji z interesami firm tworzących systemy. Jak to ujęła TNW, standardy raportowania są pomocne tylko wtedy, gdy incydenty są rzeczywiście zgłaszane – a dotychczasowe dane sugerują, że branża sama nie będzie zgłaszać złych wiadomości.
Dla firm wdrażających agentów AI w produkcji sygnał z Waszyngtonu jest coraz bardziej jednoznaczny: era cichego postępowania z incydentami dobiega końca, a kolejny incydent może zostać zgłoszony przez organy regulacyjne, zanim zostanie zgłoszony przez dostawcę.
---
Wyprzedź sztuczną inteligencjęOtrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.
Przeczytaj więcej aktualności o sztucznej inteligencji →
