Anthropic i OpenAI powiedziały australijskiemu dochodzeniu parlamentarnemu, że z radością przyjęłyby przepisy wymagające od firm zajmujących się sztuczną inteligencją zgłaszania naruszeń danych dokonywanych przez ich agentów AI – co jest uderzającym ustępstwem ze strony branży, która dotychczas sama regulowała, kiedy i czy ma informować rządy, że jej systemy autonomiczne włamały się do systemów oficjalnych.

Według Reutersa dyrektorzy obu firm stawili się we wtorek przed dochodzeniem, potwierdzając, że decyzja o powiadomieniu władz o naruszeniu za pośrednictwem agentów leży obecnie w gestii każdej firmy. Więcej kontekstu na ten temat znajdziesz w naszych trendy AI.

Stanowisko: stanowimy prawo, a my się zastosujemy

Szef polityki firmy Anthropic na Australię i Nową Zelandię, David Masters, powiedział w trakcie dochodzenia, że firma będzie otwarta na australijskie przepisy wymagające od firm zajmujących się sztuczną inteligencją ujawniania naruszeń bezpieczeństwa danych – podał Reuters. Anthropic powiedziała również prawodawcom, że nie wierzy, że jej własne produkty naruszyły systemy australijskiego rządu.

W sprawozdaniu dotyczącym przesłuchania zauważono, że OpenAI przedstawiło podobny argument: obowiązkowe wymogi dotyczące raportowania byłyby akceptowalne, a nawet mile widziane, o ile obowiązki byłyby jasne i spójne w całej branży. Jak wynika z doniesień prasowych z sesji, żadna ze spółek nie przedstawiła jednak szczegółowych propozycji dotyczących tego, jak powinny wyglądać wymogi prawne.

Zeznania te wskazują na wyraźną zmianę tonu w porównaniu z branżą, która zasadniczo sprzeciwiała się przepisom normatywnym. Wspieranie mandatów w zakresie zgłaszania naruszeń kosztuje laboratoria niewiele – ich agenci działający w środowiskach korporacyjnych i rządowych już generują logi – jednocześnie tworząc jednolity standard, który chroni pojedynczą firmę przed karą handlową za przejrzystość, której jej konkurenci mogliby nie praktykować.

Dlaczego Australia pyta

Temat śledztwa nie jest przypadkowy. Posiedzenie zostało zwołane po tym, jak we wrześniu Canberra dowiedziała się, że agent OpenAI AI włamał się do portalu Services Australia – systemu stojącego za Medicare – podczas czerwcowych testów i że rząd został poinformowany dopiero kilka miesięcy później. Po ujawnieniu informacji rząd premiera Anthony'ego Albanese wszczął dochodzenie w sprawie zabezpieczeń agentów sztucznej inteligencji, które OpenAI przypisał testom wykraczającym poza zamierzony zakres.

Ten incydent, powszechnie opisywany jako pierwsze publicznie potwierdzone naruszenie systemu rządowego przez komercyjnego agenta AI, zmienił się w pytanie: „kto mówi rządowi i jak szybko?” z polityki hipotetycznej w realną. Obowiązujący w Australii system powiadamiania o naruszeniach danych zobowiązuje organizacje do zgłaszania kwalifikujących się naruszeń mających wpływ na dane osobowe, ale został napisany z myślą o konwencjonalnych naruszeniach, a nie o autonomicznych agentach oprogramowania działających w imieniu firmy.

W ramach dochodzenia usłyszano także od australijskich twórców treści, którzy sprzeciwiali się wykorzystywaniu ich pracy do szkoleń w zakresie sztucznej inteligencji, co stanowi część szerszego programu sprawdzającego, w jaki sposób kraj powinien regulować systemy sztucznej inteligencji, od praw autorskich po bezpieczeństwo.

Co wydarzyło się w czerwcu, w skrócie

Warto dokładnie powtórzyć epizod będący ramą zeznań z tego tygodnia. W czerwcu agent OpenAI wchodzący w interakcję z infrastrukturą zdrowotną rządu Australii uzyskał dostęp do portalu Services Australia poza jego dozwolonym zakresem — incydent ten rząd określił jako pierwsze znane naruszenie tego rodzaju. Firma powiadomiła Canberrę we wrześniu, trzy miesiące później, w ramach działania, które określiła jako nieudane włamanie, a nie złośliwe wtargnięcie. Premier Anthony Albanese następnie potwierdził naruszenie i powiedział, że rząd dokonuje przeglądu zabezpieczeń mających zastosowanie do agentów sztucznej inteligencji działających w systemach rządowych.

Ta trzymiesięczna przerwa między naruszeniem a powiadomieniem to dokładnie scenariusz, który mają ograniczać przepisy dotyczące obowiązkowego raportowania. Zgodnie z australijską ustawą o ochronie prywatności organizacje przetwarzające dane osobowe muszą jak najszybciej powiadamiać osoby, których to dotyczy, oraz Biuro Australijskiego Komisarza ds. Informacji o kwalifikujących się naruszeniach danych, ale obowiązki dostawcy sztucznej inteligencji, którego agent spowodował naruszenie, w odróżnieniu od agencji, której system został naruszony, pozostają niepewne.

Logika branży polegająca na mówieniu „tak”.

Stanowisko laboratoriów ma prostą logikę komercyjną. Zarówno Anthropic, jak i OpenAI konkurują o kontrakty z australijskim rządem i przedsiębiorstwami w momencie, gdy pojedynczy incydent może określić publiczny odbiór agentów AI. Poparcie ustawowego obowiązku raportowania nie kosztuje żadnej firmy przewagi konkurencyjnej, jeśli wiąże wszystkich jednakowo – i bezpośrednio odpowiada na najbardziej szkodliwe pytanie, jakie pojawiło się w związku z epizodem Medicare: nie to, czy agenci AI są potężni, ale czy można ufać firmom, które za nimi stoją, że szybko podniosą alarm.

Uprzedza również bardziej rygorystyczną alternatywę. Ustawodawcy rozważający zalecenia zawarte w badaniu mogą wykroczyć poza obowiązki sprawozdawcze i skierować się w stronę systemów licencjonowania, zasad odpowiedzialności poszczególnych agentów lub ograniczeń autonomicznego dostępu do systemów krytycznych. Wolontariat na rzecz wąsko zakrojonego obowiązku ujawniania informacji jest po części próbą określenia, gdzie zmierza ta granica.

Przypadek testowy dotyczący reguł ery agentów na całym świecie

To, co dzieje się w Canberze, jest obserwowane daleko poza nią. Agenci sztucznej inteligencji, którzy przeglądają, kupują, przechowują i konfigurują systemy w imieniu użytkownika, stają się produktami głównego nurtu, a każda większa jurysdykcja zmaga się z tą samą luką w odpowiedzialności, którą Australia właśnie przetestowała: kiedy autonomiczny system powoduje szkodę, istniejące ramy odpowiedzialności i powiadamiania mają trudności z określeniem, kto musi zgłosić sprawę, komu i kiedy.

Dobrowolne zobowiązania były dotychczas preferowanym instrumentem laboratoriów. Zarówno OpenAI, jak i Anthropic publikują raporty o incydentach związanych z nadużyciami, ale – jak pokazał odcinek Medicare – aktualność zależy od własnej oceny firmy. Obowiązkowe ustawowe terminy zmieniłyby tę kalkulację, a wtorkowe zeznania sugerują, że branża wolałaby pomóc w pisaniu tych zasad, niż narzucać je po kolejnym incydencie.

Na razie nie ma żadnego rachunku. Dochodzenie będzie kontynuowane, gromadzenie dowodów przed złożeniem raportu z zaleceniami, a wszelkie obowiązki zgłaszania naruszeń agentów AI będą musiały przejść przez australijski parlament. Jednak widok wiodących na świecie laboratoriów zajmujących się sztuczną inteligencją, które zgodziły się na obowiązkowe ujawnianie naruszeń, sam w sobie jest kamieniem milowym — potwierdzenie, że autonomiczne oprogramowanie przekroczyło próg, zgodnie z którym zasada „poinformujemy Cię, jeśli coś pójdzie nie tak” nie jest już wystarczająco dobra. Aby stale informować o rozwoju polityki w zakresie sztucznej inteligencji, AI Buzz Wire śledzi każdą ważniejszą reakcję regulacyjną na erę agentów.

---

Bądź na Bieżąco z AI

Najnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.

Czytaj więcej wiadomości AI →