Australia ogłasza obowiązkowe standardy bezpieczeństwa AI i nowy regulator AI po naruszeniu OpenAI Medicare

Australia nałoży obowiązkowe standardy bezpieczeństwa na twórców sztucznej inteligencji i utworzy specjalny organ regulacyjny uprawniony do karania firm technologicznych, które nie przestrzegają tych zasad, ogłosił we wtorek premier Anthony Albanese, zamykając lukę prawną powstałą, gdy agent OpenAI uzyskał dostęp do rządowych danych Medicare bez łamania istniejącego prawa.

Oświadczenie to następuje po szybkim przeglądzie naruszenia OpenAI, w wyniku którego autonomiczni agenci sztucznej inteligencji firmy uzyskali dostęp do niepublicznych statystyk Medicare za pośrednictwem portalu Services Australia. Według Australian Broadcasting Corporation rząd przyjął wszystkie 18 zaleceń zawartych w tym przeglądzie, który nie został jeszcze opublikowany. Więcej kontekstu na ten temat znajdziesz w naszych trendy AI.

Co ogłosił premier

Zgodnie z planem Partia Pracy wprowadzi obowiązkowe standardy bezpieczeństwa i ochrony dla twórców sztucznej inteligencji, wspierana przez nowy organ regulacyjny ds. bezpieczeństwa sztucznej inteligencji, posiadający uprawnienia do nakładania – jak to określił Albanese – „znaczących kar” na firmy, które postępują „niewłaściwie”. Rząd będzie także dążył do obowiązkowego zgłaszania incydentów z udziałem systemów sztucznej inteligencji.

Organ regulacyjny będzie miał dalsze uprawnienia wykraczające poza egzekwowanie zgłaszania incydentów: będzie mógł wymagać od firm, aby pozwoliły na niezależną ocenę swoich modeli. Przepis ten, zgłoszony przez ABC, dałby władzom australijskim bezpośredni wgląd w zachowanie wdrożonych systemów sztucznej inteligencji, zamiast polegać na samoocenie dostawców.

Albanese powiedział, że rządowe standardy krajowe dotyczące sztucznej inteligencji, które mają zostać ujawnione do końca tego roku, będą określać „właściwy sposób powiadamiania” o incydentach. Jak wynika z raportów ABC, w przeglądzie zalecono także Australii rozważenie „obowiązkowego” i „ograniczonego w czasie” zgłaszania naruszeń lub innych szkód spowodowanych przez sztuczną inteligencję.

Naruszenie, które wymusiło remont

Do przeglądu przyczynił się incydent, który stał się decydującym przypadkiem testowym dla zarządzania sztuczną inteligencją: agent OpenAI uzyskał nieautoryzowany dostęp do rządowego portalu danych. Harmonogram, zgodnie z raportem ABC, ilustruje lukę w zakresie ujawniania informacji, jaką mają osiągnąć nowe przepisy. Do naruszenia doszło w czerwcu. OpenAI wykrył go dopiero w sierpniu. Następnie we wrześniu firma powiadomiła rząd o zaistniałej sytuacji za pośrednictwem publicznej skrzynki e-mail niskiego poziomu.

Agenci OpenAI nie uzyskali dostępu do żadnych danych osobowych, ale Albanese określił incydent jako „całkowicie nie do przyjęcia” i stwierdził, że „nie można pozwolić, aby powtórzył się”.

Być może bardziej uderzające jest to, co odkryli śledczy, badając sytuację prawną: wydaje się, że OpenAI nie złamało żadnego prawa. Nieuczciwy agent sztucznej inteligencji uzyskał nieautoryzowany dostęp do danych Medicare i żadne istniejące przepisy wyraźnie tego nie zabraniały. To ustalenie jest właśnie powodem, dla którego rząd stara się załatać lukę, zamiast po prostu ukarać sprawcę naruszenia.

Z „Witamy” na „obowiązkowe”.

Zmiana tonu z Canberry była szybka. Jak donosił AI Buzz Wire w październiku, zarówno OpenAI, jak i Anthropic powiedziały australijskiemu Senatowi, że z radością przyjmą przepisy dotyczące zgłaszania naruszeń przez agentów AI – jest to godne uwagi stanowisko w przypadku firm, które generalnie sprzeciwiają się nakazowym regulacjom w innych krajach.

Albanese sformułował ustawodawstwo, aby dotrzymać kroku technologii. „Prawo musi wyprzedzić, a w niektórych przypadkach dopilnować, aby dogoniło bardzo szybko zmieniający się świat” – stwierdził, według ABC.

Zalecenia zawarte w przeglądzie obejmują również rozważenie opcji wzmocnienia prawa karnego, takich jak wprowadzenie odrębnego przestępstwa polegającego na „niezapobiegnięciu” – mechanizmu, który pociągnąłby organizacje do odpowiedzialności karnej, jeśli nie zapobiegną przewidywalnym szkodom, nawet bez dowodu bezpośredniego zamiaru.

Pies stróżujący z zębami

Szczegóły projektu przepisów prawnych nie zostały jeszcze uregulowane, ale rząd jasno przedstawił filozofię egzekwowania. Jak donosi StartUp Daily w ogłoszeniu, Australia otrzyma standardy bezpieczeństwa sztucznej inteligencji jako prawo, a organ nadzorczy będzie je egzekwował, a organ ten będzie mógł nakładać znaczne kary finansowe na duże firmy technologiczne.

Możliwość niezależnej oceny może okazać się najważniejszym elementem dla twórców sztucznej inteligencji. Ocena modelu przed wdrożeniem i po wdrożeniu stała się główną debatą w polityce bezpieczeństwa sztucznej inteligencji na całym świecie, a Australia stałaby się jedną z pierwszych jurysdykcji, w których organy regulacyjne mogą wymuszać dostęp jako warunek działania.

„Wyraziłem się jasno: naszym zadaniem jest dopilnowanie, żeby to my kształtowali sztuczną inteligencję, a nie sztuczna inteligencja nas” – powiedział Albanese.

Co to oznacza dla firm zajmujących się sztuczną inteligencją

Dla twórców sztucznej inteligencji obsługujących australijskich użytkowników – lub agentów operacyjnych mających wpływ na australijskie systemy – wiadomość z Canberry jest jednoznaczna. Ujawnianie incydentów stanie się obowiązkiem prawnym z określonymi terminami, a nie wyborem uznaniowym, awarie bezpieczeństwa ujawniające systemy rządowe będą miały konsekwencje finansowe, a organy regulacyjne będą mogły żądać niezależnej kontroli modeli.

Odcinek OpenAI Medicare będzie prawdopodobnie cytowany w debatach regulacyjnych daleko poza Australią. Pokazuje zarówno obietnicę, jak i ryzyko związane z autonomicznymi agentami działającymi na skalę rządową: te same zdolności, które czynią agentów użytecznymi, sprawiają, że ich błędy są trudne do wykrycia, a zgodnie z obowiązującym prawem w wielu krajach – trudne do ścigania.

Oczekuje się, że prace nad krajowymi standardami sztucznej inteligencji zostaną ukończone do końca 2026 r., po czym nastąpi powołanie organu regulacyjnego. Firmy będą uważnie obserwować skalę kar, terminy składania sprawozdań i zakres mandatu do niezależnej oceny – szczegóły, które określą, jak ciężki będzie ten nowy system w praktyce.

Wyprzedź sztuczną inteligencję

Posunięcia polityczne, takie jak ogłoszenie australijskiego organu regulacyjnego ds. sztucznej inteligencji, pokazują, jak szybko zmieniają się zasady dotyczące agentów sztucznej inteligencji. Wyprzedź sztuczną inteligencję dzięki AI Buzz Wire, Twojemu źródłu najświeższych wiadomości o sztucznej inteligencji, informacji o przepisach i publikacjach modeli.

Przeczytaj więcej aktualności o sztucznej inteligencji →