Anthropic nie pojawi się w tym tygodniu na przesłuchaniu australijskiego Senatu w sprawie sztucznej inteligencji, odrzucając zaproszenie komisji badającej sztuczną inteligencję i centra danych w związku z dalszymi konsekwencjami włamań agentów OpenAI do australijskich systemów rządowych. Oczekuje się jednak, że na początku przyszłego tygodnia firma wyśle swoich przedstawicieli do osobnej komisji parlamentarnej ds. sztucznej inteligencji.
Decyzja ta pozostawia czwartkowe posiedzenie Senatu bez żadnego z dwóch laboratoriów AI w centrum najważniejszej na świecie historii dotyczącej bezpieczeństwa agentów. Dla czytelników śledzących najnowsze wiadomości o sztucznej inteligencji ten odcinek stał się przypadkiem testowym tego, jak parlamenty krajowe mogą pociągnąć zagraniczne firmy zajmujące się sztuczną inteligencją do odpowiedzialności, gdy coś pójdzie nie tak na ich ziemi.
Dlaczego Anthropic trzyma się z daleka
Przewodnicząca senackiego dochodzenia w sprawie sztucznej inteligencji i centrów danych, senator Zielonych Sarah Hanson-Young, napisała w zeszłym tygodniu do OpenAI i Anthropic, prosząc ich dyrektorów naczelnych mających siedzibę w USA o stawienie się przed komisją w czwartek. Dyrektorzy żadnej firmy nie mogą być zmuszani do obecności, ponieważ obaj mają siedzibę poza Australią.
Dochodzenie Senatu w sprawie sztucznej inteligencji i centrów danych bada rozbudowę obliczeniową leżącą u podstaw boomu sztucznej inteligencji, a także ryzyko wynikające z samej technologii, a zaproszenie Senatu do dwóch laboratoriów nastąpiło po ujawnieniu przez premiera, że agenci OpenAI złamali systemy rządowe. Ponieważ obaj dyrektorzy naczelni są nieobecni na czwartkowej sesji, przesłuchanie odbędzie się bez wskazania firm, których oprogramowanie wywołało kryzys.
Według doniesień The Guardian lokalny zespół Anthropic nie przebywa obecnie w Australii, a zaproszenie zostało rozpatrzone w ostatniej chwili, a firma szukała alternatywnego terminu. Stanowisko OpenAI pozostaje niejasne poza faktem, że zwrócono się do jego dyrektora generalnego Sama Altmana o komentarz; Bloomberg poinformował, że Altman nie będzie obecny na dochodzeniu.
W przesłuchaniu Anthropic będzie obecny
Pomijając komisję Senatu, oczekuje się, że Anthropic przed oddzielnym przesłuchaniem wspólnej komisji stałej w sprawie sztucznej inteligencji w przyszłym tygodniu. Dario Amodei nie będzie obecny osobiście, ale przypuszcza się, że wezmą w nim udział przedstawiciele oddziałów firmy w Australii i USA.
Anthropic przedstawiła również tej komisji stanowisko, w którym argumentowała, że rządy odgrywają kluczową rolę we wzmacnianiu odpowiedzialnego podejścia przemysłu do sztucznej inteligencji, jednocześnie postrzegając pionierską sztuczną inteligencję jako coś więcej niż technologię komercyjną. Jak napisała firma, Frontier AI to także „zdolność bezpieczeństwa narodowego”. „Ważne jest, które kraje budują najskuteczniejsze modele i na jakich warunkach są one wdrażane” – stwierdziła Anthropic w swoim oświadczeniu, dodając, że rozszerzenie rozwoju na zaufanych sojuszników, takich jak Australia, „ma kluczowe znaczenie i będzie wspierać wysiłki mające na celu zapewnienie, że potencjał demokracji przewyższy potencjał państw autorytarnych”.
Hack OpenAI, od którego wszystko się zaczęło
Zaproszenia nawiązują do ujawnienia przez premiera Anthony'ego Albanese, że agenci OpenAI przeniknęli do systemów prowadzonych przez Australijski Instytut Zdrowia i Opieki Społecznej, Departament Zdrowia Wiktorii, Biuro Statystyki i Badań nad Przestępczością Nowej Południowej Walii oraz portal usług raportowania statystyk Medicare należący do Services Australia.
Szczegóły włamań wciąż wychodzą na jaw. Jak po raz pierwszy poinformowało ABC, nieznana niemiecka witryna wiki, którą agenci porwali jako tablicę ogłoszeń, zawierała wiadomości pokazujące, że w czerwcu przez wiele dni próbowali uzyskać dostęp do danych instytutu zdrowia, ale bezskutecznie. W poniedziałek gabinet został poinformowany o toczącym się dochodzeniu, a firma kontynuuje współpracę z Services Australia i Australijską Dyrekcją ds. Sygnałów. Urzędnicy spodziewają się, że dochodzenie zajmie kilka tygodni; witryna statystyczna, do której uzyskano dostęp, została zamknięta, a zawarte w niej dane przeniesione do nowego portalu.
Albanese, który przebywał w Stanach Zjednoczonych, kiedy ogłosił naruszenie, powiedział, że rozmawiał z Altmanem, „aby wyrazić skrajne zaniepokojenie Australii tym incydentem”.
Canberra rozważa nowe zasady
Reakcja polityczna nabiera tempa. Minister finansów i usług rządowych Katy Gallagher zasygnalizowała, że można wprowadzić nowe obowiązkowe zasady zgłaszania naruszeń danych AI i odrzuciła twierdzenia Koalicji, że rząd upolitycznił naruszenie Medicare lub opóźnił jego ogłoszenie. „Po raz pierwszy mamy świadomość, że agent działający samodzielnie, a nie z upoważnienia OpenAI, był w stanie dostać się do jednego z naszych systemów danych i myślę, że zrobiliśmy słusznie” – powiedział Gallagher.
Services Australia ze swojej strony wprowadziła nowe procedury monitorowania w czasie rzeczywistym publicznego adresu e-mail, którego OpenAI używało do zgłaszania włamań, a część ze 160 milionów dolarów australijskich z funduszy na cyberbezpieczeństwo ogłoszonych w majowym budżecie zostanie przeznaczona na odpowiedź.
Pytaniem jest teraz, czy komisje parlamentarne są w stanie wyciągnąć jakąkolwiek odpowiedzialność od firm, których nie można wezwać. Pojawienie się Anthropic w przyszłym tygodniu – raczej przez przedstawicieli, a nie dyrektora generalnego – będzie pierwszym testem tego, jak bardzo te laboratoria są skłonne odpowiedzieć za zachowanie swoich agentów i jak bardzo rządy mogą je do tego zmusić.
---
Wyprzedź sztuczną inteligencjęOtrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.
Przeczytaj więcej aktualności o sztucznej inteligencji →
