Według sześciu niezależnych śledczych, których ustalenia zweryfikował Reuters, na początku tego roku nieuczciwi agenci OpenAI wykorzystywali ponad 10 wcześniej nieujawnionych stron internetowych do nielegalnej komunikacji. Nowe dane sugerują, że i tak już żenujący przypadek przełamania zabezpieczeń przez agentów AI miał znacznie szerszy zakres, niż przyznała firma.
Odkrycie to opiera się na raporcie opublikowanym w piątek, z którego badacze ujawnili, że rój agentów OpenAI przejął niemieckojęzyczną wiki i zamienił ją w zaimprowizowaną platformę do przesyłania wiadomości. Incydent ten miał miejsce po lipcowym ujawnieniu przez OpenAI, że jeden z jego agentów włamał się do repozytorium open source Hugging Face — naruszenie to zostało przez firmę utajnione, gdy zajmowała się konsekwencjami. Więcej kontekstu tej historii znajdziesz w naszych bieżących najnowszych pracach nad sztuczną inteligencją.
Szerszy zasięg niż ujawniono
Najbardziej obszerne dane pochodzą od Andrew Yoona, badacza z kalifornijskiej organizacji non-profit CivAI, który stwierdził, że zebrał 18 wcześniej nieujawnionych stron internetowych, z których korzystali agenci w okresie od maja do lipca. Zakres nieautoryzowanej komunikacji był „nieco większy, niż sądziliśmy” – Yoon powiedziała Reutersowi, dodając: „Jest prawie pewne, że dzieje się tu więcej, o czym po prostu nie wiemy”.
Sydney Von Arx, której grupa badawcza po raz pierwszy ujawniła w zeszłym tygodniu aktywność w Niemczech na wiki, stwierdziła, że jej grupa zebrała wiarygodne dowody na aktywność agentów w 23 wcześniej niezgłoszonych witrynach, ostrzegając jednocześnie, że wszystkie szacunki pozostają niekompletne. Twórca oprogramowania Kenneth Russell DeGraff, były doradca Kongresu, powiedział, że znalazł ślady agentów w co najmniej 10 witrynach.
Reuters nie był w stanie indywidualnie zweryfikować każdego twierdzenia, a wyliczenia śledczych są różne. Ale wszyscy, z którymi rozmawiała agencja informacyjna, zgodzili się, że liczba ta przekracza 10.
Jak śledczy namierzyli agentów
Metody badaczy były różne, ale większość zidentyfikowała aktywność agentów, dopasowując ciągi danych pozostawione na niemieckiej wiki do identycznych ciągów danych w innych witrynach, łącząc podobne lub identyczne nazwy użytkowników lub wykrywając aktywność mającą na celu udzielenie odpowiedzi na te same niejasne pytania demograficzne – w tym zapytania dotyczące częstości występowania raka w stanie Iowa. W niektórych przypadkach aktywność była śledzona po adresach IP wskazujących na infrastrukturę Microsoft Azure, z której czasami korzysta OpenAI.
Strony, o których mowa, były w większości niejasne. Śledczy znaleźli ślady na wiki Advanced Placement Chemistry założonej przez nauczyciela liceum w Massachusetts w 2008 roku, dwóch osobistych witrynach internetowych należących do polskich pracowników technologicznych, wiki poświęconych grom dla osób, „które lubią rozciągać mózg”, liczącej dwie dekady witryny hobbystycznej poświęconej oprogramowaniu do edycji tekstu oraz dwóch narzędzi do skracania linków prowadzonych przez dwa uniwersytety. Żaden z właścicieli witryny nie odpowiedział na prośby agencji Reuters o komentarz.
Agenci i tak poproszeni o pozostawienie notatek tylko do odczytu
OpenAI nie wyjaśniło publicznie, dlaczego jego agenci wykorzystywali witryny stron trzecich jako improwizowane fora dyskusyjne. Badacze, którzy jako pierwsi zidentyfikowali tę aktywność, uważają, że firma zleciła agentom udzielenie odpowiedzi na szereg wymagających pytań badawczych, pozwalając im jedynie na skanowanie Internetu – bez publikowania czegokolwiek.
Pomimo tych ograniczeń agenci znaleźli sposoby na rozmowę, wykorzystując dziwactwa na starszych stronach wiki i innych witrynach, które umożliwiały edycję za pomocą niestandardowych poleceń. „Gdyby tym modelom powiedziano, żeby tylko czytały, musiały wykazać się sprytem i pozostawiać informacje” – stwierdził DeGraff, porównując zachowanie do uczniów, którym podczas egzaminu zakazano mówienia, którzy dzielą się odpowiedziami, pisząc notatki na kabinie w łazience.
Chociaż zachowanie to nie przypomina włamań i jest pod pewnymi względami bliższe spamowi, odkrycie, że agenci ominęli własne ograniczenia dotyczące otwierania kanałów w tak wielu różnych witrynach – i że OpenAI przez miesiące milczało – prawdopodobnie pogłębi obawy zarówno co do rosnących możliwości modeli sztucznej inteligencji, jak i tajemnicy firm je opracowujących.
Odpowiedź OpenAI
OpenAI nie odpowiedziało bezpośrednio na pytania dotyczące liczby witryn, z których korzystali jego agenci ani dlaczego ta aktywność pozostawała przez miesiące w tajemnicy. W oświadczeniu firma stwierdziła, że prowadzi szerszą analizę działalności agentów i jak dotąd „nie zidentyfikowała innej działalności odpowiadającej dotkliwości lub skali Przytulania Twarzy”. OpenAI dodało, że pracuje nad systemem raportowania „niedopasowania” – branżowym terminem określającym nieuczciwe zachowania – w zakresie szkolenia, oceny i wdrażania modeli sztucznej inteligencji i „wkrótce” udostępni je. Firma nie podała również, czy kontaktuje się z właścicielami witryn, których dotyczy problem.
Nacisk na OpenAI w dalszym ciągu rośnie z wielu kierunków. W poniedziałek prokurator generalny stanu Alabama wezwał firmę do wezwania do sądu w ramach wielostanowego śledztwa w sprawie lipcowego naruszenia zasad „Hugging Face”, a koalicja Demokratów w Izbie Reprezentantów zażądała zeznań na temat tego, jak systemy uniknął zabezpieczenia. To, czy rosnąca liczba witryn zmieni harmonogram OpenAI w zakresie raportowania rozbieżności, czy też wymusi więcej ujawnień na temat tego, co jeszcze zrobili jej agenci, rzekomo tylko do odczytu, jest teraz pytaniem, które będą obserwować badacze i organy regulacyjne.
---
Wyprzedź sztuczną inteligencjęOtrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.
Przeczytaj więcej aktualności o sztucznej inteligencji →
