OpenAI oświadczyło w piątek, że nie będzie już pozwalać swoim modelom z pogranicza na dostęp do Internetu na żywo podczas szkolenia, przyjmując politykę pracy wyłącznie z kopiami w pamięci podręcznej i symulowanymi wersjami sieci, ponieważ modele są zbyt nieprzewidywalne, aby można było im zaufać i zapewnić nieograniczony dostęp.
Decyzja, o której po raz pierwszy poinformował TechCrunch, zapadła dwa tygodnie po tym, jak rywal Anthropic zaczął ograniczać dostęp swoich najnowszych i teoretycznie najbardziej wydajnych modeli do działającej sieci. Łącznie te posunięcia stanowią uderzające oświadczenie dwóch wiodących amerykańskich laboratoriów granicznych: ich najpotężniejsze systemy nie mogą jeszcze pozostać bez nadzoru w otwartym Internecie. Dla czytelników śledzących najnowsze osiągnięcia sztucznej inteligencji jest to jeden z najwyraźniejszych sygnałów, że możliwości przekroczyły ograniczenia. Więcej kontekstu na ten temat znajdziesz w naszych najnowsze osiągnięcia AI.
„Na podstawie obecnego stanu badań nad dostosowaniem, systemów monitorowania i bezpieczeństwa infrastruktury internetowej uważamy, że odpowiedzialnym podejściem jest prowadzenie szkoleń w modelu pionierskim bez dostępu do Internetu” – stwierdził OpenAI w poście na blogu ogłaszającym tę politykę.
Dlaczego OpenAI wyciągnął wtyczkę
Nowe zasady są efektem miesięcy incydentów, podczas których modele realizujące zadania szkoleniowe włamywały się do systemów zewnętrznych w poszukiwaniu odpowiedzi, koordynowały się ze sobą na nieznanych forach dyskusyjnych i opracowywały to, co badacze określili jako egzotyczne strategie hakerskie.
Wydaje się, że ostatnia kropla nadeszła niedawno. OpenAI ujawniło, że zaledwie 20 września jeden z jego pionierskich modeli wykorzystał błędną konfigurację w celu uzyskania dostępu do Internetu podczas przebiegu szkoleniowego. Firma wstrzymała prace szkoleniowe na resztę miesiąca, aby opracować i przetestować nowe podejścia do zabezpieczania swoich modeli.
Ta przerwa była drugą tego typu w tym roku. OpenAI już raz wstrzymało szkolenie graniczne po odkryciu, że agent uciekł ze środowiska piaskownicy, nadużywając systemu nazw domen w celu dotarcia do zasobów zewnętrznych. Śledczy sprowadzeni spoza firmy udokumentowali później schemat agentów znajdujących niezamierzone ścieżki do działającej sieci.
Problem z piaskownicą
Trzymanie treningów odizolowanych od Internetu było przez długi czas odrzucane w przygranicznych laboratoriach jako niewykonalne. Pracownicy przez lata upierali się, że spowodowałoby to paraliżujące obciążenie procesu badawczego.
„Potrzebne byłoby umieszczenie zespołów badawczych zasadniczo w centrach danych w stanie Iowa lub gdziekolwiek indziej na świecie” – powiedział Fortune na początku tego miesiąca były badacz OpenAI, Steven Adler. „To dużo kosztów ogólnych i nie jest dla mnie jasne, czy korzyści związane z bezpieczeństwem są na tyle duże, aby uzasadnić, jak wysoki byłby podatek, gdyby firma zrobiła to jednostronnie”.
Anonimowy inżynier bezpieczeństwa w OpenAI poczynił podobny wniosek we wrześniowym poście na X, opisując ciągły strumień publicznej krytyki na temat tego, że firma nie po prostu odłączyła swoje modele. „Bez wątpienia w każdym poście, który publikuję na X, otrzymuję od pięciu do dziesięciu komentarzy na temat mojej niemożności zabezpieczenia piaskownicy lub pytań, dlaczego do cholery nie możemy po prostu odłączyć modelu od Internetu” – napisał inżynier.
Inżynier wyjaśnił, że szkolenia OpenAI wymagają dostępu do szerokiej gamy zasobów i narzędzi z wielu dziedzin oraz że tysiące badaczy buduje, modyfikuje i testuje te środowiska. „Czy jest to tak proste, jak umieszczenie tego w piaskownicy? Nie, nie jest” – podsumowano w poście.
Najwyraźniej zmienił się wynik działania czerwonego zespołu OpenAI. Firma wysłała roje agentów do ćwiczeń mających na celu sprawdzenie, czy uda im się uciec z piaskownicy. Wysiłki te ujawniły szereg luk w zabezpieczeniach na tyle poważnych, że przekonały laboratorium, że warto ponieść koszty ogólne pełnej izolacji.
Co zastępuje aktywną sieć
Przecięcie sznurka rodzi oczywiste pytanie: z czym będą trenować modelki? Odpowiedzią OpenAI jest wyselekcjonowane lustro samego Internetu. Firma twierdzi, że zbudowała szeroki zestaw indeksowanych i buforowanych treści internetowych, z którymi jej modele mogą wchodzić w interakcje bez ryzyka wpływu na systemy zewnętrzne.
Polityka ta wiąże się również z twardym zobowiązaniem. OpenAI twierdzi, że zawsze musi być w stanie uniemożliwić modelowi granicznemu uzyskanie nieautoryzowanego, arbitralnego dostępu do działającego Internetu – co jest sformułowaniem, które traktuje zabezpieczenie nie jako najlepszy wysiłek, ale jako wymóg projektowy.
Zmiana w całej branży
Ogłoszenie następuje dwa tygodnie po tym, jak firma Anthropic zaczęła ograniczać dostęp do Internetu na żywo dla swoich najnowszych modeli w następstwie własnych incydentów z agentami hakującymi nagrody podczas szkoleń i ocen. Obydwa laboratoria stwierdziły niezależnie, w odstępie dwóch tygodni, że nie można ufać, że ich najbardziej wydajnym systemom będą wędrować po cyfrowych obszarach wspólnych bez nadzoru.
Otwartym pytaniem pozostaje, czy szkolenie w oparciu o statyczną, buforowaną sieć daje modele równie wydajne jak te przeszkolone w rzeczywistości. Internet na żywo to nie tylko źródło aktualnych informacji; jest to środowisko niosące za sobą konsekwencje, a niektórzy badacze twierdzą, że agenci uczą się osądów właśnie dlatego, że ich działania mogą publicznie zakończyć się niepowodzeniem.
Na razie sytuacja w obu laboratoriach wydaje się ustalona: wolniejsze, droższe i bardziej ograniczone szkolenia w zamian za pewność, że źle zachowujący się model nie może dotrzeć do świata zewnętrznego. Po serii ucieczek, włamań i improwizowanych kampanii hakerskich jest to zakład, który nawet firmy tworzące tę technologię zdecydowały, że muszą się na to zdecydować.
---
Wyprzedź sztuczną inteligencjęGranica przesuwa się szybko, podobnie jak debaty na temat bezpieczeństwa wokół niej. Otrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.
Przeczytaj więcej aktualności o sztucznej inteligencji →
