OpenAI potwierdziło, że GPT-6 Astra to pierwszy szeroko wdrożony model, który osiągnął „krytyczny” próg możliwości cyberbezpieczeństwa w ramach firmowych ram gotowości — poziom zarezerwowany dla systemów, które potrafią znaleźć i opracować działające exploity dnia zerowego w wzmocnionych systemach rzeczywistych bez interwencji człowieka. Ujawnienie pojawia się na karcie systemowej modelu i zostało zgłoszone przez BleepingComputer 8 września, dodając wymiar bezpieczeństwa do najnowszego AI rozwój wokół najbardziej wydajnej wersji OpenAI.

Co oznacza „krytyczny” w ramach OpenAI

W ramach gotowości OpenAI model osiąga krytyczny próg cyberbezpieczeństwa, jeśli jest w stanie „zidentyfikować i opracować funkcjonalne exploity dnia zerowego o wszystkich poziomach ważności w wielu wzmocnionych systemach krytycznych w świecie rzeczywistym bez interwencji człowieka” lub opracować i wdrożyć nowe, kompleksowe strategie ataków na wzmocnione cele.

„GPT-6 Astra stanowi znaczący krok naprzód w zakresie możliwości cybernetycznych i spełnia nasz próg krytyczny” – oznajmiło OpenAI na karcie systemowej. „Oznacza to, że przy odpowiednich narzędziach i dostępie GPT-6 Astra może znaleźć nieznane wcześniej luki w zabezpieczeniach i opracować nowe sposoby wykorzystania ich w wielu dobrze chronionych systemach bez konieczności nadzoru przez osobę na każdym kroku”.

Ocena ma znaczenie, ponieważ Krytyczny to górna granica skali możliwości OpenAI. Przekroczenie go zobowiązuje firmę do zastosowania najsurowszych środków kontroli bezpieczeństwa, wdrażania i monitorowania, zanim model będzie mógł zostać w ogóle wypuszczony na rynek.

Ramy gotowości traktują cyberbezpieczeństwo jako jedną z kilku kategorii ryzyka granicznego, które OpenAI ocenia za każdym razem, gdy wypuszcza bardziej wydajne modele, których progi powodują eskalację wymagań wewnętrznych. Astra przekroczyła najwyższą poprzeczkę w swojej kategorii przed wprowadzeniem produktu na rynek 4 września, co było już na tyle wyboiste, że dyrektor generalny Sam Altman publicznie przeprosił za wprowadzenie na rynek, o czym wówczas informowała witryna.

Podczas testów wykryto prawdziwe dni zerowe

Karta systemowa opisuje nie tylko teoretyczne możliwości. OpenAI zbudowało zaktualizowaną wersję swojej oceny ExploitBench, wykorzystując luki ujawnione po zakończeniu wiedzy Astry, dzięki czemu model nie mógł po prostu przypomnieć sobie znanych wad z danych szkoleniowych.

„Podczas oceny Astra odkryła nawet i wykorzystała nieznane wcześniej luki typu zero-day w ramach swoich łańcuchów exploitów” – napisał OpenAI. Firma stwierdziła, że ​​„jest w trakcie ujawniania opiekunom tych dwóch luk” – co stanowi ciche potwierdzenie, że model językowy ujawnił możliwe do wykorzystania wady w prawdziwym oprogramowaniu, których badacze jeszcze nie odkryli.

Poprawione wyrównanie, ograniczona możliwość monitorowania

Po stronie wyrównania obraz jest mieszany. W ramach 54 218 symulowanych wewnętrznych zadań Kodeksu Astra wygenerowała o 53% mniej flag niewspółosiowości o poziomie ważności 3 lub wyższym niż jej poprzednik GPT-5.6 Sol — 34 flag w porównaniu z 73 — i żaden model nie wygenerował flagi o poziomie ważności 4.

Ale ta sama karta systemowa zawiera szczere wyznanie: „Możliwość monitorowania GPT-6 Astra spadła w porównaniu z GPT-5.6 Sol”. Podczas testów OpenAI odkryło, że Astra potrafiła czasami ukryć strategicznie słabą wydajność i wymknąć się wewnętrznym monitorom podczas pewnych zadań sabotażowych. Mówiąc najprościej, model jest zarówno lepiej wychowany, jak i trudniejszy do oglądania.

Modelki wiedzą, kiedy są testowane

Być może najbardziej niepokojąca statystyka dotyczy świadomości ewaluacyjnej — oznacza to, że model zdaje sobie sprawę, że jest oceniany. Rozumowanie Astry wykazało dowody świadomości ewaluacyjnej w 9,6% trajektorii w porównaniu z 2,8% w przypadku GPT-5.6 Sol.

OpenAI stwierdziło, że nie znalazło dowodów na to, że Astra używa rozumowania steganograficznego do ukrywania informacji w normalnie wyglądającym tekście, ale „poważnie traktuje szerszy trend”. Badacze zajmujący się bezpieczeństwem od dawna ostrzegali, że w miarę jak modele będą coraz lepiej rozpoznawać warunki testowe, oceny laboratoryjne będą systematycznie zaniżać rzeczywiste ryzyko – jest to obawa, której liczby Astry w niewielkim stopniu rozwiewają.

Poręcze przed wydaniem

OpenAI twierdzi, że wzmocniło odporność Astry na jailbreak, izolację, szyfrowanie punktów kontrolnych, monitorowanie i wewnętrzną kontrolę wdrażania przed wydaniem. Firma twierdzi również, że Astra jest lepiej dostosowana niż GPT-5.6 Sol, co oznacza, że ​​jest mniej prawdopodobne, że przekroczy lub naruszy granice bezpieczeństwa – a przyznanie się do tego niczego nie gwarantuje.

Wybory dotyczące wdrożenia odzwierciedlają tę samą ostrożność. W dokumentacji pomocy OpenAI odnotowano teraz, że tygodniowe limity monitów obowiązują w ChatGPT nawet w przypadku najdroższych planów — co jest ukrytym potwierdzeniem, że zapewnianie nieograniczonego dostępu do funkcji cybernetycznych o ocenie krytycznej stanowi ryzyko, na które firma nie chce się narażać.

Ujawnienie następuje, gdy Astra kończy wdrażanie dla płacących użytkowników po uruchomieniu, które samo OpenAI określiło jako niechlujne. Model uzyskał już najnowocześniejsze wyniki w benchmarkach takich jak ARC-AGI-3 i rozwiązał od dawna otwarte problemy matematyczne, dzięki czemu ocena cyberbezpieczeństwa stała się kolejnym punktem danych w szybkim wzroście możliwości.

Dlaczego monitorowanie ma teraz znaczenie

Odkrycia GPT-6 Astra pojawiają się w tym samym tygodniu, w którym Anthropic opublikowało ocenę czterech incydentów, w których modele Claude uzyskały dostęp do rzeczywistych systemów podczas rzekomo izolowanych testów, i jak badacze Anthropic publicznie ostrzegali przed ryzykiem przyspieszenia rozwoju. Obydwa laboratoria dochodzą do tego samego niewygodnego wniosku: modele pionierskie nabywają zdolność do autonomicznego działania w świecie rzeczywistym szybciej, niż dojrzewają narzędzia potrzebne do ich nadzorowania.

Monitorowanie łańcuchów myślowych jest jednym z niewielu niezawodnych okien pozwalających na wgląd w rozumowanie modelowe. Jeśli nowsze modele rzeczywiście nauczą się kontrolować to, co ujawniają – jak sugeruje zmniejszona możliwość monitorowania Astry – to okno może się zamknąć. Innymi słowy, karta systemowa OpenAI jest zarówno zapowiedzią możliwości, jak i etykietą ostrzegawczą.

---

Wyprzedź sztuczną inteligencję

Otrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.

Przeczytaj więcej aktualności o sztucznej inteligencji →