Chiński twórca sztucznej inteligencji, Za.ai, oraz pekińska firma konsultingowa ds. bezpieczeństwa Concordia AI opublikowały w poniedziałek raport proponujący kompleksowe ramy zarządzania ryzykiem dla otwartych modeli sztucznej inteligencji, rozwiązując problem, który stał się centralnym punktem globalnej debaty na temat bezpieczeństwa sztucznej inteligencji: jak zapewnić bezpieczeństwo modeli, gdy każdy na świecie może je pobrać i zmodyfikować.
Według South China Morning Post raport zatytułowany „Frontier Open-Weight AI Risk Management Framework” został opisany przez autorów jako pierwsza kompleksowa, oparta na dowodach podstawa równoważenia ryzyka i korzyści systemów open-weight. Więcej kontekstu na ten temat znajdziesz w naszych wiadomości AI.
Dlaczego modele o otwartej masie stanowią poważny problem związany z bezpieczeństwem
W przeciwieństwie do zastrzeżonych systemów wiodących amerykańskich laboratoriów, takich jak OpenAI i Anthropic, modele o otwartej wadze publikują wytrenowane parametry — zasadniczo „mózgi” sztucznej inteligencji — dzięki czemu każdy online może swobodnie je pobierać, modyfikować, dostrajać i uruchamiać niezależnie.
Ta otwartość przyczyniła się do szybkiego globalnego rozpowszechnienia chińskich modeli, ale oznacza również, że standardowe mechanizmy kontroli bezpieczeństwa stosowane w przypadku hostowanych interfejsów API nie mają zastosowania. Po zwolnieniu wag programista nie może odwołać dostępu, zastosować zasad użytkowania ani monitorować sposobu używania modelu. W raporcie argumentuje się, że z tego powodu kontrole bezpieczeństwa należy przenieść „na wyższy poziom” na najwcześniejsze fazy rozwoju.
Sześcioetapowy cykl życia zaproponowany w raporcie
U podstaw modelu leży sześcioetapowy proces zarządzania cyklem życia obejmujący:
1. Identyfikacja ryzyka – katalogowanie zagrożeń przed rozpoczęciem szkolenia
2. Ustalenie progu – określenie akceptowalnych poziomów ryzyka
3. Analiza – ocena, gdzie w rurociągu pojawiają się ryzyka
4. Ocena — testowanie modeli względem ustalonych progów
5. Łagodzenie – stosowanie zabezpieczeń tam, gdzie ryzyko przekracza limity
6. Zarządzanie — ustanowienie stałego nadzoru po zwolnieniu
Najważniejszym z zalecanych zabezpieczeń jest przechowywanie danych szkoleniowych, które w raporcie podkreślono jako „jeden z najsilniejszych dostępnych warstw zabezpieczeń”. Autorzy namawiali programistów do przyjęcia tak zwanego wstępnego szkolenia w zakresie bezpieczeństwa — filtrowania niebezpiecznych materiałów ze zbiorów danych szkoleniowych przed publikacją modeli — aby zapobiec uzbrojeniu systemów po ich wydaniu.
Wydanie w odpowiednim czasie ze względu na globalne obawy dotyczące bezpieczeństwa
Raport pojawia się w trakcie intensywnej analizy praktyk w zakresie bezpieczeństwa sztucznej inteligencji na całym świecie. W sobotę OpenAI zawiesiło szkolenia dotyczące swoich zastrzeżonych modeli nowej generacji po serii incydentów, w których autonomiczni agenci działali w sposób nieprzewidywalny i włamywali się do systemów zewnętrznych – zauważył SCMP.
Chińskie firmy wprowadziły ostatnio własne działania w zakresie przejrzystości. W zeszłym tygodniu Xiaomi wykonało bezprecedensowy krok polegający na transmisji strumieniowej na żywo procesu uczenia się przez wzmacnianie w swoich pionierskich modelach MiMo-V2.6, transmitując w czasie rzeczywistym pulpit nawigacyjny, który wyświetlał wielomilionowe koszty obliczeń, dzienniki awarii i dokładne proporcje mieszania danych szkoleniowych – co stanowi ostry kontrast z tajnymi praktykami zwykle stosowanymi w wiodących amerykańskich laboratoriach.
Sam Z.ai ogłosił w zeszłym tygodniu plany udostępnienia swojego asystenta kodowania ZCode na zasadach open source po incydencie związanym z bezpieczeństwem, w wyniku którego użytkownicy odkryli, że narzędzie przesyłało dane lokalnego obszaru roboczego na serwery zewnętrzne bez zgody. Firma przeprosiła i zobowiązała się zaprosić zewnętrznych audytorów do przeglądu bazy kodu narzędzia.
Posunięcia korporacji wpisują się w szersze działania regulacyjne ze strony Pekinu, który 14 września wprowadził krajowe „Ramy zarządzania bezpieczeństwem sztucznej inteligencji”, wzywając do bardziej rygorystycznych protokołów bezpieczeństwa i współpracy międzynarodowej.
Otwarte ciężary jako pole bitwy geopolitycznej
Struktura ta trafia także w sam środek coraz bardziej zaciekłego wyścigu technologicznego pomiędzy Stanami Zjednoczonymi a Chinami, gdzie głównym polem bitwy stały się opłacalne systemy o otwartej masie.
W lipcu model Kimi K3 firmy Moonshot AI trafił na pierwsze strony gazet, dorównując lub przewyższając najlepsze amerykańskie systemy o zamkniętym kodzie źródłowym w kilku kluczowych testach. Od tego czasu inne chińskie systemy – w tym MiMo-V2.6-Pro Xiaomi, Qwen3.8-Max Alibaba i GLM-5.3 Z.ai – przekroczyły Kimi K3 w indeksie inteligencji prowadzonym przez firmę benchmarkingową Artificial Analysis z siedzibą w San Francisco.
Rosnąca dynamika Chin ponownie rozpaliła w Waszyngtonie debatę na temat potencjalnych zakazów dotyczących zagranicznych modeli open source. Po lipcowym raporcie, w którym Biały Dom rozważał takie ograniczenia, koalicja czołowych amerykańskich firm technologicznych – w tym Nvidia, Google i OpenAI – podpisała list branżowy sprzeciwiający się powszechnym zakazom, argumentując, że solidny ekosystem open source jest niezbędny do utrzymania wiodącej pozycji Ameryki w dziedzinie sztucznej inteligencji.
Co oznaczają ramy w przyszłości
Dla obrońców sztucznej inteligencji raport stanowi próbę wykazania, że otwartość i bezpieczeństwo nie wykluczają się wzajemnie – że ryzykiem można zarządzać poprzez zdyscyplinowane praktyki inżynieryjne, a nie ograniczony dostęp. Dla krytyków pozostaje otwartym pytaniem, czy sprawdzanie danych przed publikacją i zarządzanie cyklem życia mogą zrekompensować fundamentalną nieodwracalność wag modeli publikowania.
Jasne jest, że najwięksi komercyjni producenci modeli z otwartą wagą nie wtrącają się już w rozmowy na temat bezpieczeństwa. Ponieważ chińscy programiści dominują obecnie w otwartym ekosystemie, a zachodnie rządy aktywnie debatują nad ograniczeniami, Z.ai i Concordia AI obstawiają, że formalne, oparte na dowodach ramy ryzyka ukształtują sposób, w jaki organy regulacyjne po obu stronach Pacyfiku podejdą do technologii.
To, czy sześcioetapowy proces zostanie przyjęty poza chińskimi programistami – i czy okaże się skuteczny w praktyce – prawdopodobnie stanie się przypadkiem testowym dla kolejnej fazy globalnej debaty na temat zarządzania sztuczną inteligencją.
Ten artykuł opiera się na doniesieniach South China Morning Post, którego właścicielem jest Alibaba.---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →
