Tydzień po tym, jak OpenAI upuściło 722 rękopisy matematyczne napisane przez niewydany model sztucznej inteligencji, społeczność kryptograficzna spiera się o pytanie, które większość ludzi umieściła w kategorii science fiction: czy system sztucznej inteligencji może ostatecznie złamać szyfrowanie chroniące Internet? Według raportu Scientific American eksperci są rzeczywiście podzieleni.

Debata wynika z rekordowej wersji OpenAI, w której każdy artykuł został napisany przez modela, do którego opinia publiczna nie ma dostępu. Wynik nie był doskonały — OpenAI wycofało trzy artykuły w ciągu jednego dnia z powodu błędu w znaku, a matematycy wciąż przeglądają resztę — ale skala i wnikliwość pracy wstrząsnęła badaczami, którzy zakładali, że matematyka generowana maszynowo zajmie lata. Omówiliśmy pierwsze wydanie 722 rękopisów i późniejsze ich wycofanie.

Reakcja społeczności matematycznej na samą publikację była wojownicza — czołowi matematycy, w tym medaliści Fieldsa, publicznie zażądali surowszych norm weryfikacji dowodów stworzonych przez sztuczną inteligencję, a debata o kryptografii jest pod wieloma względami rozszerzeniem tego argumentu na bezpieczeństwo stosowane. Jeżeli nie można jeszcze w pełni zaufać matematyce generowanej przez sztuczną inteligencję, pojawia się pytanie, które części infrastruktury zaufania mogą poczekać.

Zmartwienie 15 procent

Matematyka jest podstawą kryptografii. Każda zaszyfrowana wiadomość i login do banku opiera się na problemie matematycznym, który uważa się za praktycznie niemożliwy do odwrócenia. Matthew Green, kryptolog z Johns Hopkins University, w poście w mediach społecznościowych kilka dni po publikacji wyraził swoje obawy w następujący sposób: widzi około 15% szans, że świat straci zaufanie do istniejących algorytmów szyfrowania kluczem publicznym – systemów, które pozwalają przeglądarkom nawiązywać bezpieczne połączenia i weryfikować tożsamość cyfrową bez wcześniejszego udostępniania tajnego klucza.

Strach ma historyczny precedens. Kryptografowie uważali kiedyś, że 512-bitowe klucze RSA są bezpieczne, do czasu, gdy sito pól liczbowych znacznie ułatwiło ich łamanie i zmusiło branżę do wydłużania kluczy — obecnie akceptowanym minimum jest 2048 bitów. Green obawia się, że sztuczna inteligencja mogłaby znaleźć podobny skrót w kryptografii krzywych eliptycznych, która zabezpiecza większość sieci i większości kryptowalut, wykrywając struktury, które ludzie przeoczyli od dziesięcioleci.

Sceptycy: brak dowodów na przełom

Wielu czołowych kryptologów nie widzi powodu do niepokoju. Yehuda Lindell, profesor na Uniwersytecie Bar-Ilan i kierownik działu kryptografii w Coinbase, napisał, że nie ma żadnych dowodów na przełom w rozwiązaniu problemów matematycznych leżących u podstaw współczesnego szyfrowania. Dan Boneh, profesor kryptografii na Uniwersytecie Stanforda, zwrócił uwagę, że żaden z 722 artykułów OpenAI w ogóle nie dotyczy kryptografii.

Govind Pimpale, pracownik naukowy Fundacji na rzecz Amerykańskich Innowacji, jasno przyznał, jaki jest obecny stan rzeczy: żaden obecnie wdrożony algorytm nie został złamany przez sztuczną inteligencję. Jego obawy mają raczej charakter strukturalny niż bezpośredni – kryptografia klucza publicznego opiera się na kilku problemach matematycznych badanych przez małe społeczności, a maszyny mogą włożyć w te wąskie cele znacznie więcej wysiłku, niż kiedykolwiek robili to badacze ludzcy.

Co faktycznie pokazują dowody

Najbardziej konkretne dane pochodzą z niedawnego wstępnego druku Floriana Tramèra, informatyka z ETH Zurich i współpracowników, w tym trzech badaczy z Anthropic. Zespół postawił czołowe modele sztucznej inteligencji przed 191 wyzwaniami związanymi z łamaniem kodów, a Tramèr stwierdził, że jasne jest, że możliwości modeli w zakresie kryptoanalizy rosną niezwykle szybko.

Inni badacze kierują obawy w stronę bliżejterminowych zagrożeń. Eyal Ronen z Uniwersytetu w Tel Awiwie, współautor badania dotyczącego kryptoanalizy, zauważył, że sztuczna inteligencja jest już bardzo dobra w znajdowaniu luk w oprogramowaniu — co stanowi bardziej bezpośrednie zagrożenie niż hipotetyczne złamania szyfrowania, ponieważ napastnicy w przeważającej mierze wybierają najłatwiejszą dostępną drogę, taką jak kradzież kluczy z zaatakowanej maszyny. Bart Preneel, profesor kryptografii na KU Leuven, dodał, że skala ma znaczenie: nawet postęp matematyczny, który sprawił, że ataki były miliard razy szybsze, w dalszym ciągu może sprawić, że będą one niepraktyczne obliczeniowo w przypadku prawidłowo skonfigurowanych systemów.

Dlaczego stawka jest tak wysoka

Kryptografia klucza publicznego po cichu zabezpiecza połączenia przeglądarki, podpisy aktualizacji oprogramowania, transakcje kryptowalutowe i aplikacje do przesyłania wiadomości. Prawdziwe włamanie umożliwiłoby atakującym podszywanie się pod banki, fałszowanie aktualizacji oprogramowania i odczytywanie zgromadzonych przez lata zaszyfrowanych danych — zakłada się, że agencje wywiadowcze w scenariuszu „zbieraj teraz, odszyfruj później” już podejmują próby przeciwdziałania przemianom postkwantowym.

Nawet częściowy skutek wymusiłby bolesną migrację globalną. Green ostrzegł, że sam proces aktualizacji może być katastrofą, zauważając, że nieudane przejścia kryptograficzne w przeszłości wprowadzały nowe słabości. Ryzyko to uwidoczniło się dopiero w tym miesiącu, kiedy system Claude Mythos firmy Anthropic zidentyfikował nieznane wcześniej słabości we wdrożeniach szyfrowania, co przypomina, że ​​ten sam postęp sztucznej inteligencji, który imponuje matematykom, jest również ukierunkowany na badania nad bezpieczeństwem.

Na razie konsensus panuje tam, gdzie zwykle w kryptografii: żaden wdrożony system nie jest uszkodzony, ale koszt założenia, że ​​będzie to trwać wiecznie, jest zbyt wysoki, aby go zignorować. To, co zmieniło się w tym miesiącu, to fakt, że obserwowaną zmienną stało się samo tempo odkryć matematycznych.

---

Wyprzedź sztuczną inteligencję

Otrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.

Przeczytaj więcej aktualności o sztucznej inteligencji →