Týden poté, co OpenAI upustilo od 722 matematických rukopisů napsaných nevydaným modelem AI, se kryptografická komunita dohaduje o otázce, kterou většina lidí zařadila do sci-fi: mohl by systém AI nakonec prolomit šifrování, které chrání internet? Podle zprávy Scientific American jsou odborníci skutečně rozděleni.
Debata vychází z vydání rekordu OpenAI, ve kterém byl každý článek napsán modelem, ke kterému veřejnost nemá přístup. Výstup nebyl ani zdaleka bezchybný – OpenAI stáhla tři články během jednoho dne kvůli znaménkové chybě a matematici stále kontrolují zbytek – ale rozsah a pronikavost práce otřásly výzkumníky, kteří předpokládali, že strojově generovaná matematika je vzdálená roky. Zabývali jsme se počátečním vydáním 722 rukopisů a následnými staženími, jak k nim došlo.
Reakce matematické komunity na samotné vydání byla bojovná – přední matematici, včetně Fieldsových medailistů, veřejně požadovali přísnější ověřovací normy pro důkazy autorské AI a debata o kryptografii je v mnoha ohledech rozšířením tohoto argumentu do aplikované bezpečnosti. Pokud ještě nelze plně důvěřovat matematice generované AI, vyvstává otázka, které části důvěryhodné infrastruktury si mohou dovolit počkat.
15 procent starostí
Matematika je základem kryptografie. Každá zašifrovaná zpráva a přihlášení do banky se opírá o matematický problém, o kterém se předpokládá, že je prakticky nemožné ho zvrátit. Matthew Green, kryptograf z Johns Hopkins University, v příspěvku na sociálních sítích několik dní po vydání uvedl číslo na obavy: vidí zhruba 15procentní šanci, že by svět mohl ztratit důvěru ve stávající šifrovací algoritmy s veřejným klíčem – systémy, které umožňují prohlížečům navazovat zabezpečená spojení a ověřovat digitální identity bez sdílení tajného klíče předem.
Strach má historický precedens. Kryptografové si kdysi mysleli, že 512bitové klíče RSA jsou bezpečné, ale síto číselných polí dramaticky usnadnilo jejich prolomení a přinutilo průmysl prodloužit klíče – 2 048 bitů je nyní akceptované minimum. Green se obává, že umělá inteligence by mohla najít podobnou zkratku v kryptografii eliptických křivek, která zajišťuje velkou část webu a většinu kryptoměn, tím, že zaznamená strukturu, kterou lidé po desetiletí postrádali.
Skeptici: Žádný důkaz o průlomu
Spousta předních kryptografů nevidí důvod k obavám. Yehuda Lindell, profesor na Bar-Ilan University a vedoucí kryptografie na Coinbase, napsal, že neexistují žádné důkazy o průlomu proti matematickým problémům, které jsou základem moderního šifrování. Dan Boneh, profesor kryptografie ze Stanfordu, poukázal na to, že ani jeden ze 722 článků OpenAI se kryptografií vůbec nezabývá.
Govind Pimpale, výzkumný pracovník Nadace pro americkou inovaci, jasně připustil současný stav: umělá inteligence neporušila žádný aktuálně nasazený algoritmus. Jeho obava je spíše strukturální než bezprostřední – kryptografie s veřejným klíčem spočívá na několika matematických problémech studovaných malými komunitami a stroje by mohly na tyto úzké cíle vrhnout mnohem více úsilí, než kdy lidští výzkumníci měli.
Co skutečně ukazují důkazy
Nejkonkrétnější datový bod pochází z nedávného předtisku Floriana Tramèra, počítačového vědce z ETH Zurich, a kolegů včetně tří výzkumníků z Anthropic. Tým postavil přední modely umělé inteligence proti 191 výzvám pro prolomení kódu a Tramèr řekl, že je jasné, že schopnost modelů kryptoanalýzy extrémně rychle roste.
Jiní výzkumníci přesměrovávají obavy na rizika v blízké budoucnosti. Eyal Ronen z Tel Aviv University, spoluautor kryptoanalytické studie, poznamenal, že umělá inteligence je již velmi dobrá v hledání zranitelností softwaru – bezprostřednější hrozby než hypotetické prolomení šifrování, protože útočníci v drtivé většině volí nejjednodušší dostupnou cestu, jako je krádež klíčů z kompromitovaného počítače. Bart Preneel, profesor kryptografie na KU Leuven, dodal, že na měřítku záleží: dokonce i matematický pokrok, díky kterému byly útoky miliardkrát rychlejší, by mohly být stále nepraktické ve srovnání s řádně nakonfigurovanými systémy.
Proč jsou sázky tak vysoké
Kryptografie s veřejným klíčem tiše zabezpečuje připojení prohlížeče, podpisy aktualizací softwaru, transakce kryptoměn a aplikace pro zasílání zpráv. Skutečná přestávka by útočníkům umožnila vydávat se za banky, falšovat aktualizace softwaru a číst roky nahromaděného šifrovaného provozu – předpokládá se, že zpravodajské agentury podle scénáře sklizeň nyní, dešifrování a později se již pokoušejí proti postkvantovým přechodům.
I dílčí výsledek by si vynutil bolestivou globální migraci. Green varoval, že samotný proces upgradu by mohl být katastrofou, a poznamenal, že zpackané kryptografické přechody historicky přinesly nové slabiny. Toto riziko se projevilo právě tento měsíc, když systém Claude Mythos společnosti Anthropic identifikoval dříve neznámé slabiny v implementacích šifrování, což je připomínkou toho, že stejný pokrok v oblasti umělé inteligence, který imponuje matematikům, je zaměřen také na výzkum bezpečnosti.
Prozatím panuje shoda tam, kde v kryptografii obvykle platí: žádný nasazený systém není rozbitý, ale náklady na předpoklad, že to trvá věčně, jsou příliš vysoké na to, aby je bylo možné ignorovat. Tento měsíc se změnilo, že sledovanou proměnnou se stalo samotné tempo matematických objevů.
---
Stay Ahead of AIZískejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.
Přečtěte si další zprávy o AI →
