Через тиждень після того, як OpenAI відмовився від 722 математичних рукописів, написаних неопублікованою моделлю штучного інтелекту, співтовариство криптографів сперечається про питання, яке більшість людей віднесли до наукової фантастики: чи може система штучного інтелекту врешті-решт зламати шифрування, яке захищає Інтернет? Згідно зі звітом Scientific American, думки експертів щиро розділилися.

Дебати викликані рекордним випуском OpenAI, у якому кожна стаття була написана моделлю, до якої немає доступу. Результат був далеко не бездоганним — OpenAI відкликав три статті протягом дня через помилку знаку, а математики все ще перевіряють решту — але масштаб і гострота роботи збентежили дослідників, які вважали, що до машиногенерованої математики ще багато років. Ми висвітлювали початковий випуск 722 рукописів і подальші вилучення, як вони відбувалися.

Реакція математичної спільноти на сам випуск була бойовою — провідні математики, включно з медалістами Філдса, публічно вимагали більш суворих норм перевірки доказів, створених штучним інтелектом, і дебати щодо криптографії багато в чому є розширенням цього аргументу на прикладну безпеку. Якщо математиці, створеній штучним інтелектом, ще не можна повністю довіряти, постає питання, які частини інфраструктури довіри можуть дозволити собі чекати.

15 відсотків хвилювання

Математика є основою криптографії. Кожне зашифроване повідомлення та вхід до банку базується на математичній задачі, яку, як вважають, практично неможливо скасувати. Меттью Грін, криптограф з Університету Джона Гопкінса, висловив занепокоєння у публікації в соціальних мережах через кілька днів після випуску: він бачить приблизно 15-відсоткову ймовірність того, що світ може втратити довіру до існуючих алгоритмів шифрування з відкритим ключем — систем, які дозволяють браузерам встановлювати безпечні з’єднання та перевіряти цифрові дані, не повідомляючи заздалегідь секретний ключ.

Страх має історичний прецедент. Колись криптографи вважали, що 512-бітні ключі RSA безпечні, доки сито з числовим полем не спростило їх злом і не змусило індустрію подовжити ключі — 2048 біт тепер є прийнятим мінімумом. Грін стурбований тим, що штучний інтелект може знайти подібний ярлик у криптографії на еліптичній кривій, яка захищає більшу частину Інтернету та більшість криптовалют, виявивши структуру, яку люди пропускали десятиліттями.

Скептики: немає доказів прориву

Багато провідних криптографів не бачать причин для тривоги. Єгуда Лінделл, професор Університету Бар-Ілан і керівник відділу криптографії в Coinbase, написав, що немає жодних доказів прориву в математичних проблемах, що лежать в основі сучасного шифрування. Ден Боне, професор криптографії зі Стенфордського університету, зазначив, що жодна з 722 робіт OpenAI взагалі не стосується криптографії.

Говінд Пімпал, науковий співробітник Фонду американських інновацій, прямо визнав поточний стан справ: жоден алгоритм, який зараз розгортається, не був зламаний ШІ. Його занепокоєння є структурним, а не безпосереднім — криптографія з відкритим ключем базується на кількох математичних проблемах, які вивчають невеликі спільноти, і машини можуть докладати набагато більше зусиль для цих вузьких цілей, ніж коли-небудь робили дослідники-люди.

Що насправді показують докази

Найбільш конкретні дані взяті з нещодавнього препринту Флоріана Трамера, комп’ютерного вченого з ETH Zurich, і його колег, включаючи трьох дослідників з Anthropic. Команда зіткнула провідні моделі штучного інтелекту зі 191 проблемою зламу коду, і Трамер сказав, що очевидно, що здатність моделей до криптоаналізу зростає надзвичайно швидко.

Інші дослідники перенаправляють занепокоєння на найближчі ризики. Еял Ронен з Тель-Авівського університету, співавтор дослідження криптоаналізу, зазначив, що штучний інтелект вже дуже добре знаходить уразливості програмного забезпечення — це більш безпосередня загроза, ніж гіпотетичні зломи шифрування, оскільки зловмисники переважно обирають найпростіший доступний шлях, наприклад, крадуть ключі зі зламаної машини. Барт Преніл, професор криптографії в KU Leuven, додав, що масштаб має значення: навіть математичний прогрес, який зробив атаки в мільярд разів швидшими, все одно може зробити їх обчислювально непрактичними проти правильно налаштованих систем.

Чому ставки такі високі

Криптографія з відкритим ключем тихо захищає підключення браузера, підписи оновлень програмного забезпечення, трансакції криптовалюти та програми обміну повідомленнями. Справжній злом дозволить зловмисникам видати себе за банки, підробити оновлення програмного забезпечення та зчитувати накопичений роками зашифрований трафік — передбачається, що розвідувальні агентства вже намагаються протидіяти постквантовим переходам.

Навіть частковий результат змусить болісну глобальну міграцію. Грін попередив, що сам процес оновлення може стати катастрофою, зазначивши, що невдалі криптографічні переходи історично створювали нові слабкі місця. Цей ризик був очевидний лише цього місяця, коли система Claude Mythos від Anthropic виявила раніше невідомі недоліки в реалізації шифрування, нагадуючи, що той самий прогрес ШІ, який вражає математиків, також спрямований на дослідження безпеки.

Наразі консенсус залишається там, де він зазвичай є в криптографії: жодна розгорнута система не зламана, але ціна припущення, що це триває вічно, занадто висока, щоб ігнорувати. Що змінилося цього місяця, так це те, що сам темп математичних відкриттів став змінною, яка знаходиться під наглядом.

---

Будьте попереду ШІ

Отримуйте останні новини штучного інтелекту, аналіз і прориви — усе в одному місці.

Читати більше новин AI →