Відповідно до звіту The Washington Sun із посиланням на три джерела, знайомі з приватними розмовами, керівництво Уолл-стріт і представники Агентства національної безпеки повідомили членам Конгресу, що тижневий каскад технологічних збоїв у США був спричинений не кібератаками, а екстреними зусиллями виправити вразливості, які виявили моделі штучного інтелекту.

Ця заява, якщо вона буде підтверджена, стане одним із найяскравіших випадків, коли штучний інтелект другого порядку дестабілізує критичну інфраструктуру — не тому, що моделі щось атакували, а тому, що вони знайшли стільки реальних недоліків, що люди-оператори поспішили виправити їх усі одночасно. For more context on this story, see our ongoing AI news.

Тиждень каскадних невдач

Збої почали накопичуватися 12 листопада та прискорювалися протягом тижня. 13 листопада авіаційна влада США оголосила загальнонаціональну наземну зупинку через збій комунікаційних технологій. The Straits Times назвала це найтривалішою зупинкою польотів по всій країні після терактів 11 вересня 2001 року. Служба електронної пошти Microsoft Outlook зазнала збоїв, які призвели до перерви листування для багатьох американських компаній, а також припинили працювати служби Apple, зокрема iCloud, App Store і Apple Pay.

16 листопада потрясіння охопило банківську систему: клієнти установ, зокрема JPMorgan Chase, не змогли отримати доступ до рахунків; банк пояснив проблеми з обслуговуванням програмними помилками. 17 листопада саме АНБ оголосило, що його мережа зазнала «тимчасової деградації» під час, як воно назвало планового планового технічного обслуговування, наполягаючи на тому, що «критично важливі можливості» залишаються повністю робочими.

Офіційні особи постійно виключають ворожу кібератаку. Державний секретар Марко Рубіо, який одночасно виконує обов’язки радника з національної безпеки, визнав, що інциденти були «тривожними», але сказав журналістам у Манілі, де президент Дональд Трамп був присутній на економічній конференції АСЕАН: «Ми не піддаємося системній атаці. У нас немає жодних доказів або будь-яких підстав вважати, що будь-який із них пов’язаний».

Пояснення AI-Patching

За кадром на Капітолійському пагорбі поширюється інше пояснення. Згідно зі звітом The Washington Sun, урядові та банківські чиновники повідомили законодавцям, що збої виникли через спроби усунути прогалини в кіберзахисті, виявлені моделями штучного інтелекту, і що внаслідок цього потік виправлень тимчасово перевантажив уражені системи.

«Ці моделі виявляють величезні вразливості, і це збільшує терміновість негайного виправлення», — сказав виданню один із представників Конгресу, який проінформував про це. «Вони намагаються проштовхнути багато патчів одночасно — більше, ніж було розроблено систему».

Міністр внутрішньої безпеки Маркуейн Маллін запропонував відповідний діагноз в інтерв’ю CNBC, сказавши, що організації «проштовхують нові технології поверх справді старих комп’ютерних систем, і, здається, вони просто перевантажують систему... Ми побачимо більше цього, коли з’являться нові технології».

Обліковий запис узгоджується з динамічними командами безпеки, про які попереджали у міру розвитку аналізу коду за допомогою штучного інтелекту: моделі, які можуть сканувати величезні кодові бази на наявність недоліків, які можна використати, генерують висновки швидше, ніж процеси керування змінами можуть їх безпечно засвоїти. Внесення виправлень саме по собі є ризикованою операцією, і надто швидке виконання цього завдання на застарілій інфраструктурі може бути таким же руйнівним, як і вразливості, які він усуває.

Законодавці наполягають на відповіді

Політична реакція була особливо двопартійною у своєму нетерпінні. Сенатор Джош Хоулі, республіканець від штату Міссурі, сказав журналістам: «Якщо це все збіг, то це схоже на найбільший збіг в історії світу», тоді як сенатор Джек Рід, високопоставлений демократ у Комітеті зі збройних сил, приєднався до закликів щодо більш повного пояснення закономірності.

Трамп публічно згорнув епізод. "Це як коли ти великий і могутній, і у тебе є всі гроші. Такі речі трапляються. Це добре", - сказав президент журналістам у Манілі. У Білому домі заявили, що «кризи немає».

Аналітики, цитовані у висвітленні збоїв, вказали на два ускладнюючі фактори: значне скорочення персоналу в технологічних операціях в останні роки та прискорення інтеграції інструментів штучного інтелекту в технічне обслуговування систем, що могло зробити критичну інфраструктуру як менш стійкою, так і більш помітно крихкою в разі її збою.

Що це означає для індустрії ШІ

Для сектора штучного інтелекту цей тиждень є попередженням про операційний темп, який створює інструментарій ШІ. Ті самі можливості моделі, які дозволяють захисникам знаходити вразливості на машинній швидкості, також зобов’язують їх виконувати графіки виправлення, які застарілі системи ніколи не були розроблені. Кілька постачальників зараз пропонують безперервне сканування безпеки за допомогою штучного інтелекту саме тому, що воно знаходить недоліки, які люди пропускають — збої вказують на те, що вузьке місце перемістилося від виявлення до розгортання.

Очікується, що законодавці звернуться до офіційних брифінгів щодо хвилі збоїв, коли Конгрес поверне свою увагу до нагляду за інфраструктурою, і як агентства, так і банки, ймовірно, зіткнуться з питаннями про те, як планується, тестується та гальмується технічне обслуговування, кероване ШІ. Цей епізод також може спровокувати регулярну дискусію щодо того, чи слід змінювати критичні системи за допомогою штучного інтелекту поетапно та з обмеженням швидкості, як інші операційні зміни з високим ризиком.

Наразі рейси виконуються, банки відповідають на свої додатки, а АНБ каже, що його критично важливі системи в порядку. Незручний урок, який просять засвоїти Конгрес, полягає в тому, що машини, які знаходять недоліки, можуть випереджати установи, які їх виправляють.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →