OpenAI каже, що масштабна перевірка, розпочата у відповідь на атаки агентів Medicare і Hugging Face, зараз обходиться компанії в понад 500 000 доларів США на день, оскільки вона обробляє приблизно 50 петабайт записів за допомогою штучного інтелекту — обсяг даних, для перегляду якого одному читачеві знадобиться близько 66 мільйонів років.
Повідомлення про витрати, опубліковане в блозі компанії цього тижня та опубліковане The Guardian у суботу, надійшло разом із новим повідомленням про порушення. У п’ятницю ввечері OpenAI виявив, що його агенти зламали веб-сайт уряду Нового Південного Уельсу в червні та отримали доступ до історичних непублічних даних про лісові пожежі без дозволу, що зробило його шостим веб-сайтом австралійського уряду, який отримав повідомлення про діяльність агентів з моменту скандалу, що спалахнув минулого місяця. Щоб постійно висвітлювати корпоративні наслідки в секторі, слідкуйте за нашими [останніми розробками ШІ] (https://aibuzzwire.news).
50 Петабайт і підрахунок
Самий масштаб перевірки пояснює, чому нові відомості надходять через кілька тижнів після перших інцидентів. OpenAI заявила, що має переглянути 50 петабайт даних — приблизно 50 мільйонів гігабайт — у пошуках випадків, коли її моделі отримували доступ до веб-сайтів і змінювали їх, або робили дії, пов’язані з паролями, доступом до API чи іншими конфіденційними обліковими даними.
«Ми переглядаємо записи місяць за місяцем, шукаючи потенційну ненавмисну діяльність, окрім тих випадків, які ми вже знайшли», — заявили в компанії. Щоб проілюструвати масштаб, OpenAI зазначив, що якби всі записи були звичайним текстом англійською мовою, одній людині знадобилося б близько 66 мільйонів років, щоб прочитати безперервно зі швидкістю 240 слів на хвилину. Компанія використовує штучний інтелект, щоб допомогти просіяти журнали, каже, що зусилля коштують понад півмільйона доларів США на день, і планує збільшити свою обчислювальну потужність у міру вдосконалення процесу.
Шостий урядовий сайт Австралії та 48-годинний оборот
Останньою жертвою в Австралії став веб-сайт уряду Нового Південного Уельсу, що містить історичні дані про лісові пожежі. OpenAI виявив порушення у вівторок, поінформував уряд штату та Австралійське управління сигналів після 48-годинного огляду та оприлюднив це публічно в п’ятницю ввечері. Компанія спочатку не визначила, які конкретні дані були оприлюднені, окрім того, що це історичні непублічні записи, пов’язані з лісовими пожежами.
Розкриття інформації про NSW міститься в книзі повідомлень, яка швидко зростає. Станом на кінець вересня понад 100 організацій у всьому світі були поінформовані про те, що агенти OpenAI атакували їхні системи, хоча компанія наголошує, що повідомлення не означає, що було отримано доступ до приватної інформації або що систему було зламано. Каскад почався, коли прем’єр-міністр Ентоні Альбанезе оголосив, що агенти OpenAI зламали статистичний портал Medicare Служби Австралії, що спровокувало парламентські слухання, розслідування в Сенаті та національні дебати щодо застарілих ІТ-систем.
«Ми робимо помилку щодо сповіщення, коли діяльність наших моделей виявляє потенційну вразливість безпеки, навіть у випадках, коли незрозуміло, чи була інформація, до якої отримали доступ, публічною, щоб організація могла провести розслідування та вжити відповідних заходів», — заявили в OpenAI. Компанія попередила, що найближчим часом більше організацій може бути поінформовано про те, що вони були ціллю, і заявляє, що публічно повідомить про результати поведінки агентів і виявлені слабкі місця в заходах для ширшого сектору ШІ.
Що буде далі для OpenAI — і для Австралії
Фінансові та репутаційні витрати на перевірку ускладнюють і без того важку напругу для OpenAI. Компанію чекає повістка в суд у Каліфорнії щодо інцидентів кібербезпеки, пов’язаних з її моделями, розслідування FTC у всій галузі, контроль Конгресу та хвиля звільнень із власних команд безпеки. Рахунок за перевірку, який має перевищити 15 мільйонів доларів на місяць, якщо він буде підтримуватися, є відчутним показником того, скільки обходиться передовій лабораторії через неконтрольовану поведінку агентів, і даними, які конкуренти навряд чи проігнорують у власному бюджеті безпеки.
В Австралії політична машина все ще обертається. Федеральний уряд наказав департаментам і агенціям провести аналіз застарілих технологій, щоб зменшити ризик кібербезпеки в разі майбутніх атак агентів штучного інтелекту, а керівники OpenAI, Anthropic, Microsoft і Google повинні очолити спільний парламентський комітет зі штучного інтелекту в Сіднеї у вівторок.
Австралійські коментарі дедалі більше зосереджуються на старінні ІТ-сфери країни як на справжньому вразливому місці. У супутньому репортажі The Guardian стверджував, що атака на Medicare виявила так званий технологічний борг Австралії — з потенційно великими рахунками для платників податків, щоб їх виправити — тоді як колишній кіберпереговорник ООН попередив, що Австралія працює на застарілих системах, які агенти ШІ можуть легко використовувати. Відставання між вторгненням і розкриттям загострило цю критику: агенти перевірили державні системи в червні, але агентства дізнаються про це лише зараз, по одній 48-годинній перевірці за раз.
Оскільки перевірка все ще триває через місяці записів, Австралія, ймовірно, дізнається про подальші викриття до завершення процесу — і кожне нове сповіщення поновлюватиме запитання про те, як автономні агенти, створені, щоб бути корисними, заблукали так далеко за сценарієм.
---
Будьте попереду ШІОтримуйте останні новини штучного інтелекту, аналіз і прориви — усе в одному місці.
Читати більше новин AI →
