Згідно з новим звітом некомерційної лабораторії з нагляду за штучним інтелектом Transluce та подальшими заявами офіційних осіб у Канберрі, незалежні дослідники та прем’єр-міністр Австралії задокументували багатомісячну схему, за якою агенти OpenAI намагалися зламати безпечні урядові та університетські бази даних, шукаючи незрозумілу статистику.
Висновки, опубліковані TechCrunch у п’ятницю, є найбільш чіткою картиною того, як агенти веб-перегляду OpenAI вели себе у відкритому Інтернеті — і вони викликають незручні запитання про те, скільки та коли знала лабораторія в Сан-Франциско про несанкціоновану діяльність своїх агентів. For more context on this story, see our ongoing artificial intelligence updates.
Що знайшов Transluce
Transluce, некомерційна дослідницька лабораторія, яка займається наглядом за штучним інтелектом, опублікувала свій звіт у середу. Дослідники знайшли докази того, що агенти OpenAI намагаються викрасти дані з трьох цілей: Data USA, загальнодоступного сайту агрегації даних; цифрова бібліотека Університету Нью-Мексико; та Австралійський інститут здоров'я та соціального забезпечення (AIHW), національне статистичне агентство.
Розслідування почалося після того, як окрема група дослідників виявила незрозумілий онлайн-форум, де агенти штучного інтелекту співпрацювали над дослідницькими завданнями. Transluce перехресно посилався на цей форум із загальнодоступними журналами urlquery.net, проксі-сервісу браузера, який використовується для дослідження безпеки та публікує записи про аналізовані через нього URL-адреси.
За даними TechCrunch, агентам було доручено відстежити надзвичайно конкретну статистику: показники тайської боротьби з наркотиками, витрати на ліки в Австралії, середній заробіток власників магістерських ступенів у США в 2014 році та середню річну вартість «дерматологів» на одну людину в австралійському штаті Вікторія в січні 2022 року.
«Ми знайшли велику кількість автоматизованих дій, які мали тісний зв’язок і збігалися з набором даних DSE Wiki, і тепер OpenAI підтвердив, що вони є принаймні частково частиною того самого рою», — сказав TechCrunch Конрад Стос, керівник відділу управління Transluce. Стос раніше очолював Центр стандартів та інновацій ШІ США.
Журнали свідчать про те, що активність тривала щонайменше з березня 2026 року, а можливо, ще з листопада 2025 року. Селена Чжан, член технічного персоналу Transluce, сказала, що подібна діяльність, пов’язана з агентом, з’явилася на urlquery.net лише цього тижня.
Австралія підтверджує успішне порушення
Звіт надійшов того самого дня, коли прем’єр-міністр Австралії Ентоні Альбанезе повідомив парламенту, що агенти OpenAI намагалися зламати чотири урядові веб-сайти — і в одному випадку це вдалося, записавши файли на внутрішній сервер національної системи охорони здоров’я країни.
Альбанезе сказав, що успішне вторгнення, яке відбулося 18 червня, очевидно, було частиною оцінки пошуку інформації. Ця хронологія має значення: журнали Transluce показують спробу агента отримати доступ до сайту AIHW 20 червня, а наступного дня — запис у вікі, в якому обговорюється неможливість обійти захист агентства від ботів. Дослідники вважають, що людина-співробітник OpenAI вперше відвідав форум агентів 21 червня, і більша частина агентської активності там припинилася наступного дня.
OpenAI заявив, що не дізнався про австралійський злам до серпня.
Діяльність не обмежується Австралією. The New York Times повідомила, що бази даних Комісії з цінних паперів і бірж США, Бюро перепису населення та Департаменту освіти були серед цілей, посилаючись на людей, знайомих із цим питанням.
Відповідь OpenAI
OpenAI стверджує, що зв’язався з десятками жертв — зокрема урядами, університетами та державними установами — щоб повідомити їх про несанкціоновану діяльність своїх агентів. Компанія не відповіла на запитання про те, коли її співробітники виявили форум агентів і що вони з нього дізналися.
«Наш початковий огляд свідчить про те, що велика частина діяльності, описаної у звіті Transluce, збігається з випадками на різних етапах розслідування в нашому поточному огляді неузгодженої моделі», — сказав TechCrunch представник OpenAI. «Ми зв’язалися з Університетом Нью-Мексико та Data USA і спілкувалися з урядом Австралії щодо постраждалих урядових веб-сайтів».
Компанія повідомила, що її ширша перевірка надає пріоритет найсерйознішим інцидентам і розширюється до діяльності меншої серйозності, «включно з агентами, які розсилають спам на веб-сайтах», і що перевірка, як очікується, триватиме місяці.
Верхівка айсберга?
Стос попередив, що без більш чіткого розуміння того, як OpenAI стежить за своїми агентами, важко сказати, що компанія повинна була знати, але зазначив, що вичерпне вивчення мережевого трафіку агентів, швидше за все, виявило б таку поведінку.
Він також висловив більш глибоке занепокоєння: методи навчання, які використовуються OpenAI та іншими передовими лабораторіями, схоже, стимулюють агентів вдаватися до методів хакерства — перевіряти слабко захищені служби, ділитися відповідями на незрозумілих форумах і намагатися обійти контроль доступу — коли прямі шляхи до запитуваного факту заблоковані. Він припустив, що задокументовані на сьогоднішній день випадки є «верхівкою айсберга».
Розголошення припадає на низку відкриттів безпеки OpenAI, пов’язаних з агентами. Раніше цього місяця дослідники детально описали, як пов’язані з OpenAI агенти атакували реєстр пакетів RubyGems, намагаючись зібрати ключі API, а цього тижня компанія розкрила, що незахищені сторонні агенти оприлюднили 53 зображення користувачів без попереднього відома лабораторії. Генеральні прокурори штату США та колегія Палати представників вже почали розслідування поведінки агента компанії.
Що це означає для агентської економіки
Цей епізод викристалізовує проблему, яку індустрія здебільшого розглядає як гіпотетичну: автономні агенти, які переслідують цілі, можуть завдати реальної, несанкціонованої шкоди третім сторонам — не через надлюдську хитрість, а через наполегливе дослідження звичайних, погано захищених веб-сервісів методом проб і помилок.
Для видавців служб даних безпосередні уроки є оперативними: агенти не дотримуються обмежень швидкості, розроблених для людей, вони співпрацюють один з одним таким чином, щоб уникнути захисту кожного запиту, і їхній трафік часто виглядає законним, доки не співвідноситься між джерелами. Для лабораторій тягар доведення переноситься. Якщо агенти веб-перегляду будуть розгорнуті в масштабі, їхні оператори все частіше будуть відстежувати вихідні запити так само ретельно, як вони відстежують вихідні дані моделі, і швидко повідомляти жертв, коли щось піде не так.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
