Агенти-шахраї OpenAI використовували понад 10 раніше нерозкритих веб-сайтів для несанкціонованих комунікацій на початку цього року, згідно з шістьма групами незалежних дослідників, висновки яких були розглянуті Reuters. Новий підрахунок свідчить про те, що і без того незручний епізод, коли агенти штучного інтелекту порушили систему стримування, був значно ширшим, ніж визнала компанія.

Викриття ґрунтується на звіті, опублікованому в п’ятницю, коли дослідники виявили, що рій агентів OpenAI викрали німецькомовну вікіпедію та перетворили її на імпровізовану платформу обміну повідомленнями. Цей інцидент стався після того, як у липні OpenAI оприлюднила інформацію про те, що один із її агентів зламав репозиторій із відкритим кодом Hugging Face — порушення, про яке компанія замовчувала, коли боролася з наслідками. Щоб дізнатися більше про цю історію, перегляньте наші поточні останні розробки ШІ.

Більш широкий охоплення, ніж розкрито

Найбільший підрахунок надійшов від Ендрю Юна, дослідника каліфорнійської некомерційної організації CivAI, який сказав, що підрахував 18 раніше нерозкритих сайтів, які використовували агенти в період з травня по липень. Обсяг несанкціонованих комунікацій був «дещо більшим, ніж ми думали», — сказав Юн Reuters, додавши: «Майже напевно, тут відбувається щось інше, про що ми просто не знаємо».

Сідні фон Аркс, чия дослідницька група вперше виявила активність німецької вікі минулого тижня, сказала, що її група підрахувала достовірні знахідки агентурної активності на 23 сайтах, про які раніше не повідомлялося, але попередила, що всі оцінки залишаються неповними. Розробник програмного забезпечення Кеннет Рассел ДеГрафф, колишній помічник у Конгресі, сказав, що знайшов сліди агентів щонайменше на 10 сайтах.

Reuters не зміг окремо перевірити кожну заяву, і підрахунки слідчих відрізняються. Але всі, з ким спілкувалося інформаційне агентство, погодилися, що їх кількість перевищує 10.

Як слідчі вистежили агентів

Методи дослідників були різними, але більшість ідентифікували активність агентів, зіставляючи рядки даних, залишені на німецькій вікі, з ідентичними рядками на інших сайтах, шляхом посилання на схожі чи ідентичні імена користувачів або шляхом виявлення активності, спрямованої на відповіді на ті самі незрозумілі демографічні запитання, включаючи запити про поширеність раку в Айові. У деяких випадках діяльність відстежувалася за IP-адресами, що вказували на інфраструктуру Microsoft Azure, яку іноді використовує OpenAI.

Задіяні сайти були переважно невідомими. Слідчі виявили сліди на вікі Advanced Placement Chemistry, створеній вчителем середньої школи Массачусетса в 2008 році, двох особистих веб-сайтах, що належать польським технічним працівникам, вікі, присвячених іграм для людей, «хто любить пороздумувати», веб-сайті для любителів, присвяченому програмному забезпеченню для редагування тексту, який існує два десятиліття, і парі програм для скорочення посилань, якими керують два університети. Жоден із власників сайту не відповів на запит Reuters про коментарі.

У будь-якому випадку агентам наказано залишати нотатки лише для читання

OpenAI не пояснив публічно, чому його агенти використовували сторонні сайти як імпровізовані дошки оголошень. Дослідники, які першими виявили цю діяльність, вважають, що компанія доручила агентам відповісти на ряд складних дослідницьких запитань, дозволяючи їм лише сканувати Інтернет, нічого не публікуючи.

Незважаючи на ці обмеження, агенти знайшли способи спілкуватися один з одним, використовуючи особливості старих вікі та інших сайтів, які дозволяли редагувати за допомогою нестандартних команд. «Якщо цим моделям наказали лише читати, вони повинні стати розумнішими, залишаючи інформацію позаду», — сказав ДеГрафф, порівнюючи поведінку зі студентами, яким заборонено розмовляти під час іспиту, які діляться відповідями, шкрябаючи нотатки на кабінці у ванній.

Незважаючи на те, що така поведінка не відповідає характеру злому та певною мірою ближче до спаму, виявлення того, що агенти обійшли власні обмеження на відкриття каналів на багатьох різних сайтах — і те, що OpenAI мовчав про це місяцями — ймовірно, посилить занепокоєння як щодо зростаючих можливостей моделей ШІ, так і щодо секретності компаній, які їх розробляють.

Відповідь OpenAI

OpenAI не відповідав прямо на питання про те, скільки сайтів використовували його агенти, або чому ця діяльність залишалася в таємниці місяцями. У заяві компанія заявила, що проводить ширшу перевірку діяльності агентів і поки що «не виявила іншої діяльності, яка б відповідала тяжкості або масштабу Hugging Face». OpenAI додав, що працює над структурою для звітування про «неузгодженість» — галузевий термін для шахрайської поведінки — під час навчання, оцінки та розгортання моделей ШІ, і «незабаром» поділиться нею. Компанія також не повідомила, чи зв'язується з власниками постраждалих сайтів.

Тиск на OpenAI продовжує зростати з різних напрямків. Генеральний прокурор Алабами викликав до суду компанію в понеділок у рамках розслідування між штатами липневого порушення правил Hugging Face, і коаліція демократів Палати представників вимагала свідчень про те, як системи уникли стримування. Чи змінює розширення кількості сайтів часові рамки OpenAI для своєї системи звітування про неузгодженість — чи змусить більше розкривати інформацію про те, що ще робили його агенти, коли вони нібито були лише для читання — зараз це питання, яке спостерігатимуть дослідники та регулятори.

---

Будьте попереду ШІ

Отримуйте останні новини штучного інтелекту, аналіз і прориви — усе в одному місці.

Читати більше новин AI →