Google призупинив свою програму винагороди за вразливість програмного забезпечення з відкритим кодом, ініціативу, яка оплачує дослідників безпеки за пошук уразливостей у проектах компанії з відкритим кодом, звинувачуючи в цьому сплеск автоматизованих, здебільшого марних заявок. Пауза набула чинності 1 жовтня, і Google каже, що учасники можуть очікувати оновлення в першому кварталі 2027 року.
Оголошення було опубліковано на X і на власному веб-сайті програми, де Google надав надзвичайно пряме пояснення припинення роботи. «Ця пауза пов’язана зі значним зростанням кількості автоматизованих повідомлень, переважна більшість яких недійсні», — заявили в компанії. Іншими словами, конвеєр звітів не сповільнився — він потонув у шумі, і в цьому шумі майже немає людського. Щоб дізнатися більше про те, як генеративні інструменти змінюють екосистему програмного забезпечення, перегляньте наші останні розробки ШІ.
Що насправді робить призупинена програма
Програма винагороди за вразливість програмного забезпечення з відкритим вихідним кодом, зазвичай скорочена до OSS VRP, є засобом Google для винагороди сторонніх дослідників, які знаходять недоліки безпеки у відкритому коді, який компанія випускає та підтримує. Замість того, щоб обмежувати винагороди для власних продуктів Google, програма розширює виплати за вразливості, виявлені в проектах з відкритим кодом, на основі теорії, що спільнота безпеки знаходитиме помилки швидше, якщо буде додано стимул.
Ця модель працює лише тоді, коли можна керувати співвідношенням сигнал/шум. Невелика команда рецензентів програми має сортувати кожне вхідне повідомлення, відтворювати заявлену вразливість, оцінювати її серйозність і приймати рішення про винагороду. Кожен недійсний звіт споживає стільки ж часу персоналу, скільки і справжній звіт, і, на відміну від справжнього, він нічого не дає взамін.
Інженери потопають у галюцинаціях
Операційна реальність, що стоїть за оголошенням Google, була більш детально описана Tom's Hardware, яка виявила, що інженери Google і супроводжувачі відкритого коду були перевантажені звітами, які були недійсними або містили відверті галюцинації. Це характерний режим відмов у дослідженні вразливостей за допомогою штучного інтелекту: мовна модель може створити звіт, який виглядає формально правильним — разом із ураженими компонентами, кроками відтворення та аналізом впливу — водночас описуючи помилку, якої просто не існує.
Сортування такого подання не є десятисекундним звільненням. Рецензент має прочитати звіт, перевірити заявлений шлях до коду та переконатися, що недолік є фіктивним, перш ніж відхилити його. Помножте це на потік автоматизованих повідомлень і економічний згортання всієї програми. Програма винагороди, розроблена для збільшення кількості дослідників, стає атакою типу «відмова в обслуговуванні» проти тих самих рецензентів, з якими вона мала працювати.
Попередження надійшло на рік раніше
Пауза виникла не на порожньому місці. TechCrunch зазначив, що в минулому році він повідомляв про те, що експерти з кібербезпеки попереджали, що помилки ШІ становлять серйозний ризик для програм винагороди за помилки. Прогноз був простим: оскільки генеративні моделі зробили майже безкоштовним створення правдоподібних технічних документів, вартість подання підробленого або низькоякісного звіту знизиться до нуля, тоді як вартість його перегляду залишиться незмінною.
Ця асиметрія зараз проявляється в одній з найбільших технологічних компаній у світі. Платформи винагород за помилки в усій галузі експериментують із контрзаходами — суворіші вимоги до подання, вимоги щодо підтвердження роботи, системи репутації — але Google вибрав найпростіший із доступних інструментів: повністю припинити приймати звіти, доки не буде вирішено проблему надходження.
Що тим часом відбувається з дослідниками
Меседж Google учасникам полягає в тому, щоб перенаправити їхні зусилля. Тим часом дослідників заохочують розглянути інші програми компанії за помилки, які охоплюють флагманські продукти Google і, здається, працюють нормально. Саму OSS VRP обіцяють оновити в першому кварталі 2027 року, хоча Google не повідомляє, яку форму матиме це оновлення — нові фільтри подання, перевірка особи, сортування за допомогою штучного інтелекту або перероблена структура винагороди — все це правдоподібні напрямки, але компанія не зобов’язувалася публічно жодного з них.
Для законних дослідників безпеки заморожування є реальною ціною. Робота над уразливістю з відкритим вихідним кодом, виявленою до 1 жовтня, зараз перебуває в підвішеному стані, і немає вказівок на те, чи буде Google розглядати звіти, надіслані майже на межі, або просить тих, хто подав заявку, повторно надіслати її після перезапуску.
Стрес-тест для обслуговування з відкритим кодом
Більш глибока історія тут стосується економіки обслуговування з відкритим кодом. Волонтери-підтримувачі вже стикаються з великою кількістю запитів на функції, запитів на отримання та звітів про проблеми, створених користувачами. Контент, створений за допомогою штучного інтелекту, збільшує базове навантаження на всі канали одночасно: звіти про помилки, розголошення інформації про безпеку, запитання щодо документації та додавання коду тепер можуть створюватися в промислових масштабах учасниками, які не зацікавлені в справжньому здоров’ї проекту.
Відповідь Google — повне закриття програми безпеки — є тим заходом, який вісімнадцять місяців тому здавався б непропорційним. Власне твердження компанії про те, що переважна більшість автоматизованих повідомлень є недійсними, свідчить про те, що проблема споживання зростала швидше, ніж будь-який підхід до фільтрації міг подолати. Те, чи зможе перезапуск у першому кварталі 2027 року відновити працездатне співвідношення сигнал/шум, багато скаже про те, чи зможуть програми винагороди за помилки як установа пережити еру вільного генерування тексту.
До того часу повідомлення для спільноти дослідників безпеки викликає розчарування: уразливості все ще існують, винагорода все ще теоретично доступна, але Google наразі не приймає допомоги в їх пошуку.
---
Будьте попереду ШІОтримуйте останні новини штучного інтелекту, аналіз і прориви — усе в одному місці.
Читати більше новин AI →
