У той час як медіа, створені штучним інтелектом, заполонили Інтернет, технологія водяних знаків Google SynthID стала одним із найвидатніших інструментів для відрізнення автентичного вмісту від синтетичних зображень. Новий ретельний стрес-тест підтверджує, що невидимий водяний знак надзвичайно міцний, витримуючи сотні раундів стиснення, зміни розміру та навіть знімки екрана, але результати також підкреслюють більш сувору правду: самі по собі технічні мітки навряд чи зможуть вирішити зростаючу кризу дезінформації ШІ. Для постійного звітування про [останні розробки штучного інтелекту] (https://aibuzzwire.news), результати знаменують важливий контрольний пункт у дискусії про походження контенту.
Масштаби проблеми важко переоцінити. За оцінками Starling Lab, дослідницького колаборації Стенфордського університету та Університету Південної Каліфорнії, до 1975 року, тобто через 149 років після винаходу фотоапарата, людство створило 1,5 мільярда зображень. Generative AI зрівнявся з цим результатом лише за 18 місяців. На своїй цьогорічній конференції I/O компанія Google оголосила, що тільки її інструменти були використані для створення понад 100 мільярдів зображень і відео ШІ за пару років.
Як працює SynthID
Наразі існує два основні підходи до маркування контенту, створеного штучним інтелектом: невидимі водяні знаки, такі як SynthID, і схеми метаданих, такі як стандарт Coalition for Content Provenance and Authenticity (C2PA). Google використовує обидва. C2PA є криптографічно захищеним і не може бути підроблений, але його дуже легко видалити. Просте редагування та збереження зображення або створення знімка екрана може повністю видалити метадані C2PA.
SynthID має інший підхід. Замість того, щоб покладатися на метадані, які знаходяться поруч із файлом, водяний знак кодується безпосередньо в пікселях зображення чи відео або у формі хвилі аудіокліпу. Оскільки сигнал вплетений у сам вміст, Google стверджує, що він повинен витримати трансформації, стиснення, обрізання та повторне кодування, які відбуваються природним чином, коли медіа передається в Інтернеті.
Стрес-тест для сигналу піксельного рівня
Ars Technica перевірила ці заяви за допомогою сценарію Python, створеного на основі бібліотеки зображень Pillow. Сценарій симулював втрату даних у результаті повторного обміну та завантаження зі значно прискореною швидкістю, застосовуючи випадкові значення стиснення та зміни розміру до тестового зображення та повертаючи кожен результат назад як основу для наступної ітерації. Суб’єктами тестування були два створені штучним інтелектом зображення з моделі Google Nano Banana Pro, одне створене повністю з нуля, а одне оригінальне фото відредаговано штучним інтелектом.
Після 300 поколінь симуляції обміну, під час яких чіткі оригінали були деградовані на ледь впізнавані краплі, водяний знак SynthID все ще зареєстрований на обох зображеннях. Водяний знак зберігся навіть на повних скріншотах, оскільки пікселі спеціального маркера переносяться на новий файл. Кожні 50 поколінь тестер також створював скорочені версії, щоб ще більше послабити виявлення.
Де SynthID нарешті зламався
Межі технології виявилися лише за екстремальних умов. Після 300 циклів стиснення видалення кількох пікселів із меж тестових зображень із погіршенням якості нарешті зламало SynthID як на повністю згенерованих, так і на зображеннях, відредагованих ШІ. Оскільки сигнал водяного знака розподіляється по пікселях, він протистоїть випадковому кадруванню, але як тільки накопичується достатнє погіршення, детектор може бути вимкнено.
Вчений Google DeepMind Пушміт Колі сказав Ars, що команда розробила систему, очікуючи, що на неї буде атаковано. «Протягом усього процесу розробки ми припускали, що така технологія буде атакована», — сказав Колі. «Тож ми провели багато досліджень, щоб зробити SynthID стійким до різних типів трансформацій. Незалежно від того, додають люди якийсь фільтр чи обрізають зображення, ми використовували ці трансформації та переконалися, що детектор був надійним проти них».
Водяні знаки поширюються по всій галузі
Випробування з’явилося в той момент, коли впровадження SynthID виходить за межі власних продуктів Google. Компанія уклала партнерські відносини, щоб розширити використання водяного знака, серед яких OpenAI, Runway і Nvidia, які почали інтегрувати технологію у свої інструменти створення. Google не хотів оприлюднювати багато технічних деталей, окрім оригінальної дослідницької статті, тому незалежне тестування, яке проводив Ars, має значення, оскільки водяний знак поширюється по всьому ландшафту ШІ.
Одних міток недостатньо
Основна проблема, яку виявляє експеримент, полягає в тому, що навіть надійний водяний знак настільки ж корисний, наскільки готові платформи та люди перевіряти його наявність. Виявлення SynthID ще не широко вбудовано в соціальні мережі та програми обміну повідомленнями, де фактично поширюється більшість маніпулюваних медіа. Водяний знак, який витримує 300 циклів стиснення, мало захищає, якщо ніхто з одержувачів не сканує його.
Результати довговічності справді обнадіюють у сфері автентичності вмісту. Вони припускають, що невидимі водяні знаки на рівні пікселів можуть служити надійною технічною основою для походження. Але ширше питання, чи може суспільство побудувати норми, інфраструктуру та стимули, щоб реально діяти відповідно до цих сигналів, залишається невирішеним. Оскільки обсяг синтетичних носіїв продовжує перевищувати рубіж у 100 мільярдів зображень, розрив між тим, що може відзначити технологія, і тим, що платформи будуть модерувати, стає визначальним викликом.
Будьте попереду ШІ
Слідкуйте за найновішими новинами штучного інтелекту, які формують політику, дослідження та платформи, які змінюють Інтернет.
Читати більше новин AI
