Відповідно до аналізу Reuters, опублікованого 10 липня 2026 року, система виявлення зображень Meta не може ідентифікувати більше половини власних зображень, згенерованих штучним інтелектом, коли вони піддаються базовому кадруванню. Результати виявляють значну вразливість інструментів автентифікації вмісту на основі штучного інтелекту в той час, коли поширення синтетичних носіїв стрімко прискорюється. Для повного висвітлення технології ШІ та її впливу на суспільство відвідайте AI Buzz Wire.

Reuters перевіряє детектор Meta

Reuters провів систематичну оцінку інструменту Meta для виявлення зображень штучного інтелекту, який був розроблений для ідентифікації зображень, створених штучним інтелектом. Результати були приголомшливими: коли зображення, створені штучним інтелектом, були обрізані — модифікація, яка не потребує технічних знань і може бути виконана в будь-якій базовій програмі для редагування фотографій, — детектор не зміг позначити приблизно 55% із них як синтетичні.

Аналіз був зосереджений саме на зображеннях, згенерованих власними інструментами Meta для створення зображень зі штучним інтелектом, що робило частоту відмов особливо помітною. Якщо система виявлення компанії не може надійно ідентифікувати вміст, створений її власними генеративними моделями, перспективи виявлення зображень, створених зовнішніми системами, виглядають ще більш невизначеними.

Висновки були підтверджені кількома технологічними публікаціями, включаючи Crypto Briefing і Gizmodo, які повідомили про подібні висновки. Brand Icon Image зазначив, що проблеми детектора з обрізаними зображеннями викликають гострі занепокоєння щодо ширшої боротьби з глибокими фейками та маніпульованими медіа.

Чому кадрування перемагає виявлення ШІ

Детектори зображень штучного інтелекту зазвичай аналізують зображення, досліджуючи статистичні закономірності в піксельних даних, які характерні для генеративних моделей. Ці шаблони можуть включати тонкі артефакти в текстурі, консистенції освітлення, сигнатури частотної області та інші контрольні маркери, які відрізняють створений штучним інтелектом контент від фотографій, знятих камерами.

Однак кадрування фундаментально змінює композицію зображення, видаляючи контекстну інформацію, на яку спираються алгоритми виявлення. Коли згенероване зображення обрізається, щоб зосередитися на певній області — обличчі, об’єкті чи певній сцені — багато статистичних ознак, які б ідентифікували його як синтетичне, усуваються або значно погіршуються.

Ця вразливість не є унікальною для системи Meta. Дослідники безпеки продемонстрували, що подібні інструменти виявлення від інших постачальників можна подолати різними маніпуляціями із зображеннями, включаючи зміну розміру, стиснення, коригування кольору та додавання шуму. Аналіз Reuters показує, що навіть найелементарніші перетворення становлять серйозну проблему.

Проблемний тиждень Meta із зображеннями AI

Недоліки детектора виявилися під час і без того складного періоду для ініціатив Meta щодо створення зображень штучного інтелекту. Нещодавно компанія запустила функцію штучного інтелекту для зображень для Instagram, яка автоматично отримувала доступ до публічних фотографій користувачів, викликавши негайну критику з боку захисників конфіденційності та творчих професіоналів.

Згідно з повідомленнями Inc.com та Associated Press, зіткнувшись з негативною реакцією організацій, зокрема SAG-AFTRA, Meta призупинила функцію лише через три дні після її появи. Зрештою компанія припинила роботу з цією функцією, ознаменувавши швидку зміну продукту, який позиціонувався як значне вдосконалення досвіду роботи з Instagram.

Поєднання скасування функції та задокументованих збоїв детектора малює картину галузі, яка все ще намагається збалансувати швидке розгортання генеративних інструментів штучного інтелекту та потребу в надійних запобіжних заходах і механізмах виявлення.

Більш широкі наслідки для автентичності вмісту

Висновки Reuters мають наслідки, які виходять далеко за межі екосистеми Meta. Оскільки зображення, створені штучним інтелектом, дедалі більше не відрізняються від фотографій, здатність надійно виявляти синтетичний вміст стала критичною проблемою для платформ, видавців і політиків.

Платформи соціальних медіа, включаючи Facebook, Instagram, X (раніше Twitter) і TikTok, реалізували певну форму позначення вмісту ШІ, але надійність цих систем значно відрізняється. Аналіз Reuters показує, що поточна технологія виявлення може створювати помилкове відчуття безпеки, потенційно дозволяючи великим обсягам синтетичного вмісту циркулювати непоміченим.

Ця проблема ускладнюється швидким вдосконаленням генераторів зображень ШІ. Оскільки моделі від OpenAI, Google, Adobe та інших створюють все більш фотореалістичні результати, артефакти, на які покладаються системи виявлення, стають дедалі тоншими, і їх важче ідентифікувати. Гонка озброєнь між генерацією та можливостями виявлення, здається, схиляється на користь генерації.

Стандарт C2PA та реакція галузі

У відповідь на зростаючу проблему автентифікації вмісту великі технологічні компанії, зокрема Adobe, Microsoft і BBC, підтримали стандарт Коаліції за походження та автентичність вмісту (C2PA). Цей підхід вбудовує криптографічні підписи та метадані безпосередньо у файли зображень у точці створення, дозволяючи наступним платформам перевіряти походження медіафайлу.

Однак C2PA покладається на добровільне прийняття, і його можна видалити із зображень за допомогою стандартної обробки. Критики стверджують, що хоча відстеження походження пропонує цінний рівень захисту, воно не може замінити надійні можливості виявлення для вмісту, який ніколи не був підписаний або підписи якого були видалені.

Аналіз Reuters підкреслює складність виклику, що стоїть перед галуззю. Оскільки навіть найелементарніша маніпуляція зображеннями перемагає провідні засоби виявлення, забезпечення автентичності візуального контенту в епоху ШІ залишається невирішеною проблемою.

Оскільки обсяг контенту, створеного штучним інтелектом, продовжує зростати в геометричній прогресії, тиск на технологічні компанії щодо розробки більш надійних систем виявлення лише посилюватиметься. Наразі розрив між тим, що ці інструменти обіцяють, і тим, що вони можуть надійно забезпечити, залишається критичною вразливістю в боротьбі з дезінформацією та синтетичними ЗМІ.

Будьте попереду ШІ

Щоб дізнатися більше про технології штучного інтелекту, дипфейки та автентичність вмісту, відвідайте AI Buzz Wire.

Читати більше новин AI →