Согласно анализу агентства Reuters, опубликованному 10 июля 2026 года, система обнаружения изображений с использованием искусственного интеллекта Meta не может идентифицировать более половины собственных изображений, созданных с помощью искусственного интеллекта, когда они подвергаются базовой обрезке. Результаты показывают значительную уязвимость в инструментах аутентификации контента на базе искусственного интеллекта в то время, когда распространение синтетических носителей быстро ускоряется. Подробную информацию о технологии искусственного интеллекта и ее влиянии на общество можно найти на сайте AI Buzz Wire.

Reuters тестирует детектор Meta

Агентство Reuters провело систематическую оценку инструмента обнаружения изображений с использованием искусственного интеллекта Meta, который был разработан для идентификации изображений, созданных искусственным интеллектом. Результаты оказались отрезвляющими: когда изображения, созданные ИИ, были обрезаны (модификация, не требующая технических знаний и которую можно выполнить в любом базовом приложении для редактирования фотографий), детектор не смог пометить примерно 55% из них как синтетические.

Анализ был сосредоточен конкретно на изображениях, созданных с помощью собственных инструментов генерации изображений искусственного интеллекта Meta, что делает процент неудач особенно заметным. Если система обнаружения компании не может надежно идентифицировать контент, созданный с помощью ее собственных генеративных моделей, перспективы обнаружения изображений, созданных внешними системами, кажутся еще более неопределенными.

Выводы были подтверждены многочисленными технологическими публикациями, в том числе Crypto Briefing и Gizmodo, которые сообщили об аналогичных выводах. В Brand Icon Image отметили, что проблемы детектора с обрезанными изображениями вызывают серьезную обеспокоенность по поводу более широкой борьбы с дипфейками и манипулируемыми СМИ.

Почему обрезка мешает обнаружению ИИ

Детекторы изображений AI обычно анализируют изображения, исследуя статистические закономерности в пиксельных данных, которые характерны для генеративных моделей. Эти шаблоны могут включать в себя незначительные артефакты в текстуре, постоянство освещения, сигнатуры частотной области и другие характерные маркеры, которые отличают контент, созданный ИИ, от фотографий, снятых камерами.

Однако обрезка фундаментально меняет композицию изображения, удаляя контекстную информацию, на которую полагаются алгоритмы обнаружения. Когда сгенерированное изображение обрезается, чтобы сфокусироваться на определенной области — лице, объекте или конкретной сцене — многие статистические признаки, которые могли бы идентифицировать его как синтетическое, удаляются или значительно ухудшаются.

Эта уязвимость не уникальна для системы Meta. Исследователи безопасности продемонстрировали, что аналогичные инструменты обнаружения других поставщиков можно обойти с помощью различных манипуляций с изображениями, включая изменение размера, сжатие, настройку цвета и добавление шума. Анализ Reuters показывает, что даже самые базовые преобразования представляют собой серьезную проблему.

Проблемная неделя Меты с изображениями ИИ

Недостатки детектора проявились в и без того трудный период для инициатив Meta в области изображений искусственного интеллекта. Недавно компания запустила функцию изображений AI для Instagram, которая автоматически получает доступ к общедоступным фотографиям пользователей, что вызвало немедленную критику со стороны защитников конфиденциальности и творческих профессионалов.

Столкнувшись с негативной реакцией со стороны таких организаций, как SAG-AFTRA, Meta приостановила эту функцию всего через три дня после ее внедрения, согласно сообщениям Inc.com и Associated Press. В конечном итоге компания прекратила использование этой функции, отметив быстрый отказ от продукта, который позиционировался как значительное улучшение возможностей Instagram.

Сочетание отзыва функции и задокументированных сбоев детектора рисует картину того, что отрасль все еще пытается сбалансировать быстрое развертывание инструментов генеративного искусственного интеллекта с необходимостью в надежных механизмах защиты и обнаружения.

Более широкие последствия для аутентичности контента

Выводы Reuters имеют последствия, выходящие далеко за рамки экосистемы Meta. Поскольку изображения, созданные ИИ, становятся все более неотличимыми от фотографий, способность надежно обнаруживать синтетический контент стала критической проблемой для платформ, издателей и политиков.

Платформы социальных сетей, включая Facebook, Instagram, X (ранее Twitter) и TikTok, реализовали ту или иную форму маркировки контента с помощью искусственного интеллекта, но надежность этих систем значительно различается. Анализ Reuters предполагает, что современные технологии обнаружения могут создавать ложное ощущение безопасности, потенциально позволяя большим объемам синтетического контента распространяться незамеченными.

Эта проблема усугубляется быстрым совершенствованием генераторов изображений ИИ. Поскольку модели OpenAI, Google, Adobe и других компаний создают все более фотореалистичные результаты, артефакты, на которые полагаются системы обнаружения, становятся все более тонкими и их труднее идентифицировать. Гонка вооружений между возможностями генерации и обнаружения, похоже, смещается в пользу генерации.

Стандарт C2PA и реакция отрасли

В ответ на растущую проблему аутентификации контента крупные технологические компании, включая Adobe, Microsoft и BBC, выступили за стандарт Коалиции за происхождение и подлинность контента (C2PA). Этот подход встраивает криптографические подписи и метаданные непосредственно в файлы изображений в момент их создания, позволяя последующим платформам проверять происхождение медиафайла.

Однако C2PA основан на добровольном принятии и может быть удален из изображений посредством стандартной обработки. Критики утверждают, что, хотя отслеживание происхождения обеспечивает ценный уровень защиты, оно не может заменить надежные возможности обнаружения контента, который никогда не подписывался или чьи подписи были удалены.

Анализ Reuters подчеркивает сложность проблемы, стоящей перед отраслью. Несмотря на то, что даже самые простые манипуляции с изображениями превосходят ведущие инструменты обнаружения, обеспечение подлинности визуального контента в эпоху искусственного интеллекта остается нерешенной проблемой.

Поскольку объем контента, создаваемого искусственным интеллектом, продолжает расти в геометрической прогрессии, давление на технологические компании, требующие разработки более надежных систем обнаружения, будет только усиливаться. На данный момент разрыв между тем, что обещают эти инструменты, и тем, что они могут надежно обеспечить, остается критической уязвимостью в борьбе с дезинформацией и синтетическими СМИ.

Будьте впереди ИИ

Для получения дополнительной информации о технологии искусственного интеллекта, дипфейках и аутентичности контента посетите [AI Buzz Wire] (https://aibuzzwire.news).

Подробнее новости AI →