Pangram, компания по обнаружению искусственного интеллекта, наиболее известная своей маркировкой машинно-генерируемого текста, официально представила Pangram Image 1.0 и Pangram Image Flash 1.0, пару моделей, которые, по словам компании, устанавливают новый уровень техники для обнаружения изображений и видео, созданных и отредактированных искусственным интеллектом. Объявление, опубликованное в собственном блоге Pangram 4 ноября и подхваченное Engadget, Unite.AI и Yahoo Tech, превращает предварительную версию исследования, выпущенную компанией несколько месяцев назад, в общедоступный продукт с поддержкой API.

Запуск происходит в то время, когда синтетические медиа стало действительно трудно отличить от подлинного контента, как для случайных скроллеров, так и для систем модерации, на которые полагаются платформы. Pangram делает ставку на то, что специальные модели обнаружения, специально обученные на выходных сигналах современных передовых генераторов, смогут восстановить часть потерянного сигнала.

Обнаружение пограничных изображений с точностью 99,96%

Флагманская модель Pangram Image 1.0 оценивалась по эталону, который компания разработала сама: 100 реальных фотографий, каждая из которых зеркально отражает синтетические версии, созданные 12 передовыми генераторами изображений AI с использованием подсказок, точно соответствующих исходной фотографии, в общей сложности 1200 синтетических изображений. В этом наборе оценок Pangram сообщает о точности 99,96% — цифра, которая, если она выдержит независимую проверку, поставит модель намного выше коммерческих и академических детекторов, с которыми компания ее сравнивала.

Помимо простого вердикта «настоящий или фальшивый», модель выводит тепловые карты, которые точно определяют, где именно ИИ-контент появляется на изображении. Это важно для все более распространенного компромисса между полностью синтетическими изображениями и нетронутыми фотографиями: маркетинговые изображения с фоном, созданным искусственным интеллектом, фотографии, ретушированные с помощью генеративных инструментов, или композиции, в которых реальные объекты смешиваются с сгенерированными элементами.

Pangram также утверждает, что новая модель устойчива к видам преобразований, которые надежно обходят наивные детекторы — сжатию социальных сетей, преднамеренному размытию и шуму, а также низкому разрешению загрузки. Компания заявляет, что для ее предыдущего предварительного просмотра исследования требовались изображения размером не менее 512x512 пикселей, в то время как Image 1.0 принимает входные данные размером до 256x256, с отказом от ответственности с ограниченной достоверностью, отображаемым ниже старого порога.

Видеодетектирование и скачок на 29 пунктов в DF26

Сопутствующая модель Pangram Image Flash 1.0 ориентирована на видео, и именно здесь претензии компании наиболее ярки. Панграм цитирует недавнее научное исследование DF26, которое показало, что люди едва ли лучше случайных различают реальные видео людей, говорящих, от видео, созданных ИИ, и что существующие автоматические детекторы были немногим лучше. По тому же тесту DF26 компания Pangram сообщает о результате 98,7%, что она описывает как скачок на 29 пунктов по сравнению со следующим лучшим детектором.

Для сравнения с коммерческим рынком, а не с академическими кругами, Pangram построил сложный набор для сравнения из 129 реальных видеороликов из социальных сетей, сгенерировав синтетические зеркала каждого из них с использованием 14 различных передовых видеогенераторов — по 100 видеороликов на каждый генератор, засеянных первым реальным кадром каждого исходного видео и основанных на сгенерированных описаниях действия. Из полученных 1529 видеороликов компания сравнила Flash 1.0 с несколькими основными службами обнаружения видео с использованием искусственного интеллекта. Методика зеркалирования предназначена для устранения предвзятости контента: каждое настоящее видео и его синтетический двойник имеют одну и ту же сцену и объект, поэтому детектор не может обмануть тест, узнав, какие темы или эстетика коррелируют с контентом ИИ.

Модель Flash также выполняет покадровый анализ, что позволяет помечать отредактированные искусственным интеллектом сегменты внутри аутентичных кадров — возможность, направленная на растущую проблему частично обработанных видео, а не полностью синтетических клипов.

От обнаружения текста к полностью синтетическому медиа-стеку

Pangram заработала свою репутацию на распознавании текста с помощью искусственного интеллекта, где ее классификаторы широко используются в образовании и издательском деле, а в репортаже Yahoo Tech о запуске компания названа золотым стандартом в этой категории. Расширение изображений и видео является естественным расширением, и оно позиционирует Pangram как универсальный магазин для платформ, редакций новостей и предприятий, пытающихся контролировать синтетические медиа во всех форматах.

Новые модели поставляются с поддержкой API для обнаружения изображений и видео, а также с расширением Chrome, которое применяет обнаружение к изображениям и видео, когда пользователи прокручивают свои каналы, что превращает обнаружение из инструмента модерации бэк-офиса в нечто более близкое к защите потребительского уровня. Pangram сообщает, что также сравнил модели с наборами академических данных, включая X-AIGD, Mirage-Test, AIGenImages2026, Synthbuster в сочетании с RAISE и Community Forensics.

Гонка вооружений в сфере обнаружения продолжается

Одно предостережение заслуживает внимания: все цифры в объявлении Pangram основаны на собственных оценках Pangram, проведенных на основе ее собственных зеркальных тестов. Независимая проверка — это то, как инструменты обнаружения в конечном итоге завоевывают доверие, а история обнаружения ИИ полна инструментов, точность которых упала по сравнению с генераторами, которых они никогда не видели. Сама Pangram признала это в своем посте, поблагодарив сообщество за опробование предварительного исследования и обнаружение его слабых мест.

Тем не менее, этот запуск является значимым показателем того, насколько далеко продвинулись технологии обнаружения в ответ на быстрое развитие генеративного видео. Если заявленный результат DF26 выдержит стороннее тестирование, разрыв между тем, что могут воспринимать люди, и тем, что могут проверить машины, только увеличится — именно на этот рынок и делает ставку Pangram.

Для платформ и издателей практический вывод заключается в том, что высокоточное обнаружение при низких разрешениях, включая анализ видео на уровне кадра, становится доступным в качестве стандартного API. Следующий этап проблемы синтетических носителей может заключаться не столько в том, возможно ли обнаружение, сколько в том, кто его применяет и на каком уровне сети Интернета.

Будьте впереди ИИ

Синтетические носители, инструменты обнаружения и платформы, которые их используют, являются движущимися целями — будьте в курсе всего этого.

Читать больше новостей об искусственном интеллекте →