Pangram, компанія, що займається виявленням штучного інтелекту, найвідоміша тим, що позначає створений машиною текст, офіційно запустила Pangram Image 1.0 і Pangram Image Flash 1.0, пару моделей, які, за словами компанії, створюють новий рівень техніки для виявлення створених і відредагованих штучним інтелектом зображень і відео. Оголошення, опубліковане у власному блозі Pangram 4 листопада та підібране Engadget, Unite.AI та Yahoo Tech, перетворює попередній перегляд дослідження, який компанія випустила кілька місяців тому, у загальнодоступний продукт із підтримкою API.

Запуск відбувся в той час, коли синтетичні носії стало справді важко відрізнити від автентичного вмісту як для випадкових скролерів, так і для систем модерації, на які покладаються платформи. Pangram робить ставку на те, що спеціалізовані моделі виявлення, навчені спеціально на виходах сучасних передових генераторів, можуть відновити частину цього втраченого сигналу.

Виявлення кордону зображення з точністю 99,96%.

Флагманська модель Pangram Image 1.0 була оцінена за еталонним показником, створеним власноруч: 100 реальних фотографій, кожна з яких віддзеркалена синтетичними версіями, створеними 12 передовими генераторами зображень штучного інтелекту з використанням підказок, точно відповідних оригінальній фотографії, загалом 1200 синтетичних зображень. У цьому тестовому наборі Pangram повідомляє про точність 99,96% — показник, який, якщо він витримає під час незалежного контролю, поставить модель набагато попереду комерційних і академічних детекторів, з якими компанія порівнювала її.

Крім простого вердикту «справжній чи фальшивий», модель виводить теплові карти, які локалізують саме те, де на зображенні з’являється вміст ШІ. Це важливо для все більш поширеної середини між повністю синтетичними зображеннями та недоторканими фотографіями: маркетингові зображення з фоном, створеним штучним інтелектом, фотографії, відретушовані за допомогою генеративних інструментів, або композиції, які поєднують реальні об’єкти зі згенерованими елементами.

Pangram також стверджує, що нова модель стійка до трансформацій, які надійно перемагають наївні детектори — стиснення в соціальних мережах, навмисне розмиття та шум, а також низька роздільна здатність завантаження. Компанія стверджує, що попередній попередній перегляд вимагав зображення розміром принаймні 512x512 пікселів, тоді як Image 1.0 приймає вхідні дані до 256x256 із застереженням про обмежену достовірність, яке показано нижче старого порогу.

Виявлення відео та 29-точковий стрибок на DF26

Супутня модель, Pangram Image Flash 1.0, призначена для відео, і саме тут заява компанії найбільш вражаюча. Pangram посилається на нещодавнє наукове дослідження DF26, яке виявило, що люди трохи краще, ніж випадкові, коли відрізняють реальні відео людей, які розмовляють, від створених штучним інтелектом, і що існуючі автоматизовані детектори не набагато кращі. За тим самим тестом DF26 Pangram повідомляє про результат 98,7%, який він описує як стрибок на 29 балів порівняно з наступним найкращим детектором.

Для порівняння з комерційним ринком, а не з науковими колами, Pangram створив складний набір для порівняння зі 129 реальних відео в соціальних мережах, генеруючи синтетичні дзеркала кожного з використанням 14 різних передових відеогенераторів — по 100 відео на генератор, заповнений першим реальним кадром кожного вихідного відео та керований згенерованими описами дії. Серед отриманих 1529 відео компанія порівняла Flash 1.0 із кількома основними службами виявлення відео зі штучним інтелектом. Методика дзеркала розроблена для усунення упередженості вмісту: кожне реальне відео та його синтетичний двійник мають одну сцену та об’єкт, тому детектор не може обіграти тест, дізнавшись, які теми чи естетика корелюють із вмістом AI.

Модель Flash також виконує покадровий аналіз, що дозволяє позначати відредаговані штучним інтелектом сегменти всередині автентичних відеоматеріалів — можливість, спрямована на вирішення зростаючої проблеми частково маніпуляційних відео, а не повністю синтетичних кліпів.

Від виявлення тексту до повного синтетичного мультимедійного стека

Pangram побудував свою репутацію на розпізнаванні тексту штучним інтелектом, де його класифікатори широко використовуються в освіті та видавництві, а висвітлення запуску Yahoo Tech описує компанію як золотий стандарт у цій категорії. Розширення на зображення та відео є природним розширенням, і воно позиціонує Pangram як єдиний магазин для платформ, редакцій та підприємств, які намагаються контролювати синтетичні медіа у різних форматах.

Нові моделі постачаються з підтримкою API для виявлення зображень і відео, а також розширенням Chrome, яке застосовує виявлення до зображень і відео, коли користувачі прокручують канали, переміщуючи виявлення з інструменту модерації в офісі до чогось ближчого до захисту споживача. Pangram каже, що також порівнював моделі з академічними наборами даних, включаючи X-AIGD, Mirage-Test, AIGenImages2026, Synthbuster у поєднанні з RAISE та Community Forensics.

Гонка озброєнь у сфері виявлення триває

Одне застереження заслуговує на акцент: кожне число в повідомленні Pangram походить від власних оцінок Pangram, проведених на основі власних дзеркальних тестів. Незалежне підтвердження — це те, як інструменти виявлення зрештою заслуговують довіру, і історія виявлення штучного інтелекту всіяна інструментами, точність яких впала порівняно з генераторами, яких вони ніколи не бачили. Сам Pangram визнав це у своїй публікації, подякувавши спільноті за те, що спробувала попередній перегляд дослідження та знайшла його слабкі місця.

Тим не менш, запуск є значущим маркером того, наскільки далеко просунулася технологія виявлення у відповідь на швидке вдосконалення генеративного відео. Якщо зареєстрований результат DF26 витримає тестування третьої сторони, розрив між тим, що можуть сприйняти люди, і тим, що можуть перевірити машини, лише збільшиться — це саме той ринок, на який Pangram робить ставку.

Для платформ і видавців практичний висновок полягає в тому, що високоточне виявлення з низькою роздільною здатністю, включаючи аналіз відео на рівні кадру, стає доступним як стандартний API. Наступна фаза проблеми синтетичних медіа може стосуватися не того, чи можливе виявлення, а більше того, хто його розгортає та на якому рівні мережі Інтернету.

Будьте попереду ШІ

Синтетичні носії, засоби виявлення та платформи, які їх використовують, є рухомими цілями — будьте в курсі всього цього.

Читати більше новин AI →