Представители OpenAI и Meta Platforms сообщили в четверг федеральной судебной коллегии, что дипфейки, созданные с помощью ИИ, стали настолько продвинутыми, что проверять подлинность аудио- и видеодоказательств в суде станет сложнее, сообщает Reuters.
Эксперты по технологиям изложили свои опасения на заседании в Бостоне Консультативного комитета по правилам доказывания Судебной конференции США* — органа, ответственного за рекомендации по внесению изменений в федеральные правила, регулирующие, какие доказательства могут приниматься судами. Комитет с 2023 года работает над тем, как устранить риски, связанные с сфабрикованными доказательствами, созданными с помощью ИИ, в залах суда. Подробнее об этой истории — в нашем тенденции ИИ*.
Лаборатории искусственного интеллекта заявляют, что у обнаружения нет научного будущего
Шира Андерсон, политический советник OpenAI, сообщила комитету, что качество ИИ-изображений продолжает улучшаться, и сказала, что она не верит, что научный метод их обнаружения будет существовать в будущем — поразительное признание со стороны компании, которая создает генеративные системы, производящие этот контент.
Девин Нордер, директор по управлению продуктами Meta, рассказал участникам группы, что люди не могут отличить медиа, созданные с помощью новейших моделей искусственного интеллекта, от подлинного контента, и что создание таких медиа теперь требует минимальных затрат и времени.
Обе компании разработали инструменты происхождения и проверки визуального контента, а новые законы Калифорнии и Европейского Союза требуют нанесения водяных знаков на медиафайлы, созданные искусственным интеллектом. Но Андерсон предупредил комитет, что каждая компания использует свою собственную систему, а это означает, что не существует универсального метода надежного обнаружения всех водяных знаков или проверки подлинности визуального контента в экосистеме.
Суды еще не почувствовали волну
Председатель комитета, окружной судья США Джесси Фурман из Манхэттена, предложил противовес тревоге: хотя академические комментарии предсказывают, что суды будут иметь дело с дипфейками, в реальных делах эта проблема пока не возникает часто.
Опрос, проведенный Федеральным судебным центром в марте, подчеркнул этот пробел. Только 15 из 931 судьи, приславшего ответ, сталкивались со случаем, когда сторона оспаривала доказательства на том основании, что они были дипфейком.
Этот разрыв между прогнозами и практикой является основной дилеммой комитета. В соответствии с Федеральными правилами доказывания 901 и 902, существующий стандарт проверки подлинности доказательств, как сказано в собственном отчете комитета, является мягким: стороне достаточно предоставить доказательства, достаточные для подтверждения вывода о том, что предмет является тем, чем его утверждает инициатор. Дипфейки являются стресс-тестом этого стандарта, поскольку традиционные способы проверки подлинности записей (показания свидетелей, системная документация) предполагают, что масштабная подделка сложна, дорога и поддается обнаружению.
В отчете комитета проблема сформулирована с необычайной резкостью. В отчете за декабрь 2025 года было рассмотрено, что происходит, когда видео или аудио, представленное в суде, является дипфейком, и был сделан вывод, что это представляет собой прямой вызов требованиям аутентичности согласно Правилам 901 и 902 именно потому, что существующий стандарт аутентичности является мягким. Как — и стоит ли — ужесточить этот стандарт — это вопрос, который комитет обсуждает уже три года, и он станет еще более актуальным, если, как предупреждают представители лаборатории, наука об обнаружении никогда не догонит науку о поколениях.
Что практикующие могут сделать сейчас
До тех пор, пока правила не изменятся, практическое бремя ляжет на стороны и судьи первой инстанции. Инструменты происхождения — криптографические учетные данные контента, встроенные во время создания — распространяются через приложения для камер и программное обеспечение для творчества, хотя они полезны только для носителей, которые их содержат. В настоящее время в качестве средств защиты используются перекрестный допрос под присягой человека, сделавшего запись, требование предоставить оригинальные файлы и метаданные, а также более тщательное изучение необоснованных клипов, циркулирующих на социальных платформах. Послание консультативного комитета на этой неделе фактически заключалось в том, что для этих временных пробелов потребуется формальная основа на уровне правил, поскольку неформальные предполагают возможность обнаружения, которая, по словам OpenAI и Meta, больше не существует.
Почему показания лабораторий имеют значение
Примечательно, что именно компании, продукция которых создает риск, предупреждают об этом судебную систему. OpenAI и Meta имеют прямые коммерческие и репутационные интересы в том, как действуют правила: строгие требования аутентификации могут создать препятствия для законного использования средств искусственного интеллекта, а слабые могут сделать их инструменты векторами мошенничества в зале суда. По сути, их послание комитету заключалось в том, что стандарты происхождения — водяные знаки, учетные данные контента, документация цепочки поставок — являются реальным путем, поскольку само по себе обнаружение не будет масштабироваться.
Ожидается, что трехлетний обзор комитета покажет, нужны ли поправки к федеральным правилам доказывания в эпоху ИИ. Любое изменение будет проходить через процесс нормотворчества Конференцией судей, включая общественное обсуждение, прежде чем поступить в Конгресс.
Более широкая картина регулирования
Слушания проходят на фоне всплеска политической активности, связанной с дипфейками. Калифорния и ЕС ввели требования к использованию водяных знаков. Дания разработала законопроект, запрещающий распространение дипфейков искусственного интеллекта без согласия. Американские суды уже видели, как в исках всплывают фабрикации, созданные ИИ, а судьи наложили санкции на адвокатов за представление фальшивых цитат, созданных чат-ботами.
На данный момент федеральная судебная система предпочитает тщательное изучение быстрым изменениям правил. Но показания компаний, создающих эту технологию, позволяют предположить, что сама отрасль не ожидает, что инструменты обнаружения будут идти в ногу со временем, что перекладывает бремя на стандарты происхождения, процессуальные гарантии, такие как требования к показаниям живых людей, и, в конечном итоге, на решение судей и присяжных о том, чему верить.
---
Будьте в курсе ИИПоследние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.
Читать больше новостей об ИИ →
