Представники OpenAI і Meta Platforms повідомили федеральній судовій колегії в четвер, що дипфейки, створені штучним інтелектом, стали настільки просунутими, що перевірка автентичності аудіо- та відеодоказів у суді стане складнішою, повідомляє Reuters.
Технологічні експерти висловили свої занепокоєння на зустрічі в Бостоні Консультативного комітету Судової конференції США з правил доказів — органу, відповідального за рекомендації змін до федеральних правил, які регулюють те, які докази можуть приймати суди. З 2023 року комітет працює над тим, як усунути ризики сфабрикованих доказів, створених штучним інтелектом, у залах суду. For more context on this story, see our ongoing breaking AI news.
Лабораторії штучного інтелекту кажуть, що виявлення не має наукового майбутнього
Шира Андерсон, політичний радник OpenAI, повідомила комітету, що зображення штучного інтелекту продовжують покращуватись у якості, і сказала, що вона не вірить, що в майбутньому буде існувати науковий метод їх виявлення — разюче визнання компанії, яка створює генеративні системи, що виробляють цей контент.
Девін Нордер, директор з управління продуктами в Meta, сказав, що люди не можуть відрізнити медіафайли, створені за допомогою останніх моделей штучного інтелекту, від автентичного контенту, і що створення таких медіа тепер потребує мінімальних витрат і часу.
Обидві компанії розробили інструменти походження та перевірки візуального вмісту, а нові закони в Каліфорнії та Європейському Союзі вимагають водяних знаків на медіа, створених ШІ. Але Андерсон попередив комітет, що кожна компанія використовує свою власну систему, тобто не існує універсального методу для надійного виявлення всіх водяних знаків або перевірки автентичності візуального вмісту в екосистемі.
Суди ще не відчули хвилі
Голова комітету, окружний суддя США Джессі Фурман з Манхеттена, запропонував противагу тривозі: хоча наукові коментарі передбачають, що суди будуть мати справу з глибокими фейками, ця проблема ще нечасто з’являється в реальних справах.
Опитування, проведене Федеральним судовим центром у березні, підкреслило цю прогалину. Лише 15 із 931 судді, які відповіли, стикалися зі справою, коли сторона оскаржувала докази на тій підставі, що вони були глибоким фейком.
Цей розрив між прогнозами та практикою є основною дилемою комітету. Згідно з Федеральними правилами доказів 901 і 902, існуючий стандарт перевірки автентичності доказів, як зазначено у власному звіті комітету, є м’яким: стороні потрібно лише надати докази, достатні для того, щоб підтвердити висновок, що предмет є тим, чим стверджує автор. Deepfakes проводить стрес-тест за цим стандартом, оскільки традиційні шляхи автентифікації записів (свідчення свідків, системна документація) припускають, що масштабна підробка є важкою, дорогою та виявленою.
Власний звіт комітету сформулював проблему надзвичайно прямо. У своєму звіті від грудня 2025 року розглядалося, що відбувається, коли відео чи аудіо, запропоноване на суді, є дипфейком, дійшовши висновку, що це є прямим викликом вимогам автентичності відповідно до правил 901 і 902 саме тому, що існуючий стандарт автентичності є м’яким. Як — і чи — посилити цей стандарт — це питання, яке комітет обговорює протягом трьох років, і воно стає ще більш актуальним, якщо, як попередили представники лабораторії, наука про виявлення ніколи не наздожене науку про покоління.
Що практикуючі можуть зробити зараз
Поки правила не зміняться, практичний тягар лягає на учасників судового процесу та суддів. Інструменти походження — криптографічні облікові дані вмісту, вбудовані під час створення — поширюються через додатки камери та творче програмне забезпечення, хоча вони допомагають лише для носіїв, які їх містять. Перехресний допит під присягою особи, яка зняла запис, вимоги щодо виявлення оригінальних файлів і метаданих генерації, а також ретельніше вивчення кліпів без джерел, які циркулюють на соціальних платформах, є поточними засобами захисту. Повідомлення консультативного комітету цього тижня фактично полягало в тому, що ці тимчасові проміжки потребуватимуть формальної основи на рівні правил, оскільки неофіційні припускають можливість виявлення, якої, за словами OpenAI та Meta, більше не існує.
Чому свідчення лабораторій важливі
Примітно, що про це судову владу попереджають компанії, продукція яких створює ризик. OpenAI і Meta мають прямі комерційні та репутаційні інтереси в застосуванні правил: суворі вимоги автентифікації можуть спричинити тертя щодо законного використання медіа ШІ, тоді як слабкі можуть зробити їхні інструменти векторами для шахрайства в залі суду. Їхнє послання до комітету фактично полягало в тому, що стандарти походження — водяні знаки, облікові дані вмісту, документація про ланцюжок поставок — є ефективним шляхом, оскільки лише виявлення не буде масштабуватися.
Очікується, що трирічний огляд комітету дасть інформацію про те, чи потребують поправки федеральні правила доказів для епохи ШІ. Будь-яка зміна проходитиме через процес нормотворчості Судової конференції, включно з громадським коментарем, перш ніж потрапити до Конгресу.
Більш широка нормативна картина
Слухання відбуваються на тлі сплеску політичних дій, пов’язаних із deepfake. Каліфорнія та ЄС прийняли мандати на водяні знаки. У Данії є вдосконалене законодавство, яке забороняє розповсюдження дипфейків ШІ без згоди. Суди США вже бачили вигадки, створені штучним інтелектом, у поданнях, і судді накладали санкції на адвокатів за подання фальшивих цитат, створених чат-ботами.
Наразі федеральна судова система віддає перевагу ретельному вивченню, а не швидким змінам правил. Але свідчення компаній, які розробляють технологію, свідчать про те, що сама галузь не очікує, що інструменти виявлення будуть йти в ногу, що перекладає тягар на стандарти походження, процедурні гарантії, як-от вимоги до свідчень у реальному часі, і, зрештою, судження суддів і присяжних щодо того, чому вірити.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
