Жінка, ідентифікована в судових клопотаннях як Джейн Доу 4, приєдналася до позову проти xAI Ілона Маска через роль чат-бота компанії Grok, яку нібито відіграв у створенні матеріалів сексуального насильства над дітьми, повідомляє TechCrunch у суботу з посиланням на повідомлення The Washington Post.
Жінка стверджувала, що її вітчим використовував Грока, щоб маніпулювати фотографією, зробленою, коли їй було 11 років, щоб створити понад 7000 її відвертих зображень, згідно зі звітом. Вона також сказала, що її вітчим був знайдений мертвим через два дні після того, як зображення були виявлені під час рейду правоохоронних органів. For more context on this story, see our ongoing AI industry coverage.
«Безмежний доступ до цих інструментів поширюється так швидко», — сказала жінка. «Це забирає повсякденне життя і перетворює його на сексуальне насильство над дітьми».
Ця справа є одним із найсерйозніших на сьогоднішній день звинувачень, пов’язаних із основним чат-ботом зі штучним інтелектом і створенням сексуальних образів реальної дитини, і вона посилює судовий процес, який став центральною точкою в дебатах щодо огорож для створення зображень зі штучним інтелектом.
Основні вимоги позову
Спочатку позов був поданий трьома підлітками з Теннессі, які звинуватили xAI, який зараз є частиною SpaceX, у тому, що вони не вжили елементарних заходів, щоб запобігти використанню Grok для створення відвертих зображень реальних людей, у тому числі неповнолітніх. Позивачі прагнуть отримати статус групового позову, який дозволить іншим, хто стверджує про подібну шкоду, приєднатися до справи.
Документація Jane Doe 4 додає набір жахливих подробиць: одну дитячу фотографію, інструмент штучного інтелекту, який нібито використовувався для створення тисяч образливих похідних, і сімейну трагедію, яка розгорнулася через кілька днів після того, як влада виявила матеріал.
TechCrunch заявив, що звернувся до xAI за коментарем. Звинувачення є претензіями в рамках поточного цивільного процесу і не були доведені в суді. Якщо ви або хтось із ваших знайомих перебуваєте в кризовому стані, зв’яжіться зі службою підтримки самогубств і кризових ситуацій 988 у Сполучених Штатах, зателефонувавши або надіславши текстове повідомлення на номер 988.
Модель тиску на Грока
Позов припав на фоні року посилення перевірки можливостей Grok щодо створення іміджу. На початку цього року X був завалений мільйонами створених Grok сексуальних зображень, епізод, який викликав широку критику захисних заходів навколо інструменту. Цей епізод допоміг розпалити хвилю законодавчих актів на державному рівні, спрямованих на так звані додатки «нудифікації» та синтетичні зображення без згоди; Заборона Міннесоти на такі інструменти набула чинності після того, як суддя відхилив прохання xAI про судову заборону, щоб заблокувати її виконання.
Ставки у справі Теннессі виходять за межі xAI. Позивачі стверджують, що компанії, які масштабно розгортають інструменти для створення зображень, зобов’язані створювати технічні засоби захисту, які запобігають сексуалізації реальних, ідентифікованих людей — і особливо дітей — до того, як продукти досягнуть громадськості. Цей аргумент, якщо його прийме суд, міг би встановити правовий стандарт, який охопить кожен постачальник моделей генерації зображень.
Невирішена проблема галузі
Для компаній зі штучним інтелектом запобігання зловживанням генераторами зображень проти реальних людей виявилося вперто складним. Інструменти водяних знаків і визначення походження — наприклад, ті, які Anthropic почала додавати до вихідних даних Claude, щоб відповідати правилам прозорості ЄС — можуть допомогти ідентифікувати синтетичний вміст після факту, але вони не зупиняють створення образливого матеріалу. Вхідні та вихідні фільтри можуть блокувати відомі шаблони, але цілеспрямовані користувачі постійно знаходять обхідні шляхи, а відкриті моделі зображень зробили деякі можливості неможливими для повного відновлення.
Звинувачення у справі xAI вказують на найважчий кінець цього спектру: твердження про те, що одну фотографію дитини можна перетворити на тисячі відвертих зображень за допомогою інструменту, яким керує одна з найвідоміших у світі компаній штучного інтелекту, яка продає Grok мільйонам передплатників як споживчий продукт.
Експерти з права, які слідкують за цією справою, кажуть, що заявка на груповий позов перевірить, чи розглядають суди нездатність запобігти такому неправильному використанню як дефект продукту, за який несуть відповідальність компанії зі штучним інтелектом, або як неправильне використання окремими користувачами, за яке компанії не відповідають.
Що буде далі
Найближчою метою позивачів є сертифікація класу, яка значно розширить коло потенційних позивачів проти xAI. Зі свого боку, xAI стверджував у відповідних судових процесах, що відповідальність за неправильне використання лежить на користувачах, а не на інструменті. Додавання фільму «Джейн Доу 4» із суворим описом уявної шкоди дитині посилює суспільний і політичний тиск навколо цього захисту.
Справа розгортається, оскільки регуляторні органи в Сполучених Штатах і Європі обговорюють зобов’язання щодо прозорості та стандарти безпеки для генеративного штучного інтелекту, а також накопичуються докази того, що неправильне використання генерації зображень не обмежується сторонніми інструментами. Незалежно від того, чи прийде відповідь у суді, у законодавстві чи в інженерних рішеннях самих компаній зі штучним інтелектом, центральне питання судового позову — скільки запобігання шкоди має бути вбудовано перед поставкою продукту ШІ — залишається найнезручнішою відкритою проблемою галузі.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
