Женщина, идентифицированная в судебных документах как Джейн Доу 4, присоединилась к иску против xAI Илона Маска по поводу роли, которую чат-бот компании Грок предположительно сыграл в создании материалов о сексуальном насилии над детьми, сообщил TechCrunch в субботу со ссылкой на сообщение в The Washington Post.

Согласно отчету, женщина утверждала, что ее отчим использовал Грока, чтобы манипулировать фотографией, сделанной, когда ей было 11 лет, и создать более 7000 ее откровенных изображений. Она также сказала, что ее отчим был найден мертвым в результате самоубийства через два дня после того, как изображения были обнаружены в ходе рейда правоохранительных органов. Подробнее об этой истории — в нашем последние разработки в ИИ.

«Безграничный доступ к этим инструментам распространяется так быстро», — сказала женщина. «Оно превращает повседневную жизнь в сексуальное насилие над детьми».

Это дело является одним из самых серьезных на сегодняшний день обвинений, касающихся массового чат-бота с искусственным интеллектом и создания сексуальных образов реального ребенка, и оно обостряет судебный процесс, который стал центром дебатов по поводу препятствий для создания изображений с помощью ИИ.

Основные претензии иска

Первоначально иск был подан тремя подростками из Теннесси, которые обвинили компанию xAI, которая сейчас является частью SpaceX, в неспособности принять основные меры предосторожности, чтобы предотвратить использование Грока для создания откровенных изображений реальных людей, в том числе несовершеннолетних. Истцы добиваются статуса коллективного иска, который позволил бы другим лицам, заявляющим о аналогичном вреде, присоединиться к делу.

В дело Джейн Доу 4 добавлен ряд ужасающих подробностей: единственная детская фотография, инструмент искусственного интеллекта, предположительно используемый для создания тысяч оскорбительных деривативов, и семейная трагедия, развернувшаяся через несколько дней после обнаружения материала властями.

TechCrunch сообщил, что обратился к xAI за комментариями. Обвинения представляют собой претензии в рамках продолжающегося гражданского процесса и не были доказаны в суде. Если вы или кто-то из ваших знакомых находитесь в кризисной ситуации, на линию помощи 988 Suicide and Crisis Lifeline в США можно позвонить или отправить текстовое сообщение на номер 988.

Схема давления на Грока

Иск подан на фоне растущего внимания к возможностям Грока по созданию изображений. Ранее в этом году X был завален миллионами изображений сексуального характера, созданных Гроком, и этот эпизод вызвал широкую критику мер безопасности, связанных с инструментом. Этот эпизод помог спровоцировать волну законов на уровне штатов, направленных против так называемых приложений «обнажения» и синтетических изображений без согласия; Запрет Миннесоты на такие инструменты вступил в силу после того, как судья отклонил просьбу xAI о вынесении судебного запрета на блокирование его исполнения.

Ставки в деле Теннесси выходят за рамки xAI. Истцы утверждают, что компании, широко внедряющие инструменты создания изображений, обязаны создать технические меры безопасности, которые предотвращают сексуализацию реальных, идентифицируемых людей — и особенно детей — до того, как продукты станут достоянием общественности. Этот аргумент, если он будет принят судом, может установить юридический стандарт, который будет доступен каждому поставщику моделей генерации изображений.

Нерешенная проблема отрасли

Для компаний, занимающихся искусственным интеллектом, предотвратить злоупотребление генераторами изображений против реальных людей оказалось крайне сложно. Инструменты нанесения водяных знаков и происхождения — такие, как те, которые Anthropic начала добавлять к материалам Клода в целях соблюдения правил прозрачности ЕС — могут помочь идентифицировать синтетический контент постфактум, но они не останавливают создание оскорбительных материалов в первую очередь. Входные и выходные фильтры могут блокировать известные шаблоны, но решительные пользователи постоянно находят обходные пути, а модели изображений с открытым весом делают некоторые возможности невозможными полностью вспомнить.

Обвинения по делу xAI указывают на самый суровый конец этого спектра: утверждение о том, что одна фотография ребенка может быть преобразована в тысячи откровенных изображений с помощью инструмента, которым управляет одна из самых известных в мире компаний, занимающихся искусственным интеллектом, которая продает Grok миллионам подписчиков как потребительский продукт.

Эксперты по правовым вопросам, следящие за этим делом, говорят, что коллективный иск проверит, будут ли суды рассматривать неспособность предотвратить такое неправильное использование как дефект продукта, за который несут ответственность компании, занимающиеся искусственным интеллектом, или как неправильное использование со стороны отдельных пользователей, выходящее за рамки ответственности компаний.

Что будет дальше

Непосредственной целью истцов является сертификация класса, которая резко расширит круг потенциальных истцов против xAI. Со своей стороны, xAI в соответствующих судебных процессах утверждала, что ответственность за неправильное использование лежит на пользователях, а не на инструменте. Добавление «Джейн Доу 4» с резким рассказом о предполагаемом причинении вреда ребенку усиливает общественное и политическое давление вокруг этой защиты.

Дело разворачивается по мере того, как регулирующие органы в США и Европе обсуждают обязательства по прозрачности и стандарты безопасности для генеративного ИИ, а также по мере накопления доказательств того, что злоупотребление генерацией изображений не ограничивается маргинальными инструментами. Независимо от того, будет ли ответ получен в суде, в законодательстве или в инженерном выборе самих компаний, занимающихся искусственным интеллектом, главный вопрос иска — насколько необходимо предусмотреть меры по предотвращению вреда, прежде чем продукт искусственного интеллекта будет выпущен, — остается самой неудобной открытой проблемой в отрасли.

---

Будьте в курсе ИИ

Последние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.

Читать больше новостей об ИИ →