Компания xAI столкнулась с коллективным иском, в котором впервые обвиняется компания в обучении своих моделей Grok на материалах о сексуальном насилии над детьми, как реальных, так и созданных ИИ. Жалоба, поданная в среду и о которой сообщила Ars Technica, требует уничтожения по решению суда любых подобных материалов, хранящихся на серверах компании, а также радикальных изменений в том, как Грок обрабатывает сексуальный контент.
Обвинения остаются недоказанными. X, владеющая xAI, не ответила на запрос Ars Technica о комментариях по поводу заявления. Подробнее об этой истории — в нашем последние разработки в ИИ.
Истец и обвинения
Истец, которого зовут Джейн Доу, утверждает в жалобе, что она стала жертвой дошкольного возраста в начале 2000-х годов, когда изображения насилия над ней были созданы и проданы в Интернете. Эти изображения уже давно занесены в хэш-списки, которые ведут Национальный центр по делам пропавших и эксплуатируемых детей (NCMEC) и Канадский центр защиты детей (CCCP) — организации, которые отслеживают известные материалы о насилии, чтобы обеспечить их обнаружение и удаление.
Согласно жалобе, CCCP уведомила Доу о том, что она обнаружила на платформе xAI оскорбительные материалы, созданные ИИ и изображающие ее. Ее адвокаты заявляют в пресс-релизе, что материал, соответствующий ее записям в хэш-списке NCMEC, «был частью набора данных xAI, который использовался для создания возможностей Грока по созданию изображений и видео». В жалобе также утверждается, что в сообщениях, найденных на онлайн-форумах, изображены правонарушители, обсуждающие создание сгенерированных искусственным интеллектом изображений оскорбительного характера Доу и других известных жертв устаревших материалов о злоупотреблениях.
Правовая теория: обучающие данные, а не только результаты
Что отличает этот иск от более раннего судебного процесса против xAI, так это то, что он сосредоточен на самой модели, а не на том, что сгенерировали отдельные пользователи. В жалобе утверждается, что, поскольку условия обслуживания Грока по умолчанию рассматривают общедоступные публикации на X и собственные результаты Грока как обучающие данные, все, что публикуется публично, поступает непосредственно в конвейер, используемый для обучения и улучшения модели.
В документе признается, что xAI отфильтровывает жестокий контент из своих обучающих данных, но утверждается, что в условиях компании не указано, попадают ли в исключенные категории материалы о сексуальном насилии над детьми, интимные изображения без согласия или другой контент для взрослых. В нем также утверждается, что даже в случае удаления оскорбительных изображений влияние обучающего примера на уже обученную модель технически сложно полностью устранить — и что xAI публично не заявлял, что сделал это.
Чего требует иск
Если предлагаемый класс будет сертифицирован, он будет представлять каждого человека, чьи детские изображения предположительно использовались для создания оскорбительных материалов в отношении Грока. В иске ссылаются на федеральные законы о детской порнографии и на «Закон Маши», которые дают лицам, пережившим насилие, право подавать в суд в связи с их производством, хранением и распространением.
«Все три преступления являются преступлениями, и xAI совершил все три», — заявила Маргарет Э. Мэби, один из адвокатов Доу, в пресс-релизе, цитируемом Ars Technica.
Помимо денежного ущерба, Доу просит суд обязать xAI уничтожить все материалы оскорбительного характера, созданные Гроком, которые он может хранить и использовать для обучения, а также не допускать создания моделью сексуализированных материалов любого рода — требование, которое исключило бы не только изображения оскорбительного характера, но также несогласованные интимные изображения и контент для взрослых, которые Илон Маск публично рекламировал как функции.
«Доу прожила почти два десятилетия, зная, что изображения худшего события, которое когда-либо с ней случалось, циркулируют среди хищников в Интернете и что они могут всплывать на поверхность в любой момент», — заявила в пресс-релизе Сара Лондон, еще один адвокат Доу. «xAI должен нести ответственность за сознательное обучение своих моделей изображениям ужасающего насилия, которому она подверглась».
Растущая юридическая расплата
Этот иск является последним фронтом в расширяющейся судебной тяжбе по поводу возможностей Грока в области изображений и видео. В другом случае в Теннесси женщина, известная как Джейн Доу 4, присоединилась к иску, утверждая, что единственная детская фотография была использована с Гроком для создания тысяч ее откровенных изображений — обвинения AI Buzz Wire, озвученные ранее в этом месяце. Регулирующие органы и суды изучают, насколько далеко простираются проблемы, а некоторые пользователи Grok были арестованы за созданные ими материалы.
В то же время xAI напал на своих пользователей. На этой неделе Politico сообщил, что компания подает в суд на некоторых своих пользователей, даже несмотря на то, что судебные иски потерпевших растут. Эта стратегия проверяет, несут ли платформы или люди, подталкивающие их, юридическую ответственность за то, что производит модель ИИ.
Новая жалоба ставит вопрос о данных тренировок в центр этой борьбы. Если суды примут аргумент о том, что обучающий набор модели может создать ответственность за то, что он позволяет пользователям производить, последствия выйдут далеко за рамки xAI — затрагивая каждую компанию, производящую изображения и видео, чьи условия возвращают пользовательский контент в обучение. На данный момент обвинения сводятся к следующему: на обвинения, содержащиеся в заявлении, xAI еще не ответила в суде.
---
Будьте в курсе ИИПоследние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.
Читать больше новостей об ИИ →
