xAI стикається з пропонованим груповим позовом, який вперше звинувачує компанію в навчанні своїх моделей Grok матеріалами сексуального насильства над дітьми, як реальними, так і створеними ШІ. Скарга, подана в середу та про яку повідомляє Ars Technica, вимагає знищення за рішенням суду будь-якого подібного матеріалу, що зберігається на серверах компанії, і кардинальних змін у тому, як Grok обробляє сексуальний контент.
Звинувачення залишаються недоведеними заявами, висунутими в цивільному суді. X, яка володіє xAI, не відповіла на запит Ars Technica прокоментувати заявку. For more context on this story, see our ongoing AI news.
Позивач і твердження
Позивач, ідентифікований як Джейн Доу, стверджує в скарзі, що вона була жертвою дошкільного віку на початку 2000-х років, коли зображення жорстокого поводження з нею були створені та продані в Інтернеті. Ці зображення вже давно занесені в хеш-списки, які ведуть Національний центр у справах зниклих і експлуатованих дітей (NCMEC) і Канадський центр захисту дітей (CCCP), організації, які відстежують відомі матеріали насильства, щоб уможливити їх виявлення та видалення.
Згідно зі скаргою, CCCP повідомила Доу про те, що виявила на платформі xAI образливий матеріал, створений ШІ, який зображує її. У прес-релізі її адвокати стверджують, що матеріал, який відповідає її записам у хеш-списку NCMEC, «був частиною набору даних xAI, який використовувався для створення можливостей Grok для створення зображень і відео». У скарзі також стверджується, що повідомлення, знайдені на онлайн-форумах, показали правопорушників, які обговорювали створення створених за допомогою штучного інтелекту зображень насильства Доу та інших відомих жертв успадкованого матеріалу насильства.
Правова теорія: навчальні дані, а не лише результати
Що відрізняє цю заявку від попередніх судових процесів проти xAI, так це її зосередженість на самій моделі, а не на тому, що згенерували окремі користувачі. У скарзі стверджується, що оскільки умови обслуговування Grok розглядають загальнодоступні публікації на X і власних результатах Grok як навчальні дані за замовчуванням, все, що опубліковано публічно, надходить безпосередньо в конвеєр, який використовується для навчання та вдосконалення моделі.
У документі визнається, що xAI відфільтровує насильницький контент зі своїх навчальних даних, але стверджується, що умови компанії не вказують, чи потрапляють матеріали сексуального насильства над дітьми, інтимні зображення без згоди чи інший вміст для дорослих до виключених категорій. Він також стверджує, що навіть якщо образливі зображення видаляються, технічно важко повністю усунути вплив навчального прикладу на вже навчену модель — і xAI публічно не заявляв, що зробив це.
Що шукає позов
Якщо запропонований клас буде сертифікований, він представлятиме кожну особу, чиї дитячі зображення нібито використовувалися для створення насильницького матеріалу за допомогою Grok. Позов посилається на федеральні закони про дитячу порнографію та закон Маші, які дають особам, які пережили жорстоке поводження, право подати до суду на їх виготовлення, володіння та розповсюдження.
«Усі три є злочинами, і xAI скоїв усі три», — заявила Маргарет Е. Мейбі, один із адвокатів Доу, у прес-релізі, на який посилається Ars Technica.
Окрім відшкодування грошових збитків, Доу просить суд зобов’язати xAI знищити весь образливий матеріал, створений Grok, який він міг зберігати та використовувати для навчання, а також запобігти створенню цією моделлю будь-яких сексуалізованих результатів — вимога, яка виключатиме не лише зображення насильства, але й інтимні зображення без згоди та вміст для дорослих, які Ілон Маск публічно рекламував як функції.
«Доу прожила майже два десятиліття, знаючи, що зображення найгіршого, що з нею коли-небудь траплялося, циркулюють серед хижаків в Інтернеті, і що вони можуть відновитися в будь-який момент», — сказала Сара Лондон, ще один із адвокатів Доу, у прес-релізі. «xAI має нести відповідальність за свідоме навчання своїх моделей на зображеннях жахливого насильства, яке вона зазнала».
Наростаючі юридичні розрахунки
Ця заява є останнім фронтом у розширеній судовій боротьбі за можливості Grok щодо зображення та відео. В іншій справі в штаті Теннессі жінка, ідентифікована як Джейн Доу 4, приєдналася до позову, стверджуючи, що одна дитяча фотографія Грока була використана для створення тисяч відвертих зображень її — звинувачення, які AI Buzz Wire висвітлював на початку цього місяця. Регулятори та суди перевіряють, наскільки далеко поширюються проблеми, і деякі користувачі Grok були заарештовані за створені ними матеріали.
У той же час xAI образив своїх користувачів. Цього тижня Politico повідомило, що компанія судиться з деякими власними користувачами, незважаючи на те, що позови потерпілих зростають, стратегія, яка перевіряє, чи несуть платформи або люди, які їх спонукають, юридичну відповідальність за те, що виробляє модель ШІ.
Нова скарга ставить питання тренувальних даних у центр цієї боротьби. Якщо суди приймуть аргумент про те, що навчальний набір моделі може створювати відповідальність за те, що він дозволяє користувачам створювати, наслідки сягатимуть далеко за межі xAI — торкнуться кожної компанії, що створює зображення та відео, чиї умови повертають вміст користувача назад у навчання. Наразі звинувачення лише такі: на звинувачення у заяві xAI ще не відповів у суді.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
