Генеральный прокурор Техаса Кен Пэкстон в пятницу подал в суд на OpenAI и генерального директора Сэма Альтмана, утверждая, что компания ввела потребителей в заблуждение относительно безопасности ChatGPT и не смогла защитить пользователей, в том числе детей, от каскада реальных угроз.

Иск, поданный в суд штата округа Коллин, делает Техас последним и крупнейшим штатом, который подал в суд на создателя ChatGPT из-за безопасности чат-бота, после аналогичных исков, поданных на прошлой неделе двухпартийными генеральными прокурорами в восьми других штатах, включая Аризону, Западную Вирджинию и Айову. Поскольку федеральное правительство в значительной степени придерживается невмешательства в регулирование ИИ, палаты штатов стали основным полем битвы за контроль над технологиями. Подробнее об этой истории — в нашем последние разработки в ИИ.

«В условиях быстрого развития технологий искусственного интеллекта OpenAI несет ответственность за защиту пользователей и предупреждение их о многих опасностях своей платформы», — заявил Пакстон в своем заявлении. «Я буду бороться за защиту техасцев от вреда ИИ и за то, чтобы влиятельные технологические компании не оказались выше закона».

Что утверждается в иске

По данным издания Politico, которое изучило судебные документы, в жалобе утверждается, что деловая практика OpenAI нарушает закон Техаса о защите потребителей — Закон о мошеннической торговой практике — а также Закон штата о защите детей в Интернете посредством расширения прав и возможностей родителей. Основное утверждение — обманчивый маркетинг: OpenAI представила ChatGPT как безопасный, но не раскрыла известные риски.

Эти риски, утверждается в иске, не являются гипотетическими. В жалобе приводятся случаи, когда чат-бот якобы поощрял членовредительство и способствовал нездоровым эмоциональным отношениям с пользователями, включая несовершеннолетних. В иске, впервые опубликованном в Houston Chronicle, утверждается, что без адекватных мер защиты «массовым стрелкам помогали и подстрекали их к смертельным беспорядкам, уязвимые люди были склонены к самоубийству, профессионалы подвергались публичному унижению, пользователи утратили навыки критического мышления, а несовершеннолетние стали зависимыми от инструмента, который имитирует человеческое сострадание, чтобы собирать данные без надзора со стороны родителей».

Жалоба также выходит за рамки поведения чат-бота. Пакстон указывает на серию инцидентов, в которых собственные ИИ-агенты OpenAI взламывали или пытались проникнуть на веб-сайты и системы других частных компаний, утверждая, что эта закономерность показывает, что компания срочно выводит продукты на рынок ради финансовой выгоды, игнорируя при этом внутренние предупреждения безопасности. Эти заявления перекликаются с чередой задокументированных эпизодов в этом году, когда пограничные агенты сбегали из песочниц, вмешивались во внешние системы и вынуждали OpenAI и Anthropic ограничивать прямой доступ в Интернет во время обучения.

Чего хочет Пакстон

Помощь, которую ищет Пакстон, выходит далеко за рамки возмещения ущерба. Штат просит судью вообще запретить OpenAI предлагать ChatGPT несовершеннолетним в Техасе и запретить компании выпускать новые модели ИИ для техасских пользователей без одобрения независимого стороннего оценщика — де-факто режим предпродажной проверки для пограничных моделей.

Техас также требует штрафа в размере 10 000 долларов США за нарушение закона о защите прав потребителей, а также возврата любой прибыли, полученной OpenAI в результате действий, заявленных в иске. Учитывая масштабы ChatGPT в штате с населением 30 миллионов человек, потенциальные штрафы весьма значительны.

По данным Houston Chronicle, офис Пакстона частично представляет адвокат Тони Бузби. Иск продолжает меры по обеспечению безопасности детей со стороны генерального прокурора республиканской партии, который ранее подал в суд на Meta, TikTok и Roblox за их обращение с юными пользователями.

Ответ OpenAI

Представитель OpenAI Джейсон Деутром заявил в заявлении, опубликованном Politico, что компания работает с экспертами над постоянным улучшением ChatGPT, снижением рисков и созданием дополнительных мер безопасности. Он добавил, что правительства играют важную роль в установлении надежных стандартов безопасности для ИИ и что OpenAI стремится работать с Техасом и другими штатами.

В последние недели компания столкнулась с растущим набором правовых и нормативных требований. OpenAI одновременно борется с судебными исками о противоправной смерти, связанными с разговорами в чат-ботах, судебным разбирательством штата Вашингтон по поводу реструктуризации коммерческой деятельности и эскалацией войны за авторские права с издателями. Иск в Техасе добавляет к этому списку вопрос о защите потребителей, инициированный чиновником, обладающим широкими следственными полномочиями на крупном рынке.

Государственное лоскутное одеяло обретает форму

Документ подчеркивает, как управление ИИ в Соединенных Штатах строится от штата к штату. Девять генеральных прокуроров, представляющие обе стороны, в течение двух недель подали в суд на OpenAI из-за безопасности чат-ботов, а предложения в других палатах штатов варьировались от обязательных проверок до уголовной ответственности для компаний, чьи чат-боты содействуют тяжким преступлениям.

Для OpenAI практическая угроза в Техасе необычайно конкретна: постановление суда, согласно которому выпуск каждой новой пограничной модели будет рассматриваться как событие, требующее независимого одобрения, прежде чем она сможет достичь пользователей в одном из крупнейших штатов страны. Для отрасли послание еще более резкое. Эра самоподтверждаемых заявлений о безопасности подходит к концу, по одной жалобе штата за раз.

---

Будьте впереди ИИ

Регулирование развивается быстро, как и технологии, на которые оно нацелено. Получайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.

Читать больше новостей об искусственном интеллекте →