По данным Oregon Public Broadcasting, генеральный прокурор штата Орегон Дэн Рэйфилд подал в суд на OpenAI во вторник, требуя возмещения ущерба на сумму не менее 2,035 миллиарда долларов и обвиняя компанию в том, что она искажает ChatGPT как безопасный для молодых пользователей, в то же время сознательно допуская опасное взаимодействие с подростками.

Иск, раскрытый OPB и подтвержденный несколькими изданиями штата Орегон, включая KGW, KATU и KOIN, делает Орегон одним из самых агрессивных штатов в разгорающейся юридической кампании в отношении чат-ботов с искусственным интеллектом и несовершеннолетних. Это последовало за октябрьскими исками восьми штатов США, каждый из которых утверждает, что технология оказывает опасное влияние на подростков. Подробнее об этой истории — в нашем больше статей об ИИ.

Что утверждается в жалобе

В 53-страничной жалобе штата OpenAI обвиняется в искажении информации о своей продукции в нарушение Закона штата Орегон о незаконной торговой практике и описывает поведение компании как умышленное — отягчающее обстоятельство согласно закону — приводящее к тому, что в жалобе называется несправедливым, шокирующим и бессовестным результатом.

OpenAI позволяет пользователям в возрасте от 13 лет использовать ChatGPT при условии, что родитель или опекун выйдет из системы. Представители Министерства юстиции штата Орегон утверждают, что компания часто не может подтвердить, что родитель действительно дал согласие на использование несовершеннолетних пользователей. Жалоба также направлена ​​против ChatGPT for Teens, недавно выпущенной компанией молодежной версии, которая связывает учетную запись родителя с учетной записью ребенка. По данным штата, якобы более строгие меры защиты этой версии легко обойти, и она не предупреждает родителей, когда молодые пользователи спрашивают о самоубийстве, членовредительстве, расстройствах пищевого поведения или других темах психического здоровья.

В иске содержится просьба к суду обязать OpenAI принять более строгие меры защиты и компенсировать жителям Орегона не менее 2,035 миллиарда долларов в качестве компенсации.

Рэйфилд: Продукт «продолжает причинять вред»

В интервью OPB Рэйфилд сказал, что OpenAI осознает опасность, которую могут представлять ее продукты. OpenAI продолжает смотреть родителям в глаза и говорить, что этот продукт является безопасным продуктом, хотя он продолжает причинять вред нашим сообществам, сказал он.

Генеральный прокурор сообщил OPB, что не было никакого конкретного инцидента в Орегоне, который послужил бы поводом для подачи иска. Вместо этого, по его словам, иск возник из-за инцидентов, произошедших по всей стране, и из-за обеспокоенности его офиса тем, что развитие технологий опережает меры по защите потребителей. «Инструменты могут быть невероятно потрясающими, если их обещания сбудутся», — сказал он, но то, что мы видим с другой стороны, — это опустошение.

Иск подан на фоне повышенной обеспокоенности общественности в Орегоне по поводу подростков и онлайн-платформ. Подросток, который в прошлом месяце застрелил троих детей и учителя в начальной школе Bend's Silver Rail, был связан несколькими источниками с онлайн-экстремистскими группами, а в сентябре окружная прокуратура округа Малтнома обвинила онлайн-экстремистское влияние в том, что ученик средней школы Бенсона использовал токсичные химикаты в своей школе. Рэйфилд отказался сообщить, были ли продукты OpenAI причастны к этим инцидентам, сославшись на продолжающееся расследование, а сам иск не зависит от какого-либо отдельного дела в штате Орегон.

Часть более широкой юридической оценки OpenAI

Орегон сейчас входит в число растущей группы штатов, требующих OpenAI в суде по поводу безопасности молодежи. В октябре восемь штатов подали аналогичные иски, и накапливающиеся судебные разбирательства представляют собой растущую проблему в каждом штате в отношении того, как индустрия искусственного интеллекта саморегулирует несовершеннолетний доступ — область, где федеральное регулирование остается слабым.

Представитель OpenAI Дрю Пусатери после подачи заявки опубликовал заявление, в котором говорится, что компания привержена разработке политики в области ИИ, которая применима ко всей отрасли ИИ, а не только к одной компании. Компания указала на меры защиты, которые, по ее словам, существуют сегодня, включая родительский контроль, напоминания о перерывах и соответствующие возрасту модели защиты, и заявила, что продолжит работать с экспертами над созданием дополнительных мер безопасности. Ранее компания настаивала на том, что обеспечение безопасности сообществ является главным приоритетом.

Что будет дальше

Дело Орегона проверит новую правовую теорию: не то, что ChatGPT причинил конкретный вред, а то, что сам маркетинг безопасности компании — утверждение о том, что продукт безопасен для подростков — представляет собой несправедливую торговую практику, когда меры предосторожности можно обойти. Если теория переживет первые предложения, она может открыть более дешевый и быстрый путь для генеральных прокуроров других штатов, чем судебные разбирательства по ответственности за качество продукции, которые требуют доказательства причин индивидуального вреда.

Защита потребителей, созданная для скорости

Выбор закона имеет значение. Закон штата Орегон о незаконной торговой практике — это закон о защите потребителей, а не режим ответственности за качество продукции, и он предусматривает более короткие сроки и более низкие критерии доказывания, чем доказательство того, что конкретный обмен чат-ботами вызвал конкретную трагедию. Он также допускает гражданско-правовые наказания за умышленные нарушения — отягчающий ярлык, который явно применяется в жалобе. Обеспечение защиты потребителей от технологических платформ по поводу вводящих в заблуждение претензий имеет долгую историю в судах штата Орегон, и этот закон является одним из наиболее широко сформулированных в стране.

Эта формулировка также определяет средство правовой защиты, которое ищет государство. Вместо возмещения ущерба семье одной жертвы в жалобе содержится требование о коллективной компенсации жителям штата Орегон — не менее 2,035 миллиарда долларов — плюс внесении по решению суда изменений в сам продукт: усилении гарантий и проверке согласия родителей. Победа предоставит государству постоянный контроль над молодежными функциями ChatGPT, а не единовременный платеж.

Для OpenAI жалоба поступила в деликатный момент: компания уже защищает претензии по авторским правам, столкнулась с судебным иском в Калифорнии по поводу кибер-вторжений, связанных с искусственным интеллектом, и готовится к интенсивной проверке после IPO. Многомиллиардное требование со стороны одного штата вряд ли изменит его финансы, но суд, установивший, что его заявления о безопасности молодежи были обманчивыми, повлечет за собой регуляторные последствия далеко за пределами Орегона.

---

Будьте в курсе ИИ

Последние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.

Читать больше новостей об ИИ →