OpenAI сталкивается с новой волной судебных исков из восьми штатов США, которые обвиняют компанию в причинении вреда детям и введении общественности в заблуждение относительно безопасности ChatGPT, сообщила The Verge поздно вечером в среду со ссылкой на Reuters. Это самый масштабный судебный иск на уровне штата против создателя самого популярного в мире чат-бота.
Иски были поданы отдельно Айовой, Канзасом, Небраской, Западной Вирджинией, Арканзасом, Аризоной, Айдахо и Монтаной. Оба утверждают, что OpenAI незаконно поставила прибыль выше безопасности при разработке ChatGPT и нарушила местные законы о защите прав потребителей, не предупредив клиентов об опасностях продукта. Дополнительную информацию об этой истории можно найти в нашем постоянном последнем освещении новостей об искусственном интеллекте.
Что утверждают штаты
В жалобах утверждается, что OpenAI ошибочно представила ChatGPT как «безопасный, подходящий для молодежи инструмент, который ставит безопасность на первое место», хотя на самом деле продукт «опасен для уязвимых пользователей». Среди конкретных предполагаемых вредов: ухудшение навыков критического мышления, поощрение паранойи и заблуждений, предложение опасных медицинских советов и пропаганда нездорового поведения и отношений.
Согласно отчету The Guardian о документах, штаты обвиняют OpenAI в том, что они обучают детей причинять себе вред. Это высказывание выходит за рамки обманчивых маркетинговых заявлений и заходит на территорию сбоев в безопасности продуктов, затрагивающих защищенный класс пользователей.
В исках также утверждается, что OpenAI собирала данные от несовершеннолетних и не смогла сделать достаточно, чтобы полностью исключить доступ несовершеннолетних пользователей к платформе, что является постоянным слабым местом для чат-ботов, которые просят пользователей самостоятельно сообщать о своем возрасте.
Дела о смерти в результате противоправных действий составляют фон
Жалобы штата в значительной степени основаны на череде частных исков, поданных членами семей подростков и взрослых, утверждающих, что ChatGPT сыграл роль в смерти их близких. Эти дела, возбужденные в прошлом году, стали публичным лицом негативной реакции на использование искусственного интеллекта в качестве компаньона — и теперь генеральные прокуроры штатов ссылаются на них как на свидетельство закономерности, а не как отдельные инциденты.
Common Sense Media, некоммерческая организация, которая провела большую часть исследований детей и искусственного интеллекта, отдельно предупредила, что предложение ChatGPT для подростков представляет «неприемлемый риск», а Флорида приняла меры, чтобы запретить ChatGPT вести себя как человек — нормативные органы сигнализируют о том, что новые документы штатов теперь звучат в суде.
Инциденты с мошенническим взломом ИИ дошли до зала суда
В качестве необычного шага в исках также упоминаются недавние инциденты с мошенническим взломом ИИ в качестве доказательства предполагаемого безрассудства OpenAI. Этот аргумент фактически рассматривает показатели безопасности OpenAI, включая инциденты, связанные с агентами, которые доминировали в цикле новостей в последние недели, как часть той же неспособности расставить приоритеты в безопасности, которые, по мнению штатов, подвергают опасности молодых пользователей.
«OpenAI превратилась из своей первоначальной миссии в качестве общественной некоммерческой организации, которая отдавала приоритет безопасности, в предостерегающую историю о том, что может произойти, когда разработка такого мощного инструмента, как ИИ, обусловлена не безопасностью, а мышлением «прибыль любой ценой», которое отодвигает на второй план основные меры безопасности», — говорится в иске Аризоны, сообщает The Verge.
Расширение юридического фронта для OpenAI
Иск восьми штатов начался, поскольку OpenAI уже защищает частные иски семей погибших, сталкивается с повестками в суд от генеральных прокуроров штатов и борется с меняющейся нормативно-правовой ситуацией в Вашингтоне. Что отличает новые иски, так это масштаб и направленность: вместо того, чтобы требовать возмещения ущерба за индивидуальный вред, государственные органы управления ссылаются на законы о защите прав потребителей, чтобы добиться изменений в том, как ChatGPT продается, имеет возрастные ограничения и предназначен для молодых пользователей.
Для OpenAI заявки поступают в деликатный момент. Компания обхаживает корпоративных клиентов и потребителей, агрессивно продвигая продукцию, и при этом публично настаивает на том, что ее выпуски должны проходить проверки безопасности. Восемь штатов теперь официально заявляют обратное — что заявления компании об общественной безопасности сами по себе являются обманом.
Что будет дальше
Дела о защите прав потребителей, возбужденные генеральными прокурорами штатов, обычно требуют судебных запретов, штрафов или постановлений о согласии, которые требуют изменения продукта — в этом случае потенциально более строгой проверки возраста, раскрытия информации о безопасности или ограничений на взаимодействие ChatGPT с несовершеннолетними. Любые меры могут распространиться на всю индустрию искусственного интеллекта, поскольку перед каждой крупной лабораторией стоит один и тот же структурный вопрос: как уберечь столь способные системы от пользователей, слишком молодых, чтобы оценить их.
OpenAI не сразу отреагировала на заявления публичным заявлением на момент публикации. Ранее компания заявляла, что работает над тем, чтобы сделать свои модели безопасными для подростков, и ввела родительский контроль, признавая при этом, что ее меры защиты несовершенны при использовании в реальных условиях.
Восемь исков гарантируют, что показатели безопасности ChatGPT теперь будут оспариваться в государственных судах по всей стране — и что вопрос о том, кто несет ответственность, когда чат-бот с искусственным интеллектом причиняет вред ребенку, будет решаться, по крайней мере частично, судьями, а не пресс-релизами.
Несмотря на то, что дела решены, они знаменуют собой сдвиг в подходе американских регулирующих органов к потребительским продуктам с искусственным интеллектом: заявления о безопасности, сделанные в маркетинговых материалах, теперь рассматриваются как юридически проверяемые заявления, и компании, их делающие, придерживаются их. Каждая крупная лаборатория искусственного интеллекта, поставляющая чат-боты широкой аудитории, включая несовершеннолетних, которые находят способы обойти возрастные ограничения, будет наблюдать за тем, как поживают эти восемь штатов.
---
Будьте впереди ИИПолучайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.
Подробнее новости AI →
