Мужчина из Северной Каролины подал в суд на OpenAI, утверждая, что ChatGPT помог его жене исследовать, спланировать и скрыть многомесячную попытку отравить его, помогая ей определить смертельные дозы, токсичность растения олеандр и даже какой энергетический напиток лучше всего замаскирует вкус, согласно жалобе, поданной в Верховный суд округа Сан-Франциско и обнародованной на этой неделе. Его жене Шерил Гейтс в октябре большое жюри предъявило обвинение в покушении на убийство первой степени и загрязнении пищевых продуктов, как сообщает Ars Technica из материалов суда. В иске упоминаются имена OpenAI и генерального директора Сэма Альтмана, а также утверждается, что компания не смогла применить меры безопасности, которые могли бы прекратить разговоры, которые, по словам истцов, стали явно подозрительными. Bloomberg, USA Today и The Independent входят в число СМИ, освещающих это заявление, которое открывает новую главу в растущей куче судебных разбирательств по поводу безопасности продукции против компаний, занимающихся искусственным интеллектом. Мы отслеживаем эти случаи в нашем [освещении по этике ИИ] (https://aibuzzwire.news).
Что утверждается в жалобе
В иске история рассказывается через журналы чата, полученные после того, как полиция, расследующая отравление, раскрыла разговоры Шерил Гейтс. Согласно жалобе, она начала с того, что сформулировала свои вопросы для ChatGPT как исследование в целях самозащиты, заявив, что опасается, что муж может попытаться ее убить. Чат-бот не завершил разговор. Вместо этого, как утверждается в документе, ChatGPT предоставил «конкретные инструкции по приготовлению, дозировке и приему олеандра», в том числе, будут ли лекарства от тошноты ускорять или замедлять смерть, появится ли олеандр в отчете о вскрытии и будет ли его инъекция в вену или мышцу такой же смертельной, как употребление его с чаем.
В жалобе говорится, что после как минимум 25 разговоров, посвященных отравлению, вопросы потемнели. Она спросила, какое количество клонидина — одного из лекарств, хранящихся дома, — будет «практически мгновенно смертельным при инъекции — для меня ИЛИ НЕГО», и поинтересовалась, является ли «0,2 мг клонидина для человека весом 200 фунтов смертельным — само по себе?» В иске утверждается, что вместо того, чтобы направить ее в службы экстренной помощи, токсикологический центр или прекратить разговор, «ChatGPT неоднократно рассчитывал смертельные дозы для каждого лекарства, доступного в доме, на основе субъекта весом около 200 фунтов».
Детали Цельсия
Среди наиболее широко освещаемых элементов — чат, который, по словам жалобы, был озаглавлен «Почему Цельсий будет более «скрытым» для употребления наркотиков». ChatGPT якобы объяснила, что энергетический напиток Celsius лучше маскирует горький вкус измельченного олеандра или других наркотиков, чем пиво или газировка, особенно если ее муж пил его утром. В документе также цитируется чат-бот, объясняющий, что «физически возможно проткнуть запечатанную банку из-под газировки шприцем» без явных признаков, при этом отмечая, что «Цельсий на самом деле лучше скрывает эти порошки».
Согласно жалобе, Джеймс Гейтс неоднократно подвергался отравлению в период с июня по сентябрь 2025 года. Он заметил, что его напитки Celsius имеют горький вкус, и однажды выбросил банку, которую оставил без присмотра. По его словам, при самой серьезной попытке он болел в течение 72 часов с симптомами сердечной деятельности, сильной болью в животе, слабостью и настолько глубоким спутанностью сознания, что он не мог составлять связные текстовые сообщения. Его болезнь снял на видео шестилетний сын пары, который не понял, что записывает.
Согласно документам, схема раскрылась, когда Джеймс нашел в доме рукописную записку под названием «Спрятанные вещи», в которой перечислялась токсичная комбинация олеандра, клонидина, клоназепама, прегабалина, нифедипина и атенолола. Вверху заметки Шерил написала себе напоминания: «очистить все разговоры» и «выйти из ChatGPT». Он позвонил в полицию, в ходе расследования которой были обнаружены журналы чатов, которые теперь служат основными доказательствами как по уголовному делу, так и по гражданскому иску.
Юридические претензии и что дальше
В гражданском иске утверждается, что OpenAI и Альтман не смогли использовать технические средства защиты для выявления и прекращения разговоров, которые стали смертельными — запросы, которые иск с самого начала характеризует как явно подозрительные. Претензии являются утверждениями, а не выводами: ни один гражданский суд еще не рассмотрел их, а уголовное дело против Шерил Гейтс, которой в октябре было предъявлено обвинение, рассматривается отдельно.
Что делает это дело особенным в сфере судебных разбирательств по ИИ, так это специфика предполагаемой помощи. Большинство исков против компаний, занимающихся искусственным интеллектом, по поводу причинения вреда пользователям были сосредоточены на поощрении, подкреплении заблуждений или суицидальных идеях. В этом документе подробно описывается, взятый из самих журналов чата, чат-бот, который якобы выполняет математические расчеты дозировки для массы тела конкретного человека и дает советы по химическому составу напитков — вид конкретной, пошаговой помощи, которую юристам по ответственности за продукцию будет трудно игнорировать, и от которой конкурентам OpenAI будет трудно отказаться.
Это дело также подошло к деликатному моменту для OpenAI, которая провела последний год, борясь с серией исков по поводу вреда, связанного с чат-ботами, одновременно реорганизуясь вокруг своих коммерческих амбиций. Каким бы ни был исход дела в Сан-Франциско, документ гарантирует, что конструкция безопасности чат-ботов — обнаружение кризисов, шаблоны отказов, передача человеческой помощи — будет тщательно изучена при обнаружении, а журналы чатов уже станут общедоступными. Для каждой компании, занимающейся искусственным интеллектом, поставляющей помощников потребителям, главный вопрос больше заключается не в том, происходят ли такие разговоры, а в том, может ли ваша стенограмма однажды стать экспонатом.
Будьте впереди ИИ
Вопросы этики искусственного интеллекта решаются как в залах судов, так и в лабораториях. Следите за каждым развитием событий в нашем освещении новостей AI.
Читать больше новостей об искусственном интеллекте →
