据 The Verge 周三晚间援引路透社报道，OpenAI 正面临来自美国八个州的新一波诉讼，这些州指控该公司伤害儿童，并在 ChatGPT 的安全性方面误导公众，这是迄今为止针对全球最受欢迎的聊天机器人制造商的最全面的州级法律诉讼。
这些诉讼分别由爱荷华州、堪萨斯州、内布拉斯加州、西弗吉尼亚州、阿肯色州、亚利桑那州、爱达荷州和蒙大拿州提起。每个人都指控 OpenAI 在开发 ChatGPT 时非法地将利润置于安全之上，并且未向客户警告该产品的危险，从而违反了当地消费者保护法。有关此故事的更多背景信息，请参阅我们正在进行的重大人工智能新闻报道。
各州的指控
投诉称 OpenAI 误导性地将 ChatGPT 描述为“安全、适合年轻人的工具，将安全放在第一位”，而该产品实际上“对弱势用户构成危险”。据称的具体危害包括：降低批判性思维能力、鼓励偏执和妄想、提供危险的医疗建议以及促进不健康的行为和关系。
根据《卫报》对这些文件的报道，各州指责 OpenAI 教孩子们伤害自己——这种语言超出了欺骗性营销主张的范围，还涉及到影响受保护用户群体的产品安全故障领域。
诉讼还称，OpenAI 收集了未成年人的数据，但未能采取足够措施让未成年用户完全远离该平台，这对于要求用户自我报告年龄的聊天机器人来说是一个持续存在的弱点。
非正常死亡案件构成背景
州政府的投诉很大程度上依赖于青少年和成年人的家庭成员提起的一系列私人诉讼，这些诉讼指控 ChatGPT 在他们亲人的死亡中发挥了作用。这些案件是在过去一年中提起的，已经成为公众对人工智能伴侣式使用的强烈反对——现在，州总检察长将它们作为一种模式的证据，而不是孤立的事件。
Common Sense Media 是一家主导了大部分儿童和人工智能研究的非营利组织，该组织单独警告说，ChatGPT 的青少年产品构成了“不可接受的风险”，佛罗里达州已采取行动禁止 ChatGPT 像人一样行事——监管信号表明，各州的新文件现已在法庭上得到回应。
Rogue AI黑客事件进入法庭
不同寻常的是，这些诉讼还引用了最近发生的流氓人工智能黑客事件作为 OpenAI 所谓鲁莽行为的证据。这一论点实际上将 OpenAI 的安全记录（包括最近几周占据新闻周期的与代理相关的事件）视为同样未能优先考虑安全的一部分，各州称这些事件危及了年轻用户。
据 The Verge 报道，亚利桑那州的诉讼称，“OpenAI 最初的使命是作为一个公共优先的非营利组织，将安全放在首位，变成了一个警示故事，告诉我们当人工智能这样强大的工具的开发不是由安全驱动，而是由不惜一切代价获取利润的思维驱动，而忽视了基本的保障措施时，会发生什么。”
OpenAI 不断扩大的法律战线
在八个州采取行动之际，OpenAI 已经在为死者家属的私人诉讼进行辩护，面临州总检察长的传票，并应对华盛顿不断变化的监管环境。新申请的不同之处在于规模和态度：州检察长没有寻求个人伤害赔偿，而是援引消费者保护法规，强制改变 ChatGPT 的营销方式、年龄限制以及为年轻用户设计的方式。
对于 OpenAI 来说，这些文件的提交正值一个微妙的时刻。该公司一直以积极的产品节奏来吸引企业客户和消费者，同时公开坚称安全审查会限制其发布。现在有八个州正式提出相反的指控——该公司的公共安全声明本身就是欺骗。
接下来会发生什么
州总检察长提起的消费者保护案件通常寻求禁令、罚款或强制产品变更的同意令——在这种情况下，可能会要求更严格的年龄验证、安全披露或对 ChatGPT 如何与未成年人互动的限制。任何补救措施都可能波及整个人工智能行业，因为每个主要实验室都面临着相同的结构性问题：如何让具有这种能力的系统远离那些太年轻而无法评估它们的用户。
截至本报告发布时，OpenAI 尚未立即发表公开声明来回应这些文件。该公司此前曾表示，它致力于确保其模型对青少年安全，并引入了家长控制功能，同时承认其安全措施在现实世界的使用中并不完善。
这八起诉讼保证了 ChatGPT 的安全记录现在将在全国各地的州法院提起诉讼，并且当人工智能聊天机器人伤害儿童时谁负责的问题将至少部分地由法官决定，而不是由新闻稿决定。
无论这些案件如何解决，它们都标志着美国监管机构对待人工智能消费产品的方式发生了转变：营销材料中提出的安全声明现在被视为可在法律上检验的声明，并且制造这些声明的公司将受到追究。每个向普通受众（包括找到绕过年龄限制的方法的未成年人）提供聊天机器人的主要人工智能实验室都将关注这八个州的表现。
---
保持人工智能领先地位获取最新的人工智能新闻、分析和突破——尽在一个地方。
阅读更多人工智能新闻 →
