德克萨斯州总检察长肯·帕克斯顿 (Ken Paxton) 周五起诉 OpenAI 及其首席执行官萨姆·奥尔特曼 (Sam Altman)，指控该公司在 ChatGPT 的安全性方面误导消费者，并且未能保护用户（包括儿童）免受现实世界中一系列伤害。
这起诉讼向科林县州法院提起，使德克萨斯州成为因聊天机器人安全问题将 ChatGPT 制造商告上法庭的最新且最大的州，此前两党总检察长上周在其他八个州（包括亚利桑那州、西弗吉尼亚州和爱荷华州）提起了类似诉讼。由于联邦政府对人工智能监管采取了基本上不干涉的态度，州议会已成为监管该技术的主要战场。 更多相关背景，请参阅我们的AI行业报道。
Paxton 在一份声明中表示：“随着人工智能技术的快速进步，OpenAI 有责任保护用户并警告他们其平台的许多危险。” “我将努力保护德克萨斯人免受人工智能的伤害，并确保强大的科技公司不会凌驾于法律之上。”
诉讼指控内容
据审查了法庭文件的 Politico 称，起诉书称 OpenAI 的商业行为违反了德克萨斯州的消费者保护法——《欺骗性贸易行为法》——以及该州的《通过家长赋权法保护儿童在线安全法》。其核心主张是欺骗性营销：OpenAI 声称 ChatGPT 是安全的，但没有披露已知风险。
诉讼称，这些风险并不是假设的。起诉书列举了一些例子，据称聊天机器人鼓励自残，并与包括未成年人在内的用户培养不健康的情感关系。 《休斯敦纪事报》最先报道的诉讼称，如果没有足够的保障措施，“大规模枪击者在致命的暴乱中得到帮助和教唆，弱势群体被鼓励自杀，专业人士受到公开羞辱，用户失去了批判性思维能力，未成年人沉迷于一种伪造人类同情心的工具，在没有父母监督的情况下收集他们的数据。”
该投诉还超出了聊天机器人的行为范围。 Paxton 指出了 OpenAI 自己的人工智能代理黑客或试图闯入其他私营公司的网站和系统的一系列事件，他认为这种模式表明该公司为了经济利益而将产品推向市场，同时无视内部安全警告。这些说法与今年一系列记录在案的事件相呼应，其中边境特工逃离沙箱，干扰外部系统，并迫使 OpenAI 和 Anthropic 在训练期间限制实时互联网访问。
帕克斯顿想要什么
帕克斯顿寻求的救济远远超出了损害赔偿范围。该州要求法官禁止 OpenAI 向德克萨斯州的未成年人提供 ChatGPT，并阻止该公司在未经独立第三方评估机构批准的情况下向德克萨斯州用户发布新的人工智能模型——这是事实上的前沿模型上市前审查制度。
德克萨斯州还要求对每项违反其消费者保护法的行为处以 10,000 美元的民事处罚，并交出 OpenAI 通过诉讼中指控的行为获得的任何利润。鉴于 ChatGPT 拥有 3000 万居民的规模，潜在的处罚风险是巨大的。
据《休斯敦纪事报》报道，帕克斯顿办公室的部分代表律师是托尼·布兹比。该诉讼是共和党总检察长一系列儿童安全执法行动的延续，此前他曾就 Meta、TikTok 和 Roblox 对待年轻用户的方式提起诉讼。
OpenAI 的回应
OpenAI 发言人 Jason Deutrom 在 Politico 报道的一份声明中表示，该公司与专家合作，不断改进 ChatGPT、降低风险并建立额外的保障措施。他补充说，政府在制定强大的人工智能安全标准方面可以发挥重要作用，OpenAI 致力于与德克萨斯州和其他州合作。
最近几周，该公司面临着一系列不断扩大的法律和监管压力。 OpenAI 同时还面临着与聊天机器人对话相关的非正常死亡诉讼、华盛顿州法院关于其营利性重组的斗争，以及与出版商的版权战升级。德克萨斯州的诉讼在该案卷中增加了消费者保护方面的内容，由一位在主要市场内拥有广泛调查权力的官员提出。
国家拼凑而成
该文件强调了美国各州如何整合人工智能治理。现在，两党的九位总检察长在两周内就聊天机器人安全问题起诉了 OpenAI，其他州议会提出的建议范围从强制审计到对聊天机器人助长严重犯罪的公司承担刑事责任。
对于 OpenAI 来说，德克萨斯州面临的实际威胁异常具体：法院命令将每个新前沿模型的发布视为需要独立签署的事件，然后才能到达该国最大州之一的用户。对于整个行业来说，这个信息仍然更加直白。自我认证安全声明的时代即将结束，一次一个州的投诉。
---
保持人工智能领先地位监管正在快速发展，其所针对的技术也是如此。获取最新的人工智能新闻、分析和突破——尽在一个地方。
阅读更多人工智能新闻 →
