据俄勒冈州公共广播公司报道,俄勒冈州总检察长 Dan Rayfield 周二起诉 OpenAI,要求至少 20.35 亿美元的赔偿,并指控该公司歪曲 ChatGPT 对年轻用户来说是安全的,同时故意允许与青少年进行危险的互动。
该诉讼由 OPB 披露,并得到 KGW、KATU 和 KOIN 等俄勒冈州多家媒体的证实,使俄勒冈州成为迄今为止针对人工智能聊天机器人和未成年人不断升级的法律行动中最激进的州之一。十月份,美国八个州提起诉讼,每个州都声称该技术对青少年产生危险的影响。 更多相关背景,请参阅我们的人工智能资讯。
投诉内容
该州长达 53 页的诉状指控 OpenAI 歪曲其产品,违反了俄勒冈州的《非法贸易行为法》,并称该公司的行为是故意的——根据该法规,这是一个加重情节的因素——产生了诉状中所说的不公平、不公正、令人震惊和不合理的结果。
OpenAI 允许年仅 13 岁的用户使用 ChatGPT,只要父母或监护人退出即可。俄勒冈州司法部官员称,该公司经常未能确认父母是否确实同意未成年用户使用。该投诉还针对 ChatGPT for Teens,这是该公司最近发布的面向青少年的版本,该版本将父母的帐户与孩子的帐户相关联。据该州称,该版本据称更强大的保护措施很容易被绕过,而且当年轻用户询问自杀、自残、饮食失调或其他心理健康话题时,它也未能提醒家长。
该诉讼要求法院迫使 OpenAI 采取更强有力的保障措施,并向俄勒冈州人民赔偿至少 20.35 亿美元的损失。
Rayfield:该产品“继续造成伤害”
Rayfield 在接受 OPB 采访时表示,OpenAI 意识到其产品可能带来的危险。他说,OpenAI 继续看着父母的眼睛,并表示该产品是安全产品,尽管它继续对我们的社区造成伤害。
总检察长告诉 OPB,俄勒冈州没有任何具体事件触发了该立案。相反,他说,这起诉讼源于全国各地发生的事件,以及他的办公室对技术进步超过消费者保护的担忧。他说,如果这些工具的承诺得以实现,那么它们将令人难以置信,但我们在另一边看到的是毁灭。
该文件发布之际,俄勒冈州公众对青少年和在线平台的担忧日益加剧。上个月在本德银轨小学枪杀三名儿童和一名教师的青少年经多个消息来源将其与网络极端主义团体联系起来。9 月,摩特诺玛县地方检察官办公室将一名本森高中学生在学校释放有毒化学物质归咎于网络极端主义的影响。 Rayfield 拒绝透露 OpenAI 的产品是否参与了这些事件,并援引正在进行的调查为由,而且诉讼本身并不取决于俄勒冈州的任何一起案件。
OpenAI 更广泛法律清算的一部分
俄勒冈州现在是越来越多的州之一,在法庭上就青少年安全问题向 OpenAI 施压。十月份,八个州提起了类似诉讼,不断累积的诉讼对人工智能行业如何自我监管未成年人访问提出了越来越大的挑战,而联邦监管仍然薄弱。
OpenAI 发言人 Drew Pusateri 在提交文件后发表声明称,该公司致力于制定适用于整个人工智能行业而不仅仅是一家公司的人工智能政策。该公司指出目前存在的安全措施,包括家长控制、休息提醒和适合年龄的型号保护,并表示将继续与专家合作,建立更多的安全措施。该公司此前曾坚称,确保社区安全是首要任务。
接下来会发生什么
俄勒冈州的案件将检验一种新颖的法律理论:不是 ChatGPT 造成了特定的伤害,而是该公司的安全营销本身——声称该产品对青少年是安全的——在可以绕过保障措施的情况下构成了不公平的贸易行为。如果该理论在早期动议中得以通过,它可能会为其他州检察长开辟一条比产品责任诉讼更便宜、更快捷的道路,因为产品责任诉讼需要证明个人伤害的因果关系。
为速度而生的消费者保护角度
法规的选择很重要。俄勒冈州的《非法贸易行为法》是一部消费者保护法,而不是一项产品责任制度,与证明特定聊天机器人交易造成特定悲剧相比,它的时限更短,证据门槛更低。它还允许对故意违规行为进行民事处罚——投诉明确适用的加重处罚标签。俄勒冈州法院针对科技平台误导性主张的消费者保护执法由来已久,该法规是该国措辞更为广泛的法规之一。
这一框架也决定了国家正在寻求的补救措施。诉状要求俄勒冈州民众集体赔偿至少 20.35 亿美元,加上法院下令对产品本身进行修改:加强保障措施并核实家长同意,而不是对单个受害者家庭造成损害。如果获胜,国家将能够持续监督 ChatGPT 的青少年功能,而不是一次性付款。
对于 OpenAI 来说,投诉发生在一个微妙的时刻:该公司已经在捍卫版权主张,面临着一场关于人工智能相关网络入侵的加州诉讼,并准备迎接 IPO 后的严格审查。一个州提出的数十亿美元的要求不太可能重塑其财政状况,但法院裁定其青少年安全陈述具有欺骗性,所带来的监管后果将远远超出俄勒冈州。
---
掌握AI最新动态获取最新的AI新闻、分析和突破——尽在一处。
阅读更多AI新闻 →