OpenAI 周二宣布支持加州参议院第 1119 号法案，该法案将为年轻人如何使用人工智能建立全面的保障措施，并敦促州长加文·纽瑟姆 (Gavin Newsom) 签署该法案成为法律。

OpenAI 全球政策副总裁 Ann O'Leary 撰写了一封致纽瑟姆的公开信，并在该公司网站上发表了一篇博客文章，其中体现了这一背书。在其中，该公司将 SB 1119 定义为一条有意义的中间道路：为 18 岁以下的用户提供强有力的保护，同时又不会切断青少年使用据称有助于他们学习、创造和为未来做好准备的工具的机会。这一声明是一系列人工智能政策故事中的最新一起，这些政策故事重塑了政府对待人工智能最年轻用户的方式。 更多相关背景，请参阅我们的AI行业报道。

为什么 OpenAI 接受监管——无论如何，就是这个

OpenAI 的定位基于其发布的一项惊人统计数据：使用 ChatGPT 的青少年中有近十分之九在一周内通过它来学习、获取信息、提高技能或提高生产力。该公司写道：“青少年是在人工智能的陪伴下成长的第一代人。”并认为机会伴随着责任，围绕年轻人独特的发展需求设计体验。

该公司明确表示，联邦真空促使其采取这种姿态。致纽瑟姆的信中指出：“在联邦政府不采取行动的情况下，加州有机会为青少年人工智能安全制定强有力的标准。” OpenAI 表示，该法案建立在首席执行官萨姆·奥尔特曼 (Sam Altman) 去年概述公司青少年安全原则以及公司在《父母和儿童安全人工智能法案》方面所做工作时做出的承诺的基础上。

SB 1119 需要什么

根据 OpenAI 的法案摘要，SB 1119 将要求人工智能公司：

  • 在提供访问权限之前确定用户的年龄；
  • 在向年轻人提供产品之前识别并解决安全风险；
  • 对这些努力进行独立审计；
  • 保护年轻人免受有害内容，包括自残和性剥削内容以及其他高风险互动；
  • 为家长提供工具来指导和限制孩子的使用；
  • 当出现严重安全风险时，为年轻人提供危机支持资源；和
  • 限制定向广告并保护年轻人的个人信息。

对于年龄在 13 岁到 17 岁之间的用户，这些保护措施将自动应用，而不是青少年可以关闭的可选设置。

##“人工智能不是社交媒体”

OpenAI 信中更重要的论点之一是立法者在法案本身中嵌入的区别：人工智能不是社交媒体。 SB 1119 没有将为 Instagram 等平台构建的广告驱动规则移植到聊天机器人和学习工具上，而是定制了保护措施，以保留 OpenAI 所谓的教育和安全关键功能，包括它所描述的对 ChatGPT 内存功能的负责任使用，这有助于安全措施随着时间的推移识别相关模式。

对全面年龄限制的批评者警告说，严厉的规则可能会迫使青少年寻求监管较少的替代方案，或阻止他们获得真正有用​​的学习工具。 OpenAI 的认可表明，该行业最大的参与者认为 SB 1119 能够实现其可以接受的平衡。

面向青少年的 ChatGPT 已经上线

该法案的支持并不是凭空发生的。 OpenAI 推出了 ChatGPT for Teens，这是一种专门为年轻用户提供的体验，该公司表示，它会自动将系统估计年龄在 18 岁以下的任何人（或自称年龄在 13 至 17 岁之间）置于保护模式。该公司表示，那里的保障措施是基线体验的一部分，而不是选择加入的设置。

年龄估计的细节比乍看起来更重要。估计而不是经过验证的 ID 决定了用户获得的体验，该公司表示，之前对话的上下文（包括记忆）有助于一致地应用保护措施并随着时间的推移识别相关模式。这种估计在实践中的效果如何，以及当青少年谎报年龄时会发生什么，将决定监管机构是否认为行业自我监管是可信的。

OpenAI 表示，这款青少年产品还侧重于学习：测验、学习可视化和学习模式等功能是与教育工作者和学习专家共同开发的，可引导学生逐步解决问题。该公司将这些工具定位为安全要求和有用产品并不紧张的证据——它实际上向纽瑟姆和公众提出了这一论点。

萨克拉门托的政治

OpenAI 在信中赞扬纽瑟姆、参议员史蒂夫·帕迪拉、议员巴菲·威克斯和丽贝卡·鲍尔-卡汉在这一问题上的领导作用。该法案现已提交给州长，OpenAI 的公共游说活动（附有一封可下载的信件）明确表示该公司希望获得他的签名。

随着其他地方监管机构收紧螺丝，这一举措也随之落地。欧盟最近根据其《数字服务法案》将 ChatGPT 指定为超大型在线搜索引擎，并规定 OpenAI 在 2026 年 12 月底之前遵守欧盟关于未成年人和透明度的更严格规则。面对布鲁塞尔自上而下的指定，OpenAI 似乎正在考虑，支持萨克拉门托量身定制的州法律是在制定规则之前制定规则的更好方法。

纽瑟姆是否签署——以及其他州是否效仿加州的做法——将在很大程度上回答国会迄今悬而未决的问题：谁为人工智能最年轻的用户制定规则？

随时了解人工智能政策

跟踪每一个发生的事态发展。 在 AI Buzz Wire 上阅读更多人工智能新闻 →