美国教师联合会、教师联合会和微软周三宣布了一项“国家人工智能安全和隐私标准”，为学生、家庭和教育工作者建立了法律上可执行的保护——这是一项史无前例的协议，经过数月的谈判达成，工会称联邦和州学校人工智能规则处于真空状态。

该协议由 AFT 总裁 Randi Weingarten、UFT 总裁 Michael Mulgrew 和微软副主席兼总裁 Brad Smith 在纽约共同揭晓。它是在纽约市公立学校新采用的屏幕和人工智能禁令之后推出的，旨在直接纳入学区的微软客户协议中——使保护措施通过合同强制执行，而不是雄心勃勃的承诺。有关此故事的更多背景信息，请参阅我们正在进行的 人工智能政策报道。

协议的要求

该标准的核心是将共享原则转变为以三个优先事项为中心的可执行保护措施。

保护隐私： 学生和教育工作者的数据不会用于训练人工智能模型、出售或重新利用，并且永远无法跟踪学生。学校对数据的使用、保留和删除方式保持控制。 增强安全性：人工智能系统的设计必须能够避免有害或操纵性体验，保护敏感信息，并满足严格的安全、问责和负责任使用标准——在人工智能驱动的决策生效之​​前需要人工监督。 提供透明度和控制：家庭可以获得清晰、可访问的信息，了解人工智能如何在课堂上使用、收集哪些数据以及采取了哪些保护措施。公司必须就产品变更、风险和控制进行明确沟通。至关重要的是，采用该标准的地区可以终止协议并向违反规则的公司寻求损害赔偿——将历史上细则政策语言转变为具有实际后果的合同义务。

温加滕在一份声明中表示：“我们经过艰苦卓绝的努力，签订了一份铁定的隐私协议，以保护学生和家庭，因为包括联邦政府在内的其他人都没有站出来做真正的工作。” “任何不具有法律可执行性的规定都只是一个愿望清单。”

Mulgrew 的 UFT 代表了 20 万纽约市的教育工作者，他表示该协议“授权学区终止协议并向违反规则的不良行为者寻求赔偿。”

微软的史密斯将该协议视为一个模板，而不是一次性的：“该标准为儿童隐私和人工智能安全设定了很高的标准，我们将把该协议扩展到全国每个学区。”

建立在州和地方行动浪潮之上

该协议限制了工会在屏幕、人工智能和学生数据方面的几个月不断升级的活动。在 5 月份题为“放下设备，向上看，动手实践”的演讲中，温加滕呼吁从幼儿园到二年级全面禁止使用屏幕，禁止在小学使用面向学生的人工智能，并禁止 16 岁以下学生使用社交伴侣聊天机器人。

此后，洛杉矶联合学区、纽约州联合教师协会以及上周纽约市公立学校也采用了类似的框架，为新的国家标准提供了一组大型的现成采用者。

一段时间以来，AFT 一直在朝着这一立场努力：其 2024 年“在学校使用先进技术的常识护栏”制定了保护学生的九项核心原则，该联盟去年成立了国家人工智能教学学院，对教育工作者进行人工智能工具的使用和滥用方面的培训。

为什么它很重要

该交易是解决监管漏洞的解决方案。现有的儿童隐私法，如 FERPA 和 HIPAA 是在生成人工智能出现之前制定的。 Weingarten 表示：“HIPAA 和 FERPA 从未预见到人工智能的出现。”他认为，在缺乏最新保护措施的情况下，科技公司需要对其向学校推销的产品承担责任。

对于双方来说，赌注都相当大。 AFT 代表 180 万学前班到 12 年级的教师、专业辅助人员、高等教育教员、政府雇员、护士和幼儿教育工作者，使该标准立即覆盖数千个地区。对于微软来说，该协议既是让步，也是竞争武器。自愿遵守具有约束力的隐私条款使该公司在竞争教育市场的竞争对手时处于有利地位，并且拥有 180 万 AFT 会员和数千个地区的潜在客户，将标准扩展到全国范围内为微软提供了一个现成的论据，说明为什么其课堂工具应该成为值得信赖的默认设置。

悬而未决的问题是执行和传播。这些保护措施仅对将其纳入微软合同的地区具有约束力，目前还没有其他主要教育技术公司签署同等条款。谷歌、OpenAI、Anthropic 和其他公司是否面临遵守标准的压力，或者州立法机构是否会制定类似的规则，将决定周三的声明是否成为新的行业基准，或成为微软独有的差异化因素。

---

保持人工智能领先地位

获取最新的人工智能新闻、分析和突破——尽在一个地方。

阅读更多人工智能新闻 →