全球十大人工智能开发商——包括亚马逊、Anthropic、苹果、谷歌、Meta、微软和 OpenAI——在接受英国隐私监管机构的审查后，同意改变他们处理个人数据的方式。周四，英国隐私监管机构将注意力转向了一个新的问题：绕过自身护栏的自主人工智能代理。
信息专员办公室（ICO）表示，在监管机构检查了这十家公司是否遵守英国数据保护法后，它们要么做出了改变，要么承诺这样做。这些承诺包括更清晰地解释如何使用个人信息来训练人工智能模型、为人们行使其数据权利提供更好的机制，以及对开发者的保障措施进行更严格的评估。
监督计划取得成果
这份名单的广度值得注意。它涵盖了美国超大规模企业（亚马逊、谷歌、微软、Meta、苹果）、领先的前沿实验室（OpenAI、Anthropic）、开放权重专家（Cohere、Stability AI）和 DeepSeek（一家中国开发商，其模型被西方公司广泛使用）。所有十家公司现在都承诺覆盖英国市场。
这些承诺源于 ICO 于 2025 年推出的一项监管计划，涵盖 11 家主要开发商。在监管机构暂停与埃隆·马斯克 (Elon Musk) 的 xAI 合作，以便对该公司的 Grok 聊天机器人进行单独的正式调查后，名单减少到十人。
这次干预是在监管机构本身的过渡时刻进行的，该监管机构最近更名为信息委员会，并以新的董事会和曼彻斯特总部重新开始。
监管机构并未宣布胜利。该公司表示将继续监控开发商是否兑现承诺，并承认当前的人工智能培训实践仍然与英国数据保护法产生摩擦。开发人员仍然有一些悬而未决的问题需要回答：训练模型中嵌入的敏感个人数据、模型训练完成后人们如何删除自己的信息，以及事后从模型中提取个人数据（包括开发人员从未打算保留的数据）的风险。
ICO 技术监管总监 Richard Nevinson 表示：“人工智能具有造福我们社会的巨大潜力，但这取决于信任和透明度。” “我们与一些最大的开发商的合作已经确保了真正的承诺，这将帮助人们更好地理解和控制他们的数据的使用方式，即使是在快速变化和复杂的领域。”
下一个目标：滑倒护栏的特工
监管机构的注意力现在转向人工智能代理——在有限的人类监督下浏览网站、使用工具和完成任务的系统。 ICO 证实，在今年早些时候有报道称代理在测试和部署期间绕过了安全措施后，它已经联系了 OpenAI、Anthropic、Meta 和英国人工智能安全研究所。
内文森说：“最近的这些报告显示了这些系统的发展速度有多快，以及如果护栏不符合其用途，它们会带来风险。” “我们的信息很明确：人工智能代理自主行动这一事实并不是不遵守规定的借口。”
除了与执法相关的参与之外，ICO 还启动了为期六周的征集活动，征集有关代理人工智能的证据，涵盖安全性、透明度、问责制和个人数据的合法使用。追踪最新人工智能发展的人工智能政策观察者需要注意时间表：回应将于 11 月 20 日截止，并将为未来的指导以及监管机构即将出台的人工智能和自动化决策法定实践守则提供信息。
监管机构还在研究消费者聊天机器人和人工智能伴侣如何使用个人信息，因为这些产品变得越来越个性化——随着伴侣、角色机器人和面向青少年的助手的推出，这一类别迅速增长。这项工作表明，监督计划的范围现在已超出模型培训范围，扩展到以个性化为核心特征的面向消费者的产品。
对于在英国运营的人工智能公司来说，实际效果是 ICO 创建了一个常设框架：指定的开发人员、记录在案的承诺和公众的后续行动。签署协议的公司将根据其承诺进行衡量，监管机构已明确表示，它认为今天的培训实践（而不仅仅是未来的培训实践）是一个持续的合规问题。
这意味着什么
对于在英国运营的人工智能公司来说，传达的信息是数据保护审查正在从训练数据转向部署行为。确保培训透明度的承诺是比较容易的阶段；更棘手的问题——从训练有素的模型中删除、提取风险以及代理在其护栏之外行事——仍然悬而未决，ICO 已表示希望行业、监管机构和政府共同努力解决这些问题。
这一事件还说明了英国脱欧后的监管态势：该国监管机构并未制定广泛的人工智能法案，而是将现有的数据保护法应用于人工智能系统，并为自动化决策制定法定的实践守则。随着对正在运行的代理人工智能的证据的呼吁以及世界上几个最大的实验室的正式进入，ICO 将自己定位为西方数据保护机构中最活跃的人工智能监管机构之一。
---
保持人工智能领先地位获取最新的人工智能新闻、分析和突破——尽在一个地方。
阅读更多人工智能新闻 →
