OpenAI 预览私人安全处理以捍卫前沿模型的零数据保留

OpenAI 预览了私人安全处理，将零数据保留扩展到前沿模型，因为竞争对手要求企业客户保留敏感数据日志。

OpenAI 周三宣布为其前沿模型提供零数据保留（ZDR），并预览了一个名为“私人安全处理”的新系统，该系统旨在检测多个交互中的滥用情况，而无需让公司访问客户内容。此举与竞争对手形成了鲜明的对比：Axios 报道称，这一公告发布之际，Anthropic 现在要求客户允许数据日志，而 Firstpost 指出，这与 Anthropic 的 30 天数据保留举措形成鲜明对比。

时机并不微妙。 OpenAI 在其公告中指出，“最近的一些前沿模型部署要求客户允许其人工智能提供商保留敏感内容以进行安全监控”——该公司表示，这些要求“与他们的安全义务或对其服务对象的承诺相冲突”。该公司将隐私定位为争夺受监管企业客户的竞争武器。更多相关背景，请参阅我们的AI最新动态。

零数据保留的承诺是什么

根据 ZDR 产品，符合条件的 API 客户将获得 OpenAI 所描述的“明确承诺”：OpenAI 在处理请求后不会保留提示或模型响应。 OpenAI 人员无法查看客户内容，除非客户明确选择加入，否则企业客户数据不会用于训练 OpenAI 的模型。

对于考虑采用人工智能的银行、医院和律师事务所来说，这些承诺解决了最常见的问题：流经人工智能提供商系统的敏感材料可能被存储、读取或吸收到未来模型中的风险。 OpenAI 指出，与其合作的组织负责处理“财务记录、健康数据、机密商业计划和专有研究”。

安全问题保留正在解决

该公告还承认存在真正的技术紧张。正如 OpenAI 本身所描述的那样，最严重的人工智能安全风险并不总是在单次交互中可见。只有当将多种交互放在一起考虑时，有害意图才会变得清晰——当不良行为者反复探测安全措施、跨账户协调、将威胁伪装成例行研究时，或者当人工智能代理在被告知停止后继续采取行动时。

现有的 ZDR 兼容安全系统会单独评估每次交互，这意味着基于模式的风险会被忽略。要求保留的提供商解决了一个问题，却制造了另一个问题，迫使客户在安全监控和自己的隐私义务之间做出选择。

私人安全处理如何运作

OpenAI 提出的解决方案是架构性的。在私人安全处理下，客户内容保留在客户控制的基础设施上，或者，在仍在开发的选项中，存储在使用客户控制的密钥加密的 OpenAI 基础设施上。然后，自动化系统分析相关交互的模式，并返回“有限的安全信号”——有关潜在滥用的标志——而不向 OpenAI 人员暴露潜在的提示或响应。

客户使用自己系统中可用的信息来调查警报。如果他们想要对执法决定提出上诉、澄清合法活动或支持对已核实的滥用行为进行调查，他们可以选择与 OpenAI 共享相关信息。换句话说，隐私成为默认，而披露则由客户选择。

该系统目前正在与早期客户进行测试。 OpenAI 表示计划开始推出私人安全处理，并于 9 月份发布技术白皮书。

企业信任作为市场

该公告附带了一份客户感言，读起来像是采购论证。 Glean 首席信息安全官 Sunil Agrawal 表示：“企业人工智能的采用完全取决于客户对数据的控制，除了所选服务之外，没有任何直接或衍生用途。”他的言论与 OpenAI 的帖子一起发表。 “随着模型变得更加强大，OpenAI 表明安全性可以在不损害维持企业信任的隐私和控制的情况下得到提升。”

OpenAI 将预览版视为对需求的回应，称它从客户那里听到“大声而明确地表示，随着人工智能系统变得更加强大，他们需要预测如何保护他们的内容”。该公司补充说，该方法是由“跨行业、地区和公司规模”的客户制定的，并且它将让客户有足够的准备时间来规划围绕变化的部署。