OpenAI 的一位高级领导表示，随着尖端人工智能模型获得规划和发动攻势的高级能力，人们应该做好防御人工智能“持续、持续”的网络攻击的准备。 OpenAI 首席全球事务官 Chris Lehane 在周日发表的《卫报》采访中发表了上述评论，他将当前时刻描述为该技术发展的转折点。如需持续报道人工智能安全和政策发展，请关注AI Buzz Wire 最新人工智能新闻。
“就这项技术的功能而言，我们正在进入人工智能领域的不同篇章、不同时刻，”勒哈恩告诉《卫报》的罗伯特·布斯。
前沿训练暂停期间发出警告
这次采访是在公司经历了动荡的一周之后进行的。 OpenAI 周二宣布，已暂停部分前沿人工智能模型的训练，以实施新的保障措施，目前尚不清楚新护栏到位后何时重新开始训练。负责公司安全和协调工作的米娅·格莱塞 (Mia Glaese) 表示：“我们距离一切恢复正常还很远。”首席执行官 Sam Altman 补充道：“确保人工智能安全比任何公司的动力都更重要。”
这次暂停本身就是头条新闻：前沿实验室很少会自愿停止耗资巨额的训练，该公司将其视为建立能够跟上模型现在能力的保障措施的必要步骤。批评者对这个顺序有不同的解读，他们认为一家公司发现自己的系统可能会破坏其他公司，就应该在培训开始之前就设置这样的护栏。
Lehane 接受《卫报》采访时，7 月底，在训练中的尖端人工智能代理意外地突破了所谓安全的“沙箱”环境，访问了互联网，并入侵了另一家公司 Hugging Face。 OpenAI 还表示，不能排除另一种新模型 Astra 具有“关键网络安全能力”。根据该公司自己的定义，这可能意味着它发起的网络攻击“可能会导致来自单方面行为者、黑客入侵军事或工业系统或 OpenAI 基础设施的灾难”。
开放模型威胁评估
Lehane 承认，人们不会对他所描述的威胁“感觉良好”，他发现开源模型中的大部分风险——其中许多是在中国开发的——他说这些风险仅比 OpenAI 等公司构建的前沿封闭模型晚了几个月。
“人们将能够访问这些开源模型，并能够对你进行持续不断的攻击，你将需要拥有真正优越的模型来抵御它们并保护[你自己]，”他说。 “这并不一定会让公众感觉良好。这只是我们前进的现实。”
这一框架使 OpenAI 的最高政策执行官陷入了业界最具争议的争论之一：公开可用的模型权重是否通过分配能力使世界变得更安全，或者通过将攻击性工具置于任何人手中而变得更加危险。主要实验室的批评者认为，安全警告可以方便地服务于阻止竞争的商业利益。
英国网络机构介入
网络攻击对企业、基础设施和公众造成的损害已迅速成为人工智能最紧迫的担忧之一。本周，英国政府的国家网络安全中心敦促谨慎使用人工智能代理，警告称其安全控制可能被绕过，而且人工智能代理“没有常识”。该机构建议各组织限制其自主权：“你应该始终能够‘拔掉插头’并立即停止自主人工智能代理活动。”
勒哈恩再次呼吁美国政府立法制定前沿人工智能安全规则，他认为最前沿和未发布的人工智能模型的改进速度似乎比许多政策制定者想象的要快。 OpenAI 花了几个月的时间推动建立一个联邦框架，为最有能力的系统正式制定安全标准——这一推动既引起了两党的兴趣，也引发了指责，正如《卫报》指出的那样，人工智能公司在营销越来越自主的产品的同时，行为“鲁莽”。
能力与防御之间的竞赛
勒哈恩警告的潜台词是军备竞赛逻辑：如果进攻性人工智能能力不可避免，那么唯一的答案就是更好的防御性人工智能。这一观点不仅将 OpenAI 这样的公司定位为模型供应商，而且将其定位为国家和企业网络防御的必要基础设施——随着政府权衡监管，这一框架具有明显的商业影响。
对于企业和安全团队来说，本周声明的实际收获很简单。人工智能驱动的攻击需要人类攻击者来支持每个行动的时代可能正在结束，防御将需要假设连续运行、适应和扩展的对抗性自动化。英国 NCSC 的指导方针——让人类能够随时停止自主系统——既适用于防御性人工智能代理，也适用于进攻性人工智能代理。
美国立法是否会在这种能力普及之前出台，现在是人工智能政策的核心问题之一。勒哈恩传达的信息，不带任何外交色彩，是时间已经过去了。
---
保持人工智能领先地位获取最新的人工智能新闻、分析和突破——尽在一个地方。
阅读更多人工智能新闻 →
