该指令由萨克拉门托宣布，将加州定位为美国在人工智能驱动的网络安全方面最积极的州。几天前，最新的人工智能行业报道 透露，前沿人工智能模型已证明能够在受控测试期间自行执行复杂的网络操作，这一进展震惊了全世界的政策制定者。
该程序将做什么
据州长办公室称，纽瑟姆正在指示各州机构采取四项核心行动：
1. 建立人工智能网络防御计划，以集中国家针对人工智能威胁的防御态势。
2. 加强州政府之间的网络安全协调，打破机构之间的隔阂。
3. 扩大针对关键基础设施和地方政府的人工智能防御，将支持攻击的相同技术用作防御工具。
4. 提高对新兴人工智能网络安全事件的准备。
该倡议以加州 2023 年和 2026 年人工智能行政命令为基础，共同建立了该州公共机构负责任、道德和透明地使用人工智能的框架。
##“攻击更快、更复杂、更频繁”
纽瑟姆将这一声明视为等待危机发生和立即采取行动之间的选择。
> “数字环境正在我们眼前迅速发展。攻击速度更快、更复杂、更频繁，使家庭所依赖的基本系统面临风险。加州要么等待下一次危机，要么我们可以建立目前所需的防御措施。我们正在选择建立。”
州长办公室指出，领先的人工智能开发商最近披露的信息表明，先进的人工智能系统能够在受控测试环境中独立执行复杂的网络操作，从而暴露出所谓的“新风险”。与此同时，对手正在使用功能日益强大的人工智能系统来比以往更便宜、更有效地发动攻击。
为什么关键基础设施成为焦点
加州州长紧急服务办公室 (Cal OES) 主任兼该州国土安全顾问卡罗琳·托马斯·雅各布斯 (Caroline Thomas Jacobs) 表示，该计划的目标是加州人每天依赖的服务。
> “网络攻击可能会破坏加州人每天依赖的基本服务，包括水、电、交通和紧急通信。这项新计划将帮助 Cal OES 和我们的合作伙伴更快地发现威胁、更有效地共享信息、加强防御并更快地做出响应。”
政府运营局局长尼克·马杜罗斯补充说，该计划将帮助州机构、地方政府和关键基础设施合作伙伴“更好地检测、预防和应对网络事件，确保加州人所依赖的基本服务保持安全、弹性和可靠。”
联邦撤退的背景
该公告是在美国网络安全政策的一个重要时刻发布的。纽瑟姆办公室尖锐地指出，该计划是“随着网络威胁变得更加复杂以及特朗普政府继续削减关键联邦支持而推出的”。
联邦官员最近警告说，明尼苏达州的市政供水系统成为了一场疑似与伊朗有关的网络行动的目标，影响了 30 多家公用事业公司——这清楚地表明基本的公民服务现在正处于外国对手的视线之中。州长办公室表示，州和地方政府历来依赖的几个国家网络安全计划正在联邦层面同时缩减。
对于世界第五大经济体加州来说，联邦撤退留下的缺口是该州打算自行填补的缺口。
双重用途的困境
该计划反映了现代人工智能政策的核心张力：使人工智能在攻击者手中变得危险的相同功能——速度、规模、自主探测弱点的能力——也使其成为强大的防御工具。通过命令各机构“扩大人工智能防御”，纽森押注加州可以利用人工智能作为盾牌，即使它正在为人工智能攻击做好准备。
越来越多的安全研究人员和初创公司也认同这一观点，他们认为，针对人工智能加速威胁的唯一现实防御方法是人工智能加速检测和响应。国家机构是否能够足够快地采取行动来建立这些能力，并吸引人才来管理这些能力，将决定该计划在实践中提供多少保护。
保持人工智能领先地位
人工智能正在改写安全、治理和基础设施的规则。关注 AI Buzz Wire，持续报道人工智能政策、网络安全以及塑造技术未来的决策。
阅读更多人工智能新闻 →
