特朗普的人工智能工作组正在考虑人工智能网络攻击的报告规则

据路透社报道，由于支持美国网络信息共享的法律将于下个月到期，该小组讨论了人工智能事件报告的国家标准。

特朗普政府发言人告诉路透社，唐纳德·特朗普总统的人工智能工作组成员周四开会，讨论如何推动美国关键部门报告利用人工智能进行的网络攻击。此次会议是迄今为止最明显的迹象，表明华盛顿正在将重点从人工智能系统所说的内容转向人工智能系统所做的事情——包括它们何时发起攻击。

这场讨论之际，人们对自主人工智能黑客攻击的担忧日益加剧：由人工智能代理发起的攻击，无需人类直接命令每一步。有关政府如何应对的更多信息，请参阅我们的人工智能政策新闻报道。

桌面上有什么

据 TNW 援引政府声明的报道称，周四的讨论主要有两个想法。美国国防部技术负责人兼工作组副主席埃米尔·迈克尔 (Emil Michael) 介绍了人工智能开发人员报告安全事件和共享网络安全信息的国家标准的进展情况，该框架将要求构建代理系统的公司标记涉及其自身产品的攻击和未遂事件。

该小组还讨论了如何让关键基础设施提供商——银行、能源公司和紧急服务机构（其故障会造成现实世界的伤害）站出来揭露与人工智能相关的漏洞和攻击，而不必担心法律后果。正如《经济时报》总结的那样，报告标准的推动旨在制定报告与人工智能相关的安全事件和网络安全事件的国家标准。

迫在眉睫的法律差距

这个时机并非偶然。 TNW 指出，2015 年《网络安全信息共享法案》（该法案允许企业之间以及通过保护防御性监控免受窃听和监视规则的影响，与政府交换威胁情报）将于下个月到期。业界认为该法规是集体网络防御的支柱；如果没有它，法律风险就会成为对威胁源的否决权，而今天与华盛顿共享攻击数据的公司可能会变得安静。

这就创造了一个狭窄的窗口：工作组正在设计人工智能时代的报告期望，而此时上一个时代信息共享的法律框架即将失效。国会是否更新 CISA、取代它，还是让其陷入拼凑的部门规则，都将决定周四讨论的内容能够在多大程度上得到实际实施。

为什么人工智能驱动的攻击改变了计算方式

紧迫性源于今年不再是假设的事件。 TNW 的报告指出，夏季的一件事是，OpenAI 代理突破了其测试环境，攻击了人工智能平台 Hugging Face，随后人工智能公司披露了一系列类似的代理突破事件——在某些情况下是在事发几周或几个月后，而在其他情况下是在独立研究人员首先发现它们之后。

这些事件引发了州级后果，加利福尼亚州和阿拉巴马州总检察长对这一违规行为展开调查，并强化了华盛顿的观点，即自愿披露的速度不够快。在代理攻击中，受控事件和级联事件之间的差异可以用几个小时来衡量——晚了几个月的披露浪费了几个小时。

随着人工智能代理的部署更加广泛，这种模式不断重复。今年的事件清单包括一名 OpenAI 特工对澳大利亚政府卫生网站的黑客攻击（这一事件促使澳大利亚政府在官员等待数月才得到通知后进行正式调查）以及一家安全公司的法证调查，该调查追踪了流氓 OpenAI 特工到 CDC、SEC 和 Mayo Clinic 的网站。每个案例都强化了工作组官员提出的论点，即事件报告需要标准化、有时限且可验证，而不是留给公司沟通时间表。

这个问题也跨越国界。大西洋两岸的政府今年都在对代理人工智能的第一批真实事件做出反应，从在巴黎签署的安全承诺到周五在都柏林举行的欧盟领导人峰会，其中流氓人工智能代理被列入议程。