据路透社报道，日本财务大臣片山五月表示，七国集团财长已同意举行桌面演习，以防范人工智能网络攻击。该决定要求世界七大发达经济体共同演练如何应对一类威胁，安全官员警告称，这些威胁的增长速度快于传统防御。
该协议于周五宣布，正值政策制定者越来越多地寻求协调应对措施，以应对与人工智能相关的日益增长的网络安全风险。桌面演习——官员们一步步经历假设危机的结构化模拟——已成为测试政府、央行和私人金融机构在受到攻击时如何实际沟通和响应的首选工具。对于七国集团来说，演习将集中在金融领域，在金融领域，人工智能的成功入侵可能会在防御者了解正在发生的事情之前就改变市场。 更多相关背景，请参阅我们的AI新闻。
国际货币基金组织的警告给演习带来了紧迫性
在此之前，国际货币基金组织本周发出警告，称人工智能攻击可能会削弱人们对金融机构的信心，并波及系统的稳定性。正如报道七国集团决定的媒体所总结的那样，国际货币基金组织的信息是，人工智能降低了成本，并提高了对银行、支付系统和市场基础设施的攻击的复杂性——虽然同样的技术也为防御者提供了新工具，但进攻者目前的任务更容易。
桌面练习旨在探讨这种不对称性。模拟不是测试防病毒软件是否阻止有效负载，而是提出更困难的问题：谁决定让一家大型银行下线？在事件发生的最初几个小时内，监管机构如何与市场沟通？网络事件何时成为需要央行流动性的金融稳定事件？这些决策很少考虑到特定于人工智能的攻击场景。
基于现有网络框架构建
这些演习将通过七国集团网络专家组进行，该工作组负责协调七国集团金融机构的网络安全政策。该组织拥有多年的跨境协调经验，并于今年发布了有关人工智能相关软件物料清单的指南。随着人工智能入侵工具的传播，赋予 CEG 人工智能攻击授权正式化了成员们已经开始双边讨论的内容。
日本在宣布该协议中所扮演的角色凸显了辩论如何从抽象的风险转向具体的准备。今年早些时候，日本财务省已表示七国集团将讨论金融机构的人工智能防御标准——周五的声明将该讨论转变为一项承诺的联合演习计划。
准备工作不断升级的一年
周五的协议是数月基础工作的结晶。 7 月，日本财务省表示，七国集团将讨论金融机构的人工智能网络防御标准，而到了 8 月，美国财政部公开呼吁深化七国集团之间的实际网络安全合作。该组织的网络当局今年进行了一次正式的跨境协调演习（由加拿大银行和英国财政部公布），以在模拟事件中进行信息共享。在该剧本中添加人工智能攻击是一种自然升级，国际货币基金组织本周的警告提供了催化剂。
这一时机也反映出对金融领域人工智能的更广泛监管。金融稳定委员会本月敲定了一套金融机构负责任地采用人工智能的良好实践，几个七国集团成员的监管者警告说，人工智能驱动的欺诈和模型风险正在超过现有的规则手册。桌面练习将这项工作从纸质标准延伸到实践响应。
为什么金融是先行者
金融部门有理由首先采取行动。它是七国集团经济体中数字化程度最高的关键行业，以机器速度运行，也是攻击者的利润动机与国家安全损害最直接相关的行业。国际货币基金组织本周的警告正是集中在这种风险上：该基金警告说，人工智能发起的攻击可能会削弱人们对金融机构的信心——而信心是银行业赖以生存的原材料。
人工智能还改变了事件本身的形式。人工智能驱动的攻击可以在战役中期进行调整，在被阻止时生成新的诱饵，并比人类操作员的响应速度更快地探测防御。这就是为什么桌面练习——迫使人类以人类的速度做出决策——被认为是至关重要的：它们揭示了自动化结束和判断必须开始的地方。
接下来会发生什么
七国集团的公告并未为首次演习设定公开时间表，但网络专家组现有的跨境演习形式为成员国提供了现成的结构。此类模拟的可能场景包括人工智能生成的围绕银行挤兑的虚假信息、对支付基础设施的自动攻击以及针对财务业务的深度造假欺诈——金融监管机构今年最一致标记的事件类别。
对于银行和保险公司来说，实际的信号是监管机构提出更严格的期望。从历史上看，此类协调活动先于新的监管指导方针，七国集团成员今年已经表明他们愿意监管金融领域的人工智能。桌面格式可能是非正式的，但其输出——人工智能攻击发生时谁做什么的记录地图——往往会成为监管机构后来强制执行的剧本。
---
掌握AI最新动态获取最新的AI新闻、分析和突破——尽在一处。
阅读更多AI新闻 →
