据《华盛顿太阳报》援引三位熟悉私下谈话的消息人士的报道,华尔街高管和国家安全局官员告诉国会议员,本周美国发生的一连串技术中断不是由网络攻击造成的,而是由修补人工智能模型发现的漏洞的紧急努力造成的。
这一说法如果得到证实,将成为迄今为止人工智能二阶效应破坏关键基础设施稳定的最明显案例之一——不是因为模型攻击了任何东西,而是因为它们发现了太多真正的弱点,以至于人类操作员急于立即修复它们。 更多相关背景,请参阅我们的AI新闻。
连续失败的一周
停电从 11 月 12 日开始累积,并在本周加速。 11 月 13 日,美国航空当局因通信技术故障而在全国范围内停飞——《海峡时报》称,这是自 2001 年 9 月 11 日袭击事件以来最长的一次全国性航班停飞。微软的 Outlook 电子邮件服务遭受中断,导致许多美国公司的通信中断,而包括 iCloud、App Store 和 Apple Pay 在内的苹果服务也出现故障。
11月16日,风波波及银行系统,摩根大通等机构的客户无法访问账户;该银行将其服务问题归因于软件错误。 11 月 17 日,美国国家安全局本身宣布,其网络在所谓的定期例行维护期间经历了“暂时退化”,同时坚称“关键任务能力”仍然全面运行。
官员们一直排除恶意网络攻击的可能性。兼任国家安全顾问的国务卿马可·卢比奥承认这些事件“令人不安”,但在唐纳德·特朗普总统出席东盟经济会议的马尼拉告诉记者,“我们没有受到系统性攻击。我们没有零证据或任何理由相信这些事件之间存在关联。”
AI 修补解释
在幕后,国会山流传着一种不同的解释。据《华盛顿太阳报》报道,政府和银行官员告诉立法者,这些中断源于试图修复人工智能模型发现的网络防御漏洞,而由此产生的大量修复暂时淹没了受影响的系统。
一位了解此事的国会官员告诉媒体:“这些模型正在识别大量漏洞,这增加了立即修补的紧迫性。” “他们试图一次性完成大量补丁——超出了系统的设计初衷。”
国土安全部部长马克韦恩·穆林 (Markwayne Mullin) 在接受 CNBC 采访时提出了相关诊断,称各组织“正在将新技术推到非常旧的计算机系统之上,而它似乎压垮了系统……随着新技术的推出,我们将看到更多这样的情况。”
随着人工智能辅助代码分析的成熟,该帐户与动态安全团队发出的警告一致:可以扫描大量代码库以查找可利用缺陷的模型生成结果的速度比变更管理流程安全吸收它们的速度要快。修补本身就是一项危险的操作,在老化的基础设施上进行太多、太快的修补可能会像它修复的漏洞一样具有破坏性。
立法者寻求答案
两党的政治反应明显不耐烦。密苏里州共和党参议员乔什·霍利 (Josh Hawley) 告诉记者,“如果这一切都是巧合,那就像是世界历史上最伟大的巧合”,而军事委员会资深民主党参议员杰克·里德 (Jack Reed) 也呼吁对这一模式进行更全面的解释。
特朗普公开淡化了这一事件。总统在马尼拉对记者说:“这就像当你强大、有钱的时候。发生这样的事情。没关系。”白宫表示“不存在危机”。
在报道中断事件时引用的分析师指出了两个复杂因素:近年来技术运营领域的人员大幅削减,以及人工智能工具加速集成到系统维护中,这可能导致关键基础设施的弹性降低,并且在发生故障时更加脆弱。
这对人工智能行业意味着什么
对于人工智能行业来说,本周是对人工智能工具创造的运营节奏的警告。让防御者以机器速度发现漏洞的相同模型功能也使他们必须遵守旧系统从未设计过的修复计划。一些供应商现在销售持续的人工智能驱动的安全扫描,正是因为它发现了人类遗漏的缺陷——中断表明瓶颈已经从发现转移到了部署。
当国会重新关注基础设施监督时,预计立法者将寻求有关停电浪潮的正式简报,而机构和银行都可能面临有关如何安排、测试和限制人工智能驱动的维护的问题。这一事件还可能引发一场新兴的监管争论,即人工智能辅助的关键系统变更是否应该像其他高风险运营变更一样分阶段进行并限制速率。
目前,航班正在飞行,银行正在回复他们的应用程序,美国国家安全局表示其关键任务系统运行良好。国会被要求吸取的一个令人不安的教训是,发现缺陷的机器可能跑在修复缺陷的机构之前。
---
掌握AI最新动态获取最新的AI新闻、分析和突破——尽在一处。
阅读更多AI新闻 →

