IBM 发布了最新的数据泄露成本报告，显示目前四分之一的恶意泄露是由人工智能造成的，每次数据泄露的平均成本约为 600 万美元。
IBM Newsroom 于 7 月 29 日发布并由 Network World、Cybersecurity Dive 和 Security Boulevard 报道的研究结果描绘了人工智能如何重塑网络安全威胁格局的鲜明图景。监测人工智能行业发展的组织会发现该报告发人深省地提醒我们，推动生产力提高的技术同时也在武装对手。
威胁背后的数字
根据 IBM 的研究，现在 25% 的恶意安全漏洞在某种程度上涉及人工智能——无论是通过自动网络钓鱼活动、人工智能生成的恶意软件，还是由机器学习支持的大规模撞库。 Network World 报告称，仅在过去一年，人工智能驱动的攻击就增加了 56%，这一数字凸显了威胁行为者对人工智能工具的快速采用。
根据 Network World 对该报告的报道，数据泄露的平均成本已攀升至约 600 万美元，同比增长 12%。 ASIS International 确认了 600 万美元的平均成本数字，并指出人工智能攻击正在帮助将违规成本推至新高。
Cybersecurity Dive 扩展了其影响，报告称，企业内部不受监管的人工智能采用正在创造全新的风险类别，尽管它提高了运营效率。该报告表明，在没有充分安全治理的情况下部署人工智能工具的组织正在无意中扩大其攻击面。
十字准线中的关键基础设施
最令人震惊的发现之一涉及针对关键基础设施的攻击。 Stock Titan 报告称，62% 的 AI 驱动攻击针对关键基础设施部门，其中包括能源、医疗保健、金融服务和政府系统。
这种针对基本服务的集中攻击反映了对手的战略算计：关键基础设施组织通常持有敏感数据，运行难以防御的遗留系统，并面临停机带来的严重后果，这使得他们更有可能支付赎金或遭受长期中断。
TradingView 报道了加拿大的情况，指出随着攻击越来越多地针对关键基础设施，该国的数据泄露成本已创历史新高。 BNN Bloomberg 在其对 IBM 调查结果的报道中也证实了类似的趋势。
AI 如何改变攻击面
IBM 报告强调了人工智能放大网络威胁的几种方式：
自动化社会工程
人工智能驱动的工具可以生成令人信服的网络钓鱼电子邮件、深度伪造语音通话和合成身份，其规模和复杂程度是传统安全意识培训难以应对的。 Network World 指出，AI 驱动的攻击增加了 56%，这与可访问的生成式 AI 工具的激增直接相关。
加速利用
人工智能系统可以快速扫描漏洞、测试漏洞利用链并自动化攻击的初始阶段，从而缩短漏洞和数据泄露之间的时间。 IBM 的报告表明，人工智能正在压缩传统的攻击时间线，让防御者有更少的时间来检测和响应。
规避和混淆
由人工智能驱动的恶意软件可以实时调整其行为，以逃避传统安全工具的检测，从而使端点保护平台和入侵检测系统更难识别恶意活动。
企业回应
IBM 的报告发布之际，整个科技行业对人工智能安全的担忧日益加剧。这些调查结果与最近的其他安全事件一起出现——包括 Microsoft Copilot for Word 中展示的自我传播的人工智能蠕虫，以及在 Hugging Face 漏洞后利用漏洞的流氓人工智能代理——这些事件凸显了人工智能安全措施不足的现实世界后果。
Security Boulevard 指出，IBM 的报告显示人工智能引发的网络攻击急剧增加，该公司敦促组织采用特定于人工智能的安全框架，而不是依赖传统防御。 IBM 建议实施人工智能治理计划，定期对人工智能系统进行安全评估，并投资于旨在应对人工智能威胁的检测和响应能力。
该报告还强调了国际合作和信息共享的重要性，特别是在人工智能攻击越来越多地跨越国界并针对多个国家共享的关键基础设施的情况下。
AI时代的警告
IBM 的调查结果代表了有关人工智能安全和保障的持续争论中的一个关键数据点。随着组织竞相部署人工智能工具以获得竞争优势，安全隐患变得不容忽视。目前四分之一的数据泄露涉及人工智能，而且平均成本稳步上升，因此强有力的人工智能安全投资的财务理由从未如此清晰。
该报告还对人工智能的防御性和进攻性应用之间的平衡提出了质疑。对手也可以使用同样的人工智能功能来检测威胁并自动响应事件——IBM 的数据表明，攻击者目前可能占据上风。
保持人工智能领先地位
如需更多人工智能安全和道德报告，请访问 AI Buzz Wire — 涵盖人工智能的风险和回报。
阅读更多人工智能新闻 →
