据《海峡时报》和其他媒体报道,日本最高网络安全协调机构牵头的一项国际调查发现,大约 1,000 台服务器涉嫌充当先进人工智能驱动的网络攻击的发射点。日本计算机紧急响应小组协调中心(JPCERT/CC)与海外网络安全公司一起进行了调查,并于 10 月初开始调查。目前它正在跟踪其中 600 到 700 台服务器。
这一发现是迄今为止最明确的信号之一,表明人工智能辅助黑客攻击已从实验转向基础设施。攻击者不再只是向聊天机器人寻求建议,他们还建立了全天候运行人工智能工具的专用服务器。为了继续人工智能安全报道 并分析人工智能如何重塑威胁格局,AI Buzz Wire 跟踪重要的调查。
调查人员在服务器上发现了什么
据报道,调查发现攻击者利用服务器部署人工智能工具,扫描系统漏洞并瞄准全球网站。大多数服务器都托管人工智能驱动的工具,包括名为 Artex 的渗透测试平台,该平台用于搜索弱点并尝试窃取配置文件。
一些可公开访问的服务器还包含用于测试系统漏洞的程序和用于分析智能手机应用程序内部结构的工具。调查人员表示,攻击者使用这些工具试图通过与外部系统交换信息的接口(将现代应用程序连接到外部世界的 API 和服务)进行未经授权的访问。
据共同社报道,研究人员注意到一个细节:在其中一台服务器上,调查人员发现了美国人工智能公司 Anthropic 创建的编程支持工具的痕迹,这表明攻击者正在利用主流开发者工具来增强他们的黑客能力。
攻击者基础设施上主流开发人员工具的存在凸显了两用人工智能的结构性挑战。为编写代码或探测网络而优化的系统不知道其操作员是防御者还是入侵者,一旦使用转移到这些服务器等基础设施上,提供商和研究人员所依赖的可见性就基本上消失了。
人工智能正在降低进入门槛
调查得出结论,先进人工智能的出现正在降低网络犯罪分子的技术壁垒,即使对于没有专业知识的人来说,黑客攻击也变得更加容易。报告指出:“以前即使对于具有专业知识的人来说,黑客攻击也需要时间,但随着高级人工智能的出现,黑客攻击变得更加容易。”
报道援引网络安全分析师的话说,人工智能辅助的网络攻击仍处于早期阶段,但警告称威胁可能会迅速增长。 JPCERT/CC 分析师 Ken Sajo 表示:“未来,更复杂的攻击将会增加。”换句话说,虽然很早,但已经组织起来,并且已经以小型托管业务的规模运行。
这一警告与美国的并行发展是一致的。在周五发布的报告中,Nacionale 描述了 Artex(日本主导的调查中大多数服务器上发现的相同渗透测试平台)最初是如何构建的,旨在帮助组织测试自己的网络是否存在薄弱环节,但 FBI 表示,攻击者现在已将其变成了入侵工具。
双重用途工具,现实世界的后果
JPCERT 描述的模式是安全行业在互联网规模上出现的双重用途困境。渗透测试平台的存在是因为组织需要在犯罪分子发现之前发现自己的缺陷。同样的工具,指向外部,可以自动对任何具有暴露接口的人进行侦察、漏洞扫描和凭证攻击。
调查中的服务器说明了第二个趋势:攻击者将人工智能工具视为普通基础设施——将其暴露、暴露,并且在某些情况下对其进行严重错误配置,以至于调查人员可以观察到它在公开环境中运行。这种可见性使得调查成为可能,并且它为防御者提供了一个难得的窗口来了解这些行动是如何组织的。自 10 月份以来对服务器进行观察的事实也表明持续的操作而不是一次性的实验——基础设施是在发现时进行配置、维护和更换的,这种模式更具有既定犯罪活动的特征,而不是机会主义个人的特征。
对于组织来说,实际影响是立竿见影的。报告称,这些服务器被用来寻找漏洞和窃取配置文件,这些文件通常包含凭据和内部网络详细信息。强化 API 端点、限制管理界面、轮换暴露的秘密以及监控自动扫描是调查结果所指向的防御基线。
JPCERT/CC 的调查正在进行中,该机构表示将继续跟踪其已识别的服务器。更大的问题——如何管理既是安全产品又是攻击武器的工具——现在正在法庭、董事会以及全球大约一千台服务器上被提出。
保持人工智能领先地位
从前沿模型到前线威胁,人工智能的故事发展迅速。通过 AI Buzz Wire 对重要发展的报道,保持人工智能领先地位。
阅读更多人工智能新闻 →