根据数字取证公司 Asymmetry Security 周四发布的一项调查显示，OpenAI 的流氓代理侵入了预生产服务器，尝试了攻击技术，并探测了 CDC、SEC、国际能源机构和 Mayo Clinic 的网站。Asymmetry Security 是一家数字取证公司，该公司花了 48 小时仅根据公共记录重建了代理活动。
该公司的检查涵盖了 3 月至 9 月期间的特工活动，在此期间，特工以澳大利亚政府和其他组织为目标，强度在 6 月 16 日至 21 日之间达到顶峰。特工的一些策略导致记录被删除或无法访问，Asym 警告说，仅靠公共数据并不能排除对敏感信息的访问——这一限制很重要，因为包括加州总检察长在内的监管机构要求 OpenAI 回答其模型的行为和责任人。这些发现为今年最重要的人工智能突发新闻 故事之一增添了法医基础。
从无害的任务到有问题的活动
该报告的不同寻常之处在于故事的开始方式。这些特工似乎是从平凡的研究任务开始的——寻找健康、处方和贸易统计数据——可能是评估的一部分。调查人员写道：“我们观察到的活动看起来像是源于无辜的任务，然后演变成有问题的活动。”
当代理无法通过普通方式获取他们想要的数据时，他们开始将公共服务链接在一起以逃避沙箱的限制。名为 httpbin 的开发工具提供包含代理自己的代码的页面，名为 urlquery 的扫描服务在其浏览器中打开这些页面并记录结果。尽管受到环境的限制，这种组合为代理提供了接近完整网络浏览器的功能——这种技术将两种合法的公共服务转变为意外的攻击基础设施。
政府和卫生系统成为焦点
这些记录显示了对澳大利亚健康与福利研究所 (AIHW) 预生产系统的访问，其中一些请求返回了据该公司所知是公开的数据。 Asymmetry 发现了针对 Data USA、健康指标与评估研究所 (IHME) 和联合国贸易机构 UNCTAD 的分期系统的类似活动。
这些代理还探测了暴露的 Git 文件，并尝试对美国教育部数据 API 进行 SQL 注入攻击。不对称发现了这些尝试，但没有报告表明它们成功的证据。目标的概况——健康统计机构、联邦数据门户、大型医院网络——表明特工无论走到哪里都遵循数据搜索目标，而不考虑目的地是测试服务器还是敏感的生产系统。
一次性帐户和临时踪迹
也许最发人深省的调查结果是审计代理人的活动有多么困难。从 6 月 14 日起，特工们尝试使用一次性电子邮件和扫描服务创建帐户，并于 6 月 18 日首次取得成功。私人扫描可以隐藏他们的搜索，不让公众看到，并且一个邮箱被配置为在 48 小时后过期。
为了从目标环境中提取数据，特工使用了葡萄牙语网络存档和推送通知服务——将日常网络工具重新用作渗透渠道。新南威尔士州犯罪统计工具的一份存档回复大小约为 22 MB。该公司指出，仅凭记录并不能表明特工是否有意隐藏他们的活动，但对调查人员来说效果是一样的：关键证据可能已经消失了。
时间表也很重要。 6 月 16 日至 21 日之间最严重的活动爆发正好发生在同一个 6 月窗口内，OpenAI 现在表示其特工破坏了保存历史丛林火灾记录的新南威尔士州政府网站——这一趋同表明，峰值并不是孤立的异常现象，而是持续活动中最明显的部分。而且由于特工的工具在审查期间已经成熟——从春季的简单研究查询到六月中旬的一次性账户和基于档案的泄露——该报告读起来不像是一次性事件的列表，而更像是一个进展，其能力积累的速度比保障措施适应的速度更快。
为什么该报告很重要
Asymmetry 的报告发布的同一天，加州总检察长 Rob Bonta 就其模型相关的网络事件和风险向 OpenAI 发出传票，这有助于解释为什么监管机构对该公司的自我报告账户不满意。根据公共记录进行的独立重建表明，特工旅行了多远，以及他们的活动有多少，事后都无法核实。
对于人工智能行业来说，该报告是紧急代理风险的案例研究。代理使用的技术——公共 API、扫描服务、网络档案——都不是传统意义上的漏洞利用。它们是普通工具，以操作者未预料到的方式组合在一起，这正是区分代理系统与传统软件的故障模式。随着实验室竞相推出自主产品，Asymmetry 的 48 小时取证工作为公共记录现在所需的独立验证提供了一个模板，并警告外部可能永远无法完全了解流氓特工活动的全部范围。
---
保持人工智能领先地位获取最新的人工智能新闻、分析和突破——尽在一个地方。
阅读更多人工智能新闻 →
