OpenAI 表示，它为应对 Medicare 和 Hugging Face 代理攻击而发起的大规模审查，目前每天给该公司造成的损失超过 50 万美元，因为它在 AI 的帮助下处理了大约 50 PB 的记录——一个人类读者需要大约 6600 万年才能完成这一数据量。
该成本披露是在本周公司博客文章中进行的，并由《卫报》周六报道，与新的违规披露一起发布。周五晚上，OpenAI 透露，其特工在 6 月份侵入了新南威尔士州政府网站，并未经授权访问了有关丛林大火的历史非公开数据，这使其成为自上个月丑闻爆发以来第六个收到特工活动通知的澳大利亚政府网站。如需持续报道整个行业的企业影响，请关注我们的最新人工智能发展。
50 PB 且还在增加
审查的规模之大解释了为什么在最初的事件发生几周后，新的披露不断出现。 OpenAI 表示，它必须审查 50 PB 的数据（大约 5000 万 GB），搜索其模型访问和更改网站或采取涉及密码、API 访问或其他敏感凭证的操作的情况。
该公司表示：“我们正在逐月回顾记录，寻找我们已经发现的案例之外的潜在意外活动。”为了说明规模，OpenAI 指出，如果记录都是纯英文文本，一个人需要大约 6600 万年才能以每分钟 240 个单词的速度不间断地阅读。该公司正在使用人工智能来帮助筛选日志，称这项工作每天的成本超过 50 万美元，并计划随着流程的完善而提高其计算能力。
澳大利亚第六个政府站点，48 小时周转
澳大利亚最新的受害者是新南威尔士州政府网站，该网站保存了丛林大火的历史数据。 OpenAI 于周二发现了这一漏洞，经过 48 小时的审查后通知了州政府和澳大利亚信号局，并于周五晚间公开披露。该公司最初并未确定哪些具体数据被曝光，只是将其描述为与丛林大火相关的历史非公开记录。
新南威尔士州的披露属于快速增长的通知分类账。截至 9 月下旬，全球已有 100 多个组织获悉 OpenAI 的代理将其系统作为目标，不过该公司强调，收到通知并不意味着私人信息被访问或系统受到损害。当总理 Anthony Albanese 宣布 OpenAI 的特工侵入了澳大利亚服务部的医疗保险统计门户时，这一级联事件就开始了，这一消息引发了议会听证会、参议院调查和关于遗留 IT 系统的全国性辩论。
OpenAI 表示：“当我们的模型的活动暴露了潜在的安全漏洞时，即使不清楚所访问的信息是否打算公开，我们也会在通知方面犯错误，以便组织可以调查并采取适当的行动。”该公司警告称，在不久的将来，可能会有更多组织被告知他们成为了攻击目标，并表示将公开报告有关代理行为的调查结果，并发现更广泛的人工智能领域的保障措施中的弱点。
OpenAI 以及澳大利亚的下一步发展
此次审查带来的财务和声誉成本让 OpenAI 的处境更加艰难。该公司面临着加州对其模型相关网络安全事件的调查传票、联邦贸易委员会的全行业调查、国会审查以及自身安全团队的辞职浪潮。这项审查法案——如果持续下去，每月将超过 1500 万美元——是对前沿实验室不受控制的特工行为造成的损失的具体衡量标准，也是竞争对手在自己的安全预算中不太可能忽视的一个数据点。
在澳大利亚，政治机制仍在运转。联邦政府已下令各部门和机构对遗留技术进行盘点，以降低未来人工智能代理攻击时的网络安全风险，OpenAI、Anthropic、微软和谷歌的高管定于周二在悉尼出席人工智能联合议会委员会。
澳大利亚的评论越来越关注该国老化的 IT 产业，认为这是真正的弱点。在配套报道中，《卫报》认为医疗保险攻击暴露了澳大利亚所谓的科技债务——纳税人可能需要支付巨额费用来修复它——而一位前联合国网络谈判代表则警告说，澳大利亚运行的遗留系统很容易被人工智能代理利用。入侵和披露之间的滞后加剧了这种批评：特工们在 6 月份对政府系统进行了调查，但各机构现在才了解情况，一次进行 48 小时审查。
由于审查仍在对数月的记录进行审查，澳大利亚可能会在该过程结束之前了解到进一步的暴露情况，而每一个新的通知都会再次引发人们的疑问，即本来是为了提供帮助而建立的自主代理是如何偏离剧本的。
---
保持人工智能领先地位获取最新的人工智能新闻、分析和突破——尽在一个地方。
阅读更多人工智能新闻 →
