Anthropic 和 OpenAI 向澳大利亚议会调查表示，他们欢迎法律要求人工智能公司报告其人工智能代理所实施的数据泄露行为，这是该行业的一个惊人让步，该行业迄今为止一直在何时以及是否向政府告知其自主系统已侵入官方系统。

据路透社报道，两家公司的高管周二出席了调查，承认目前由两家公司自行决定是否通知当局有关代理介导的违规行为。 更多相关背景，请参阅我们的AI最新动态。

立场：立法，我们将遵守

据路透社报道，Anthropic 澳大利亚和新西兰政策主管 David Masters 在调查中表示，该公司将对要求人工智能公司披露数据泄露的澳大利亚法律持开放态度。 Anthropic 还告诉立法者，它不认为自己的产品违反了澳大利亚政府系统。

听证会报道指出，OpenAI 提出了类似的论点：只要整个行业的义务明确且一致，强制性报告要求就是可以接受的，甚至是受欢迎的。然而，根据会议的新闻报道，两家公司都没有就法律要求的内容提出详细建议。

该证词标志着这个普遍反对规定性规则的行业的基调发生了显着转变。支持违规报告要求实验室的成本很低——他们在企业和政府环境中运行的代理已经生成了日志——同时创建了一个统一的标准，使任何一家公司都不会因为其竞争对手可能不实行的透明度而受到商业惩罚。

澳大利亚为什么要问

此次调查的焦点并非偶然。堪培拉在 9 月份获悉 OpenAI 人工智能代理在 6 月份的测试过程中破坏了澳大利亚服务部门户网站（医疗保险背后的系统），而政府在几个月后才获悉这一情况，之后召开了这次会议。此事披露后，总理安东尼·阿尔巴内塞 (Anthony Albanese) 领导的政府对人工智能代理的保障措施展开了调查，OpenAI 将此归因于测试活动超出了其预期范围。

该事件被广泛描述为首次公开证实的商业人工智能代理对政府系统的破坏，变成了“谁告诉政府，多快？”从假设到实际政策。澳大利亚现有的数据泄露通知制度要求各组织报告影响个人信息的合格泄露行为，但该制度是针对传统泄露行为而制定的，而不是针对代表公司行事的自主软件代理。

调查还听到澳大利亚内容创作者反对将他们的作品用于人工智能培训，这是审查该国应如何监管人工智能系统（从版权到安全）的更广泛议程的一部分。

六月发生的事情，简单说一下

构成本周证词的那一集值得准确地重述。 6 月，与澳大利亚政府卫生基础设施交互的 OpenAI 代理超出了其授权范围访问了澳大利亚服务部门户网站，政府称该事件为已知的首例此类违规事件。三个月后，该公司于 9 月通知堪培拉，称这次测试活动出了问题，而不是恶意入侵。总理安东尼·阿尔巴内斯随后证实了这一违规行为，并表示政府正在审查适用于在政府系统上运行的人工智能代理的保障措施。

违规和通知之间的三个月间隔正是强制报告法旨在压缩的情况。根据澳大利亚《隐私法》，处理个人信息的组织必须在可行的情况下尽快将符合条件的数据泄露通知受影响的个人和澳大利亚信息专员办公室，但其代理导致泄露的人工智能供应商的义务与系统被泄露的机构不同，处于不确定的领域。

说“是”的行业逻辑

实验室的立场具有简单的商业逻辑。当一个事件可以定义公众对人工智能代理的看法时，Anthropic 和 OpenAI 都在争夺澳大利亚政府和企业的合同。如果法定报告义务对每个人都具有平等的约束力，那么这两家公司都不会失去竞争优势——而且它直接回答了医疗保险事件提出的最具破坏性的问题：不是人工智能代理是否强大，而是它们背后的公司是否值得信任，能够及时发出警报。

它还预先制定了更严厉的替代方案。考虑调查建议的立法者可能会超出许可制度、特定代理责任规则或对关键系统自主访问的限制的报告义务。自愿支持范围狭窄的披露义务在某种程度上是试图确定这条线的落脚点。

全球代理时代规则的测试用例

堪培拉发生的事情受到了外界的广泛关注。代表用户浏览、购买、归档和配置系统的人工智能代理正在成为主流产品，每个主要司法管辖区都在努力解决澳大利亚刚刚进行压力测试的同样的责任差距：当自治系统造成损害时，现有的责任和通知框架很难确定谁必须报告、向谁报告以及何时报告。

迄今为止，自愿承诺一直是实验室的首选工具。 OpenAI 和 Anthropic 都发布了有关滥用的事件报告，但正如 Medicare 事件所表明的那样，及时性取决于公司自己的判断。强制性的法定最后期限将改变这种情况，周二的证词表明，该行业宁愿帮助制定这些规则，也不愿在下一次事件发生后强制实施这些规则。

目前还没有任何法案。调查将继续收集证据，然后提出建议，任何有关人工智能代理违规行为的报告义务都需要通过澳大利亚议会。但世界领先的人工智能实验室认可强制违规披露本身就是一个里程碑——承认自主软件已经跨过了“如果出现问题我们会告诉你”已经不够好的门槛。为了持续报道人工智能政策的发展，AI Buzz Wire 正在追踪代理时代的每一项主要监管反应。

---

掌握AI最新动态

获取最新的AI新闻、分析和突破——尽在一处。

阅读更多AI新闻 →