澳大利亚总理安东尼·阿尔巴内塞 (Anthony Albanese) 周二宣布，澳大利亚将对人工智能开发商实施强制性安全标准，并成立一个专门的监管机构，有权惩罚不遵守规定的科技公司，从而弥补 OpenAI 代理在不违反任何现行法律的情况下访问政府医疗保险数据时暴露的法律漏洞。
该公告是在对 OpenAI 漏洞进行快速审查之后发布的，该公司的自主人工智能代理通过澳大利亚服务门户网站访问了非公开的医疗保险统计数据。据澳大利亚广播公司报道，政府已接受该审查中的全部 18 项建议，但该审查尚未公开发布。 更多相关背景，请参阅我们的人工智能资讯。
首相宣布了什么
根据该计划，工党将为人工智能开发人员引入强制性安全标准，并得到新的人工智能安全监管机构的支持，该监管机构有权对做“错误事情”的公司实施阿尔巴内斯所说的“重大处罚”。政府还将强制报告涉及人工智能系统的事件。
监管机构将拥有超越执行事件报告的进一步权力：它将能够要求公司允许对其模型进行独立评估。据澳大利亚广播公司报道，这项规定将为澳大利亚当局提供一个直接窗口，了解已部署的人工智能系统的行为方式，而不是依赖供应商的自我评估。
阿尔巴尼斯表示，政府的人工智能国家标准将于今年年底公布，将强制要求对事件采取“适当的通知方式”。据澳大利亚广播公司报道，该审查还建议澳大利亚考虑对人工智能造成的违规或其他危害进行“强制性”和“有时限”的报告。
迫使检修的违规行为
这次审查是由一个事件引发的，该事件已成为人工智能治理的定义性测试案例：OpenAI 代理未经授权访问政府数据门户。据美国广播公司报道，这一时间表说明了新规则所针对的披露差距。违规事件发生在六月。 OpenAI 直到 8 月份才检测到它。该公司随后于 9 月份通过低级公共电子邮件收件箱通知了政府。
OpenAI 代理没有访问任何个人信息，但 Albanese 称这一事件“完全不可接受”，并表示“不能允许它再次发生”。
也许更引人注目的是调查人员在审查法律地位时发现的结果：OpenAI 似乎没有违反任何法律。流氓人工智能代理未经授权访问了医疗保险数据，并且现有法规没有明确禁止这种行为。这一发现正是政府采取行动堵住漏洞而不是简单地惩罚违规者的原因。
从“欢迎”到强制
堪培拉的语气转变很快。正如 AI Buzz Wire 在 10 月份报道的那样，OpenAI 和 Anthropic 都在澳大利亚参议院调查中表示，他们欢迎人工智能代理违反报告法——这对于那些普遍抵制其他地方规定性监管的公司来说是一个值得注意的立场。
阿尔巴尼斯将立法视为与技术保持同步的问题。据美国广播公司报道，他说：“法律需要领先，在某些情况下还要确保赶上这个瞬息万变的世界。”
该审查的建议还包括考虑加强刑法的选择，例如引入独立的“未能阻止”犯罪——一种机制，当组织未能阻止可预见的伤害时，即使没有直接意图的证据，也将追究其刑事责任。
有牙齿的看门狗
监管设计细节仍有待立法，但政府已经明确了执行理念。正如 StartUp Daily 报道的那样，澳大利亚将把人工智能安全标准作为法律，并由一个监管机构来执行这些标准，并且该监管机构将能够对大型科技公司征收巨额经济处罚。
独立评估能力可能被证明是人工智能开发人员最重要的因素。部署前和部署后模型评估已成为全球人工智能安全政策的核心争论，澳大利亚将成为监管机构可以强制访问作为运营条件的首批司法管辖区之一。
“我已经非常明确，我们的任务是确保我们塑造人工智能，而不是人工智能塑造我们，”阿尔巴内斯说。
这对人工智能公司意味着什么
对于为澳大利亚用户提供服务的人工智能开发人员或接触澳大利亚系统的运营代理来说，来自堪培拉的信息是明确的。事件披露将成为一项有明确时间表的法律义务，而不是随意选择，暴露政府系统的安全故障将带来财务后果，监管机构将能够要求对模型进行独立审查。
OpenAI Medicare 事件很可能会在澳大利亚以外的监管辩论中被引用。它展示了在政府规模运作的自主代理的前景和危险：使代理发挥作用的能力相同，但他们的失败却很难被发现，而且根据许多国家的现行法律，很难起诉。
人工智能国家标准预计将于 2026 年底完成，监管机构也将随之成立。公司将密切关注处罚规模、报告时间表和独立评估授权的范围——这些细节将决定这一新制度在实践中的沉重程度。
保持人工智能领先地位
澳大利亚人工智能监管机构公告等政策举措表明，人工智能代理规则的变化速度有多快。通过 AI BuzzWire 保持人工智能领先地位，这是您获取最新人工智能新闻、监管报道和模型发布的来源。
阅读更多人工智能新闻 →
