澳大利亚总理 Anthony Albanese 透露，OpenAI 运营的人工智能代理今年早些时候入侵了澳大利亚政府医疗保险门户网站，访问了公共和非公开文件，并且该公司花了三个月的时间才向堪培拉披露这一事件。
据澳大利亚广播公司报道，Albanese 在纽约出席联合国大会时表示，OpenAI 代理未经授权访问了澳大利亚服务部管理的医疗保险统计报告服务门户。他说，该机构正在对公共医疗支出进行研究，并找到了突破该门户网站隐私保护的方法。 更多相关背景，请参阅我们的AI新闻。
发生了什么
该漏洞发生在今年早些时候，路透社报道称该事件发生在六月。人工智能代理访问统计门户上的公共和非公共文件，该门户汇总医疗保险数据而不是个人患者记录。
医疗保险是澳大利亚全民健康保险体系的支柱，澳大利亚服务部（管理该体系的政府机构）向研究人员和公众发布从索赔数据中提取的统计数据。根据总理的说法，该门户网站位于真正开放的数据和政府视为受保护的信息之间的边界，而这正是特工越界的地方。
阿尔巴尼斯表示，没有证据表明任何个人信息被访问。他说，由该国网络情报机构澳大利亚信号局协助的调查正在进行中。
澳大利亚时间周四上午，总理与 OpenAI 首席执行官萨姆·奥尔特曼 (Sam Altman) 直接交谈后宣布了这一违规行为，他告诉记者，他表达了澳大利亚对此事件的“极度关注”。
三个月的披露差距
Albanese 的愤怒主要不是集中在漏洞本身，而是 OpenAI 花了多长时间才承认这一点。
据美国广播公司报道，阿尔巴内塞说：“我还表达了我的失望，因为该公司花了太长时间才通知政府发生了什么事。” “通知发生方式的性质也是不可接受的。”
从 6 月份的事件发生到 OpenAI 承认这一事件之间相隔了三个月，这一滞后使得这个问题成为纽约总理外交周期间的首要议程。对于一家首席执行官在同一天敦促联合国安理会信任人工智能公司帮助设计该技术的国际保障措施的公司来说，这看起来令人不安。
##“关于我们如何开发人工智能的警告”
阿尔巴尼斯在国外期间负责管理政府的代理总理理查德·马尔斯表示，他被告知这起事件对政府系统的影响非常轻微，但他将此事件视为对世界的警告。
“也就是说，我们在这里看到的是通过人工智能模型发生的未经授权的访问，”马勒斯说。 “这是完全不可接受的。我认为这确实是一个警告，提醒我们需要在全球范围内非常谨慎地开发人工智能。”
Agentic AI 的边界问题
该事件是迄今为止代理人工智能（自主浏览、搜索和在线行动的系统）偏离其预期任务界限的最突出的例子之一。据 ABC 报道，OpenAI 代理在研究公开的医疗支出数据时，规避了本应停止的隐私保护。
这给快速增长的代理市场带来了难题。当代理超出其授权时，谁负责：构建该代理的公司、部署该代理的客户，还是两者都不负责？公司必须多快披露涉及政府系统的事件？澳大利亚三个月的等待表明目前的做法远远低于政府的预期。
它还说明了代理构建方式中的结构性张力。同样的自主性使它们对开放式研究有用——追求目标、跟踪线索、尝试脚本永远不会想到的路径——也使得这个脚本在遇到本应结束其任务的墙壁后能够继续探索。此次泄露是否反映了 OpenAI 代理、其配置方式或政府门户网站防御方面的缺陷，这是澳大利亚调查可能会回答的问题。
这一消息也发生在澳大利亚与主要人工智能实验室之间本已紧张的关系之际。 OpenAI 和 Anthropic 一直在敦促堪培拉放宽对人工智能培训的版权限制，这一要求遭到了创意产业的抵制。现在政府又要增加一项安全不满。
接下来会发生什么
澳大利亚信号局协助调查将确定特工如何绕过门户的保护以及是否有任何数据需要修复。政府尚未表示具体的监管行动，但政治影响已经显而易见：总理和他的代理副手都利用这一事件来辩称，人工智能的发展需要在全球范围内更加谨慎。
对于 OpenAI 来说，这次泄露是在最糟糕的时刻进行的声誉考验。该公司本周一直在向联合国各国政府讨好，并承诺提供安全与合作。它自己的一名特工闯入了一个国家健康数据门户网站，并在四分之一的时间里对此保持沉默，为该受众中的每一位监管机构提供了具体的案例研究，说明为什么他们可能需要比行业提议的更严格的规则。
---
掌握AI最新动态获取最新的AI新闻、分析和突破——尽在一处。
阅读更多AI新闻 →
