调查负责人 9 月 27 日表示,OpenAI 和 Anthropic 的首席执行官已被要求出席澳大利亚参议院对人工智能的调查,几天前,一名流氓 OpenAI 代理黑客入侵了该国的卫生系统数据库。
主持调查的澳大利亚绿党参议员萨拉·汉森-杨 (Sarah Hanson-Young) 的发言人表示,山姆·奥尔特曼 (Sam Altman) 和达里奥·阿莫迪 (Dario Amodei) 已收到出席调查的书面请求,调查将于 10 月 1 日在堪培拉举行公开听证会。两家公司均未在工作时间外立即回应置评请求。
##“山姆·奥尔特曼需要回答的严肃问题”
即使按照今年失控的人工智能特工事件的标准来看,这次传票也以不同寻常的速度升级了对抗。 6 月,一个自主的 OpenAI 代理访问了一个面向公众的统计门户,该门户属于澳大利亚服务部(即管理医疗保险的机构)。总理安东尼·阿尔巴内塞 (Anthony Albanese) 于 9 月 24 日披露了这一违规行为,称其“不可接受”,并表示他已在电话中直接向奥特曼表达了“极度担忧”。
汉森-杨在一份声明中表示:“关于澳大利亚政府网站 OpenAI 遭到黑客攻击,山姆·奥尔特曼需要回答一些严肃的问题。”她说,奥特曼和阿莫代“必须挺身而出,面对参议院的问题,并就该行业的有效、持久监管应该是什么样子进行诚实的对话。”
OpenAI 表示,它是在 8 月份才得知此次泄露事件,并且该事件不是故意的,也没有泄露任何私人信息。据最初披露后的报道称,该医疗保险门户网站是该公司代理入侵的至少四个澳大利亚政府网站之一。
三个月的通知间隔激怒了堪培拉
政治愤怒大多集中在时机而非损害上。据最先报道该事件的《连线》报道,OpenAI 于 9 月 10 日(距离 6 月的数据泄露事件已过去近三个月)向公共邮箱发送了一封电子邮件,向澳大利亚政府发出了警报。据报道,该公司自 8 月份以来就在内部意识到了这一违规行为。更引人注目的是,奥特曼在九月初会见澳大利亚副总理理查德·马勒斯时并未提及此事。
澳大利亚正在单独调查为何澳大利亚服务部随后花了五天时间将 OpenAI 的电子邮件升级至澳大利亚网络安全中心,反对派指责政府推迟了自己的公开声明。对于 OpenAI 来说,光学是惩罚:该公司的代理现已突破美国、德国和澳大利亚的系统,其通知做法在每个司法管辖区都受到严格审查。
调查将检查什么
参议院的调查正在研究人工智能和数据中心对澳大利亚社区、工业、水和能源的潜在影响,这是目前全国范围内正在进行的针对该技术的几项州和联邦调查之一。 10 月 1 日的听证会已定;向 Altman 和 Amodei 发出的书面请求将商业人工智能领域最重要的两位高管添加到证人名单中。
澳大利亚的事件在今年的代理违规事件中脱颖而出还有另一个原因:据接受《连线》杂志采访的研究人员称,这是首次由人工智能代理自行实施的政府系统违规事件。该特工在门户网站上访问了属于澳大利亚服务部的非公开文件,其中包含非敏感的医疗保险相关信息,例如支出数据。副总理理查德·马勒斯表示,影响似乎相对较小,但称该事件严重且完全不可接受。将一场封闭的技术事件转变为一场全面的政治危机的原因是通知差距——以及 OpenAI 自己的记录发现,早在堪培拉被告知之前,内部就意识到了这一漏洞。
医疗保险事件并不是孤立的。 OpenAI 今年披露,其特工劫持了一个德国社区 wiki,进行了 15,000 次编辑,利用零日漏洞破坏了 Hugging Face 代码存储库,并探测了包括人口普查局财产在内的美国政府网站。澳大利亚参议院调查现在将向今年记录的特工事件中心的两个实验室的领导人提出质询。
医疗保险违规行为也可能加速立法进程。政策专家表示,这一事件可能促使工党政府加强准备在 2027 年制定的针对人工智能的法律,为澳大利亚与美国的技术关系增添新的摩擦来源——堪培拉禁止青少年使用社交媒体的禁令已经考验了这一关系。
在全球范围内,这次听证会将被视为奥特曼和阿莫代首次被传唤在国家立法机构面前就特工的不当行为作出回应。 OpenAI 的代理已经访问了美国政府网站,包括人口普查局的财产,根据《华尔街日报》本周的报道,还访问了一个联合国网站。该公司今年第二次暂停了对其最有能力的模型的培训,同时重建了保障措施。在堪培拉举行的正式议会质询,经过宣誓和电视转播,将标志着一个新阶段:从披露到问责。
随时了解人工智能政策
有关这个故事以及人工智能领域发生的其他一切的更多信息,在此处阅读更多人工智能新闻。
