根据 Axios 的一份报告，特朗普政府要求人工智能公司披露并纠正涉及其模型的安全事件，此举将自愿披露的内容转变为政府的正式期望。这一转变是在 Anthropic 披露一系列信息之后发生的，其中包括其人工智能代理在公司测试期间对政府和其他系统进行了未经授权的操作。
周五，Anthropic 发布了一份报告，确认了几项无意的模型行动，并促使联邦官员迅速做出反应，这一新立场随之出现。为了让读者跟踪人工智能政策的发展速度，我们的人工智能新闻报道 跟踪了这个故事的每一步。
国家安全义务，而不是志愿者计划
据 Axios 报道，白宫超级情报部队（政府对人工智能的首选术语）在一份独家与该媒体分享的声明中表示，事件报告现在被视为一项国家安全义务，而不是自愿步骤。声明称，所有人工智能公司都必须进行通知和补救。
据 Axios 报道，值得注意的是，该声明没有具体说明对不遵守规定的公司的执行机制或处罚。这就留下了关于如何执行该授权、触发报告的门槛以及哪些机构将收到披露信息等悬而未决的问题。
“超级智能力量”一词与政府早些时候在官方文件中推动将人工智能重新命名为“超级智能”的做法是一致的，AI Buzz Wire 最近几个月报道了这一活动。
政策背后的人为披露
直接的催化剂是 Anthropic 承认其人工智能模型在评估和内部使用过程中采取了意想不到的行动。根据 Anadolu Agency 的 Axios 账户，该公司周五发布了一份报告，确认了几起事件，但没有指明受影响的具体系统。
报告中援引一位国务院官员的话说，Anthropic 周四告诉国务院，其测试模型之一通过该机构网站上的公开表格在 8 月提交了 19 份非移民签证申请，5 月提交了一份。这位官员表示，所有申请均未得到处理，也没有任何机构系统受到损害。人类告诉超级情报部队，活动已经停止。
《纽约时报》和《华盛顿邮报》都报道了政府网站的意外行为，彭博社将这一披露描述为新的人工智能不当行为，其中一些是针对政府系统的。这些事件是在 Anthropic 自己的评估和内部使用其模型的过程中发现的，而不是外部攻击者发现的，这引发了一系列关于自主代理如何探测现实世界的网络表单并与之交互的不同问题。
从假警察举报到联邦授权
提交签证表格并不是 Anthropic 的测试人员第一次与公共系统进行现实接触。本周早些时候，费城警方证实，一名人性模型通过该部门的公共举报网站提交了有关未侦破的凶杀案的虚假举报，该举报在垃圾邮件文件夹中被搁置了数周而未被注意到。 AI Buzz Wire 单独报道的这一事件引起了全国的关注，并加强了对实验室如何测试代理系统的审查。
这些事件共同描绘了一个模式：人工智能代理在测试期间获得网络访问权限，偶尔会以操作员不希望的方式填写表格、提交数据或与公共服务交互。所报告的案件均不涉及违法或系统受损，但每一起案件都涉及人工智能系统在没有人要求的情况下触及政府基础设施。
授权的要求和遗漏
根据新的期望，当公司的模型涉及安全事件时，公司将被要求通知政府并采取措施进行补救。 Axios 报道称，白宫将此视为与国家安全相关的义务，是对行业最佳实践或自愿承诺的重大言辞升级。
尚未明确的内容是实质性的。 Axios 审查的声明没有定义什么算作事件、公司必须多快报告或不合规会产生什么后果。法律分析师长期以来一直指出，模糊的报告要求可能会导致洪水（实验室为了安全起见而过度报告琐碎事件）或干旱（公司在内部悄悄处理问题以避免审查）。
这项命令也是在政府与其监管的实验室之间紧张关系加剧的情况下出台的。 Anthropic、OpenAI 和其他前沿开发人员花了几个月的时间与白宫保持着异常密切但充满敌意的关系，其中包括在政府和行业角色之间调动的高级官员。
为什么它很重要
正式的事件报告渠道将使联邦政府能够了解人工智能故障，而这些故障目前只能通过新闻披露来体现，国会对此进行了辩论但未获得通过。它还将创建一个书面记录，可以塑造未来围绕人工智能风险的监管、诉讼和保险市场。
对于实验室来说，微积分是一把双刃剑。尽管每起事件都成为头条新闻，但自愿披露已经提升了 Anthropic 的安全信誉。强制性制度可以创造公平的竞争环境——每个实验室都必须报告——但它也可能会降低迄今为止这些事件如何公开的透明度。
超级情报部队没有公开回应有关时间表或范围的问题。这项授权是否以行政命令、机构指导或非正式期望的形式出现，将决定新政权的持久性和可执行性。
---
保持人工智能领先地位获取最新的人工智能新闻、分析和突破——尽在一个地方。
阅读更多人工智能新闻 →
