据美联社周六报道，负责测试前沿人工智能模型安全性的美国小型政府办公室的工作人员最近被要求向白宫办公室进行非正式汇报，这引发了人们对美国最高人工智能安全评估机构独立性的新担忧。

据美联社报道，该办公室，即超级智能创新和标准推进中心（简称 CAISSI，位于商务部内）也已停止发布其研究成果。该报告发布之际，公众对一系列有关失控人工智能代理的故事越来越感到焦虑，报告描述了一个人手不足、群龙无首、越来越安静的监管机构。 更多相关背景，请参阅我们的人工智能资讯。

CAISSI 所做的事情以及美联社的发现

CAISSI 负责在新的人工智能产品向公众推出之前对其安全性进行评估，其中包括评估前沿模型抵御网络攻击和其他严重危害滥用的能力。据美联社报道，该中心的工作人员“最近”被要求向白宫办公室非正式报告。该通讯社援引两名了解讨论情况的前政府官员的话说，他们匿名发言，以保护现任雇员。白宫没有回应有关该中心的具体问题。

该行动的规模不大。据美联社报道，CAISSI 每年收到约 1000 万美元的资金，大约是英国同行收到的资金的八分之一，尽管美国是大多数前沿模型的生产地。

非正式的报告安排只是该中心的最新破坏。美联社描述了几个月前的领导真空：一位主任在四月份被聘用，几天之内就被解雇，他的替代者在辞职前持续了几个月，而上级研究所的负责人目前担任代理主任。实际上，这意味着目前没有人拥有永久授权来捍卫该中心的独立性。

停止发布的看门狗

据美联社称，更重要的变化是该中心不再做的事情。 8 月，国会询问 CAISSI 为何停止公开发布有关人工智能系统在安全测试中表现的报告。只有当其结果在实验室外可见时，部署前测试才可以作为对模型构建器的公开检查 - 但目前还不能。

这种转变并非凭空而来。 10月，路透社援引The Information的报道透露，政府计划将三名CAISSI高级官员调往白宫。一位白宫官员当时告诉《信息报》，与商务部的协调问题表明有必要让该中心的领导层更接近人工智能决策。根据该报告，官员们将向科学技术政策办公室负责人迈克尔·克拉西奥斯（Michael Kratsios）和国家网络主任肖恩·凯恩克罗斯（Sean Cairncross）负责。大约六个月前，商务部长霍华德·卢特尼克邀请两人共同管理该中心。

一起阅读，美联社的新报告表明，该计划正在以非正式的方式付诸实践，并且先于任何正式的重组。

双向的独立性担忧

美联社援引批评人士的话说，他们担心涉及网络安全和生物武器风险的决定可能会被政治化，或者调查结果可能会被软化以适应科技行业。布伦南司法中心的阿莫斯·托告诉美联社，此类决定具有巨大的公共后果，应该公开解释。美国科学家联合会的卡罗琳·西格尔·辛格 (Caroline Siegel Singh) 将 CAISSI 等中心描述为强大的机构，可以极大地改善生活，也可以起到相反的作用。

有一种反驳，美联社并没有驳回。评估模型帮助编写恶意软件的能力是一个国家安全问题，政府希望了解谁看到了这些结果，这是有道理的。困难是制度性的：向其中一支球队的赞助商负责的裁判很难直接判定比赛，而且该中心已停止发布原本可以证明其独立性的报告。

为什么这对建筑商和买家很重要

对于建立在前沿模型基础上的公司来说，报告中确定的实际风险不是禁令，而是不确定性。如果评估保持秘密并纳入出口管制和政府采购，实验室可能会因其从未看到或质疑的发现而失去合同或市场。这种风险会在没有任何警告的情况下通过供应链传播到下游产品。

接下来有两件事值得关注。第一个问题是政府是否任命该中心的常任主任以及由谁挑选。第二个问题是国会是否会采取行动将该中心的独立性写入法律，国会已经就该中心对已发表的报告保持沉默向该中心施压。在这两种情况发生之前，美国前沿人工智能安全裁判的预算为 1000 万美元，没有永久领导者，并且有一条向白宫汇报的路线。

---

掌握AI最新动态

获取最新的AI新闻、分析和突破——尽在一处。

阅读更多AI新闻 →