本周主导人工智能讨论的人类研究人员的安全警告现在已经在华盛顿产生了一些具体的成果：立法推动。路透社周四报道称，美国立法者正在呼吁制定新的人工智能规则，以回应研究人员的声明，而马萨诸塞州众议员 Lori Trahan 在周四上午的采访中详细介绍了她的《前沿法案》，该法案将首次对前沿人工智能开发商施加具有约束力的义务。
特拉汉在 WBUR 的早间版上发表讲话时表示，自从她今年早些时候开始从事人工智能监管工作以来，国会山对本周事件的反应与她所见过的任何事情都不同。如需了解华盛顿、布鲁塞尔及其他地区人工智能政策动态的每日报道，请关注 AI Buzz Wire，这是您获取重大人工智能新闻和监管更新的来源。
边境法案会做什么
特拉汉是该两党法案的共同起草者，他将其描述为针对少数公司的一套“道路规则”，这些公司的模式可能会造成灾难性损害。这位女议员表示，《前沿法案》将规定四件事：对前沿人工智能开发人员的透明度要求、事件报告、模型安全声明的独立验证，以及如果模型构成迫在眉睫的灾难风险，她所说的政府暂停按钮。
特拉汉说：“从根本上讲，我们需要在前沿实验室上设置护栏。”在国会为人工智能将涉及的许多其他领域制定政策时，他将这些规定视为“赌注”。
“荣誉制度”：特拉汉的约束规则案例
Trahan 论点的核心是，目前没有任何东西可以约束最强大的人工智能系统的开发人员。 “今天，我们唯一拥有的就是荣誉制度，”她说。 “人类历史上最强大的技术正在受到其开发者的监管。”
她承认同事们对此表示怀疑，称一些人认为本周的警告是散布恐惧或过于极端。但她描述了会议厅情绪的迅速转变：“自从雅各布·考克森吹哨以来，我的电话就一直响个不停。我认为我的同事们很害怕。他们听到选民希望我们采取行动……本周刚刚达到了一个转折点。”
值得注意的是，她表示压力并不局限于某一党派。 “不仅仅是民主党，”特拉汉说，并指出“让再次伟大的共和党人昨天呼吁两党采取行动。情况确实发生了变化。”
引发它的警告
立法骚动直接追溯到两名人类研究人员的声明。雅各布·考克森 (Jacob Coxon) 周二退出了公司，他在社交媒体上写道，Anthropic 正在“直接与自我完善的超级智能赛跑，并用我们的生命进行赌博”。人类研究员埃文·胡宾格 (Evan Hubinger) 公开支持他，写道：“雅各布在这里是正确的……我们确实真诚地相信人工智能可以杀死所有人类！我个人认为，在未来十年内，这一比例将超过 10%。”
这个故事在一周内发生了转移。据《国会山报》报道，立法者在发出警告后对人工智能的危险发出了警报，英国广播公司和哥伦比亚广播公司报道了胡宾格的概率估计，美国全国广播公司新闻周四报道了两名人工智能研究人员因安全问题离开 Anthropic 和谷歌，并援引其中一名研究人员的话称“房间里没有成年人”。路透社周四报道称，立法者现在正在呼吁制定新规则，还有报道称 OpenAI 已寻求美国制定管理强大人工智能模型的规则。
从警告到账单文件
本周与以往安全争议的不同之处在于政策反应的速度。 Anthropic 本周自己披露的威胁情报报告详细描述了被破坏的滥用活动，包括可能利用克劳德开发生物武器的尝试，为这些警告提供了之前辩论所缺乏的证据支撑，立法者似乎正在趁机采取行动。
人工智能立法的未来之路
《边境法案》的前景仍然不确定。多年来，国会一直在努力通过全面的人工智能立法，任何涉及强制验证或联邦暂停权力的法案都将面临其监管实验室的强烈游说，以及委员会之间的管辖权之争。另一方面，各州也没有等待：据《洛杉矶时报》报道，加州州长加文·纽瑟姆 (Gavin Newsom) 本周签署了一套人工智能安全法案，成为法律，继续对联邦框架施加压力，以取代各州规则的拼凑。
目前，情况已经逆转。在本届国会中，构建前沿模型的人们首次公开要求对自己的行业进行限制——而立法者正在起草这些限制。
这种协调是否会产生法律或仅仅是头条新闻将取决于未来几个月。但这一周证明了实验室和批评者都不能忽视的事情：人工智能安全已经从研讨室转移到了计票现场，计票的成员表示，他们的选民最终是要求他们采取行动的人。
AI Buzz Wire 将继续追踪国会通过的《边境法案》。
---
保持人工智能领先地位获取最新的人工智能新闻、分析和突破——尽在一个地方。
阅读更多人工智能新闻 →
