被誉为“人工智能教父”的诺贝尔奖获得者杰弗里·辛顿本周向美国立法者发出了迄今为止最严厉的警告之一：在人工智能技术超出人类控制范围之前，国会有大约一年的时间对人工智能采取有意义的保障措施。据 NBC 新闻报道，这位英裔加拿大计算机科学家于 9 月 16 日在国会山举行的闭门参议院简报会上发表了上述言论。
根据 NBC 对这次会议的报道，辛顿对议员们说：“也许一年，但不会超过一年。”据会议的多份报道称，此次简报会由参议员伯尼·桑德斯 (Bernie Sanders) 召集，出席者包括麻省理工学院物理学家、未来生命研究所联合创始人马克斯·泰格马克 (Max Tegmark) 以及人工智能安全研究员阿杰亚·科特拉 (Ajeya Cotra)。
警告的核心：AI 构建 AI
辛顿的论点集中在一个具体的技术里程碑，而不是一个遥远的假设。据简报报道，他表示：“人工智能现在已经达到了设计更好人工智能的地步。” “这就是所谓的递归自我完善……除非我们采取行动，否则它就会失控。”
他还告诉立法者，超级智能的专家时间表在过去十年中已经崩溃。辛顿在接受 NBC 新闻采访时表示：“如果你看一下我们何时能拥有超级智能的预测，过去可能需要 30 年，也可能需要 50 年。” “然后就可能是 10 年，也可能是 20 年。现在人们说，很多研究人员都说只有几年。”
Hinton 是多伦多大学的名誉教授，因在神经网络方面的基础性工作而获得 2024 年诺贝尔物理学奖，他于 2023 年离开谷歌，此后成为该领域最著名的内部批评者，他警告说，他帮助创建的系统最终可能会超越其创造者并取代其创造者。
对“终止开关”的怀疑
尽管辛顿敦促迅速监管，但他对讨论最多的提议之一表示怀疑：允许政府关闭危险人工智能系统的联邦授权。据美国有线电视新闻网报道，他告诉立法者，从长远来看，这种“终止开关”不会持续下去。
就在他的怀疑出现的同一周，参议员兰德·保罗（Rand Paul）阻止了共和党领导的一项人工智能杀伤开关法案在参议院的快速审议，这一事件说明了即使是最低限度的护栏立法距离通过还有多远。出席部分简报会的路易斯安那州参议员约翰·肯尼迪告诉《华盛顿太阳报》，他很喜欢这次讨论，但没有看到参议院采取行动的迹象，并补充说，他预计白宫将采取下一步行动，并指出有报道称，财政部长斯科特·贝森特正在推动制定安全框架。
过道对面的景色也没有那么晴朗。据《华盛顿太阳报》报道，佛罗里达州参议员里克·斯科特在接受 NewsNation 采访时表示，公司需要自我监管：“我们不会变得足够聪明来监管它们。我们不会在这里做任何事情。”据《华盛顿太阳报》报道，他说。
一些民主党人则推向另一个方向。出席简报会的亚利桑那州众议员亚萨明·安萨里 (Yassamin Ansari) 在 X 上写道，人工智能“能够并将继续超越人类的控制”，“我们监管它的窗口正在迅速消失。我们现在必须暂停。”
人工智能安全一周
这份简报为人工智能治理的激烈争论画上了句号。几天前，Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 发表了一篇文章，呼吁前沿实验室加快发展速度，警告失控可能导致生物恐怖主义的风险——据广泛报道，这一立场得到了其他实验室领导人的公开支持。在 Hinton 向参议员发表讲话的同一天，包括吴恩达 (Andrew Ng) 在内的著名人工智能研究人员公开驳斥了对灭绝的担忧，称其言过其实，凸显了这个领域正在公开自相矛盾。
在国会山，活动比产出更喧闹。参议员科里·布克呼吁特朗普总统召开一次关于人工智能的国会特别会议，而两党问题解决者核心小组本周宣布成立一个关于人工智能和新兴技术的新工作组。目前还没有制定出具有约束力的联邦法律。
为什么一年框架很重要
人工智能先驱者发出的截止日期驱动的警告已成为惯例，但 Hinton 时间表的特殊性——在一个排除行业高管的房间里直接向有权立法的人传达——标志着基调的转变。研究人员之前发出的警告通常会预测数十年的风险；一年的窗口意味着为本届国会而不是未来的国会设计的政策应对措施。
这也加剧了政治问题。正如辛顿本人的致命开关怀疑论和参议员保罗的程序封锁所表明的那样，即使是具有安全意识的人士也没有就哪些干预措施有效达成共识。辛顿认为，国际形势——尤其是与中国的竞争——使得单边经济放缓在政治上变得脆弱，这种紧张局势迄今为止阻碍了大多数严肃的提议。
按照辛顿自己的时钟，接下来发生的事情大约需要几个月的时间。简报是否会改变这种计算取决于参议院，根据其成员的说法，参议院目前根本没有采取任何行动。
保持人工智能领先地位
人工智能政策正在快速发展——该领域的其他一切也是如此。如需了解更多人工智能突发新闻、监管更新和分析，阅读更多人工智能新闻 →。
---
掌握AI最新动态获取最新的AI新闻、分析和突破——尽在一处。
阅读更多AI新闻 →
