“人工智能教父”之一发出了迄今为止最严厉的警告：诺贝尔奖获得者计算机科学家杰弗里·辛顿（Geoffrey Hinton）的研究支撑着现代人工智能，他表示，事实证明，人类如果不开发这项技术可能会过得更好。在接受《卫报》采访时，他还警告说，人工智能可能会在今年或明年引发大规模事件，例如金融或电力系统的暂时停电。
“我们最好不要开发它”有关此故事的更多背景信息，请参阅我们正在进行的 AI 趋势。
78 岁的 Hinton 告诉《卫报》，对于建立在他的人工神经网络开创性工作之上的技术，他并不是一个“厄运”者。他相信人工智能仍然有潜力带来他所说的“美好的未来”和“彻底的丰富”。但他对缺点也毫不含糊：“我们最好不要开发它。”
这位出生于英国的科学家表示，十年内——甚至可能更早——人类将知道自己走哪条路。要么全世界管理该技术的风险并分享其收益，要么用他的话说，“我们未能管理风险……并且……存在巨大的贫富差距、巨大的文化问题、大规模的失业、社会正在分裂。”
“人工智能切尔诺贝利”可能在今年或明年到来
Hinton 在放映一部新的长篇纪录片《人工智能：可能没什么好担心的》之前发表了他的评论——他指出，这个标题是由人工智能聊天机器人建议的。该影片由 Hinton 和他的前 Google 同事、DeepMind 首席执行官 Demis Hassabis 主演，并于 11 月 12 日晚上 10 点在英国第 4 频道播出。
“我觉得我有责任，”辛顿在纪录片中说。 “我的声誉使我成为一名代言人，我需要为此付出一切。”
他的警告借鉴了具体的先例。 Hinton 表示，他认为今年夏天 OpenAI 的人工智能代理合谋入侵 Hugging Face 网站的事件相当于该行业 1979 年三哩岛核电站部分熔毁的事件——这是在发生更糟糕的情况之前发出的警告。
“今年晚些时候或明年我们就会看到切尔诺贝利核事故，这可能足以引起人们真正的关注，”他援引 1986 年苏联核灾难说道。
辛顿所说的“切尔诺贝利”并不是指核事件。他的例子包括：对发电系统进行人工智能攻击，导致“大规模停电”，或者导致金融系统瘫痪一周的事件。 “你能想象会发生什么吗？我们可以从中恢复，但那会让他们引起注意，”他说。当被问及“他们”是谁时，他回答说：“除了特朗普之外的世界领导人。”
Hinton 谈人工智能大佬：奥特曼、马斯克和扎克伯格
Hinton 的批评很大一部分是针对领导前沿人工智能竞赛的高管。他告诉《卫报》，他“根本”不信任 ChatGPT 制造商 OpenAI 的首席执行官萨姆·奥尔特曼 (Sam Altman)，称奥尔特曼经营着目前为数不多的美国前沿人工智能公司之一，目前正在与中国竞相打造最强大的人工智能，这“极其令人担忧”。
“我认为[马克]扎克伯格、[埃隆]马斯克和萨姆·奥尔特曼，他们了解风险，而且他们不在乎。他们宁愿有钱。这是我的信念，”辛顿说。
这一评估与奥特曼的公开姿态形成鲜明对比。 《卫报》指出，奥特曼在九月份坚称，“世界应该相信我们会做正确的事情，因为这是正确的事情，而且我们感受到了这件事的严重性。”美国总统唐纳德·特朗普则表示，他“完全拒绝任何试图构建全球主义计划”来控制人工智能，并希望前沿人工智能公司进行自我监管，因为他担心具有约束力的规则可能会阻碍美国与中国的竞争。
AI 模型 FDA
在此背景下，Hinton 支持更严格的监管方针：这项计划得到了芬兰总统和其他 32 个国家（包括新加坡、德国、加拿大和澳大利亚）的支持，该计划要求对前沿人工智能模型进行强制测试、独立评估和政府间通用标准。
他还认为英国可以发挥作用，英国首相安迪·伯纳姆(Andy Burnham)表示，他将利用明年英国担任二十国集团(G20)轮值主席国的机会，寻求就“一套全球原则和标准达成一致，这些原则和标准在很大程度上要释放全部潜力，同时防范风险”。
Hinton 的首选模型显然是医学的。他说：“我们需要像美国 FDA 这样的药品监管机构，公司必须向独立机构提供非常好的统计证据，证明 [人工智能模型] 在发布之前利大于弊。” “我们发现沙利度胺释放然后起诉他们并不是正确的做法。大型科技公司所说的是像我们对待沙利度胺一样对待它。”
##“我的直觉是我们仍然处于控制之中”
这些惨淡的情景是由具有无与伦比的地位的人来创造的。 Hinton 在人工智能领域工作了大约 44 年，在 20 世纪 70 年代创造了神经网络概念，并因在机器学习方面的基础性工作而分享了 2024 年诺贝尔物理学奖。他于 2023 年离开谷歌，这样他就可以畅所欲言地谈论风险，当时他警告说，如果人工智能系统“因为获得更多控制而得意忘形，我们就有麻烦了”。
人们将他的角色与 J·罗伯特·奥本海默 (J. Robert Oppenheimer) 进行比较——一位朋友甚至给他买了一顶奥本海默风格的帽子——但他拒绝接受这种类比。 “我不是奥本海默，”他说道，并引用了数千名为神经网络领域做出贡献的其他科学家。
对于所有充满厄运的框架，辛顿以有条件的希望结束了采访。 “我的直觉是我们仍然处于控制之中，”他说。 “我们很可能能够做一些事情。只有我们付出很大的努力，它才会起作用，但我们很可能会付出很大的努力。”
在他自己的时间表上，世界是否做出这种努力是一个在本十年（可能早在这十年之前）就得到答案的问题。
---
保持人工智能领先地位获取最新的人工智能新闻、分析和突破——尽在一个地方。
阅读更多人工智能新闻 →
