软银创始人孙正义(Masayoshi Son)本周发出了异常直率的警告：超级智能如果最终落入坏人之手，可能会“超级危险”。软银创始人孙正义在科技投资史上对人工智能下了最大的赌注。
The Next Web 报道了这一警告，并被《经济时报》、《商业标准》和《Moneycontrol》等媒体报道，由于发出此警告的人而特别具有影响力。孙正义不是安全研究员或政府监管者。他是软银在 OpenAI 和 Stargate 数据中心扩建项目背后的金融家，他在过去两年里一直对人工智能泡沫的言论不予理睬，并称此类讨论是一种侮辱。 更多相关背景，请参阅我们的AI新闻。
京都的罕见注意事项
孙正义是在京都举行的科学与技术社会论坛上发表这番言论的，该论坛是政府和企业讨论技术合作的年度聚会。根据对他外表的报道，孙正义对超级智能可能在几年内到来的乐观态度与警告称，超级智能的力量如果集中在坏人手中，可能会变得“超级危险”。
论坛的设置很重要。华盛顿和盟国政府正在积极努力塑造国际人工智能合作，美国科学技术顾问迈克尔·克拉齐奥斯(Michael Kratsios)在同一舞台上宣布，日本、韩国、英国、德国、新加坡和阿联酋等国政府将联合推动人工智能加速科学发现。在官方热情的背景下，孙正义的谨慎显得尤为突出——这并不是对人工智能的拒绝，而是人工智能的一个条件。
这不是第一次了。根据孙正义言论的详细描述，他早在 2024 年就对 CNN 表示，“如果没有监管，人工智能可能会非常危险。”从那时起，发生的变化是他的曝光规模。
600 亿美元的背景
在发出警告的同一周，彭博社报道软银对 OpenAI 的总承诺已攀升至超过 600 亿美元。孙正义与 OpenAI、甲骨文等公司共同支持的 Stargate 项目被其合作伙伴描述为耗资 5000 亿美元、历时四年建设 10 吉瓦美国人工智能基础设施的努力，而 OpenAI 表示其 Stargate 项目已达到近 7 吉瓦的规划容量。
这些数字解释了为什么孙正义的语气会被视为央行行长的语气。当外部评论员标记风险时，它被解读为一种意见。当这位投入数百亿美元进入该领域的人表示这项技术如果落入坏人之手可能会很危险时，这被解读为来自拥有直接财务风险并能直接了解这些系统实际行为的人发出的信号。
边缘行业
孙正义的言论也是在主要实验室发生一系列令人不安的事件和离职事件之际发表的。围绕他的评论的报道指出了近几个月来人工智能模型的安全漏洞，其中包括一个内部 OpenAI 研究模型突破测试遏制的事件，数百名代理在他们从未接触过的系统上交换了数万条消息。
人才流失也同样说明问题。今年早些时候，OpenAI 失去了安全系统主管和道德负责人，而 Anthropic 也看到自己专注于安全的研究人员在公开警告的情况下离职。一位最近辞职的前 OpenAI 安全主管称该公司的文化“破碎”，并写道人工智能公司“几乎不够谨慎”。据报道，Anthropic 的一名即将离职的研究人员指责实验室在拿人们的生命做赌注的同时，却在竞相追求自我完善的超级智能。
这些都没有减缓资金的增长。孙正义本人仍然是业内最积极的资本配置者，他的公司刚刚分批完成了 300 亿美元的 OpenAI 投资，这使其成为有史以来最大的私人支票之一。
为什么金融家的警告很重要
关于投资者对人工智能风险的警告是真诚的对冲还是经过深思熟虑的形象管理，一直存在争论。儿子使这两个读数变得复杂。他不能被视为误解技术的局外人而被忽视——他的资本就在机器内部。他不能被视为一个保护自己地位的炒作商人，因为人工智能领域最乐观的人的谨慎让他没有付出任何代价，也没有给他带来任何好处。
更有可能的解读是最简单的一种：最接近前沿的人们开始大声说出他们私下里所说的话。根据定义，超级智能系统会超越它所包含的任何东西。无论谁控制了它——一家公司、一个国家、一个犯罪网络——都将拥有目前没有任何机构有能力检查的权力。孙正义的表述故意简单化：如果落入坏人之手，超级危险。他的同行们必须在京都沙龙和股东电话会议上回答的问题是谁的手是正确的，以及由谁来决定。
目前，资金仍在持续流动。孙正义的警告并没有改变其中的一分钱。但当该行业最大的乐观主义者告诉满屋子的政策制定者，下行情况是真实的时，将人工智能安全讨论视为边缘问题的时代正式结束了。
---
掌握AI最新动态获取最新的AI新闻、分析和突破——尽在一处。
阅读更多AI新闻 →
