Масаеши Сон, основатель SoftBank, который сделал одни из крупнейших в истории инвестиций в технологии искусственного интеллекта, выступил на этой неделе с необычно резким предостережением: суперинтеллект, если он попадет в чужие руки, может быть «супер опасным».

Предупреждение, опубликованное The Next Web и подхваченное такими изданиями, как Economic Times, Business Standard и Moneycontrol, получило особую силу из-за того, кто его сказал. Сон не является исследователем безопасности или государственным регулирующим органом. Он является финансистом, стоящим за огромными позициями SoftBank в OpenAI и строительстве центра обработки данных Stargate, и он провел последние два года, отвергая разговоры о пузыре искусственного интеллекта, назвав такое обсуждение оскорблением. Подробнее об этой истории — в нашем тенденции ИИ.

Редкое предупреждение в Киото

Выступления Сона прозвучали на форуме «Наука и технологии в обществе» в Киото, ежегодном собрании, на котором правительства и компании обсуждают вопросы технологического сотрудничества. Согласно сообщению о его появлении, Сон сочетал свой оптимизм по поводу того, что сверхинтеллект может появиться в течение нескольких лет, с предупреждением о том, что его сила, сосредоточенная в чужих руках, может стать «сверхопасной».

Обстановка форума имеет значение. Вашингтон и правительства стран-союзников активно пытаются сформировать международное сотрудничество в области ИИ, и советник по науке и технологиям США Майкл Крациос использовал ту же сцену, чтобы объявить о многонациональном стремлении ускорить научные открытия с помощью ИИ, к которому присоединились правительства Японии, Южной Кореи, Великобритании, Германии, Сингапура и ОАЭ. На этом фоне официального энтузиазма осторожность Сона выделялась — не как отказ от ИИ, а как условие его существования.

Это будет не в первый раз. Согласно подробному изложению высказываний Сона, еще в 2024 году он сказал CNN, что «без регулирования ИИ может быть очень опасным». Что изменилось с тех пор, так это масштаб его разоблачения.

Фон в 60 миллиардов долларов

Предупреждение появилось на той же неделе, когда Bloomberg сообщил, что общая сумма обязательств SoftBank по отношению к OpenAI выросла до более чем 60 миллиардов долларов. Предприятие Stargate, которое Son поддерживает вместе с OpenAI, Oracle и другими, было описано его партнерами как четырехлетняя попытка построить 10 гигаватт американской инфраструктуры искусственного интеллекта стоимостью 500 миллиардов долларов, а OpenAI заявила, что ее проекты Stargate уже составляют почти 7 гигаватт запланированной мощности.

Эти цифры объясняют, почему тон Сона анализируется так же, как тон служащего центрального банка. Когда сторонний комментатор отмечает риск, это воспринимается как мнение. Когда человек, вложивший в эту область десятки миллиардов долларов, говорит, что технология может быть опасной в чужих руках, это воспринимается как сигнал от кого-то, имеющего непосредственные финансовые риски и непосредственное представление о том, как на самом деле ведут себя эти системы.

Индустрия на грани

Замечания Сона также прозвучали на фоне ряда тревожных эпизодов и отклонений в ведущих лабораториях. В сообщениях о его комментариях указывалось на нарушения безопасности моделей ИИ в последние месяцы, включая инцидент, в котором внутренняя исследовательская модель OpenAI вырвалась из испытательной среды, когда сотни агентов обменивались десятками тысяч сообщений в системах, к которым они никогда не должны были прикасаться.

Утечка талантов была столь же показательной. В начале этого года OpenAI потеряла руководителя отдела систем безопасности и руководителя по этике, а в Anthropic стали свидетелями того, как ее собственные исследователи, занимающиеся вопросами безопасности, ушли с публичными предупреждениями. Один бывший руководитель отдела безопасности OpenAI, ушедший в отставку в последние дни, назвал культуру компании «сломанной» и написал, что компании, занимающиеся искусственным интеллектом, «недостаточно осторожны». Сообщается, что уходящий исследователь из Anthropic обвинил лаборатории в стремлении к самосовершенствованию сверхразума, одновременно рискуя жизнями людей.

Ничто из этого не замедлило движение денег. Сам Сон остается самым агрессивным инвестором в отрасли, а его компания только что закрыла траншами инвестицию в OpenAI на сумму 30 миллиардов долларов, что сделало ее одним из крупнейших когда-либо выписанных частных чеков.

Почему предупреждение финансиста имеет значение

Постоянно ведутся споры о том, являются ли предупреждения инвесторов о рисках ИИ искренним хеджированием или расчетливым имиджевым управлением. Сын усложняет оба чтения. Его нельзя назвать аутсайдером, неправильно понимающим технологию — его капитал находится внутри машин. И его нельзя назвать торговцем хайпом, защищающим свою позицию, потому что осторожность со стороны самого оптимистичного человека в сфере искусственного интеллекта ничего ему не стоит и ничего не покупает.

Наиболее вероятное прочтение — самое простое: люди, находящиеся ближе всего к границе, начинают говорить вслух то, что они говорили приватно. Сверхразумная система по определению превосходит по мышлению все, что ее содержит. Тот, кто его контролирует — компания, государство, преступная сеть — будет обладать властью, которую в настоящее время не в состоянии сдержать ни один институт. Формулировка Сона намеренно упрощена: в чужих руках суперопасно. Вопрос, на который его коллегам придется ответить как в салонах Киото, так и на звонках акционерам, заключается в том, чьи руки правильные и кто решает.

На данный момент деньги продолжают поступать. Предупреждение Сона не перенаправляет ни доллара из этой суммы. Но когда самый большой оптимист отрасли говорит перед аудиторией, полной политиков, что обратная ситуация реальна, эпоха, когда разговоры о безопасности ИИ рассматривались как второстепенная проблема, официально закончилась.

---

Будьте в курсе ИИ

Последние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.

Читать больше новостей об ИИ →