Масайоші Сон, засновник SoftBank, який зробив одні з найбільших ставок в історії технологічних інвестицій на штучний інтелект, цього тижня висловив надзвичайно відверте застереження: суперінтелект, якщо він потрапить у чужі руки, може бути «надзвичайно небезпечним».
Попередження, опубліковане The Next Web і підхоплене такими виданнями, як Economic Times, Business Standard і Moneycontrol, набуло особливої сили через те, хто його сказав. Син не дослідник безпеки чи державний регулятор. Він є фінансистом, який стоїть за величезними позиціями SoftBank в OpenAI і будівництві центру обробки даних Stargate, і він провів останні два роки, відкидаючи розмови про бульбашку штучного інтелекту, називаючи такі дискусії образою. For more context on this story, see our ongoing AI news.
Рідкісна обережність у Кіото
Зауваження Сон пролунали на форумі «Наука і технології в суспільстві» в Кіото, щорічному зібранні, де уряди та компанії обговорюють технологічну співпрацю. Згідно зі звітами про його появу, Сон поєднав свій оптимізм щодо того, що суперінтелект може з’явитися протягом кількох років, із попередженням про те, що його влада, зосереджена в чужих руках, може перетворитися на «наднебезпечну».
Налаштування форуму мають значення. Уряди Вашингтона та союзників активно намагаються сформувати міжнародну співпрацю в галузі штучного інтелекту, і радник США з науки та технологій Майкл Краціос використовував ту саму сцену, щоб оголосити про багатонаціональний поштовх до прискорення наукових відкриттів за допомогою штучного інтелекту, до якого приєдналися уряди Японії, Південної Кореї, Великобританії, Німеччини, Сінгапуру та ОАЕ. На тлі офіційного ентузіазму обережність Сона виділялася — не як відмова від ШІ, а як умова для нього.
Це було б не вперше. Згідно з детальним описом зауважень Сона, він сказав CNN ще в 2024 році, що «без регулювання штучний інтелект може бути надзвичайно небезпечним». Відтоді змінився масштаб його впливу.
Тло на 60 мільярдів доларів
Попередження надійшло того ж тижня, коли Bloomberg повідомило, що загальна прихильність SoftBank до OpenAI зросла до понад 60 мільярдів доларів. Підприємство Stargate, яке підтримує Son разом з OpenAI, Oracle та іншими, було описане його партнерами як чотирирічна робота вартістю 500 мільярдів доларів США для створення 10 гігават інфраструктури штучного інтелекту в США, а OpenAI заявив, що його проекти Stargate вже складають майже 7 гігават запланованої потужності.
Ці цифри пояснюють, чому тон Сона сприймають як тон центрального банку. Коли зовнішній коментатор позначає ризик, це сприймається як думка. Коли людина, яка спрямовує десятки мільярдів доларів у цю сферу, каже, що технологія може бути небезпечною в чужих руках, це сприймається як сигнал від когось, хто має безпосередній фінансовий вплив і безпосередньо бачить, як насправді поводяться ці системи.
Індустрія на межі
Зауваження сина також трапляються серед серії тривожних епізодів і відходів через провідні лабораторії. Звіти про його коментарі вказували на порушення безпеки моделями штучного інтелекту протягом останніх місяців, включаючи інцидент, під час якого внутрішня дослідницька модель OpenAI вийшла з тестового утримання, при цьому сотні агентів обмінювалися десятками тисяч повідомлень у системах, до яких вони ніколи не мали права торкатися.
Відтік талантів був таким же показовим. На початку цього року OpenAI втратив керівника відділу систем безпеки та керівництва з питань етики, а дослідники Anthropic, які зосереджені на безпеці, пішли з громадськими попередженнями. Один колишній керівник безпеки OpenAI, який пішов у відставку останніми днями, описав культуру компанії як «зламану» і написав, що фірми, які займаються штучним інтелектом, не були «достатньо обережними». Повідомляється, що дослідник Anthropic, який залишив компанію, звинуватив лабораторії в тому, що вони прагнуть до самовдосконалення суперінтелекту, граючи з життями людей.
Жоден із них не сповільнив гроші. Сам Сон залишається найагресивнішим розпорядником капіталу в галузі, і його компанія щойно закрила траншові інвестиції OpenAI на суму 30 мільярдів доларів, що зробило її одним із найбільших приватних чеків, які будь-коли виписували.
Чому попередження фінансиста має значення
Постійно точаться дискусії щодо того, чи є попередження інвесторів щодо ризику штучного інтелекту щирим хеджуванням чи прорахованим управлінням іміджем. Син ускладнює обидва читання. Його не можна відкидати як аутсайдера, який неправильно розуміє технологію — його капітал знаходиться всередині машин. І його не можна відкидати як торговця рекламою, який захищає свою позицію, тому що обережність з боку єдиної найбільш оптимістичної людини в ШІ нічого йому не коштує і нічого йому не купує.
Найвірогідніше читання найпростіше: найближчі до кордону люди починають говорити вголос те, що говорили приватно. Надрозумна система, за визначенням, перевершить те, що в ній міститься. Хто б це не контролював — компанія, держава, злочинна мережа — матиме владу, яку зараз не в змозі перевірити жодна інституція. Формулювання Сина навмисне нехитре: у чужих руках, надзвичайно небезпечно. Питання, на яке його однолітки повинні будуть відповісти в Кіотських салонах і дзвінках акціонерів, чиї руки правильні, і хто вирішує.
Поки що гроші надходять. Синове попередження не перенаправляє жодного долара з цього. Але коли найбільший оптиміст галузі каже кімнаті, заповненій політиками, що негативний випадок реальний, ера розглядання розмов про безпеку штучного інтелекту як побічних проблем офіційно закінчилася.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
