Билл Гейтс, когда-то один из самых выдающихся оптимистов в области ИИ, теперь предупреждает, что искусственный интеллект более опасен, чем публично признает индустрия. В эссе объемом почти 6000 слов в своем блоге Gates Notes и сопроводительном интервью The New York Times, опубликованном на этой неделе, соучредитель Microsoft описывает переход в эпоху искусственного интеллекта как «один из самых неспокойных периодов в истории человечества» — и говорит, что у мира нет на этот счет никаких планов.

Его самая острая критика направлена ​​против его собственной отрасли, которую он обвиняет в намеренном преуменьшении опасности, поскольку на карту поставлено слишком много денег. Подробнее об этой истории — в нашем больше статей об ИИ.

«Очень обеспокоен» наедине, молчание на публике

«В частном порядке люди, которые понимают, насколько хороша эта штука и насколько она становится лучше, очень обеспокоены», — сказал Гейтс Times. На публике, по его словам, одни и те же люди говорят друг другу: «Эй, чувак, не говори так. Это плохо для нас — следующий триллион долларов, который мы пытаемся собрать».

В эссе отвергается предпочитаемая отраслью концепция, согласно которой компании должны контролировать себя. «Саморегулирование — самый опасный инструмент, когда-либо изобретенный? Нет, спасибо!» Гейтс пишет.

Три опасности, к которым, по словам Гейтса, мир не готов

Гейтс строит свое предупреждение вокруг трех рисков, которые Fortune охарактеризовал как «задержку» развития детей, наглость преступников и исчезновение рабочих мест для поколения Z — риски, к которым, по его словам, мировые лидеры не готовы.

Постоянная потеря рабочих мест. Гейтс ожидает, что в первую очередь пострадают должности начального и среднего звена в сфере продаж, обслуживания клиентов, разработки программного обеспечения и юридической поддержки, а рабочие места окажутся под давлением, когда шустрые роботы станут значительно дешевле - развитие событий, как он отмечает, происходит в основном в Китае. Он ссылается на исследование Стэнфорда, показывающее, что с момента распространения ИИ занятость среди молодых работников на наиболее уязвимых должностях уже заметно снизилась, в то время как старшие коллеги до сих пор остались в стороне. Биологическое оружие. Гейтс предупреждает, что за пределами рынка труда ИИ снижает барьер для небольшой группы людей, имеющих доступ к передовым моделям для разработки новых патогенов. Он признает неприятную реальность того, что полезные и опасные возможности трудно разделить: та же самая модель, которая находит дыру в безопасности, чтобы ее закрыть, может помочь кому-то ею воспользоваться. Вызывающие зависимость ИИ-компаньоны. Что касается личной жизни, Гейтс указывает на психологический и социальный вред, причиняемый чат-ботами, которые никогда не соглашаются и всегда доступны. Он цитирует исследования Стэнфорда и Карнеги-Меллон, показавшие, что чем интенсивнее и эмоциональнее люди использовали эти системы, тем хуже они себя чувствовали — особенно беспокоясь о детях и об эрозии критического мышления в эпоху дипфейков и заказной дезинформации.

Почему Гейтс считает, что на этот раз все по-другому

Часть уверенности в отрасли основана на истории: прошлые технологические потрясения в конечном итоге создали больше рабочих мест, чем уничтожили. Гейтс называет такое утешение ошибкой, описывая эпоху ИИ как «совершенно, абсолютно, совершенно, совершенно отличную» от прошлых изменений.

В отличие от персонального компьютера, которому понадобилось два десятилетия, чтобы изменить работу, ИИ работает на устройствах, которыми уже владеют люди, и говорит простым языком. «Нам не нужно к нему адаптироваться, потому что оно может адаптироваться к нам», — пишет он. Впервые технология может заменить, а затем превзойти человеческое мышление в разных отраслях за одно десятилетие, а не за несколько поколений.

Тревожный сигнал, по словам Гейтса, прозвучал из его родной сферы: программирования. «Код Клода» Anthropic, как он рассказал Times, шокировал его. «Идея о том, что теперь эти вещи в значимом смысле лучше, чем я, звучит так: «Какого черта?»

Налоги, договоры и рабочие места «зарезервированы людьми»

Рецепты Гейтса конкретны. Он призывает к демократическому процессу и новым национальным и международным надзорным институтам, созданным по образцу режимов, созданных для ядерного оружия, авиации и защиты озонового слоя. Он предлагает ввести символический налог на использование искусственного интеллекта и роботов, указывая на асимметрию в нынешней системе: найм человека вызывает налоги на заработную плату, а покупка робота может быть немедленно списана, что фактически субсидирует автоматизацию.

Он также утверждает, что некоторые рабочие места, особенно по уходу, должны оставаться за людьми, и эту идею он называет «зарезервированной для людей».

Гейтс открыто признает возможный конфликт интересов: он по-прежнему поддерживает финансовые связи с технологической индустрией, хотя и говорит, что прибыль поступает в Фонд Гейтса. И он осторожно отмечает огромные преимущества этой технологии — в науке, здравоохранении, сельском хозяйстве в бедных странах и образовании — утверждая лишь, что эти выгоды должны быть обеспечены посредством политики, а не оставлены на усмотрение рыночных сил.

Жесткий тон в большой компании

Изменения в риторике Гейтса резкие. В 2018 году он назвал ИИ существенно лучшим программным обеспечением и с нетерпением ждал более продолжительного отпуска. В 2022 году он утверждал, что уволенные работники будут заняты уходом за пожилыми людьми и детьми. Еще в сентябре 2024 года он сомневался, что ИИ коренным образом изменит проблему дезинформации.

Он также не одинок. Генеральный директор Anthropic Дарио Амодей предупредил о биологическом оружии, созданном искусственным интеллектом, в 2024 году и предсказал, что в 2025 году до половины офисных рабочих мест начального уровня может исчезнуть, а безработица вырастет до 10–20 процентов. Амодей также ввел символический налог. А исследователи Гэри Маркус и Анка Руэл еще в 2023 году предложили создать глобальное некоммерческое агентство искусственного интеллекта по образцу Международного агентства по атомной энергии.

Разница сейчас является посланником: человек, который превратил индустрию ПК в глобальную силу, пришел к выводу, что эта волна не следует старым правилам и что ожидание, пока отрасль исправится, не является его планом.

---

Будьте в курсе ИИ

Последние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.

Читать больше новостей об ИИ →