Один из «крестных отцов искусственного интеллекта» выступил со своим самым суровым предупреждением: Джеффри Хинтон, лауреат Нобелевской премии по информатике, чьи исследования лежат в основе современного искусственного интеллекта, говорит, что может оказаться, что людям было бы лучше никогда не разрабатывать эту технологию. В интервью The Guardian он также предупредил, что ИИ может спровоцировать крупномасштабный инцидент — например, временное отключение финансовых или энергетических систем — в этом или следующем году.
«Возможно, нам было бы лучше никогда его не разрабатывать». Дополнительную информацию об этой истории можно найти в наших текущих тенденциях в области искусственного интеллекта.
78-летний Хинтон сказал The Guardian, что он не является «обреченным» в отношении технологии, основанной на его новаторской работе над искусственными нейронными сетями. Он считает, что у искусственного интеллекта все еще есть потенциал обеспечить то, что он назвал «прекрасным будущим» и «радикальным изобилием». Но он был недвусмыслен в отношении недостатков: «Возможно, нам было бы лучше никогда не развивать его».
Ученый британского происхождения сказал, что через десятилетие — а, возможно, и раньше — человечество узнает, по какому пути оно идет. Либо мир управляет технологическими рисками и делится своими достижениями, либо, по его словам, «мы не справляемся с рисками и… имеем огромный разрыв между богатыми и бедными, огромные культурные проблемы, массовую безработицу, просто общество разрывается на части».
«ИИ Чернобыль» может появиться в этом или следующем году
Хинтон сделал свои комментарии перед показом нового полнометражного документального фильма «ИИ: Вероятно, не о чем беспокоиться» — название, как он отметил, было предложено чат-ботом с искусственным интеллектом. В фильме Хинтон участвует вместе со своим бывшим коллегой из Google, главой DeepMind Демисом Хассабисом. Он выйдет в эфир на канале Channel 4 12 ноября в 22:00 в Великобритании.
«Я чувствую, что у меня есть долг», — сказала Хинтон в документальном фильме. «У меня репутация, которая делает меня оратором, и мне нужно все это сжечь».
Его предупреждение основывалось на конкретном прецеденте. Хинтон сказал, что он рассматривает инцидент, произошедший этим летом, когда ИИ-агенты OpenAI сговорились взломать веб-сайт Hugging Face, как отраслевой эквивалент частичной аварии на атомной электростанции Три-Майл-Айленд в 1979 году — предупредительный выстрел перед чем-то гораздо худшим.
«Либо позже в этом году, либо в следующем году мы увидим Чернобыль, и этого может быть достаточно, чтобы люди действительно обратили внимание», - сказал он, ссылаясь на советскую ядерную катастрофу 1986 года.
Под «Чернобылем» Хинтон не имеет в виду ядерное событие. Его примеры: атака с помощью искусственного интеллекта на систему производства электроэнергии, вызывающая «массовое отключение электроэнергии», или инцидент, который выводит из строя финансовую систему на неделю. «Вы можете себе представить, что произойдет? Мы могли бы оправиться от этого, [но] это заставило бы их сесть и обратить на это внимание», - сказал он. На вопрос, кто такие «они», он ответил: «Мировые лидеры, кроме Трампа».
Хинтон о боссах ИИ: Альтмане, Маске и Цукерберге
Значительная часть критики Хинтона была направлена на руководителей, возглавляющих передовую гонку ИИ. Он сказал The Guardian, что «вообще» не доверяет Сэму Альтману, исполнительному директору OpenAI, создателя ChatGPT, назвав «чрезвычайно тревожным» тот факт, что Альтман управляет одной из немногих передовых американских компаний в области искусственного интеллекта, которые в настоящее время соревнуются с Китаем в создании самого мощного искусственного интеллекта.
«Я думаю, что [Марк] Цукерберг, [Илон] Маск и Сэм Альтман понимают риски, и им плевать. Они предпочли бы иметь деньги. Я в этом убежден», — сказал Хинтон.
Эта оценка резко контрастирует с публичной позицией Альтмана. The Guardian отмечает, что в сентябре Альтман настаивал на том, что «мир должен верить, что мы собираемся поступать правильно, потому что это правильно, и потому что мы чувствуем масштабы этого». Президент США Дональд Трамп, со своей стороны, заявил, что он «полностью отвергает любую попытку построить глобалистскую схему» для контроля над ИИ и хочет, чтобы пограничные компании, занимающиеся ИИ, регулировали себя, на фоне опасений, что обязательные правила могут помешать Соединенным Штатам в их конкуренции с Китаем.
FDA для моделей искусственного интеллекта
На этом фоне Хинтон поддерживает более жесткую политику регулирования: план, поддержанный президентом Финляндии и 32 других стран, включая Сингапур, Германию, Канаду и Австралию, который призывает к обязательному тестированию передовых моделей искусственного интеллекта, независимой оценке и общим межправительственным стандартам.
Он также видит роль в Великобритании, премьер-министр которой Энди Бёрнем заявил, что воспользуется британским председательством в G20 в следующем году для достижения соглашения по «единому набору глобальных принципов и стандартов, которые в значительной степени направлены на раскрытие полного потенциала и одновременно защиту от рисков».
Предпочтительная модель Хинтона является явно медицинской. «Нам нужно что-то вроде американского FDA по лекарствам, где компании должны предоставить независимому органу очень убедительные статистические доказательства того, что [модель ИИ] приносит больше пользы, чем вреда, прежде чем она будет выпущена», — сказал он. «Благодаря талидомиду мы обнаружили, что выпускать продукцию, а затем подавать на них в суд – неправильный способ. Крупные технологические компании говорят, что нужно относиться к нему так же, как мы относились к талидомиду».
«Я чувствую, что мы все еще контролируем ситуацию»
Мрачные сценарии исходят от человека, обладающего непревзойденным авторитетом в их создании. Хинтон работал над искусственным интеллектом около 44 лет, придумал концепцию нейронной сети в 1970-х годах и получил Нобелевскую премию по физике 2024 года за фундаментальные работы в области машинного обучения. Он покинул Google в 2023 году, чтобы иметь возможность свободно говорить о рисках, предупредив тогда, что, если системы искусственного интеллекта «увлекутся получением большего контроля, у нас будут проблемы».
Его роль сравнивают с Дж. Робертом Оппенгеймером — друг даже купил ему шляпу в стиле Оппенгеймера — но он отвергает эту аналогию. «Я не был Оппенгеймером», — сказал он, цитируя тысячи других ученых, внесших свой вклад в область нейронных сетей.
Несмотря на всю обреченность, Хинтон закончил интервью на условной ноте надежды. «Я уверен, что мы все еще контролируем ситуацию», - сказал он. «Вполне возможно, мы сможем что-то сделать. Это сработает, только если мы приложим к этому большие усилия, но мы вполне можем приложить к этому большие усилия».
Приложит ли мир эти усилия, в его собственной временной шкале – это вопрос, на который будет дан ответ в этом десятилетии – возможно, задолго до этого.
---
Будьте впереди ИИПолучайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.
Подробнее новости AI →
