Джеффри Хинтон, нобелевский лауреат, широко известный как «Крестный отец искусственного интеллекта», на этой неделе сделал одно из своих самых резких предупреждений американским законодателям: у Конгресса есть примерно год, чтобы принять значимые меры защиты искусственного интеллекта, прежде чем технология выйдет из-под контроля человека. По сообщению NBC News, британско-канадский ученый-компьютерщик сделал это заявление 16 сентября на закрытом брифинге в Сенате на Капитолийском холме.

«Может быть, год, но не намного больше года», - сказал Хинтон залу законодателей, согласно отчету NBC о встрече. Согласно многочисленным отчетам о сессии, брифинг был организован сенатором Берни Сандерсом, в нем также приняли участие физик Массачусетского технологического института Макс Тегмарк, соучредитель Института будущего жизни, и исследователь безопасности искусственного интеллекта Аджея Котра.

Суть предупреждения: ИИ, создающий ИИ

Аргументы Хинтона были сосредоточены на конкретной технической вехе, а не на отдаленной гипотезе. «ИИ сейчас достиг той точки, когда ИИ разрабатывает более совершенный ИИ», — сказал он, согласно отчетам брифинга. «Это называется рекурсивным самосовершенствованием… оно выйдет из-под контроля, если мы что-нибудь не предпримем».

Он также сообщил законодателям, что экспертные сроки создания сверхинтеллекта за последнее десятилетие рухнули. «Если вы посмотрите на прогнозы о том, когда мы получим сверхразум, то раньше это было, может быть, 30 лет, может быть, 50 лет», — сказал Хинтон, согласно NBC News. «Тогда срок сократился до 10, а может и до 20 лет. Теперь люди говорят, что многие исследователи говорят, что всего лишь несколько лет».

Хинтон, почетный профессор Университета Торонто, получивший Нобелевскую премию по физике 2024 года за фундаментальные работы в области нейронных сетей, покинул Google в 2023 году и с тех пор стал самым видным внутренним критиком в этой области, предупреждая, что системы, которые он помогал создавать, могут в конечном итоге перехитрить и вытеснить своих создателей.

Скептицизм по поводу «выключателя»

Даже призывая к быстрому регулированию, Хинтон выразил сомнение по поводу одного из наиболее обсуждаемых предложений: федерального мандата, который позволил бы правительству отключать опасные системы искусственного интеллекта. По сообщению CNN, он заявил законодателям, что такой «выключатель» не продержится в долгосрочной перспективе.

Его скептицизм возник на той же неделе, когда сенатор Рэнд Пол заблокировал ускоренное рассмотрение в Сенате законопроекта о выключателе искусственного интеллекта под руководством республиканцев — эпизод, который показывает, насколько далек от принятия даже минимальный закон об ограждениях. Сенатор Джон Кеннеди от Луизианы, присутствовавший на части брифинга, сказал The Washington Sun, что ему понравилась дискуссия, но он не увидел никаких признаков того, что Сенат будет действовать, добавив, что он ожидает, что следующий шаг будет сделан со стороны Белого дома, указав на сообщение о том, что министр финансов Скотт Бессент настаивает на создании системы безопасности.

Вид через проход был не намного солнечнее. Сенатор от Флориды Рик Скотт заявил в интервью NewsNation, что компаниям необходимо регулировать себя: «Мы не собираемся набраться ума, чтобы их регулировать. Мы не собираемся что-то делать здесь», - сказал он, как сообщает The Washington Sun.

Некоторые демократы придерживались другого направления. Представитель Аризоны Яссамин Ансари, присутствовавший на брифинге, написал на X, что ИИ «может и будет продолжать выходить за рамки человеческого контроля» и что «наше окно для его регулирования быстро исчезает. Мы должны сделать паузу СЕЙЧАС».

Неделя безопасности ИИ

Брифинг завершил бурную дискуссию по управлению ИИ. Несколькими днями ранее генеральный директор Anthropic Дарио Амодей опубликовал эссе, призывающее передовые лаборатории ускорить развитие, предупреждая о рисках, связанных с потерей контроля и биотерроризмом — позиция, публично поддержанная другими руководителями лабораторий, согласно широко распространенным сообщениям. В тот же день, когда Хинтон обращалась к сенаторам, видные исследователи искусственного интеллекта, в том числе Эндрю Нг, публично отвергли опасения по поводу вымирания как преувеличенные, подчеркнув, что область науки публично спорит сама с собой.

На Капитолийском холме активность была более шумной, чем на выходе. Сенатор Кори Букер призвал президента Трампа созвать специальную сессию Конгресса по искусственному интеллекту, а двухпартийная группа по решению проблем объявила на этой неделе о создании новой рабочей группы по искусственному интеллекту и новым технологиям. Ничто из этого еще не привело к появлению обязательного федерального закона.

Почему важен срок в один год

Предупреждения о сроках от пионеров искусственного интеллекта стали обычным явлением, но специфика графика Хинтона — донесения непосредственно людям, имеющим полномочия принимать законы, в комнате, закрытой для руководителей отрасли, — знаменует собой изменение тона. Предыдущие предупреждения исследователей обычно прогнозировали риск на горизонте десятилетий; Окно в один год подразумевает политические меры, разработанные для текущего Конгресса, а не для будущих.

Это также обостряет политическую проблему. Как показывают скептицизм самого Хинтона и процедурный блок сенатора Пола, даже среди тех, кто заботится о безопасности, нет единого мнения о том, какое вмешательство будет эффективным. Хинтон утверждает, что международная ситуация – особенно конкуренция с Китаем – делает одностороннее замедление темпов экономического роста политически хрупким, и эта напряженность до сих пор блокировала самые серьезные предложения.

То, что произойдет дальше, по собственным часам Хинтона, является вопросом месяцев. Изменит ли брифинг эти расчеты, зависит от Сената, который, по словам его собственных членов, в настоящее время вообще не двигается с места.

Будьте впереди ИИ

Политика в области ИИ развивается быстро, как и все остальное в этой области. Чтобы получить больше последних новостей об искусственном интеллекте, обновлений регулирования и анализа, [читайте больше новостей об искусственном интеллекте →] (https://aibuzzwire.news/en).

---

Будьте в курсе ИИ

Последние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.

Читать больше новостей об ИИ →