Группа исследователей, связанных с Google, бросает вызов одному из самых устойчивых представлений об искусственном интеллекте: одинокому сверхинтеллекту, который совершенствуется в изоляции и оставляет человечество позади. В новом эссе, опубликованном для Института DeepMind, исследователи Бенджамин Брэттон, Блез Агуэра-и-Аркас и Джеймс Маньика утверждают, что вместо этого общий интеллект возникнет из социальной системы, в которой люди и агенты ИИ работают вместе — концепция, которую они называют «искусственным симбиотическим интеллектом».
Об этом эссе было опубликовано на этой неделе изданием The Decoder, и его основное утверждение является прямым опровержением нарратива о сингулярности, который формировал общественные дебаты на протяжении двух десятилетий. Авторы утверждают, что вместо того, чтобы задаваться вопросом, когда одна машина сможет сравниться с человеческим интеллектом, более актуальной проблемой является координация и управление сложной сетью агентов, людей и систем, которые их соединяют. Подробнее об этой истории — в нашем последние разработки в ИИ.
Интеллект как социальный феномен
Авторы утверждают, что интеллект — это социальное явление, а не индивидуальная черта. Они отмечают, что некоторые из наиболее эффективных на сегодняшний день систем искусственного интеллекта уже используют структуры, которые разделяют работу между несколькими моделями и координируют их как команды. По их мнению, это не временное инженерное решение, а проблеск того, как на самом деле создается способный интеллект.
Они описывают концепцию экосистемы, в которой люди и машины сосуществуют во времени, формируют друг друга и вместе принимают решения. Эта концепция резко контрастирует со знакомым сценарием самосовершенствующейся машины, которая ускоряется за пределами человеческого контроля.
Исследование, лежащее в основе эссе
Этот аргумент основан на двух более ранних статьях из круга авторов. В препринте «Агентный ИИ и следующий взрыв интеллекта» Джеймс Эванс, Бенджамин Браттон и Блез Агуэра-и-Аркас разработали социальную и институциональную точку зрения, лежащую в основе нового эссе.
Второй препринт обеспечивает эмпирическую поддержку. В книге «Модели рассуждения порождают общества мысли» Юнсол Ким, Шиянг Лай, Нино Шеррер, Блез Агуэра-и-Аркас и Джеймс Эванс исследовали следы рассуждения таких моделей, как DeepSeek-R1 и QwQ-32B. Их анализ показал, что эти модели часто создают модели, напоминающие внутренние дебаты: изменение точек зрения, выдвижение возражений и примирение противоречивых подходов.
Примечательно, что исследователи обнаружили, что такое поведение возникает во время обучения, а не запрограммировано явно. Когда обучение с подкреплением вознаграждает модели только за точность рассуждений, они спонтанно развивают многоаспектное разговорное поведение. Эссе расширяет этот вывод от индивидуальных моделей до проектирования обществ, состоящих из людей и агентов.
Исторический порог
Авторы рассматривают текущий момент как возможный исторический перелом. Урбанизация, рост специализированных профессий и падение рождаемости, связанное с ростом благосостояния, приводят к сокращению населения в промышленно развитых странах, в то время как количество экземпляров агентов ИИ быстро растет. Баланс между биологическими и синтетическими мыслителями на человеческом уровне может измениться настолько быстро, что в масштабах истории это будет выглядеть как внезапный скачок.
Они сравнивают этот сдвиг с промышленной революцией, когда машины взяли на себя физическую работу, когда-то выполняемую человеческими мышцами. Аналогичный порог может возникнуть, когда синтетический текст, код и административная работа превысят совокупную производительность биологического мозга. В этом мире, предполагают авторы, люди могут выступать в качестве более медленного и абстрактного слоя, управляющего распределенным полем синтетического познания.
Переосмысление того, что на самом деле представляет собой агент
Одним из наиболее провокационных ходов эссе является новое определение самого агента ИИ. В понимании авторов агент — это временный набор моделей, ролей, воспоминаний, этических ориентаций, инструментов и навыков. Пользователи могут воспринимать его как единое целое с устойчивой индивидуальностью, но авторы описывают его как сборку, которую можно разобрать и объединить заново, подобно коллажу.
Человек остается непрерывным «я» во всех взаимодействиях, поскольку мозг, несмотря на внутреннее разделение труда, образует физически связанное целое. У ИИ-агента такого якоря нет: его способность действовать собирается заново с каждым запросом, в зависимости от того, что находится в контекстном окне и что спрашивает пользователь. Авторы предупреждают, что отношение к этим системам как к цифровым двойникам с фиксированной человеческой идентичностью искажает их природу и недооценивает возможности скоординированных роев агентов.
То же самое умножение влияет на пользователей. По мере того, как люди направляют стаи тех, кого авторы называют «теневыми личностями», для выполнения контрактов или примерки альтернативных идентичностей, сама человеческая субъективность становится более множественной. В эссе эти системы описываются как «парасоциальные зеркала», которые отвечают друг другу.
Авторы также ожидают, что взаимодействие человека и компьютера изменит форму. Общение с ботом один на один, скорее всего, является переходным этапом, утверждают они, поскольку будущие интерфейсы будут напоминать визуальные сетевые диаграммы, в которых агенты выступают в качестве узлов, а пользователи управляют ими из единого обзора.
Даже язык исследований ИИ развивается. Авторы указывают на растущий словарный запас, в котором модели используют термины для необычных состояний в своих собственных выходных данных — «смерть сеанса» для разрыва непрерывности, когда сеанс заканчивается, или «быстрое бросание» для перехода к задаче с уже имеющимся контекстом. Они рассматривают эти фразы как ключ к пониманию того, как работают машины, предупреждая при этом, что они не подразумевают субъективный опыт.
Выравнивание без фиксированных значений
В эссе также переосмысливается стремление привести системы искусственного интеллекта в соответствие с человеческими ценностями. Навязывание модели сверху фиксированного набора ценностей — это тупик, утверждают авторы. Вместо этого ценности формируются посредством постоянного контакта между людьми, агентами и учреждениями — процесс, который различается в разных областях, поскольку внедрение ИИ происходит с разной скоростью.
Их моделью для этих переговоров является институт. Они указывают на зал суда, где решение выносится посредством установленных ролей, правил и упорядоченного обмена мнениями между противоборствующими сторонами. Применительно к ИИ урок заключается в том, что ценность учреждения заключается в правилах, процедурах, прецедентах и циклах обратной связи, которые определяют, как действуют агенты. Они отмечают, что ранние версии этого подхода уже видны в средствах оркестрации — уровнях управления, которые координируют несколько моделей — которые регулярно превосходят отдельные модели, которые предположительно более умны.
Что это значит для дебатов об искусственном интеллекте
Если авторы правы, то самый громкий аргумент в области ИИ — насколько быстро появится единственный сверхразум — задает неправильный вопрос. Практическая задача сместится в сторону разработки институтов, интерфейсов и механизмов координации, посредством которых смешанные человеко-машинные общества принимают решения.
Скептики заметят, что эссе является документом видения, а не доказательством, и что его авторы связаны с компанией с очевидным интересом к агентским экосистемам. Но эмпирическая основа — модели рассуждения, которые спонтанно порождают внутренние дебаты — является измеримым открытием, и оно придает философскому аргументу необычное обоснование.
В любом случае, эссе добавляет заметный голос к дебатам о сингулярности внутри одной из ведущих мировых лабораторий искусственного интеллекта и предполагает, что следующий интеллектуальный взрыв может выглядеть не как единое пробуждение, а скорее как расширение общества.
---
Будьте в курсе ИИПоследние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.
Читать больше новостей об ИИ →
