Група дослідників, пов’язаних із Google, кидає виклик одному з найбільш стійких образів штучного інтелекту: самотньому суперінтелекту, який самовдосконалюється в ізоляції та залишає позаду людство. У новому есе, опублікованому для Інституту DeepMind, дослідники Бенджамін Бреттон, Блейз Агуера і Аркас і Джеймс Маніка стверджують, що загальний інтелект виникне із соціальної системи, в якій люди та агенти ШІ працюють разом — концепція, яку вони називають «штучним симбіотичним інтелектом».
Про це есе повідомило цього тижня видання The Decoder, і його основне твердження — це пряме спростування наративу сингулярності, який формував суспільні дебати протягом двох десятиліть. Замість того, щоб запитувати, коли одна машина буде відповідати людському інтелекту, автори стверджують, що більш актуальною проблемою є координація та управління складною мережею агентів, людей і систем, які їх з’єднують. For more context on this story, see our ongoing AI trends.
Інтелект як соціальний феномен
Автори стверджують, що інтелект - це соціальний феномен, а не індивідуальна риса. Вони зазначають, що деякі з найпотужніших сучасних систем ШІ вже використовують фреймворки, які розподіляють роботу між декількома моделями та координують їх як команди. На їхню думку, це не тимчасовий інженерний обхідний шлях, а уявлення про те, як насправді створюється потужний інтелект.
Бачення, яке вони описують, — це екосистема, в якій люди та машини співіснують з часом, формують одне одного та приймають рішення разом. Таке обрамлення різко контрастує зі знайомим сценарієм самовдосконалюючої машини, яка прискорюється за межами людського контролю.
Дослідження за есе
Аргумент базується на двох попередніх статтях із кола авторів. У препринті «Агентський штучний інтелект і наступний вибух інтелекту» Джеймс Еванс, Бенджамін Бреттон і Блез Агуера-і-Аркас розвинули соціальну та інституційну перспективу, яка лежить в основі нового есе.
Другий препринт надає емпіричну підтримку. У статті «Моделі міркування створюють суспільства думки» Джунсол Кім, Шіянг Лай, Ніно Шеррер, Блез Агуера й Аркас і Джеймс Еванс досліджували сліди міркування таких моделей, як DeepSeek-R1 і QwQ-32B. Їхній аналіз виявив, що ці моделі часто створюють шаблони, схожі на внутрішні дебати: зміна перспектив, висування заперечень і узгодження суперечливих підходів.
Примітно, що дослідники виявили, що ця поведінка виникає під час навчання, а не явно запрограмована. Коли навчання з підкріпленням винагороджує моделі лише за точність міркувань, вони спонтанно розвивають мультиперспективну розмовну поведінку. Це есе поширює цей висновок від індивідуальних моделей до дизайну суспільств, що складаються з людей і агентів.
Історичний поріг
Нинішній момент автори розглядають як можливий історичний злам. Урбанізація, зростання спеціалізованих професій і падіння народжуваності, пов’язане зі зростанням добробуту, призводять до скорочення людського населення в індустріально розвинутих країнах, тоді як кількість агентів ШІ швидко зростає. Баланс між біологічними та синтетичними мислителями на людському рівні може змінитися настільки швидко, що в масштабах історії це буде виглядати як раптовий стрибок.
Вони порівнюють цей зсув із промисловою революцією, коли машини взяли на себе фізичну роботу, яку колись виконували людські м’язи. Подібний поріг може бути досягнутий, коли синтетичний текст, код і адміністративна робота перевищать сумарну продуктивність біологічного мозку. Автори припускають, що в цьому світі люди можуть служити більш повільним, більш абстрактним шаром, керуючим розподіленим полем синтетичного пізнання.
Переосмислення того, що таке агент насправді
Одним із найбільш провокаційних кроків есе є його перевизначення самого агента ШІ. За визначенням авторів, агент — це тимчасовий набір моделей, ролей, спогадів, етичних орієнтацій, інструментів і навичок. Користувачі можуть сприймати його як цілісну сутність із довгостроковою індивідуальністю, але автори описують його як збірку, яку можна розібрати та повторно об’єднати, подібно до колажу.
Людина залишається безперервним «я» у взаємодіях, оскільки мозок, незважаючи на внутрішній розподіл праці, утворює фізично пов’язане ціле. Агент AI не має такого якоря: його здатність діяти збирається заново з кожним запитом, залежно від того, що знаходиться в контекстному вікні та що запитує користувач. Розглядаючи ці системи як цифрових близнюків із фіксованою людською ідентичністю, попереджають автори, вони спотворюють їхню природу та недооцінюють те, що можуть зробити скоординовані зграї агентів.
Те саме множення впливає на користувачів. Оскільки люди спрямовують зграї тих, кого автори називають «тіньовими Я», виконувати контракти або приміряти альтернативні ідентичності, сама людська суб’єктивність стає більш множинною. У есе ці системи описуються як «парасоціальні дзеркала», які відповідають.
Автори також очікують, що взаємодія людини та комп’ютера змінить форму. Спілкування один на один з ботом, ймовірно, є перехідним етапом, стверджують вони, з майбутніми інтерфейсами, схожими на візуальні діаграми мережі, на яких агенти відображаються як вузли, а користувачі керують ними з єдиного огляду.
Навіть мова досліджень ШІ розвивається. Автори вказують на зростаючий словниковий запас, у якому моделі створюють терміни для незвичайних станів у своїх власних результатах — «смерть сеансу» для перерви в безперервності після завершення сеансу або «підказка» для потрапляння в завдання з уже наявним контекстом. Вони сприймають ці фрази як підказки до того, як працюють машини, але застерігають, що вони не передбачають суб’єктивного досвіду.
Вирівнювання без фіксованих значень
Есе також переосмислює вирівнювання, намагання привести системи ШІ у відповідність до людських цінностей. Нав’язування моделям фіксованого набору значень зверху – це глухий кут, стверджують автори. Натомість цінності формуються через постійні контакти між людьми, агентами та установами — процес, який відрізняється в різних галузях, оскільки впровадження ШІ відбувається з різною швидкістю.
Їх моделлю для таких переговорів є інституція. Вони вказують на зал суду, де суд виноситься через встановлені ролі, правила та впорядкований обмін між протилежними сторонами. Застосовуючи ШІ, урок полягає в тому, що цінність установи полягає в правилах, процедурах, прецедентах і циклах зворотного зв’язку, які визначають роботу агентів. Вони зазначають, що ранні версії цього підходу вже помітні в системах оркестровки — рівнях керування, які координують декілька моделей — які регулярно перевершують окремі моделі, які нібито розумніші.
Що це означає для дебатів щодо ШІ
Якщо автори праві, найгучнішим аргументом у ШІ — як швидко прибуде окремий суперінтелект — є неправильне запитання. Практичний виклик перемістився б у бік проектування інституцій, інтерфейсів і координаційних структур, за допомогою яких людино-машинні суспільства приймають рішення.
Скептики зауважать, що це есе є баченням, а не доказом, і що його автори пов’язані з компанією, яка має очевидні інтереси в екосистемах агентів. Але емпіричне підґрунтя — моделі міркувань, які спонтанно породжують внутрішні дебати — є знахідкою, яку можна виміряти, і вона надає філософському аргументу незвичайне підґрунтя.
У будь-якому випадку, есе додає помітний голос до дебатів про сингулярність всередині однієї з провідних світових лабораторій штучного інтелекту та припускає, що наступний вибух інтелекту може виглядати не так як одноразове пробудження, а більше як розширення суспільства.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
