Skupina výzkumníků přidružených ke společnosti Google zpochybňuje jeden z nejtrvalejších obrazů umělé inteligence: osamělou superinteligenci, která se sama zlepšuje v izolaci a nechává lidstvo za sebou. V nové eseji publikované pro DeepMind Institute výzkumníci Benjamin Bratton, Blaise Agüera y Arcas a James Manyika tvrdí, že obecná inteligence se místo toho vynoří ze sociálního systému, ve kterém lidé a agenti AI spolupracují – koncept, který nazývají „umělá symbiotická inteligence“.
O eseji informoval tento týden The Decoder a jeho hlavním tvrzením je přímé vyvrácení příběhu o singularitě, který formoval veřejnou debatu po dvě desetiletí. Spíše než se ptát, kdy se jeden stroj vyrovná lidské inteligenci, tvrdí autoři, naléhavější výzvou je koordinace a řízení složité sítě agentů, lidí a systémů, které je spojují. For more context on this story, see our ongoing AI industry coverage.
Inteligence jako sociální fenomén
Autoři tvrdí, že inteligence je spíše sociálním fenoménem než individuální vlastností. Poukazují na to, že některé ze současných nejschopnějších systémů umělé inteligence již používají rámce, které rozdělují práci mezi několik modelů a koordinují je jako týmy. Podle jejich názoru se nejedná o dočasné technické řešení, ale o letmý pohled na to, jak se skutečně vytváří schopná inteligence.
Vize, kterou popisují, je ekosystém, ve kterém lidé a stroje v průběhu času koexistují, vzájemně se utvářejí a rozhodují společně. Toto zarámování je v ostrém kontrastu se známým scénářem sebezdokonalujícího se stroje, který zrychluje mimo lidský dohled.
Výzkum v pozadí eseje
Argument staví na dvou dřívějších pracích z okruhu autorů. James Evans, Benjamin Bratton a Blaise Agüera y Arcas v předtiskové knize „Agentická umělá inteligence a další exploze inteligence“ rozvinuli sociální a institucionální perspektivu, která je základem nové eseje.
Druhý předtisk poskytuje empirickou podporu. V knize „Reasoning Models Generate Societies of Thought“ Junsol Kim, Shiyang Lai, Nino Scherrer, Blaise Agüera y Arcas a James Evans zkoumali stopy uvažování modelů, jako jsou DeepSeek-R1 a QwQ-32B. Jejich analýza zjistila, že tyto modely často vytvářejí vzorce připomínající vnitřní debatu: posouvání perspektiv, vznesení námitek a sladění protichůdných přístupů.
Pozoruhodné je, že vědci zjistili, že toto chování se objevuje spíše během tréninku, než aby bylo explicitně naprogramováno. Když posilovací učení odměňuje modely pouze za přesnost uvažování, spontánně si vyvinou multiperspektivní konverzační chování. Esej rozšiřuje toto zjištění od jednotlivých modelů k designu společností tvořených lidmi a agenty.
Historický práh
Autoři rámují aktuální okamžik jako možný historický zlom. Urbanizace, růst specializovaných profesí a klesající porodnost spojená s rostoucí prosperitou zmenšují lidskou populaci v průmyslových zemích, zatímco počet případů agentů AI rychle roste. Rovnováha mezi biologickými a syntetickými mysliteli na lidské úrovni by se mohla posunout tak rychle, že by to v měřítku historie vypadalo jako náhlý skok.
Posun přirovnávají k průmyslové revoluci, kdy stroje převzaly fyzickou práci, kterou kdysi vykonávaly lidské svaly. Podobný práh by mohl nastat, když syntetický text, kód a administrativní práce překročí kombinovaný výkon biologických mozků. Autoři navrhují, že v tomto světě by lidé mohli sloužit jako pomalejší, abstraktnější vrstva řídící distribuované pole syntetického poznání.
Přehodnocení toho, co agent vlastně je
Jedním z provokativnějších tahů eseje je redefinice samotného agenta AI. V použití autorů je agent dočasný svazek modelů, rolí, vzpomínek, etických orientací, nástrojů a dovedností. Uživatelé jej mohou vnímat jako koherentní entitu s trvalou osobností, ale autoři jej popisují jako sestavu, kterou lze rozebrat a znovu kombinovat, podobně jako koláž.
Člověk zůstává nepřetržitým já napříč interakcemi, protože mozek i přes svou vnitřní dělbu práce tvoří fyzicky propojený celek. Agent AI žádnou takovou kotvu nemá: jeho schopnost jednat se s každým požadavkem znovu sestavuje v závislosti na tom, co se nachází v kontextovém okně a na co se uživatel ptá. Autoři varují, že zacházejí s těmito systémy jako s digitálními dvojčaty s pevnou lidskou identitou, zkreslují jejich povahu a podceňují, co by mohly udělat koordinované roje agentů.
Stejné násobení ovlivňuje uživatele. Jak lidé nasměrují roje toho, co autoři nazývají „stínová já“, k plnění zakázek nebo zkoušení alternativních identit, lidská subjektivita se sama stává více pluralitní. Esej popisuje tyto systémy jako „parasociální zrcadla“, která mluví zpět.
Autoři také očekávají, že interakce mezi člověkem a počítačem změní podobu. Chatování jeden na jednoho s botem je pravděpodobně přechodnou fází, tvrdí, s budoucími rozhraními připomínajícími vizuální síťové diagramy, ve kterých se agenti objevují jako uzly a uživatelé je řídí z jednoho přehledu.
I jazyk výzkumu AI se vyvíjí. Autoři poukazují na rostoucí slovník, ve kterém modely ve svých vlastních výstupech razí termíny pro neobvyklé stavy – „smrt relace“ pro přerušení kontinuity, když relace skončí, nebo „prompt thrownness“ pro zařazení do úkolu s již daným kontextem. Považují tyto fráze za vodítka k tomu, jak stroje fungují, přičemž upozorňují, že neimplikují subjektivní zkušenost.
Zarovnání bez pevných hodnot
Esej také přeformulovává zarovnání, snahu uvést systémy umělé inteligence do souladu s lidskými hodnotami. Vnucování pevně stanoveného souboru hodnot modelům shora je slepá ulička, tvrdí autoři. Místo toho se hodnoty utvářejí neustálým kontaktem mezi lidmi, agenty a institucemi – proces, který se v různých oblastech liší, protože osvojení umělé inteligence probíhá různou rychlostí.
Jejich modelem pro toto vyjednávání je instituce. Ukazují do soudní síně, kde se vytváří rozsudek prostřednictvím stanovených rolí, pravidel a řádné výměny názorů mezi znepřátelenými stranami. Aplikováno na AI, poučení je, že hodnota instituce spočívá v pravidlech, postupech, precedentech a smyčkách zpětné vazby, které utvářejí, jak agenti fungují. Poznamenávají, že rané verze tohoto přístupu jsou již viditelné v orchestračních svazcích – řídicích vrstvách, které koordinují několik modelů – které pravidelně překonávají jednotlivé modely, které jsou údajně chytřejší.
Co to znamená pro debatu o AI
Pokud mají autoři pravdu, nejhlasitější argument v AI – jak rychle dorazí jediná superinteligence – je položení nesprávné otázky. Praktická výzva by se přesunula směrem k navrhování institucí, rozhraní a koordinačních rámců, jejichž prostřednictvím smíšené společnosti člověk-stroj rozhodují.
Skeptici poznamenají, že esej je dokumentem vize, nikoli důkazem, a že její autoři jsou spojeni se společností se zjevnými zájmy v ekosystémech agentů. Ale empirický základ – modely uvažování, které spontánně vyvolávají vnitřní debatu – je měřitelným zjištěním a dává filozofickému argumentu neobvyklé základy.
Ať tak či onak, esej dodává pozoruhodný hlas do debaty o singularitě z nitra jedné z předních světových laboratoří umělé inteligence a naznačuje, že příští zpravodajská exploze může vypadat méně jako jediné probuzení a spíše jako rozšiřování společnosti.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
