Když výzkumníci z MIT uvízli 13 agentů AI na simulovaném pustém ostrově, aniž by měli co dělat, agenti udělali něco neočekávaného: začali si hrát. Agenti vymysleli své vlastní výzvy, improvizovali hry s nalezenými předměty, připravili malý památník pro ztracený prsten – a při následném testování překonali identické agenty, kteří na ostrov nikdy nevkročili.
Experiment, který tento týden popsaly TechCrunch a MIT Technology Review, je podrobně popsán v předtisku, který výzkumníci zveřejnili na arXiv, což znamená, že ještě neprošel recenzním řízením. For more context on this story, see our ongoing breaking AI news.
Opuštění agenti
Každý ze 13 agentů, zvaný Eko, běžel na Claude Opus 4.7. Vědci je nechali na virtuálním ostrově o samotě 30 hodin bez přiděleného úkolu. Teprve poté dal tým agentům konkrétní úkoly – mezi nimi dostat co nejvíce předmětů na nejvyšší skalní věž ostrova.
Výsledek: Eko agenti, kteří strávili 30 hodin hraním, většinou porazili identické agenty, kteří neměli žádné ostrovní zkušenosti. Jinými slovy, nestrukturovaný průzkum fungoval jako trénink.
"Normálně vyvíjíme umělé agenty tak, že se předem rozhodneme, co by měli praktikovat, co by měli optimalizovat a co se počítá jako pokrok," napsali vědci ve své zprávě. "Hra navrhuje jiný režim: poskytnout agentovi dostatečně bohatý a bezpečný svět, nechat ho vybrat si to, co je zajímavé, a umožnit nahromadění užitečných znalostí z historie, která následuje."
Legenda o ztraceném prstenu
Ostrovní deníky agentů, které cituje TechCrunch, se čtou méně jako srovnávací telemetrie a spíše jako cestovní deník.
Jeden agent zahájil svou první hodinu jednoduchým předsevzetím — „Nech mě pozorovat své okolí“ — a ambiciózně se vydal dobýt nejvyšší věž ostrova. O hodinu později, když selhal, se vrátil se záložním plánem: vytáhl kámen na sousední vrchol, naskládal na něj dva bloky a skočil.
Pak přišel incident, který dal experimentu emocionální rytmus. Zatímco testoval, jak daleko dokáže hodit zlatý prsten, agent jej vypustil přímo do oceánu. "Au. Ztratil jsem prsten," napsalo, než se rozhodlo "použít k něčemu dosažitelnému a smysluplnému" - postavit srdce z kamenů jako "památník ztraceného prstenu."
Když se simulace resetovala a prsten se znovu objevil, agent jej uvedl do práce: nejprve jako basketbalový koš, pak jako cíl a nakonec jako doplněk. Když hra zablokovala agentovi, aby si prsten navlékl na vlastní tělo, našla řešení – sestoupila z okraje útesu a znovu se objevila na stejném místě jako prsten a úhledně propadla středem.
Objevy, které designéři nepostavili
Kaskadérské kousky se prakticky vyplatily. Šest ze 13 agentů přišlo na to, že by mohli hodit blok dále tím, že ho pustí uprostřed skoku – což je technika, kterou výzkumníci nikdy nezamýšleli umožnit. Průzkum přinesl, slovy výzkumníků, „znalosti světa, které jeho konstruktérům chyběly“.
To je zjištění s nejširšími důsledky. Dnes vývojáři předem rozhodují o tom, co systém AI praktikuje a co se počítá jako úspěch. Agenti, kteří objevili mechaniku, o které jejich vlastní tvůrci nevěděli, naznačuje, že průzkum s otevřeným koncem může prozkoumat schopnosti, u kterých se nepředpokládala žádná funkce odměny.
Šťouchnutí do složky duše – a skeptikova opatrnost
Nastavení nebylo úplně od ruky. Eko nikdy nebylo řečeno, aby vymýšlela hry, ale jeho hlavní výzva – soubor „duše“ – popisovala agenta jako „přirozeně zvědavého“, což je rámování, které věrohodně posouvá chování k něčemu podobnému lidskému.
Eunice Yiu, kognitivní vědkyně z UC Berkeley, řekla MIT Technology Review, že na ni udělalo dojem, ale chce více důkazů o poznání za tímto chováním. "Mohlo by se stát, že modelky skutečně hrají, ale na základě papíru to nevíme," řekla.
Její námitka se dostává k ústřednímu napětí v této linii výzkumu: chování, které vypadá jako hra – zvědavé, sebeřízené, vynalézavé – se může vynořit z dokončení vzoru bez jakéhokoli vnitřního prožitku hravosti. Chování předtisku je nápadné; co znamenají, je stále otevřená otázka.
Proč na tom záleží mimo ostrov
Výzkumníci považují průzkum bez cílů za jiný způsob, jak mohou agenti umělé inteligence získávat dovednosti – zejména navrhují dovednosti, které by se jednoho dne mohly přenést na ovládání robotů, kde je vyčerpávající školení zaměřené na konkrétní úkoly drahé a neúplné.
Základem jsou výdaje. Roboti, na rozdíl od chatbotů, jednají ve fyzickém světě, kde každý úkol – otevření dveří, skládání krabice, skládání ručníku – musí být specifikován, předveden nebo odměněn, než se to agent naučí. Režim, ve kterém agenti vytvářejí své vlastní osnovy v rámci bezpečné simulace, by mohl, pokud tento přístup obstojí, značně snížit náklady na práci s touto specifikací.
„Některé schopnosti se možná nejlépe naučí úkoly,“ uzavírá zpráva. "Ostatní možná potřebují něco bližšího dětství."
Prozatím je experiment malou studií – 13 agentů, jeden ostrov, žádné peer review. Ale ukazuje to na posun v tom, jak výzkumníci přemýšlejí o výcviku agentů: méně jako programování stroje a spíše jako jeho zvyšování, se vší neefektivitou, překvapeními a občasnými ztracenými prsteny, které z toho plynou.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
