Kiedy badacze z MIT utknęli 13 agentów AI na symulowanej bezludnej wyspie, którzy nie mieli nic do roboty, agenci zrobili coś nieoczekiwanego: zaczęli grać. Agenci wymyślali własne wyzwania, improwizowali gry ze znalezionymi przedmiotami, zorganizowali mały pomnik upamiętniający zagubiony pierścionek, a po późniejszych testach osiągnęli lepsze wyniki niż identyczni agenci, którzy nigdy nie postawili stopy na wyspie.

Eksperyment, opisany w tym tygodniu przez TechCrunch i MIT Technology Review, jest szczegółowo opisany w przedruku wstępnym, który badacze opublikowali w serwisie arXiv, co oznacza, że ​​nie przeszedł jeszcze recenzji. Więcej kontekstu na ten temat znajdziesz w naszych wiadomości AI.

Porzuceni agenci

Każdy z 13 agentów, zwanych Eko, działał na Claude Opus 4.7. Naukowcy zostawili ich samych na wirtualnej wyspie na 30 godzin, bez przydzielonego zadania. Dopiero potem zespół postawił agentom konkretne wyzwania — między innymi przeniesienie jak największej liczby obiektów na najwyższą skalną iglicę na wyspie.

Wynik: agenci Eko, którzy spędzili 30 godzin na grze, zazwyczaj pokonywali identycznych agentów, którzy nie mieli żadnego doświadczenia na wyspach. Inaczej mówiąc, eksploracja nieustrukturyzowana pełniła funkcję szkoleniową.

„Zwykle opracowujemy sztuczne agenty, decydując z wyprzedzeniem, co powinni praktykować, co optymalizować i co liczy się jako postęp” – napisali naukowcy w swoim raporcie. „Gra sugeruje inny reżim: daj agentowi wystarczająco bogaty i bezpieczny świat, pozwól mu wybrać to, co interesujące i pozwól na gromadzenie przydatnej wiedzy z dalszej historii”.

Legenda o zaginionym pierścieniu

Dzienniki wysp agentów, cytowane przez TechCrunch, nie przypominają telemetrii porównawczej, a bardziej dziennik podróży.

Jeden z agentów rozpoczął swoją pierwszą godzinę prostym postanowieniem — „Pozwól mi obserwować otoczenie” — i ambitnie wyruszył na podbój najwyższej iglicy wyspy. Godzinę później, po niepowodzeniu, powrócił z planem awaryjnym: wciągnął kamień na sąsiedni szczyt, ułożył na nim dwa bloki i skoczył.

Potem nastąpił incydent, który nadał eksperymentowi emocjonalny charakter. Testując, jak daleko może rzucić złoty pierścień, agent wyrzucił go prosto do oceanu. „Och. Zgubiłem Pierścień” – napisano, zanim zdecydował się „zająć się czymś osiągalnym i znaczącym” – zbudowaniem serca z kamieni jako „pomnika utraconego Pierścienia”.

Kiedy symulacja została zresetowana i pierścień pojawił się ponownie, agent zaczął go używać: najpierw jako obręcz do koszykówki, potem jako cel, a ostatecznie jako dodatek. Kiedy gra uniemożliwiała agentowi założenie pierścienia na własne ciało, znalazła obejście — zeszła z krawędzi klifu, aby odrodzić się w tym samym miejscu co pierścień, po czym zgrabnie spadła przez środek.

Odkrycia, których nie zbudowali projektanci

Wyczyny kaskaderskie przyniosły praktyczną korzyść. Sześciu z 13 agentów zorientowało się, że mogą rzucić klocek dalej, puszczając go w trakcie skoku – jest to technika, której naukowcy nigdy nie mieli zamiaru wprowadzić. Eksploracja zaowocowała, jak twierdzą badacze, „wiedzą o świecie, której brakowało projektantom”.

Jest to odkrycie o najszerszych implikacjach. Obecnie programiści z góry decydują, jakie praktyki ma system AI i co liczy się jako sukces. Agenci odkrywający mechaniki, o których istnieniu nie mieli pojęcia ich twórcy, sugerują, że otwarta eksploracja może ujawnić możliwości, których nie przewiduje się jako nagrody.

Szturchnięcie w akta duszy — i przestroga sceptyka

Konfiguracja nie była całkowicie bezobsługowa. Eko nigdy nie kazano wymyślać gier, ale główna wskazówka – plik „duszy” – opisywała agenta jako „naturalnie ciekawego”, co w przekonujący sposób nakierowało jego zachowanie na coś podobnego do ludzkiego.

Eunice Yiu, badaczka kognitywistyki na Uniwersytecie Kalifornijskim w Berkeley, powiedziała MIT Technology Review, że była pod wrażeniem, ale potrzebuje więcej dowodów na to, co kryje się za tym zachowaniem. „Możliwe, że modelki rzeczywiście się bawią, ale z gazet nie możemy tego stwierdzić” – stwierdziła.

Jej zastrzeżenie dotyczy głównego napięcia w tym nurcie badań: zachowanie przypominające zabawę – ciekawość, samokierowanie, pomysłowość – może wyłonić się z uzupełnienia wzorca bez wewnętrznego doświadczenia zabawy. Zachowanie przeddruku jest uderzające; to, co one oznaczają, jest wciąż kwestią otwartą.

Dlaczego to ma znaczenie poza wyspą

Badacze postrzegają eksplorację bezcelową jako inny sposób nabywania umiejętności przez agentów AI – w szczególności, jak sugerują, umiejętności, które pewnego dnia mogą zostać wykorzystane w sterowaniu robotami, gdzie wyczerpujące szkolenie dotyczące konkretnych zadań jest drogie i niekompletne.

Najważniejszy jest wydatek. Roboty, w przeciwieństwie do chatbotów, działają w świecie fizycznym, gdzie każde zadanie – otwieranie drzwi, układanie pudeł, składanie ręcznika – musi zostać określone, zademonstrowane i nagrodzone, zanim agent się tego nauczy. System, w którym agenci tworzą własny program nauczania w ramach bezpiecznej symulacji, mógłby, jeśli podejście się sprawdzi, znacznie obniżyć koszty prac związanych ze specyfikacją.

„Być może niektórych umiejętności najlepiej uczyć się poprzez zadania” – podsumowuje raport. „Inni mogą potrzebować czegoś bliższego dzieciństwu”.

Na razie eksperyment jest niewielkim badaniem — 13 agentów, jedna wyspa, bez wzajemnej oceny. Wskazuje to jednak na zmianę sposobu, w jaki badacze myślą o szkoleniu agentów: mniej jak programowanie maszyny, a bardziej jej budowanie, z całą nieefektywnością, niespodziankami i okazjonalnymi zagubionymi pierścieniami.

---

Bądź na Bieżąco z AI

Najnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.

Czytaj więcej wiadomości AI →