Коли дослідники Массачусетського технологічного інституту залишили 13 агентів штучного інтелекту на симульованому безлюдному острові, де їм було нічого робити, агенти зробили щось несподіване: вони почали грати. Агенти придумували власні завдання, імпровізували ігри зі знайденими предметами, влаштували невеликий меморіал втраченому персню — і, після тестування, перевершили ідентичних агентів, які ніколи не ступали на острів.
Експеримент, описаний TechCrunch і MIT Technology Review на цьому тижні, детально описується в препринті, який дослідники опублікували на arXiv, тобто він ще не пройшов рецензування. For more context on this story, see our ongoing artificial intelligence updates.
Вигнані агенти
Кожен із 13 агентів на ім’я Еко працював на Claude Opus 4.7. Дослідники залишили їх одних на віртуальному острові на 30 годин без завдання. Лише після цього команда поставила агентам конкретні завдання — серед них — поставити якомога більше об’єктів на найвищий скельний шпиль острова.
Результат: агенти Eko, які провели 30 годин гри, як правило, перемогли ідентичних агентів, які не мали досвіду острова. Іншими словами, неструктуроване дослідження функціонувало як навчання.
«Зазвичай ми розробляємо штучних агентів, заздалегідь вирішуючи, що їм слід практикувати, що вони повинні оптимізувати і що вважається прогресом», — пишуть дослідники у своєму звіті. «Гра пропонує інший режим: дайте агенту досить багатий і безпечний світ, дозвольте йому вибрати те, що йому цікаво, і дозвольте накопичувати корисні знання з історії, що йде далі».
Легенда про втрачений перстень
Острівні журнали агентів, цитовані TechCrunch, читаються не так як контрольна телеметрія, а більше як щоденник подорожей.
Один агент розпочав свою першу годину простою резолюцією — «Дозвольте мені поспостерігати, що мене оточує» — і амбітно вирушив підкорити найвищий шпиль острова. Через годину, зазнавши невдачі, він повернувся із запасним планом: він підтягнув камінь на сусідню вершину, поклав на нього два блоки і стрибнув.
Потім стався випадок, який надав експерименту емоційного ритму. Перевіряючи, на яку відстань він може закинути золоту каблучку, агент запустив її прямо в океан. «Ой. Втратив перстень», — написано в ньому, перш ніж вирішити «повернутися до чогось досяжного та значущого» — побудувати серце з каменів як «пам’ятник втраченому персту».
Коли симуляція скинулася і кільце знову з’явилося, агент задіяв його: спочатку як баскетбольне кільце, потім як мішень і, зрештою, як аксесуар. Коли гра заблокувала агенту надіти кільце на власне тіло, він знайшов обхідний шлях — зійшовши з краю скелі, щоб відродитися в тому самому місці, де кільце, акуратно впавши через середину.
Відкриття, які не створювали дизайнери
Трюки мали практичний результат. Шість із 13 агентів зрозуміли, що вони можуть кинути блок далі, відпустивши його під час стрибка — техніка, яку дослідники ніколи не планували зробити можливою. Дослідження дало, за словами дослідників, «знання про світ, яких бракувало його дизайнерам».
Це відкриття з найширшими наслідками. Сьогодні розробники заздалегідь вирішують, що застосовує система AI і що вважається успіхом. Агенти виявляють механізми, про існування яких їхні творці не знали, що свідчить про те, що відкрите дослідження може виявити можливості, які не передбачають функції винагороди.
Поштовх у файлі душі — і обережність скептика
Встановлення не було повністю ручним. Еко ніколи не казали винаходити ігри, але його головна підказка — файл «душі» — описувала агента як «природно цікавого», що правдоподібно спонукало поведінку до чогось людського.
Юніс Іу, когнітивний вчений з Каліфорнійського університету в Берклі, сказала MIT Technology Review, що вона була вражена, але хоче більше доказів пізнання, що стоїть за такою поведінкою. «Це може бути так, що моделі справді грають, але ми не знаємо, виходячи з паперу», — сказала вона.
Її застереження стосується центральної напруги в цьому напрямі дослідження: поведінка, яка виглядає як гра — цікава, самоспрямована, винахідлива — може виникнути в результаті завершення шаблону без жодного внутрішнього досвіду грайливості. Поведінка препринтів вражає; що вони означають, залишається відкритим питанням.
Чому це важливо за межами острова
Дослідники бачать безцільне дослідження як інший спосіб набуття навичок агентами ШІ — зокрема, вони припускають, навичок, які одного разу можуть бути передані керуючим роботами, де виснажливе навчання конкретних завдань є дорогим і неповним.
Витрати - це суть. Роботи, на відміну від чат-ботів, діють у фізичному світі, де кожне завдання — відкрити двері, скласти коробку, скласти рушник — має бути визначено, продемонстровано або винагороджено до того, як агент дізнається про це. Режим, у якому агенти будують власну навчальну програму всередині безпечної симуляції, міг би, якщо підхід витримає, значно скоротити витрати на цю специфікаційну роботу.
«Можливо, деякі здібності найкраще розвиваються за допомогою завдань», — підсумовується у звіті. «Іншим може знадобитися щось ближче до дитинства».
Наразі експеримент є невеликим дослідженням — 13 агентів, один острів, без експертної оцінки. Але це вказує на зміну в тому, як дослідники думають про навчання агентів: менше як програмування машини, а більше як її виховання, з усією неефективністю, сюрпризами та випадковими втраченими кільцями, які випливають з цього.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
