MIT 연구원들이 시뮬레이션된 무인도에 13명의 AI 에이전트를 고립시켰을 때 에이전트는 예상치 못한 일을 했습니다. 즉, 게임을 시작했습니다. 에이전트는 자신만의 도전 과제를 고안하고, 발견한 물건으로 즉석 게임을 만들고, 잃어버린 반지를 위한 작은 기념관을 마련했으며, 이후 테스트에서 섬에 한 번도 발을 디딘 적이 없는 동일한 에이전트보다 뛰어난 성능을 보였습니다.

이번 주 TechCrunch와 MIT Technology Review에서 설명한 이 실험은 연구원들이 arXiv에 게시한 사전 인쇄본에 자세히 설명되어 있습니다. 이는 아직 동료 검토를 거치지 않았음을 의미합니다. 이 이야기에 대한 자세한 내용은 AI 뉴스를 참조하세요.

고립된 요원

Eko라고 불리는 13개의 에이전트는 각각 Claude Opus 4.7에서 실행되었습니다. 연구원들은 그들을 가상섬에 30시간 동안 아무런 임무도 부여하지 않고 혼자 남겨두었습니다. 그 후에야 팀은 요원들에게 구체적인 과제를 제시했습니다. 그 중에는 섬에서 가장 높은 바위 첨탑에 최대한 많은 물체를 올려놓는 것이었습니다.

결과: 30시간 동안 플레이한 Eko 에이전트가 일반적으로 섬 경험이 없는 동일한 에이전트를 이겼습니다. 비구조화된 탐구, 즉 훈련의 기능을 한 것이다.

연구원들은 보고서에서 "우리는 일반적으로 무엇을 연습해야 하는지, 무엇을 최적화해야 하는지, 무엇이 진전으로 간주되는지 미리 결정하여 인공 에이전트를 개발합니다."라고 썼습니다. "플레이는 또 다른 체제를 제안합니다. 즉, 에이전트에게 충분히 풍부하고 안전한 세계를 제공하고, 흥미로운 것을 선택하게 하며, 이어지는 역사에서 유용한 지식이 축적되도록 허용하는 것입니다."

잃어버린 반지의 전설

TechCrunch에서 인용한 에이전트의 섬 로그는 벤치마크 원격 측정보다는 여행 일기와 비슷합니다.

한 요원은 "주변을 관찰하겠습니다"라는 간단한 결심으로 첫 시간을 열고 섬에서 가장 높은 첨탑을 정복하기 위해 야심차게 나섰습니다. 한 시간 후 실패하고 백업 계획을 가지고 돌아왔습니다. 즉, 인근 정상에 바위를 끌어 올리고 그 위에 두 개의 블록을 쌓은 다음 뛰어오르는 것이었습니다.

그런 다음 실험에 감정적인 박자를 부여한 사건이 발생했습니다. 금반지를 얼마나 멀리 던질 수 있는지 테스트하는 동안 요원은 그것을 바다로 곧장 발사했습니다. "아야. 반지를 잃어버렸어요." "달성 가능하고 의미 있는 일로 전환"하기로 결정하기 전에 썼습니다. "잃어버린 반지를 기념하는 기념물"로 돌로 심장을 만드는 것입니다.

시뮬레이션이 재설정되고 링이 다시 나타났을 때 에이전트는 링을 처음에는 농구 골대, 다음에는 타겟, 최종적으로는 액세서리로 작동시켰습니다. 게임에서 에이전트가 자신의 몸 주위에 링을 두는 것을 차단했을 때 에이전트는 해결 방법을 찾았습니다. 즉, 절벽 가장자리에서 내려와 링과 같은 지점에서 다시 생성되고 중앙을 통해 깔끔하게 떨어지는 것입니다.

디자이너가 만들지 않은 발견

스턴트는 실질적인 보상을 받았습니다. 13명의 요원 중 6명은 점프 중간에 블록을 놓아 블록을 더 멀리 던질 수 있다는 사실을 알아냈습니다. 이는 연구원들이 결코 가능하게 만들려고 의도한 적이 없는 기술이었습니다. 연구원의 말에 따르면 탐험은 "디자이너가 부족했던 세계에 대한 지식"을 만들어 냈습니다.

이는 가장 광범위한 의미를 지닌 발견이다. 오늘날 개발자들은 AI 시스템이 실행하는 것과 성공으로 간주되는 것을 미리 결정합니다. 자신의 제작자가 존재하지 않았던 메커니즘을 발견한 에이전트는 개방형 탐색이 예상했던 보상 기능이 없는 기능을 표면화할 수 있음을 시사합니다.

영혼 파일에 대한 넛지 — 그리고 회의론자의 경고

설정이 완전히 손을 떼지 않았습니다. Eko는 게임을 만들라는 지시를 받은 적이 없지만, "영혼" 파일인 마스터 프롬프트에서는 에이전트가 "자연스럽게 호기심이 많다"고 설명했습니다.

UC Berkeley의 인지 과학자인 Eunice Yiu는 MIT Technology Review에 깊은 인상을 받았지만 행동 뒤에 숨어 있는 인지에 대한 더 많은 증거를 원한다고 말했습니다. “모델들이 실제로 연기를 하고 있는 경우일 수도 있지만, 논문에 따르면 알 수 없습니다.”라고 그녀는 말했습니다.

그녀의 경고는 이 연구 분야의 중심 긴장에 관한 것입니다. 즉, 놀이처럼 보이는 행동(호기심, 자기주도적, 창의적)은 장난기에 대한 내적 경험 없이도 패턴 완성에서 나타날 수 있습니다. 프리프린트의 행동은 놀랍습니다. 그들이 의미하는 바는 여전히 공개된 질문입니다.

섬 너머가 중요한 이유

연구원들은 목표 없는 탐색을 AI 에이전트가 기술을 습득하는 다른 방법으로 보고 있습니다. 특히 철저한 작업별 교육이 비용이 많이 들고 불완전한 제어 로봇으로 언젠가 이전될 수 있는 기술을 제안합니다.

비용이 포인트입니다. 로봇은 챗봇과 달리 문 열기, 상자 쌓기, 수건 접기 등 모든 작업이 에이전트가 학습하기 전에 지정, 시연 또는 보상되어야 하는 물리적 세계에서 행동합니다. 에이전트가 안전한 시뮬레이션 내에서 자체 커리큘럼을 구축하는 체제는 접근 방식이 유지된다면 해당 사양 작업 비용을 상당히 절감할 수 있습니다.

보고서는 "아마도 일부 기능은 작업을 통해 가장 잘 배울 수 있습니다"라고 결론지었습니다. "다른 사람들에게는 어린 시절에 가까운 것이 필요할 수도 있습니다."

현재 실험은 소규모 연구입니다. 13명의 에이전트, 1개의 섬, 동료 검토는 없습니다. 그러나 이는 연구자들이 훈련 에이전트에 대해 생각하는 방식의 변화를 암시합니다. 즉, 기계를 프로그래밍하는 것이 아니라 기계를 키우는 것과 비슷하며 모든 비효율성, 놀라움 및 때때로 잃어버린 고리가 있음을 의미합니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →