Sakana AI와 UC Berkeley의 연구원들은 자체 다중 에이전트 팀에서 구성, 판단 및 학습을 통해 언어 모델이 자체적으로 개선될 수 있는 방법을 발표했습니다. 이 접근 방식은 반복적인 자기 개선을 자동 답안이 존재하지 않는 연구 작업으로 확장하는 접근 방식입니다.
"MASS: 다중 에이전트 자체 감독을 통한 재귀적 자기 개선"이라는 논문은 2026년 10월 arXiv(2610.12176)에 도쿄 기반 연구소의 대화형 프로젝트 페이지와 함께 게재되었습니다. 저자 목록은 두 기관 모두에 걸쳐 있습니다. Sakana AI에서 인턴십 기간 동안 작업을 완료한 UC Berkeley의 이현인; Sakana 연구원 Jinglue Xu, Jeffrey Seely 및 Yujin Tang; UC Berkeley의 이동현, Somayeh Sojoudi 및 Matei Zaharia. 이 이야기에 대한 자세한 내용은 AI 뉴스를 참조하세요.
이 작업은 주말 동안 개발자 커뮤니티에서 즉각적인 관심을 끌었으며, 프로젝트에 대한 Hacker News 토론은 몇 시간 만에 100점을 넘었습니다.
모델이 유일한 감독자일 때
자체 개선 AI의 가장 최근 발전은 검증 가능한 보상, 즉 확인할 수 있는 수학 답, 테스트를 통과하거나 통과하지 못하는 코드에 의존해 왔습니다. Berkeley-Sakana 팀은 다른 전제에서 시작합니다. 연구 최전선에서는 근거가 없는 경우가 많다고 그들은 주장합니다. 제안된 발견을 평가하려면 제안 자체를 생성하는 것보다 훨씬 오래 걸리는 부족한 전문 지식, 값비싼 장비 또는 실험이 필요할 수 있습니다.
그 결과 격차가 더욱 벌어지게 됩니다. 새로운 작품을 생산하는 능력이 그것을 감독하는 능력보다 더 빠르게 발전하고 있습니다. 더 강력한 교사가 없을 때 저자는 개선되는 모델, 즉 "최적화자"라고 부르는 모델이 가장 유능한 감독자가 될 수 있다고 썼습니다. 이는 동일한 모델이 자체 최적화 도구 및 평가자 역할을 하는 동질적 재귀적 자기 개선이라는 용어에 동기를 부여합니다.
열린 질문은 시스템이 해당 루프에서 자체적으로 유용한 훈련 신호를 생성할 수 있는 방법입니다. 그들의 대답은 인류 역사에서 빌려온 것입니다.
MASS의 작동 원리
MASS(Multi-Agent Self-Supervision)는 하나의 공유 모델을 3가지 역할 시스템으로 전환합니다. 동일한 가중치는 코드, 결과 및 연구 보고서의 작업 공간을 생성하는 작업 해결 에이전트 역할을 합니다. 하위 에이전트 팀이 작업을 분할하는 방법을 수정하는 워크플로 최적화 프로그램 두 작업 공간을 비교하는 평가자와 과제를 더 잘 만족시키는 사람을 판단합니다.
내부 루프는 팀 워크플로(각 하위 에이전트의 역할, 해당 지침, 에이전트가 서로 전달해야 하는 증거를 지정하는 "계약", 호출 순서 또는 그들 사이의 홉 순서를 포함하는 서면 계획)를 검색합니다. 챔피언 워크플로는 반복 전반에 걸쳐 유지되며 교체하려면 패배해야 합니다. 논문에 요약된 하나의 진화된 재무 워크플로우, 시퀀스 데이터 준비, 기능 구성, 모델링 및 감사 전 백테스팅과 데이터 계약으로 인해 데이터 전문가는 백테스트가 과거 결정에 미래 정보를 유출할 수 없었는지 확인해야 합니다.
그런 다음 외부 루프는 팀의 집단 경험을 교육 데이터로 변환합니다. 시스템은 챔피언 워크플로를 18번 실행하고, 결과 작업 영역의 순위를 자체적으로 매기고, 최고의 16개 실행을 유지하고, 공유 모델을 미세 조정합니다. 나중에 워크플로 프롬프트 자체가 제거되므로 조정 기술은 지침이 아닌 가중치로 전달됩니다. 그러면 업데이트된 모델이 세 가지 역할을 모두 재개하고 프로세스가 반복됩니다.
검증할 수 없는 작업에서 측정 가능한 이득
팀은 qwen-code 코딩 에이전트 환경에서 Qwen3.6-27B부터 시작하여 두 번의 완전한 MASS 라운드를 실행했습니다. 교육장은 금융, 로봇공학, 약학을 포괄하는 12가지 종합 연구 과제로 구성되었으며 각 과제에는 코드, 정량적 결과 및 서면 보고서가 필요했습니다. 9개 작업이 훈련용으로 지정되었고 3개 작업은 훈련 후 보류되었습니다. 작업 설명은 실험 전에 GPT-5.5에 의해 생성되었습니다.
세 가지 보류 테스트 작업에서 기본 버전에 대한 모델의 외부 평가 승률은 한 라운드 후 53.9%에서 두 라운드 후 69.9%로 증가했습니다. 2라운드 모델도 60.8%의 비교에서 1라운드 모델을 앞질렀다. 훈련 중에 사용된 것과 동일한 기준으로 채점하는 것을 피하기 위해 연구원들은 GPT-5.5와 Claude Opus 4.8이 완성된 작업을 평가하도록 했으며 이러한 판단은 MASS 자체에서 보류되었습니다.
품질과 함께 효율성도 향상되었습니다. 두 라운드 후에 출력 토큰당 점수는 MLR-Bench, DSBench, ScienceAgentBench 및 AstaBench의 4개 공개 벤치마크에서 기본 모델 수준의 1.2~1.6배에 도달했습니다.
단순한 기능 데모가 아닌 안전 문제
저자는 이 설정이 안전 프로브 역할을 한다는 점을 명시적으로 밝혔습니다. 자동화된 연구 시스템이 자체 기능을 복합화할 수 있다면 엄청난 개선을 가져오는 조건을 조기에 이해해야 합니다. 이 논문은 정보 폭발의 전망이 "이러한 조건을 조기에 연구해야 할 추가 이유를 제공합니다"라고 언급하며 더 강력한 감독자가 없을 때 의미 있는 감독을 유지하는 방법에 대한 핵심 질문을 구성합니다.
이 출판물은 정확한 위험에 대한 논쟁이 심화되는 가운데 이루어졌습니다. 9월 말, 제프리 힌튼(Geoffrey Hinton), 요슈아 벤지오(Yoshua Bengio) 및 기타 주요 과학자들은 폭주하는 지능 폭발 가능성에 대해 공개 경고를 발표했으며, 과학 작업을 수행하는 에이전트 시스템에 대한 연구가 현장 전반에 걸쳐 가속화되었습니다.
염두에 두어야 할 제한 사항
결과에는 저자가 인정한 경고 사항이 있습니다. 합성 세트는 작고 모든 훈련 신호가 자체 생성됩니다. 즉, 모델 자체 판단의 정확성은 설계상 알 수 없습니다. 외부 판단은 훈련이 아닌 측정에만 사용됩니다. 워크플로 검색이 참조를 능가하는 워크플로를 찾지 못한 후 하나의 교육 작업이 제외되었습니다. 이는 루프가 항상 이득을 생성하는 것은 아니라는 점을 상기시켜 줍니다. 그리고 외부 평가 자체는 지상 진실에 대한 불완전한 프록시인 프론티어 모델에 의존했습니다.
다음에 나올 내용
Sakana AI의 경우 MASS는 연구 주장을 확인하기 위한 AI 기반 실험 생성 및 에이전트 검토 시스템에 대한 연구실의 초기 작업에 이어 과학적 프로세스 자체를 자동화하는 데 초점을 맞춘 연구 의제를 확장합니다. 집단적 자기 감독 방식이 합성 작업을 넘어서는 경우, 그것이 목표로 하는 병목 현상(최초의 AI 출력 감독)은 자동화된 연구 시스템이 증가함에 따라 더욱 시급해질 것입니다.
---
AI 최신 소식최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.
AI 뉴스 더 보기 →
