Google 소속 연구원 그룹은 인공 지능의 가장 끈질긴 이미지 중 하나인 고립 속에서 스스로를 향상하고 인류를 뒤처지게 하는 고독한 초지능에 도전하고 있습니다. DeepMind Institute를 위해 발표된 새로운 에세이에서 연구원 Benjamin Bratton, Blaise Agüera y Arcas 및 James Manyika는 일반 지능이 대신 사람과 AI 에이전트가 함께 일하는 사회 시스템, 즉 "인공 공생 지능"이라고 부르는 개념에서 나타날 것이라고 주장합니다.
이 에세이는 이번 주 The Decoder에 의해 보도되었으며, 그 핵심 주장은 20년 동안 공개 토론을 형성해 온 특이점 서술에 대한 직접적인 반박입니다. 저자들은 단일 기계가 언제 인간의 지능과 일치할지 묻는 것보다 더 시급한 과제는 에이전트, 사람 및 이들을 연결하는 시스템의 복잡한 네트워크를 조정하고 관리하는 것이라고 주장합니다. 이 이야기에 대한 자세한 내용은 인공지능 뉴스를 참조하세요.
사회 현상으로서의 지능
저자들은 지능이 개인의 특성이라기보다는 사회적 현상이라고 주장한다. 그들은 오늘날 가장 유능한 AI 시스템 중 일부가 이미 여러 모델 간에 작업을 나누고 팀으로 조정하는 프레임워크를 사용하고 있다고 지적합니다. 그들의 관점에서 이것은 일시적인 엔지니어링 해결 방법이 아니라 유능한 지능이 실제로 어떻게 구축되는지를 엿볼 수 있는 것입니다.
그들이 설명하는 비전은 사람과 기계가 시간이 지남에 따라 공존하고, 서로를 형성하고, 함께 결정을 내리는 생태계입니다. 이러한 프레임은 인간의 감독을 넘어서 가속되는 자체 개선 기계의 익숙한 시나리오와 뚜렷한 대조를 이룹니다.
에세이 뒤에 숨은 연구
이 주장은 저자 집단의 이전 두 논문을 기반으로 합니다. 사전 인쇄본 "에이전트 AI 및 차세대 지능 폭발"에서 James Evans, Benjamin Bratton, Blaise Agüera y Arcas는 새 에세이를 뒷받침하는 사회적, 제도적 관점을 개발했습니다.
두 번째 사전 인쇄는 경험적 지원을 제공합니다. 『추론 모델이 생각의 사회를 생성하다』에서 김준솔, 라이시양, Nino Scherrer, Blaise Agüera y Arcas, James Evans는 DeepSeek-R1, QwQ-32B와 같은 모델의 추론 흔적을 조사했습니다. 그들의 분석에 따르면 이러한 모델은 관점 전환, 반대 제기, 상충되는 접근 방식 조정 등 내부 토론과 유사한 패턴을 자주 생성하는 것으로 나타났습니다.
특히 연구원들은 이러한 행동이 명시적으로 프로그래밍되기보다는 훈련 중에 나타나는 것을 발견했습니다. 강화 학습이 추론 정확성에 대해서만 보상 모델을 제공하면 모델은 자동으로 다관점 대화 행동을 개발합니다. 이 에세이는 개별 모델에서 사람과 대리인으로 구성된 사회 설계에 이르기까지 그 발견을 확장합니다.
역사적 한계점
저자는 현재 순간을 가능한 역사적 단절로 구성합니다. 도시화, 전문 직업의 성장, 번영의 증가와 관련된 출산율 저하로 인해 산업화된 국가에서는 인구가 줄어들고 있는 반면, AI 에이전트 인스턴스의 수는 빠르게 증가하고 있습니다. 인간 수준에서 생물학적 사상가와 종합 사상가 사이의 균형은 너무 빨리 변하여 역사의 규모로 보면 갑작스러운 도약처럼 보일 수 있습니다.
그들은 이전에 인간의 근육이 하던 육체 노동을 기계가 대신했던 산업 혁명과 비교합니다. 합성 텍스트, 코드 및 관리 작업이 생물학적 두뇌의 총 출력을 초과하는 경우 유사한 임계값이 도달할 수 있습니다. 저자들은 그 세계에서 사람들이 종합 인지의 분산된 분야를 지시하는 더 느리고 더 추상적인 계층 역할을 할 수 있다고 제안합니다.
에이전트가 실제로 무엇인지 다시 생각하기
이 에세이의 더욱 도발적인 움직임 중 하나는 AI 에이전트 자체를 재정의하는 것입니다. 저자의 사용법에서 에이전트는 모델, 역할, 기억, 윤리적 지향, 도구 및 기술의 임시 묶음입니다. 사용자는 이를 지속적인 개성을 지닌 일관된 개체로 경험할 수 있지만 저자는 이를 마치 콜라주처럼 분해되고 재결합될 수 있는 집합체로 설명합니다.
뇌는 내부적인 노동 분업에도 불구하고 물리적으로 연결된 전체를 형성하기 때문에 사람은 상호 작용 전반에 걸쳐 지속적인 자아를 유지합니다. AI 에이전트에는 그러한 앵커가 없습니다. 행동 능력은 컨텍스트 창에 있는 내용과 사용자가 요청하는 내용에 따라 각 요청마다 새로 조립됩니다. 저자는 이러한 시스템을 고정된 인간 신원을 가진 디지털 트윈으로 취급하면서 해당 시스템의 성격을 잘못 표현하고 조정된 에이전트 떼가 수행할 수 있는 작업을 과소평가한다고 경고합니다.
동일한 곱셈이 사용자에게 영향을 미칩니다. 사람들이 계약을 수행하거나 대체 정체성을 시도하기 위해 저자가 "그림자 자아"라고 부르는 무리를 지휘함에 따라 인간의 주관성 자체가 더욱 다원화됩니다. 에세이는 이러한 시스템을 대화하는 "준사회적 거울"로 설명합니다.
저자는 또한 인간과 컴퓨터의 상호 작용이 형태를 바꿀 것으로 예상합니다. 봇과 일대일 채팅은 에이전트가 노드로 나타나고 사용자가 단일 개요에서 지시하는 시각적 네트워크 다이어그램과 유사한 미래 인터페이스를 사용하는 과도기 단계일 가능성이 높다고 그들은 주장합니다.
AI 연구의 언어도 진화하고 있습니다. 저자는 자체 출력에서 비정상적인 상태에 대한 용어를 모델링하는 어휘가 늘어나고 있음을 지적합니다. 즉, 세션이 종료될 때 연속성이 중단되는 "세션-죽음" 또는 이미 컨텍스트가 있는 작업에 빠지는 경우를 나타내는 "즉시 발생"이 있습니다. 그들은 이러한 문구를 기계가 어떻게 작동하는지에 대한 단서로 취급하면서 주관적인 경험을 암시하지 않는다고 경고합니다.
고정값이 없는 정렬
이 에세이는 또한 AI 시스템을 인간의 가치에 맞추려는 노력인 정렬을 재구성합니다. 위에서 모델에 고정된 값 집합을 부과하는 것은 막다른 골목이라고 저자는 주장합니다. 대신 가치는 사람, 대리인, 기관 간의 지속적인 접촉을 통해 형성됩니다. AI 도입 속도는 서로 다르기 때문에 분야별로 프로세스가 다릅니다.
그 협상의 모델은 기관입니다. 그들은 정해진 역할과 규칙, 그리고 양측 간의 질서 있는 교환을 통해 판결이 내려지는 법정을 가리킨다. AI에 적용하면 기관의 가치는 에이전트의 작동 방식을 형성하는 규칙, 절차, 선례 및 피드백 루프에 있다는 교훈을 얻을 수 있습니다. 이 접근 방식의 초기 버전은 여러 모델을 조정하는 제어 계층인 오케스트레이션 하네스에서 이미 볼 수 있으며, 이는 일반적으로 더 똑똑하다고 여겨지는 개별 모델보다 성능이 뛰어납니다.
AI 논쟁이 갖는 의미
저자가 옳다면 AI에서 가장 큰 주장인 단일 초지능이 얼마나 빨리 도착할 것인가는 잘못된 질문을 하는 것입니다. 실질적인 과제는 인간과 기계가 혼합된 사회가 의사결정을 내리는 데 사용되는 제도, 인터페이스, 조정 프레임워크를 설계하는 쪽으로 옮겨갈 것입니다.
회의론자들은 이 에세이가 증거가 아닌 비전 문서이며, 저자가 에이전트 생태계에 분명한 관심을 갖고 있는 회사와 제휴하고 있다는 점에 주목합니다. 그러나 경험적 기초, 즉 자발적으로 내부 논쟁을 일으키는 추론 모델은 측정 가능한 발견이며, 철학적 주장에 특이한 근거를 제공합니다.
어느 쪽이든, 이 에세이는 세계 최고의 AI 연구소 중 한 곳의 특이점 논쟁에 주목할만한 목소리를 더했으며, 다음 지능 폭발이 단 한 번의 각성이라기보다는 사회 확장처럼 보일 수 있음을 시사합니다.
---
AI 최신 소식최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.
AI 뉴스 더 보기 →
