회사는 2026년 3월에 자동 모드의 테스트 버전을 처음 공개했으며, 이를 에이전트 코딩 중 속도와 제어의 균형을 맞추는 방법으로 소개했습니다. AI 도구가 소프트웨어 개발을 어떻게 재구성하는지에 대한 더 넓은 맥락을 보려면 최신 AI 개발을 참조하세요.
자동 모드 작동 방식
Claude Code가 자동 모드에서 작동하면 더 이상 모든 단계에서 사람의 승인을 요청하는 메시지가 표시되지 않습니다. 대신 에이전트는 작업이 "되돌릴 수 없거나, 파괴적이거나, 환경 외부를 목표로 하는" 것으로 판단되지 않는 한 자체적으로 진행합니다.
즉, 일상적인 편집, 파일 작업 및 명령줄 작업이 중단 없이 진행되는 동시에 시스템은 데이터 삭제, 파괴적인 명령 실행 또는 개발자의 로컬 설정을 넘어서는 시스템에 접근하는 등 실제 손상을 일으킬 수 있는 작업이 발생하기 전에 일시 중지되도록 설계되었습니다.
Anthropic은 사람들이 실제로 도구를 사용하는 방식에 대한 실용적인 대응으로 변화를 구성했습니다.
결정 뒤에 숨은 데이터
Anthropic의 발표에서 가장 눈에 띄는 세부 사항은 회사가 1,053명의 유료 테스터를 대상으로 실시한 연구입니다. 회사에 따르면 자동 모드에서는 유해한 행위 중 89%를 포착한 반면, 사람이 직접 검토하는 경우에는 13.6%만 포착했습니다.
Anthropic은 반복적인 코딩 세션 동안 인간의 경계심이 빠르게 저하된다는 설명을 제시했습니다. 회사는 Claude Code에서 사용자가 권한 프롬프트의 약 97%를 승인한다고 밝혔습니다. 즉, 프롬프트는 의미 있는 안전 확인이 아니라 고무 도장이 되었다는 의미입니다.
"수동 검토가 습관화되면 더 이상 안전 장치가 되지 않습니다"라고 회사의 조사 결과는 암시되었습니다. 개발자가 "예"를 100번 클릭하도록 의존하는 대신 결정론적 규칙으로 안전 경계를 자동화함으로써 실제로 위험을 줄일 수 있다고 Anthropic은 주장합니다.
새로운 안전 가드레일
Anthropic은 기본 스위치 외에도 Claude Code에 다음과 같은 새로운 안전 기능을 추가했다고 말했습니다.
- 코드나 문서에 포함된 악의적인 지시를 통해 에이전트를 조작하려는 시도를 탐지하도록 설계된 신속한 주입 스크리닝입니다.
- 사용자 정의 가능한 하드 거부 규칙을 통해 조직은 데이터 유출이나 민감한 디렉터리에 쓰기 등 특정 범주의 작업을 완전히 차단할 수 있습니다.
이러한 제어는 자동 모드에서도 상담원이 재정의할 수 없는 확고한 경계를 팀이 설정할 수 있는 방법을 제공하기 위한 것입니다.
에이전트 코딩에 대한 베팅
Claude Code 책임자 Boris Cherny는 X의 게시물에서 팀이 몇 달 동안 자동 모드만 사용해 왔다고 말했습니다. 그는 "허가 요청으로 돌아가는 것을 상상할 수 없었다"고 썼다.
기본 변경 사항은 AI 에이전트가 최소한의 작업으로 다단계 작업을 처리하는 소프트웨어 개발의 미래가 에이전트라는 업계의 폭넓은 판단을 반영합니다. OpenAI, Meta 등은 모두 같은 방향으로 나아가 리포지토리와 터미널 내에서 보다 자율적으로 작동하도록 설계된 코딩 에이전트를 구축했습니다.
자동 모드를 기본값으로 설정하는 것은 해당 베팅의 의미 있는 확대입니다. 이는 개인 개발자와 대기업 팀에 걸쳐 있는 인구 집단인 Anthropic의 유료 고객을 위한 자율 운영을 사전 동의 실험에서 표준 경험으로 이동시킵니다.
점점 더 치열해지는 경쟁 환경
Anthropic은 코딩 에이전트를 더 큰 자율성으로 추진하는 데 혼자가 아닙니다. Meta는 최근 대규모 저장소의 터미널에서 작동하도록 설계된 AI 코딩 에이전트인 Muse Code를 출시했습니다. OpenAI와 여러 스타트업에서는 사람의 개입을 줄이면서 에이전트가 코드를 읽고, 편집하고, 실행할 수 있도록 하는 유사한 도구를 구축했습니다. 공유되는 궤적은 분명합니다. 업계는 자동 완성 스타일 지원에서 개발자를 대신하여 의미 있는 조치를 취할 수 있는 시스템으로 전환하고 있습니다.
Anthropic의 움직임을 차별화하는 것은 자율성을 선택이 아닌 기본값으로 설정하려는 의지입니다. 대부분의 경쟁 도구는 여전히 사용자가 대부분의 무간섭 모드를 적극적으로 활성화하도록 요구합니다. 모든 유료 계정에 대한 스위치를 전환함으로써 Anthropic은 자사의 가드레일이 기본적으로 신뢰할 수 있을 만큼 강력하다는 자신감 있는 주장을 하고 있으며 실제 데이터를 수집하여 해당 주장을 대규모로 입증하거나 반증하고 있습니다.
신뢰 질문
이러한 변화는 또한 개발자들이 얼마나 많은 감독을 기꺼이 양보할 의향이 있는지에 대한 의문을 제기합니다. Anthropic의 데이터에 따르면 자동화된 가드레일은 사람이 습관적으로 검토하는 것보다 성능이 뛰어납니다. 비평가들은 기본값이 행동을 형성하며, 자율성을 가정하는 기본값은 팀이 완전히 고려하지 못한 위험 수준을 조용히 정상화할 수 있다고 경고했습니다.
Anthropic의 반론은 거의 모든 사람이 무시하는 권한 프롬프트인 대안이 명확하고 시행 가능한 규칙을 갖춘 자동화 시스템보다 더 나쁜 보안 극장이라는 것입니다.
현재 회사는 기계에 돈을 투자하고 있습니다. 8월 14일부터 Claude Code는 지친 개발자의 반사적인 클릭에 대해 자체 판단을 신뢰하게 됩니다.
AI보다 앞서 나가세요
최신 AI 산업 소식을 받아보세요 →AI 코딩 도구는 빠르게 발전하고 있습니다. AI 뉴스 자세히 보기 →
