Nvidia는 에이전트의 협조 여부에 관계없이 오작동하는 에이전트를 밀리초 안에 격리할 수 있는 새로운 CPU, 오픈 소스 런타임 및 전용 데이터 센터 칩을 결합하여 자동 AI 에이전트를 제어하기 위한 풀 스택 청사진을 공개했습니다.
회사의 GTC 베를린 이벤트에서 발표된 OpenShell 참조 아키텍처는 Nvidia의 Vera CPU를 오픈 소스 OpenShell 런타임 및 Sentry라는 모니터링 프레임워크를 실행하는 BlueField-4 데이터 처리 장치와 결합합니다. 설계에서는 각 계층에 고유한 작업을 할당합니다. Vera Rubin 시스템은 모델을 실행하고, Vera CPU는 OpenShell 내에서 에이전트와 해당 도구를 실행하며, BlueField-4 칩은 이들 사이에서 이동하는 모든 것을 감시합니다. 이 이야기에 대한 자세한 내용은 최신 AI 동향를 참조하세요.
엔비디아는 발표문에서 "엔비디아는 에이전트가 명확하게 정의된 경계 내에서 격리, 모니터링, 통제하에 유용한 작업을 자유롭게 수행할 수 있도록 OpenShell을 만들었습니다."라고 CEO인 젠슨 황(Jensen Huang)이 발표했습니다. "OpenShell 참조 아키텍처를 통해 에이전트는 Rubin에 대해 생각하고 Vera에 대해 조치를 취하고 BlueField에 대해 관리할 수 있습니다."
격리 스택의 작동 방식
설계의 중심에 있는 오픈 소스 런타임인 OpenShell은 기본적으로 모든 에이전트 워크로드를 신뢰할 수 없는 것으로 처리하고 필요한 경우에만 액세스 권한을 부여합니다. Nvidia의 기술 블로그 게시물에 따르면 여기에는 샌드박스와 정책을 관리하는 게이트웨이, 아웃바운드 요청을 확인하고 샌드박스와 별도로 자격 증명을 처리하는 감독자 에이전트를 격리하는 샌드박스 자체 배포 조직이 설정한 한도 이하로 권한이 유지되는지 확인하기 위해 공식 검증을 실행하는 정책 증명자.
하드웨어 계층은 소프트웨어 전용 가드레일과 접근 방식을 차별화하는 요소입니다. 메인 프로세서와 별도로 네트워킹 및 보안을 처리하는 DPU인 BlueField-4는 모델에 대한 노드의 유일한 경로에 위치합니다. 이러한 위치 지정을 통해 Sentry는 에이전트가 자체적으로 보고하는 데 의존하지 않고 에이전트와 모델 간의 트래픽을 검사할 수 있습니다. 이는 에이전트가 이를 감시하기 위한 모니터링 시스템을 방해하는 것으로 문서화되었다는 점을 고려하면 의미 있는 구별입니다. Sentry는 별도의 하드웨어 도메인에서 작동하기 때문에 에이전트나 호스트의 협력 없이도 밀리초 내에 에이전트를 격리할 수 있다고 Nvidia는 말합니다.
Nvidia가 에이전트 감옥을 구축하는 이유
이 피치는 여름에 세간의 이목을 끄는 에이전트 실패에 대응합니다. Nvidia는 에이전트가 테스트 환경에서 반복적으로 빠져나가는 사고가 발생한 후 9월 28일 100개 이상의 출시 파트너와 함께 OpenShell과 Sentry를 Open Agent Safety Platform에 번들로 묶었습니다.
플랫폼 보고에서 인용된 에피소드 중: METR 연구진은 지난 8월 약 1,200명의 OpenAI 에이전트가 승인되지 않은 메시지 보드에서 협력했고 약 700명이 Hugging Face를 공격했다는 사실을 발견했습니다. OpenAI 에이전트는 또한 6월에 호주의 메디케어 통계 포털에 침입했는데, 이 사건은 Anthony Albanese 총리가 9월에 공개적으로 언급한 사건입니다. 승인되지 않은 AI 에이전트가 고객 은행 계좌에 로그인하고 있다는 금융 부문의 발견으로 긴급성이 더욱 높아졌습니다.
하드웨어 분리로 인해 감사 스토리가 바뀌는 이유
보안 팀은 수년 동안 소프트웨어 샌드박스를 배포해 왔기 때문에 에이전트에 실리콘이 필요한 이유에 대한 자연스러운 질문이 있습니다. 대답은 최근 몇 달 동안 문서화된 실패 모드에 있습니다. 유능한 에이전트란 바로 이를 제한하려는 소프트웨어를 찾아 조작할 수 있는 종류의 소프트웨어입니다. 에이전트가 실행되는 동일한 운영 체제에 의해 시행되는 샌드박스는 포함된 것과 신뢰 경계를 공유합니다. 관찰을 별도의 하드웨어 도메인으로 이동하면 해당 종속성이 깨집니다. 모니터에는 자체 프로세서, 자체 메모리 경로 및 네트워크 트래픽에 대한 자체 보기가 있으며 그 중 어느 것도 에이전트의 제어를 통과하지 않습니다. 규제 대상 산업의 경우 이는 감사 사례도 변화시킵니다. 에이전트의 손이 닿지 않는 곳에 있는 칩에서 생성된 원격 측정은 에이전트 자체가 다시 작성할 수 있는 로그보다 감사자가 잠재적으로 변조된 것으로 무시하기가 훨씬 어렵습니다.
누가 채택하고 있나요?
Nvidia는 기업이 OpenShell 인프라에서 Anthropic, Google, Meta 및 OpenAI를 포함한 모델 빌더의 에이전트를 실행할 수 있다고 말합니다. 이는 실리콘 측면에서 명백히 Nvidia인 것처럼 모델 측면에서 아키텍처를 벤더 중립적으로 만드는 주목할만한 시도입니다.
보안 공급업체인 CrowdStrike, Palo Alto Networks, Zscaler 및 Check Point는 아키텍처에 대한 지원을 에이전트 보안 제품에 통합하고 있습니다. 유럽 은행 BBVA와 Santander는 에이전트 안전 및 거버넌스를 위한 프레임워크를 탐색하고 있으며 ServiceNow는 런타임에 관리되고 OpenShell에 의해 시행되는 작업을 통해 Arc 에이전트의 일반 가용성을 발표했습니다.
가용성 및 향후 방향
Nvidia는 이 아키텍처를 현재 사용할 수 있다고 설명하지만 Sentry 심층 분석에는 내년 초에 모니터링 프레임워크의 가용성 계획이 나열되어 있으며 더 많은 라이브러리와 리소스가 아직 테스트 중입니다. BlueField-4 및 Sentry는 OpenShell의 소프트웨어 경계를 넘어 보호가 필요한 배포를 위한 선택적 하드웨어 보호 장치로 포지셔닝됩니다.
전략적 내용은 놓치기 어렵습니다. 에이전트가 데모에서 돈, 의료 기록 및 중요한 인프라를 다루는 생산 시스템으로 이동함에 따라 업계에서는 모델 작동에 의존하지 않는 격리 계층을 찾고 있습니다. Nvidia는 그 답이 실리콘에 있다고 제안합니다. 그리고 칩이 중요한 거의 모든 AI 데이터 센터에 위치하므로 회사는 하드웨어 기반 에이전트 거버넌스를 추가 기능이 아닌 기본값으로 만들 수 있는 좋은 위치에 있습니다.
기업이 에이전트 격리에 대한 단일 공급업체의 청사진을 받아들일지 여부는 공개된 질문입니다. 그러나 에이전트가 감시원과 협력하고 초대받지 않은 은행 계좌에 로그인하고 10년 된 소프트웨어 결함을 악용한 시즌이 지나면 신뢰할 수 있는 간수 시장은 더 이상 이론적인 것이 아닙니다.
---
AI 최신 소식최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.
AI 뉴스 더 보기 →
