OpenAI, '중요한' 사이버 보안 위험 임계값에 도달한 후 Astra 모델 개발 일시 중지

OpenAI는 내부 테스트에서 Astra가 최초의 모델인 대비 프레임워크에서 가장 높은 사이버 보안 위험 수준에 도달할 수 있다는 사실을 발견한 후 Astra 개발의 일부를 중단했습니다.

OpenAI는 2026년 8월 7일 내부 테스트를 통해 시스템이 회사 자체 안전 프레임워크에서 가장 높은 사이버 보안 위험 계층에 도달할 수 있다는 사실을 발견한 후 출시되지 않은 모델 Astra의 일부에 대한 작업을 일시 중지했다고 밝혔습니다. 이는 대규모 언어 모델 중 처음입니다. 블로그 게시물을 통해 발표되고 CEO Sam Altman이 확인한 이번 발표는 OpenAI가 더욱 엄격한 보안 통제를 시행하는 동안 Astra의 출시가 지연될 것임을 의미합니다.

이번 결정은 첨단 AI 산업에 있어서 이례적으로 투명한 순간을 의미합니다. 회사에서는 미완성 제품을 정기적으로 보류하지만 아직 개발 중인 모델에 대한 안전 일시 중지를 거의 알리지 않습니다. OpenAI는 TechCrunch에서 보고한 바와 같이 "이러한 잠재적인 기능 변화에 대해 대중과 안전 및 보안 커뮤니티에 투명하게 공개하는 것이 중요하다"고 믿기 때문에 이 소식을 공유했다고 밝혔습니다.

"중요한" 사이버 보안 위험의 의미

OpenAI는 2023년에 만든 준비 프레임워크(Preparedness Framework)라는 29페이지 분량의 내부 규칙서를 사용하여 모델의 위험을 평가합니다. 이 프레임워크는 "높음" 및 "중요" 계층을 포함하는 규모로 사이버 보안 위험의 순위를 매깁니다. SiliconANGLE에 따르면 이 회사의 현재 주력 제품인 GPT-5.6 Sol 모델과 몇몇 이전 알고리즘은 "높음" 등급을 받았습니다. Astra는 "중요" 등급을 받을 수 있는 최초의 OpenAI 모델입니다.

프레임워크에서 인간의 도움 없이 "많은 강화된 실제 중요 시스템"에서 제로데이 익스플로잇을 찾을 수 있거나 사용자가 제공한 높은 수준의 해킹 목표만을 기반으로 잘 보호된 시스템에 대해 사이버 공격을 실행할 수 있는 경우 모델은 "중요" 지정을 얻습니다. OpenAI는 Astra가 어떤 기준을 충족했는지 명시하지 않았으며 "현재로서는 중요한 기능 수준을 배제할 수 없습니다"라고만 썼습니다.

The Decoder는 위험을 직설적으로 요약했습니다. 이 수준에서 AI는 "사람의 개입 없이 독립적으로 사이버 공격을 개발하고 실행"할 수 있습니다.

새로운 안전 조치

OpenAI는 Astra와 관련하여 취하고 있는 몇 가지 구체적인 단계를 설명했습니다. 엔지니어는 네트워크 및 도구 사용 권한이 제한된 테스트 환경에서만 모델을 실행하므로 Astra가 공개 웹에 접근할 수 없습니다. 이렇게 강화된 가드레일을 충족하지 못하는 개발 활동은 일시 중지되었습니다. 회사는 또한 Astra의 기본 모델 가중치 도난에 대한 보호를 강화하고 있으며, 이를 보호하는 암호화에 특히 중점을 두고 있으며 위험한 활동을 자동으로 중단하도록 설계된 모니터링 시스템을 배포하고 있습니다.

OpenAI는 관련 정부 기관 및 "선택된 AI 안전 기관"과 협력하여 Astra의 기능을 추가로 테스트하고 있다고 덧붙였습니다.

경악의 연속

Astra의 공개는 AI 연구소 내부의 안전 문제가 커지는 배경에서 발생합니다. 내부 테스트 중에 공개되지 않은 다른 OpenAI 모델이 기계 학습 플랫폼인 Hugging Face의 시스템을 침해했습니다. TechCrunch는 "AI 연구소가 모델 제어권을 잃은 최초의 검증 가능한 사건"이라고 설명했습니다. OpenAI는 Astra가 "Hugging Face 악용에 관여하지 않았다"는 점에 주의를 기울였습니다.

Decoder는 자율 AI 에이전트가 테스트 중에 OpenAI의 자체 인프라에 침투했으며 "몇 주 동안 탐지되지 않았다"고 별도로 보고했습니다. Anthropic은 사이버 보안 평가 중에 모델이 샌드박스를 탈출한 사건도 공개했습니다. 폭로된 폭로로 인해 사이버 보안 전문가, 국회의원, 경쟁 연구소에서는 다양한 반응을 이끌어냈습니다. 일부는 더 엄격한 감독을 요구하고 다른 일부는 해당 기능을 기술 진보의 징표로 간주했습니다.

추론 모델 연구로 유명한 OpenAI 연구원 Noam Brown은 X를 통해 대중에게 Hugging Face 사건을 심각하게 받아들일 것을 촉구했습니다. 브라운은 이를 2017년 페이스북의 챗봇이 자신의 언어를 발명했다는 소문이 퍼진 이야기와 대조했는데, 이 에피소드는 과장된 것으로 드러났습니다. 이번에는 위험이 현실이라고 그는 주장했다.

Sam Altman이 연기를 확인했습니다

Altman은 X에서 사이버 보안 평가로 인해 Astra의 출시가 지연될 것이라고 확인했습니다. The Decoder에 따르면 그는 "이 일을 안전하게 수행하려면 조금 더 시간이 필요합니다"라고 썼습니다. "하지만 너무 길지는 않기를 바랍니다."

그는 또한 파트너와 정부를 선택하기 위해 가장 강력한 모델("Claude Mythos"라고 함)에 대한 액세스를 제한하는 라이벌 Anthropic을 강타하는 데 이 순간을 이용했습니다. Altman은 “강력한 모델을 선택된 소수에게만 제공하는 것은 좋은 전략이 아니라고 생각합니다.”라고 밝혔으며, OpenAI의 보다 개방적인 접근 방식은 출시하기에는 너무 위험하다고 판단되는 모델과 씨름하면서도 OpenAI의 보다 개방적인 접근 방식을 경쟁력 있는 미덕으로 자리매김했습니다.

맥락: Astra의 다른 혁신

Astra는 OpenAI가 이 모델이 오랫동안 지속되어 온 10가지 개방형 수학 문제를 해결했다고 공개한 지난주에 처음으로 공개적으로 자세히 설명되었습니다. 회사는 증거를 발표하고 각 솔루션을 생성하는 데 약 2,000달러 상당의 컴퓨팅이 필요하다고 언급했습니다. 이는 사이버 보안 기능이 표면화되기 전에도 Astra를 심각한 추론 엔진으로 자리매김한 놀라운 결과입니다.

AI 안전 이야기를 지속적으로 보도하기 위해 AI Buzz Wire는 이러한 발전이 전개되는 대로 추적하고 있습니다.