OpenAI는 지난 수요일 자사의 프론티어 모델에 ZDR(Zero Data Retention)을 제공하고 회사에 고객 콘텐츠에 대한 액세스 권한을 부여하지 않고도 여러 상호 작용에서 오용을 감지하도록 설계된 Private Safety Processing이라는 새로운 시스템을 선보였습니다. 이러한 움직임은 경쟁사와 뚜렷한 선을 그었습니다. Axios는 Anthropic이 이제 고객에게 데이터 로그를 허용하도록 요구함에 따라 이번 발표가 이루어졌다고 보고했으며 Firstpost는 Anthropic의 30일 데이터 보존 움직임과 대조되는 점을 지적했습니다.
타이밍이 미묘하지 않습니다. OpenAI는 발표에서 "최근 일부 프론티어 모델 배포에서는 고객이 AI 제공업체가 안전 모니터링을 위해 민감한 콘텐츠를 유지하도록 허용해야 했습니다"라고 밝혔습니다. 이 요구 사항은 "서비스를 제공하는 사람들에 대한 보안 의무 또는 약속과 충돌"한다고 회사는 말합니다. 회사는 규제 대상 기업 고객을 대상으로 한 경쟁에서 개인정보 보호를 경쟁력 있는 무기로 삼고 있습니다. 이 이야기에 대한 자세한 내용은 최신 AI 동향를 참조하세요.
제로 데이터 보존이 약속하는 것
ZDR 제품에서 적격 API 고객은 OpenAI가 설명하는 "명확한 약속"을 얻습니다. OpenAI는 요청이 처리된 후 프롬프트나 모델 응답을 유지하지 않습니다. OpenAI 직원은 고객 콘텐츠를 검토할 수 없으며 고객이 명시적으로 동의하지 않는 한 기업 고객 데이터는 OpenAI 모델을 교육하는 데 사용되지 않습니다.
AI 도입을 고려하는 은행, 병원, 법률 회사의 경우 이러한 약속은 가장 일반적인 거래 차단 문제, 즉 AI 제공업체의 시스템을 통해 흐르는 민감한 자료가 저장되거나 읽혀지거나 미래 모델에 흡수될 수 있는 위험을 해결합니다. OpenAI는 자신과 협력하는 조직이 "재무 기록, 건강 데이터, 기밀 사업 계획 및 독점 연구"를 처리한다고 지적합니다.
안전 문제 유지가 해결되었습니다
이 발표는 또한 진정한 기술적 긴장을 인정합니다. OpenAI 자체에서 설명했듯이 가장 심각한 AI 안전 위험은 단일 상호 작용에서 항상 눈에 띄는 것은 아닙니다. 유해한 의도는 여러 상호 작용을 함께 볼 때만 명확해질 수 있습니다. 즉, 악의적인 행위자가 반복적으로 보호 장치를 조사하고, 계정 전체를 조정하고, 위협을 일상적인 조사로 위장하거나, AI 에이전트가 중지하라는 지시를 받은 후에도 계속 행동하는 경우입니다.
기존 ZDR 호환 안전 시스템은 각 상호 작용을 개별적으로 평가하므로 패턴 기반 위험이 사라집니다. 보존을 요구함으로써 대응한 제공업체는 또 다른 문제를 만들어 고객이 안전 모니터링과 개인 정보 보호 의무 중 하나를 선택하도록 강요함으로써 한 가지 문제를 해결했습니다.
개인 안전 처리 작동 방식
OpenAI가 제안한 해결책은 아키텍처입니다. 개인 안전 처리에 따라 고객 콘텐츠는 고객이 제어하는 인프라에 유지되거나, 아직 개발 중인 옵션에서는 고객이 제어하는 키로 암호화된 OpenAI 인프라에 저장됩니다. 그런 다음 자동화된 시스템은 관련 상호 작용 전반에 걸쳐 패턴을 분석하고 OpenAI 직원에게 기본 프롬프트나 응답을 노출하지 않고 "제한된 안전 신호"(잠재적 오용에 대한 플래그)를 반환합니다.
고객은 자신의 시스템에서 사용할 수 있는 정보를 사용하여 경고를 조사합니다. 집행 결정에 항소하거나, 합법적인 활동을 명확히 하거나, 확인된 남용에 대한 조사를 지원하려는 경우 관련 정보를 OpenAI와 공유하도록 선택할 수 있습니다. 즉, 개인정보 보호가 기본이 되며 고객의 선택권을 공개하게 됩니다.
이 시스템은 현재 초기 고객을 대상으로 테스트 중입니다. OpenAI는 개인 안전 처리(Private Safety Process)를 출시하고 9월에 기술 백서를 발행할 계획이라고 밝혔습니다.
시장으로서의 기업의 신뢰
이 발표는 조달 주장처럼 읽히는 고객 평가와 함께 도착했습니다. 게시물과 함께 OpenAI의 인용문을 게시한 Glean의 최고 정보 보안 책임자인 Sunil Agrawal은 "엔터프라이즈 AI 채택은 전적으로 고객의 데이터 제어에 달려 있으며 선택한 서비스 이외의 직접적 또는 파생적 사용은 없습니다."라고 말했습니다. "모델의 성능이 향상됨에 따라 OpenAI는 기업의 신뢰를 유지하는 개인 정보 보호 및 제어권을 침해하지 않고도 안전이 발전할 수 있음을 보여줍니다."
OpenAI는 수요에 대한 대응으로 미리보기를 구성하며 "AI 시스템의 성능이 향상됨에 따라 콘텐츠가 어떻게 보호될지에 대한 예측 가능성이 필요하다는 고객의 목소리가 크고 분명하게 들었습니다."라고 말했습니다. 회사는 이 접근 방식이 "산업, 지역 및 회사 규모 전반에 걸쳐" 고객들에 의해 형성되고 있으며 변화에 따른 배포를 계획할 수 있는 충분한 리드 타임을 통해 고객에게 정보를 제공할 것이라고 덧붙였습니다.
이것이 촉발할 논쟁
안전 연구자들은 오용이 해를 입히기 전에 이를 포착하려면 사용 패턴에 대한 가시성이 필수적이라고 오랫동안 주장해 왔으며 일부에서는 자동화되고 암호화된 분석이 사람이 검토하는 탐지 품질과 일치할 수 있는지 의문을 제기할 것입니다. 한편, 개인 정보 보호 옹호자들은 고객 데이터에 대한 액세스를 공급자의 특권이 아닌 고객 결정으로 간주하는 아키텍처를 환영할 것입니다.
분명한 것은 데이터 거버넌스가 법적 세부 사항에서 AI 경쟁의 중심으로 이동했다는 것입니다. 규제 대상 산업에서 프론티어 모델이 더 길고 자율적인 작업을 수행함에 따라 시스템이 남긴 흔적을 누가 볼 수 있는지(고객, 제공자 또는 아무도)에 대한 질문이 기업 AI 거래의 성패를 결정하는 주요 축이 되고 있습니다. OpenAI는 이제 자신의 답변을 명시적으로 밝혔으며 경쟁업체가 자신의 답변을 방어할 수 있는 입장에 놓이게 되었습니다.
---
AI 최신 소식최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.
AI 뉴스 더 보기 →
