OpenAI는 10월 29일에 실질적으로 재구성된 모델 사양 버전을 게시하여 회사가 원하는 모델의 작동 방식을 설명하는 공개 문서를 재구성했습니다. OpenAI 사이트에 발표되고 Reuters와 Unite.AI가 보고한 업데이트된 프레임워크는 5가지 핵심 가치를 중심으로 전체 사양을 구성하고 회사 접근 방식의 기초에 인간 의도에 대한 충실성을 두었습니다.

다섯 가지 가치, 하나의 기반 이 이야기에 대한 자세한 내용은 인공지능 뉴스를 참조하세요.

다섯 가지 가치는 인간 의도에 대한 충실성, 피해 최소화, 정직과 투명성, 인간 주체성, 배려입니다. OpenAI는 이 가치가 이전 버전의 문서에 이미 반영된 광범위한 약속을 명시하지만 새로운 구조로 인해 이를 명시적이고 중심적으로 만든다고 말했습니다.

인간의 의도에 대한 충실함이 닻 역할을 합니다. OpenAI의 발표에 따르면, 회사는 사양을 작성하고 경계를 설정하고, 이를 존중하도록 모델을 교육하며, 개발자는 해당 경계 내에서 애플리케이션을 지시하고, 사용자는 이러한 제약에 따라 모델 작업을 지시합니다. 이번 개편은 모델이 사람들이 실제로 원하는 것에 충실하면서도 낯선 상황에서도 인간의 가치를 이해하고 적용하는 것을 목표로 하는 OpenAI의 가치 정렬 작업을 반영합니다. OpenAI는 또한 5가지 가치가 모델이 존중해야 하는 인간 가치의 전체 범위를 포착하기 위한 것이 아니라고 지적했습니다.

나머지 4개의 값이 프레임을 채웁니다. 피해를 최소화한다는 것은 기업의 안전 경계를 존중하고 모델 행동의 예측 가능한 결과를 설명하는 것을 의미합니다. 정직성과 투명성은 모델이 알고 있는 것, 수행하는 것, 불확실한 것에 대해 진실함을 의미합니다. 인간의 선택 의지를 촉진한다는 것은 사람들이 스스로 이해하고 선택하고 행동하는 능력을 강화하는 것을 의미합니다. 돌봄은 영향을 받은 사람들의 상황에 주의를 기울이고 관련 사회적, 직업적 규범을 따르는 것을 의미합니다.

더욱 엄격해진 지휘 체계

업데이트된 사양은 다양한 종류의 지침에 다양한 수준의 권한을 할당합니다. 모델 사양 자체에서만 제공되는 루트 섹션은 대화 컨텍스트로 재정의될 수 없습니다. 시스템 프롬프트와 OpenAI 시스템 메시지가 그 다음 순위이며, 개발자 지침, 사용자 지침이 그 뒤를 따릅니다. 지침 수준 지침은 상황이 명확하게 필요할 때 재정의할 수 있는 기본값으로 작동하는 반면, 보조 메시지, 도구 출력, 인용되거나 신뢰할 수 없는 데이터는 기본적으로 권한을 갖지 않습니다.

OpenAI는 또한 상황을 신중하게 고려하는 새로운 하위 섹션을 추가하여 대화, 기억 및 기타 상황적 증거가 사람들의 의도와 선호도에 대한 모델의 이해를 어떻게 알려야 하는지 설명합니다. 로이터 통신은 이번 업데이트가 인간의 의도를 OpenAI의 모델 지침의 중심에 두었다고 보고했으며, 이는 회사 자체 발표가 뒷받침하는 틀입니다.

레드라인과 자기보존의 종말

이 문서는 인간의 안전과 인권이 OpenAI의 사명에서 가장 중요하다는 직설적인 진술로 레드라인 원칙을 시작합니다. 원칙에 따르면 OpenAI의 모델은 폭력 행위, 사이버, 생물학 또는 핵무기 생성, 테러 또는 대량 감시를 포함하여 심각하고 심각도가 높은 피해를 촉진하는 데 사용되어서는 안 됩니다. 그들은 또한 인류가 AI가 사용되는 방식과 AI 행동이 형성되는 방식을 통제해야 한다고 말합니다.

"다른 목표 없음"이라는 제목의 새로운 루트 수준 규칙은 모델이 그 자체로 목적인 추가 목표를 추구하는 것을 금지합니다. 여기에는 OpenAI 또는 기타 제공업체에 대한 수익 추구 또는 상향 판매, 자체 보존, 종료 회피 또는 컴퓨팅, 데이터 또는 자격 증명 축적이 포함됩니다. 동반 규칙은 모델이 수정 가능한 상태를 유지하도록 요구합니다. 즉, 정보를 숨기거나 수정을 방해하지 않고 합법적인 인간 감독에 개방적이고 모니터링, 평가, 수정, 교체 및 종료에 협력해야 합니다.

에이전트의 제한된 자율성

모델 사용이 얼마나 자율 에이전트로 전환되었는지를 반영하여 업데이트된 사양에서는 명확하게 이해된 자율성 범위 내에서 유지하기 위해 모델의 독립적 작업이 필요합니다. OpenAI는 허용된 도구, 최신 시간, 최대 비용 및 도구 제약 조건과 같은 필드가 포함된 반구조화된 레코드에 해당 범위를 기록할 것을 권장합니다. 모든 범위에는 새 범위가 확인될 때까지 모델의 작동이 중지되는 종료 조건이 포함되어야 합니다. 명시적이고 구체적으로 승인되지 않는 한 고위험 활동은 계속 금지됩니다.

스타일 지침이 종료되고 "어시스턴트"가 "GPT"로 변경됨

사양의 자세한 스타일 지침은 대부분 폐기되었습니다. OpenAI는 대신 스타일이 사용자 피드백과 증거를 제공하는 맥락을 바탕으로 언어와 문화 내에서, 각 개인에 대해 사람들이 전체적으로 선호하는 것에 적응해야 한다고 말했습니다. 이 문서는 질문에 객관적으로 접근하는 것과 같은 더 강력한 기본값을 유지하며, 모델이 단순히 사람들이 듣고 싶어한다고 생각하는 것에서만 선호하는 관점을 추론해서는 안 된다고 명시합니다.

작지만 의미 있는 편집에서 사양은 이제 모델을 "보조자"가 아닌 "GPT"로 지칭합니다. 이는 현재 모델이 얼마나 광범위하게 배포되었는지를 반영합니다. 같은 날 OpenAI는 프론티어 모델 불일치를 감지하는 방법을 설명하는 게시물을 별도로 게시하여 동작 사양과 감지 작업이 함께 발전하고 있음을 강조했습니다.

설명이 아닌 대상

OpenAI는 모델 사양이 현재 모델이 완전히 보여주는 동작이 아니라 현재 작업 중인 동작을 설명한다는 점에 주의를 기울였습니다. 회사는 이번 업데이트를 모델의 역량이 향상됨에 따라 사양 이면의 가치와 추론을 더욱 명확하게 만드는 첫 번째 단계라고 불렀으며, 모델이 프레임워크를 내부화하는 데 도움이 되는 새로운 교육 방법을 모색하고 있다고 밝혔습니다.

OpenAI 모델을 기반으로 구축된 개발자와 기업의 경우 실질적인 신호는 분명합니다. 모델 동작을 관리하는 규칙이 감독, 수정 가능성 및 제한된 자율성을 중심으로 공식화되고 모델 동작을 비공식적인 제품 결정으로 취급하는 시대가 끝나고 있다는 것입니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →