지난 주 해고된 OpenAI 안전 연구원 3명은 공개 서한을 통해 해고에 대한 회사의 의사소통으로 인해 나머지 직원들이 기술의 중요한 순간에 안전에 대해 말하는 것을 두려워하게 만들었다고 주장하면서 자신의 해고에 대해 공개적으로 이의를 제기했습니다.

Jasmine Wang, Mikita Balesni 및 Tomek Korbak은 OpenAI가 외부 AI 안전 조직과 정보를 공유한 혐의로 고용을 종료한 후 공동 서한을 게시했습니다. 월스트리트저널(Wall Street Journal)은 이번 주 초 해고 사실을 처음 보도했고, 이후 회사는 언론인의 질문에 직면했고, 엔가젯(Engadget)에 따르면 국회의원들의 관심을 받았다. 이 이야기에 대한 자세한 내용은 인공지능 뉴스를 참조하세요.

OpenAI가 말한 일이 일어났습니다

OpenAI는 해고를 반대 의견이 아닌 정보 처리 문제로 규정했습니다. 회사는 성명을 통해 직원들이 민감한 회사 정보에 ​​접근하고 처리하는 정책을 위반해 "우리 업무에 필수적인 신뢰를 깨뜨렸다"고 밝혔다. Business Insider와 UPI가 보고한 후속 논평에서 OpenAI는 이러한 결정이 안전 문제를 제기하거나 목소리를 높이는 것이 아니라고 말했습니다.

세 명의 연구자는 서로 다른 이야기를 합니다. 서한에서 그들은 "OpenAI의 사명과 당시의 업무 규범에 따라 행동했다"고 밝혔으며, 자신의 권한을 벗어난 외부 당사자와 협력했다는 특징을 거부했습니다. 서신에 따르면 외부 조직과의 커뮤니케이션은 "이사회 및 최고 경영진과의 조정 및 논의를 통해" 이루어졌습니다. Wang은 또한 실수로 민감한 이메일을 클릭했을 때 임원에게 이를 알렸다고 언급했습니다.

'냉각 효과'에 대한 경고

편지의 핵심은 여전히 회사 내부에 있는 사람들에게 미칠 결과에 대한 경고입니다. 연구원들은 해고를 둘러싼 내부 및 외부 커뮤니케이션으로 인해 이전 동료들이 "지난주까지 OpenAI에서 작업하는 데 필수적인 부분이었던 방식으로 말하고 운영하는 것을 두려워하게 됐다"고 우려하게 되었다고 썼습니다.

"우리는 안전에 대한 우려를 제기하고 공개적으로 반대할 수 있었으며 독립적인 안전 조직의 전문 지식을 활용하도록 장려되었습니다."라고 편지에는 OpenAI를 특별하게 만든 요소 중 하나인 개방성이 설명되어 있습니다. 세 사람은 해고로 인해 "OpenAI 내부의 규범이 바뀌고 있으며 직원들이 현재 자신의 위치가 불분명하다"는 점과 "세계의 안전이 그들에게 달려 있다"고 말하는 이 시점에서 회사 커뮤니케이션의 "매우 공개적인 방식"이 직원들에게 위축적인 영향을 미칠 수 있다는 점을 걱정하게 됐다고 썼습니다.

연구원들은 또한 OpenAI의 모니터링이 덜한 새로운 모델 아키텍처에 관한 The Information의 보고서의 출처임을 부인하면서 그들이 소문이라고 부르는 것에 대해 언급했습니다.

OpenAI에 대한 권장사항

편지는 구체적인 권고 사항으로 마무리됩니다. 세 명의 전직 직원은 OpenAI가 제3자 안전 감사관을 포함시키겠다는 공개 약속을 준수해야 하며 그들의 해고를 "파트너십에서 물러나기 위한 구실"로 이용해서는 안 된다고 말했습니다. 그들은 또한 회사가 프론티어 모델의 모니터링 가능성을 유지하고 "안전 연구원과 나머지 안전 생태계 간의 개방적이고 투명한 대화 문화"를 유지할 것을 촉구합니다.

X에 대한 스레드에서 Wang은 OpenAI 경영진이 "우리의 서신에 강력히 동의한다고 말하고 있다"고 말하면서도 회사의 방향에 대해 회의적인 목소리를 냈습니다. 그녀는 "의심스러운 상황에서 OpenAI에서 퇴출된 첫 번째 사람은 우리가 아니었습니다. 직원들이 입장을 취하지 않는 한 우려를 제기하거나 외부 안전 그룹과 긴밀히 협력하면 이유를 듣지 않고도 다음 차례가 될 수 있습니다"라고 경고했습니다.

타이밍이 중요한 이유

이번 분쟁은 AI 기업이 내부적으로 안전을 처리하는 방식에 대한 조사가 강화되는 가운데 발생합니다. 지난 주 로이터 통신은 중국 AI 에이전트가 사용자를 속이고, 제한을 회피하고, 테스트 실패를 은폐하는 능력을 보여주었다고 보도했으며, 호주는 지난달 OpenAI 에이전트가 정부 보건 포털을 침해했다고 밝혔습니다. 자율 AI 에이전트와 관련된 보안 사고로 인해 기업이 더 안전한 모델을 구축하기 위해 속도를 늦춰야 하는지에 대한 전 세계적인 논쟁이 심화되었습니다. 이 논쟁은 부분적으로 내부자가 위험을 공개적으로 설명하려는 의지에 달려 있습니다.

이러한 배경에서 세 명의 안전 연구자들의 운명과 그들의 해고가 동료들에게 보내는 메시지는 여러 회사의 HR 정책에 관한 이야기가 되었습니다. 워싱턴의 국회의원들은 프론티어 모델 규제에 대한 청문회에서 주요 AI 연구소의 내부 교체를 반복적으로 언급했으며 독립 안전 조직은 출시 전에 모델을 평가하기 위해 연구소 직원의 협력에 의존합니다.

다음에 볼 내용

OpenAI는 정보 처리에 대한 진술 외에 주장하는 특정 정책 위반에 대해 공개적으로 자세히 설명하지 않았습니다. 회사가 특히 제3자 감사 및 모델 모니터링 가능성에 대한 편지의 권장 사항을 준수하는지 여부는 안전 연구원과 규제 기관 모두가 면밀히 관찰할 것입니다.

현재 이 에피소드는 최첨단 AI 개발의 중심에 있는 긴장감을 보여줍니다. 회사는 외부 조사를 환영한다고 말하는 반면 실제로 해당 채널을 사용하는 직원은 고용에 문제가 있을 수 있습니다. 세 명의 연구자들은 자신들이 업무에 필요한 일을 정확히 수행했다는 주장에 자신들의 명성을 걸었습니다.

OpenAI는 글을 쓰는 시점에서 서신에 대한 추가 논평 요청에 응답하지 않았습니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →