주요 모델 출시에 수반되는 공개 투명성 문서 초안 작성으로 가장 잘 알려진 OpenAI 안전 시스템 팀의 리더인 데이비드 로빈슨(David Robinson)이 회사에서 사임했다고 Business Insider가 금요일 보도했습니다.

OpenAI가 기밀 정보를 잘못 처리한 혐의로 안전 연구원 3명을 해고한 지 4일 만에 Robinson의 퇴출이 이루어졌으며, 이는 OpenAI의 모델이 어떻게 잘못될 수 있는지 평가하고 공개하는 책임을 맡은 바로 그 팀인 회사의 안전 장치 전반에 걸쳐 수개월 동안 퇴사 및 재편성 패턴을 심화시켰습니다. 이 이야기에 대한 자세한 내용은 인공지능 뉴스를 참조하세요.

OpenAI 안전 보고의 공개적인 모습

로빈슨은 프론티어 훈련에 참여하지 않았습니다. 그의 작업은 대중이 실제로 보는 서류 작업이었습니다. OpenAI의 시스템 카드, 각 주요 모델과 함께 공개된 문서에는 모델 테스트 대상, 부족한 부분, 적용되는 보호 조치를 설명하는 문서가 포함되었습니다. 스타트업 포춘(Startup Fortune)은 이를 "AI의 영양 라벨과 같다"고 설명했습니다. 이는 규제 기관, 기업 및 언론인이 새 릴리스를 평가할 때 의존하는 테스트 및 위험에 대한 일반 언어 요약입니다.

LinkedIn에 글을 쓴 Robinson은 모델이 치명적인 위험을 초래하는지 여부를 평가하기 위한 회사의 방법론인 OpenAI의 대비 프레임워크 버전 2의 수석 초안 작성자로 일했으며 자사의 Deep Research 시스템이 생물학적 위험 평가에서 높은 역량에 도달하는 "초점"에 있다는 회사의 공개를 구성하는 데 도움을 주었다고 말했습니다.

이러한 공개는 그 자체로 중요했습니다. OpenAI의 자체 프레임워크에서 생물학과 같은 영역의 높은 기능은 공식적인 보안 요구 사항과 면밀한 감독을 촉발합니다. 그 평가를 대중에게 공개한 사람은 이제 회사를 떠났습니다.

로빈슨은 회사의 화려한 임원직을 맡은 적이 없지만 그의 결과물은 대부분의 연구자들보다 외부 세계에 더 잘 눈에 띕니다. 모델 출시 후 언론인, 규제 기관 또는 기업 구매자가 읽는 모든 시스템 카드는 그의 초안을 통과했습니다. 스타트업 포춘(Startup Fortune)이 사임 보고서에서 언급했듯이, 그 역할을 조용히 잃는 것은 회사가 여전히 해당 기능을 얼마나 중요하게 생각하는지에 대한 일종의 신호입니다.

테이블을 설정하는 해고

로빈슨의 사임은 OpenAI가 회사의 인프라 아키텍처에 대한 세부 정보를 포함한 기밀 정보를 외부 AI 안전 조직과 공유한 혐의로 세 명의 안전 연구원인 Jasmine Wang, Tomek Korbak 및 Mikita Balesni를 해고한 지 며칠 만에 표면화되었습니다. TechCrunch는 Wall Street Journal을 인용하여 10월 1일에 해고 사실을 보도했습니다. OpenAI는 해고가 안전 문제 제기에 대한 보복이 아니라 민감한 자료의 취급에 관한 것이라고 주장했습니다.

전체 사실이 무엇이든 결과는 동일합니다. 안전 투명성 및 안전 연구와 관련된 4명의 인력이 이미 재편성된 부서에서 일주일 만에 떠났습니다. 해고 사실을 처음 보도한 BBC는 영향을 받은 근로자들이 "민감한 정보를 잘못 처리했다"는 이유로 해고되었다고 설명했습니다.

반복되는 안전조직 개편

문맥은 더 뒤로 확장됩니다. 나중에 Bloomberg에 의해 포착된 Wired의 보도에 따르면 OpenAI의 안전 시스템 그룹을 이끌었던 Johannes Heidecke는 회사가 안전을 연구 부서로 전환한 후 2026년 7월에 떠났습니다. 합병된 팀은 이제 OpenAI의 연구 및 안전 담당 부사장인 Mia Glaese에게 보고하고 Saachi Jain은 임시로 안전 시스템 주도 역할을 맡습니다.

앞서 파이낸셜 타임즈(Financial Times)는 OpenAI가 회사 자체 모델이 치명적인 피해를 초래할 수 있는지 여부를 평가하기 위해 특별히 구축된 전담 준비 팀을 해체했다고 보도했습니다. OpenAI는 안전 시스템 내에서 준비 작업이 계속되고 있다고 말하면서 이러한 특성화에 대해 이의를 제기했습니다. OpenAI의 안전 연구 분야에서 거의 10년 간 베테랑이자 회사의 수석 미래학자가 된 Joshua Achiam도 같은 과정에서 사임을 발표했습니다.

격변은 진공상태에서 일어나는 것이 아니다. 이는 Yann LeCun과 Anthropic CEO Dario Amodei가 업계가 치명적인 AI 위험을 얼마나 심각하게 받아들이는지에 대해 공개적으로 논쟁을 벌인 것과 같은 맥락입니다. 이는 Startup Fortune이 출발의 맥락으로 언급한 논쟁입니다. OpenAI는 시스템 카드와 인터뷰에서 위험을 심각하게 받아들인다고 계속 주장하고 있습니다. 실제로 그러한 공개를 작성하는 사람들은 계속 떠납니다.

IPO 가능성이 중요한 이유

광학 이상의 경우 타이밍이 어색합니다. OpenAI는 초기 공모를 위한 서류 초안을 비밀리에 제출했으며 CEO인 Sam Altman은 회사가 2026년에 상장되지 않을 것이라고 말했지만 상장을 통해 회사의 위험 공개(정확히 로빈슨이 전문으로 하는 문서와 같은 유형)가 은행가, 변호사 및 증권 규제 기관의 엄격한 법률 및 규제 조사를 받게 될 것입니다.

최첨단 AI 연구소를 비판하는 사람들은 안전 기능이 상업적 압력의 첫 번째 희생자라고 오랫동안 주장해 왔습니다. OpenAI는 안전에 대한 약속은 변함이 없으며 준비 평가는 계속되고 있다고 밝혔습니다. 그러나 이러한 약속을 뒷받침하는 눈에 띄는 인력은 계속 줄어들고 있으며 현재로서는 이러한 모델이 무엇을 할 수 있는지 대중에게 알리는 일을 맡은 사람들이 계속해서 문밖으로 나가고 있습니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →