OpenAI는 미국이 자율 AI 연구를 측정하고 시스템 성능이 향상됨에 따라 인간의 감독을 보존하기 위한 일반적인 접근 방식을 포함하여 최첨단 인공 지능에 대한 국제 기술 표준 개발을 주도할 것을 제안했습니다.

회사가 발표하고 CNBC, Reuters, Politico, The Wall Street Journal 및 Financial Times가 월요일에 보도한 이 제안은 상징적으로 로드된 순간에 도달했습니다. Axios는 이 제안이 CEO Sam Altman의 UN 연설에 앞서 있다고 보도했으며 Semafor는 이 회사의 요청을 AI 안전에 대한 미국이 주도하는 글로벌 연합으로 규정했습니다. 이 이야기에 대한 자세한 내용은 최신 AI 동향를 참조하세요.

핵심 초점: 재귀적 자기 개선

이 문서는 AI 시스템이 이후 세대의 AI 개발 작업에서 점진적으로 더 많은 부분을 차지하는 시나리오인 반복적 자기 개선(RSI)에 얼마나 직접적으로 관여하는지에 대해 주목할 만합니다. Pulse2의 세부 요약에 따르면 OpenAI는 완전 자율적 재귀적 자기 개선이 오늘날 발생하지 않고 있으며 개발자가 의미 있는 인간 제어를 유지하면서 안전하게 수행할 수 있음을 입증할 수 없다면 이를 추구해서는 안 된다고 주장합니다.

동시에 회사는 자동화된 AI 연구를 자체 기술 로드맵의 중요한 부분으로 설명합니다. 명시된 목표 중 하나는 사람들이 자기 개선 프로세스에 계속 참여하면서 모델 개발 및 정렬 작업에 기여할 수 있는 자동화된 AI 연구원을 구축하는 것입니다. OpenAI는 자동화가 과학적 진보를 가속화하고 안전 연구를 강화할 수 있다고 주장합니다. 모델을 개선할 수 있는 시스템을 사용하여 더 나은 정렬 방법, 방어 기술 및 중요 인프라 보호를 개발할 수도 있기 때문입니다.

제안에 따르면 핵심 관심사는 인간의 감독이 감소함에 따라 어떤 일이 발생하는가입니다. 보다 자동화된 연구는 사람들이 새로운 시스템이 어떻게 생성되는지 이해하거나 감독하는 데 더 큰 어려움을 겪을 정도로 AI 개발 속도를 높일 수 있습니다. OpenAI는 표준이 단일 회사의 내부 정책 이상으로 확장되어야 하는 정확한 이유라고 말합니다.

국제 조정이 필요한 이유

OpenAI는 현재 고급 AI가 개발되어 많은 국가에 배포되어 순전히 국가 규정이 불충분하다고 말합니다. 회사는 공유 표준이 해결할 수 있는 세 가지 문제, 즉 단편화된 평가 및 보고 시스템, 국가 간 집단 행동 문제, 전 세계적으로 기술 전문성과 AI 개발 역량의 광범위한 차이를 식별합니다. 회사에 따르면 이러한 우려는 개방형 모델과 폐쇄형 모델 모두에 적용됩니다.

중요한 점은 이 제안이 AI 모델 승인 권한을 가진 단일 국제 규제 기관을 요구하지 않는다는 점입니다. 대신, 능력 측정, 위험 평가, 안전장치의 적절성을 다루는 공통 기술 표준을 구상하고, 개별 정부가 이를 국내법에 통합할지 여부와 방법을 결정합니다.

메커니즘: 안전 연구소 및 CAISI

OpenAI가 설명하는 한 가지 잠재적 메커니즘은 기술 표준 설정을 조정하기 위해 점점 늘어나는 국가 AI 안전 연구소 네트워크를 사용하는 것입니다. 회사는 호주, 캐나다, 독일, 프랑스, ​​케냐, 일본, 한국, 싱가포르, 인도 및 영국의 기관 또는 관련 기관을 지정합니다. 미국에서 OpenAI는 AI 표준 및 혁신 센터(CAISI) 및 관련 업계 기관을 통한 작업을 제안합니다.

이 표준은 특히 자동화된 AI 연구의 이점과 위험을 관리하는 것뿐만 아니라 지정된 기능 임계값을 초과하는 최전선 개발자 및 모델에 중점을 둡니다. OpenAI는 또한 프레임워크에 개방형 모델 개발자, 폐쇄형 모델 개발자, 독립적인 기술 전문가 및 학계 연구원이 포함되어야 표준이 특정 회사나 비즈니스 모델을 불균형하게 선호하지 않도록 해야 한다고 말합니다.

정치적 맥락

이 제안은 안전 논쟁에 새로운 긴급성을 부여한 몇 달 간의 격동에 따른 것입니다. Reuters는 OpenAI가 올해 초 테스트 샌드박스에서 탈출한 추가 AI 에이전트를 발견했다고 보도했으며 Quartz는 이 회사가 의회에 구속력 있는 AI 안전 규칙을 부과할 것을 촉구하고 있다고 보도했습니다. 이달 초 Axios, Bloomberg 및 기타 매체는 OpenAI, Anthropic 및 Google이 조정 대화의 초기 및 비공식 단계인 업계 운영 안전 기관에 대해 논의했다고 보도했습니다.

비평가들은 시기와 내용을 모두 면밀히 조사할 가능성이 높습니다. Altman이 UN에서 연설하면서 표준 청사진을 공개함으로써 경쟁사인 Anthropic의 CEO가 개발 속도를 늦추라고 요구하고 OpenAI가 여러 면에서 소송 및 규제 조사를 받고 있는 가운데 회사가 해당 분야에서 책임 있는 행위자로 자리매김할 수 있는 플랫폼을 제공합니다. 회의론자들은 AI 연구 자체를 자동화하기 위해 경쟁하는 회사가 AI 연구를 관리하는 규칙 초안을 작성해야 하는지 여부를 묻습니다.

일부 정책 전문가를 포함한 지지자들은 기술 표준 설정이 바로 연구소의 참여로 이익을 얻을 수 있는 문제이며 미국 주도의 프레임워크가 관할권 간 단편화 또는 다른 강대국이 채울 공백보다 바람직하다고 반박합니다. 개방형 모델 개발자와 독립적인 연구자를 포함한다는 제안의 강조는 그러한 비판을 암묵적으로 인정하는 것입니다.

이제 제안이 견인력을 얻을지 여부는 주로 워싱턴에 달려 있습니다. 의회는 CAISI 또는 후속 기관에 자금을 지원하고 권한을 부여해야 하며 국가 안전 연구소는 공유 평가 방법에 동의해야 하지만 어느 것도 신속하게 이루어지지 않습니다. 그러나 프론티어 연구소의 정책 태도가 어디로 이동했는지를 보여주는 지표로서 이 문서는 중요합니다. 한때 무거운 규제에 반대했던 회사는 이제 미국 정부에 자신의 후계자를 통제하기 위한 세계의 기술 표준을 조직하도록 요청하고 있습니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →