OpenAI는 Anthropic과 Google DeepMind가 AI 안전 조정에 대해 몇 주 동안 논의해 왔으며 프론티어 연구소가 독립적인 검증 기관에 문을 열도록 강제하는 법안을 지지한다고 밝혔습니다.

TechCrunch에 따르면 OpenAI의 최고 글로벌 업무 책임자인 Chris Lehane은 화요일 회의에서 이 사실을 공개했습니다. 로이터와 블룸버그도 같은 발언을 인용해 OpenAI가 AI 안전을 위해 Anthropic, Google과 협력하고 있다고 보도했습니다. 이번 확인은 샘 알트먼(Sam Altman)이 다른 AI 리더들과의 비공개 논의를 인정한 포춘(Fortune) 인터뷰를 포함해 몇 주간의 힌트를 통해 세계 3대 선도 연구소가 얼마나 빨리 움직이는지, 모델을 확인하는 방법을 조정하고 있다는 명시적인 인정으로 바뀌었습니다.

AI 속도 저하를 둘러싼 광범위한 정치적 총격전을 지켜보는 독자들을 위해 이번 주 인공 지능 업데이트는 Anthropic의 공동 창립자인 Jack Clark이 필수 킬 스위치를 지지하는 것부터 Nvidia의 Jensen Huang과의 무대 통화 중 안전에 대한 두려움은 사기라고 말하는 Trump 대통령까지 다양했습니다.

제작 중 확인 주간

이 회담은 Anthropic CEO Dario Amodei가 토요일에 발표한 에세이에 이어 업계가 치명적인 위험을 피하기 위해 최첨단 AI 개발 속도를 늦추기 위해 함께 협력할 것을 촉구했습니다. 이 서한은 Altman, Google의 Demis Hassabis 및 Elon Musk가 모두 행동 촉구를 지지했으며 Altman은 OpenAI가 이러한 노력에 동참할 것이라고 말하면서 업계 전반의 지지를 얻었습니다.

이후 The Information은 세 회사가 AI 산업을 위한 표준 기관을 만들기 위해 노력하고 있다고 보도했습니다. 허사비스는 이 아이디어에 대한 실적을 갖고 있다. 지난 7월 그는 미국에 AI 감시 역할을 할 새로운 표준 기구를 설립할 것을 촉구했다. 이 기구는 세계에서 가장 진보된 모델을 선별하고 위험이 진행될 경우 업계 전반의 속도 저하를 조정할 수 있는 권한을 갖고 있다.

Lehane의 발언에 추가된 것은 공식적인 확인입니다. 지금까지 연구소 대변인은 주로 비공식 대화를 제안해왔습니다. OpenAI의 글로벌 업무 책임자는 이제 조정을 기록에 올렸습니다.

독점 금지의 그림자

개발 속도를 늦추는 직접적인 경쟁자 간의 합의는 명백한 독점 금지 문제를 불러일으키며 연구소에서는 이를 알고 있습니다. 알트만 자신은 그러한 회담이 조정이 경쟁을 억제하는 것으로 밝혀지면 회사를 독점금지법을 위반할 위험에 빠뜨릴 수 있다고 지적했습니다. Amodei의 에세이는 경쟁법을 유발하지 않고 안전 조정을 허용하는 좁은 정부 면제를 제안했습니다. 이는 이 문제가 회사 내부에서 얼마나 심각하게 받아들여지고 있는지를 보여주는 신호입니다.

비평가들은 합의의 중심에 있는 긴장을 재빠르게 지적했습니다. 프론티어 AI에서 가장 큰 시장 점유율을 차지하고 있는 세 회사가 공동으로 진행 상황을 할당하기로 결정한 것은 회의론자들에게 안전 포장지를 사용한 카르텔 행위처럼 보입니다. 지지자들은 재앙적 위험이 바로 경쟁자들이 일방적으로 해결할 수 없는 문제라고 반박합니다. 왜냐하면 혼자 속도를 늦추는 실험실은 단순히 경쟁자들에게 개척지를 양보하기 때문입니다.

OpenAI는 제3자 검사를 수용합니다

Lehane의 발언에서 가장 구체적인 정책 뉴스는 입법에 관한 것입니다. 그는 OpenAI가 모델이 안전하게 개발되고 있는지 확인하기 위해 최고의 프론티어 연구소가 회사에 "독립적인 검증 기관"을 허용하도록 요구하는 FRONTIER Act의 조항을 지지한다고 말했습니다. Politico는 OpenAI가 제3자 안전 평가를 중심으로 구축된 초당파적인 하우스 계획을 지지한다고 보고했습니다.

자발적인 헌신과 내부 레드팀이 업계 표준이었던 2년 전만 해도 이 분야에서는 그런 입장을 생각할 수도 없었을 것입니다. 이는 이제 OpenAI를 Anthropic이 오랫동안 추진해 온 감사 우선 자세에 맞춰 조정하고, 시행 가능한 감독을 요구하며 1년을 보낸 정책 토론 측과 연구소 사이에 보기 드문 합의 지점을 생성합니다.

백악관과도 충돌을 빚는다. 트럼프 대통령은 안전에 대한 우려를 사기라고 일축했으며, 경기 둔화가 AI 경쟁에서 중국에 유리할 것이라고 주장했습니다. 업계 전반에 걸쳐 개인적인 이해관계를 갖고 있는 오랜 투자자이자 그의 AI 고문인 David Sacks는 실존적 위험에 대한 두려움이 과장되었다고 말했습니다. 영국에서는 같은 문제에 대해 장관들이 공개적으로 의견이 분분한데, 한 파벌은 정부가 전문가의 경고에 주의를 기울일 것을 촉구하는 반면 레이놀즈 비즈니스 장관은 첨단 시스템에 대한 킬 스위치에 대한 논의를 거부했습니다.

중립지대 없는 정책 싸움

앞으로 몇 주 동안 연구소의 조정이 경쟁 당국 및 회의적인 행정부와의 접촉에서 살아남는지 여부를 테스트할 것입니다. 국경을 통제하는 세 회사가 설립한 표준 기관은 사외 이사를 포함하고, 기준을 발표하고, 정부 검토를 제출하라는 요구에 직면하게 될 것입니다. 그렇지 않으면 공공 복장의 민간 카르텔로 해고될 것입니다.

FRONTIER 법의 경우, OpenAI의 지지는 이 법안의 후원자에게 헤드라인 후원자가 될 뿐만 아니라 가장 큰 연구소가 단순히 규제를 통해 해당 분야를 포착하고 그들이 따를 수 있는 규칙만 작성한다고 주장하는 반대자들에게 새로운 공격 라인을 제공합니다. 회담에 참여할 자리가 없는 소규모 연구실과 공개 가중치 커뮤니티는 면밀히 관찰하고 있습니다. 어떤 검증 체제가 등장하든 국경 뒤에 있는 모든 사람의 규정 준수 비용이 정의될 것입니다.

더 이상 논쟁의 여지가 없는 것은 조정이라는 사실 자체입니다. AI의 최첨단을 정의하는 세 회사는 이제 얼마나 빨리 실행할 수 있는지 공개적으로 논의하고 있으며 정부에 심판 지원을 요청하고 있습니다.

---

AI보다 앞서 나가세요

최신 AI 뉴스, 분석, 획기적인 소식을 모두 한 곳에서 받아보세요.

AI 뉴스 자세히 보기 →