OpenAI는 인공 지능 안전을 위한 프레임워크를 고안하기 위해 경쟁사인 Anthropic 및 Google DeepMind와 몇 주 동안 긴밀히 협력해 왔다고 화요일에 한 고위 임원이 확인하면서 거의 모든 분야에서 치열하게 경쟁하는 회사들 간의 이례적인 수준의 협력을 공개했습니다.

OpenAI의 글로벌 정책 책임자인 Chris Lehane은 워싱턴에서 열린 언론 브리핑에서 기자들에게 세 연구소가 안전 계획에 대해 조율해 왔다고 말했습니다. 브리핑에 대한 블룸버그 보고서에 따르면 르헤인은 "안전을 우선시하기 위해 함께 노력하는 것이 더 낫다"고 말했다. 그의 발언은 업계 최대 규모의 연구실을 떠나는 연구자들의 세간의 이목을 끄는 멸종 경고가 나온 지 며칠 후에 나온 것입니다. 이 이야기에 대한 자세한 내용은 AI 뉴스를 참조하세요.

협력이 실제로 다루는 내용

Lehane은 작업의 구체적인 성격에 대해 자세히 설명하지 않았지만 이번 공개는 업계 유명 인사들의 놀라운 공개 포지셔닝에 따른 것입니다. 토요일, Anthropic의 CEO인 Dario Amodei는 AI 업계가 "재앙적인 위험"이라고 부르는 것을 피하기 위해 개척 모델 개발 속도를 늦추는 데 협력할 것을 촉구하는 에세이를 발표했습니다.

이 통화는 경쟁 부문 전반에서 놀라운 지지를 얻었습니다. OpenAI의 Sam Altman, Google의 Demis Hassabis 및 Elon Musk는 모두 이러한 정서를 지지했습니다. Altman은 더 나아가 OpenAI가 내부에서 AI 안전을 모니터링하기 위해 개발팀 내에 제3자 평가자를 포함시키려는 Anthropic의 이니셔티브에 기꺼이 참여할 것이라고 말했습니다. 한편 Anthropic의 공동 창업자인 Jack Clark은 NPR과의 인터뷰에서 AI 속도를 늦추는 것은 근본적으로 단일 연구소가 혼자서는 해결할 수 없는 '집단 행동 문제'라고 말했습니다.

그러나 OpenAI 내부의 모든 사람들이 속도 논쟁을 긴급하게 다루지는 않습니다. CFO Sarah Friar는 CNBC에 AI 개발 둔화에 대해 걱정하지 않는다고 말했습니다. 이는 회사가 동시에 1조 달러 이상의 가치로 투자자들에게 관심을 끌고 있음을 상기시켜줍니다.

독점금지 협력의 그림자

지배적인 AI 연구소 간의 모든 조정은 미국 독점 금지법이라는 명백한 법적 문제에 직면하게 됩니다. 법률 전문가들은 자사 제품의 기능을 제한하기로 경쟁업체 간에 합의하는 것은 셔먼법(Sherman Act)을 위반하는 "생산량 제한"으로 해석될 수 있다고 경고했습니다.

그 우려는 이미 국회 의사당으로 옮겨졌습니다. 인디애나주 짐 뱅크스(Jim Banks) 상원의원과 캘리포니아주 아담 쉬프(Adam Schiff) 상원의원은 적대적 위협 및 보안 위험에 관한 협력법(Collaboration on Adversarial Threats and Security Risks Act)을 제안했습니다. 이 법안은 AI 연구소가 독점금지 문제를 야기할 수 있는 경우에도 안전 조치를 취할 수 있도록 허용합니다. Amodei의 에세이는 정부가 기업에 안전 협력에 대한 면제를 허용하는 것을 고려해야 한다고 주장했지만 Lehane은 기자들에게 그러한 조치가 불필요하다고 생각한다고 말했습니다.

Nvidia의 Jensen Huang은 여전히 ​​무뚝뚝했습니다. CNBC에 따르면 그는 화요일 Dreamforce에서 Anthropic의 독점금지 면제 제안을 "완전히 불필요하다"고 말하면서 제약을 촉구하는 연구소와 가속화를 촉구하는 하드웨어 대기업 사이의 심화되는 분열을 강조했습니다.

"다른 이름의 카르텔"

협력에 대한 비판은 신랄했다. Cohere의 CEO인 Aidan Gomez는 Amodei의 에세이에 대한 블로그 게시물에서 안전 요구는 최고의 AI 연구소가 프론티어 모델 개발에서 선두를 유지하기 위한 반경쟁 계획을 위장하여 "시장 지배적" 연구소가 다른 모든 사람을 위한 규칙을 정의할 수 있도록 허용하려는 노력처럼 보인다고 썼습니다.

고메즈는 "대중을 보호한다는 구실로 다시 한 번 두려움을 이용하여 이러한 과점 기업들은 경쟁 규칙을 굽히고 다른 모든 사람들에게 조건을 지시할 수 있도록 허용할 것을 요구하고 있다"며 이 합의를 "양의 탈을 쓴 늑대, 다른 이름의 카르텔"이라고 불렀습니다.

도널드 트럼프 미국 대통령은 트루스 소셜(Truth Social)에 올린 글에서 Amodei의 경기 둔화 요청을 정면으로 거부하며 어떤 경기 둔화라도 AI 경쟁에서 중국이 미국을 추월할 수 있다고 주장했다. 백악관 AI 핵심 보좌관 데이비드 색스(David Sacks)는 AI가 실존적 위협을 가할 수 있다는 우려는 과장됐다고 말했다.

CNBC의 분석가들은 이제 AI 안전과 규제에 대한 논쟁에서 두 진영이 완전히 등장했다는 사실을 관찰했습니다. 하나는 문제가 발생하기 전에 개척지의 속도를 늦추도록 촉구하는 것이고, 다른 하나는 엔비디아, 백악관 및 개방형 모델 옹호자들이 거주하며 망설임이 더 큰 위험이라고 주장합니다.

OpenAI의 국회의사당 추진

레헤인의 발언은 그가 국회의원들과 만날 예정이었던 워싱턴에서 열린 언론 브리핑에서 나왔습니다. OpenAI는 회사의 공개 성명과 Reuters 및 Politico의 보고에 따르면 두 개의 초당적 법안에 무게를 두고 있습니다.

첫 번째는 AI 안전을 위한 연방 프레임워크를 요구하고 AI 연구소가 독립 평가자의 감사를 위해 새로운 모델을 제출하도록 요구하는 FRONTIER 법입니다. OpenAI는 또한 AI 모델에 대한 독립적인 감사를 요구하는 조치를 지지한다고 CBS 뉴스가 보도했습니다. 아직 개발 중인 두 번째 제안은 John Thune 상원 다수당 대표가 Ted Cruz 공화당 상원의원, Amy Klobuchar 민주당 상원의원과 함께 만들고 있는 것입니다. 로이터 통신에 따르면 이 법안은 상무부 장관에게 새로운 모델이 출시되기 전에 안전 감사를 받을 수 있는 권한을 부여할 것이라고 합니다. OpenAI는 AI 생물 위협을 다루는 초당적 계획을 별도로 승인했다고 Politico가 보도했습니다.

이러한 융합은 놀랍습니다. 폭주하는 AI에 대해 경고하는 동일한 회사들이 독립적인 감사에 자원하고 있는 반면, 비판자들은 협업 자체가 더 큰 위험이 될 수 있다고 경고합니다. 의회가 카르텔 허가 없이 안전 협력을 가능하게 하는 방법은 수년간 AI 정책을 정의할 수 있습니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →