Anthropic CEO Dario Amodei가 정부에 AI 경주 속도를 늦추라고 촉구하는 "We Must Pace the Frontier" 에세이를 발표한 지 몇 시간 후, 날카로운 반응이 Hacker News에 오르기 시작했고 결국 그날 가장 지지를 받는 기사 중 하나가 되었습니다. 작가이자 개발자인 Jacob Gold가 공개 서한에 제시한 이 주장은 놀라울 정도로 간단합니다. Amodei가 AI 속도를 늦추는 것에 대해 진지하게 생각한다면 실제로 그렇게 할 수 있는 법이 하나 있으며, 다른 연구실 임원은 이를 제안할 수 없습니다. 회사가 대중에게 제공하는 모든 AI 모델을 공개 가중치로 공개하도록 요구합니다.
"나는 당신이 진실하다고 믿습니다." 편지가 시작되어 Amodei에게 직접적으로 말했습니다. "그래서 나는 당신이 실질적인 희생을 요구하더라도 실제로 상황을 늦추는 다른 법을 요구하도록 요청합니다." 이 서신은 Amodei의 주장을 일축하기보다는 가장 강력한 버전과 연결하고 있다는 점과 오늘날 AI 분야에서 가장 중요한 정책 논쟁(우리가 AI 정책 보도에서 매일 따르고 있는 논쟁)의 한가운데에 있기 때문에 신경을 곤두세웠습니다.
Amodei가 제안한 것과 Gold가 그것이 작동하지 않을 것이라고 말하는 이유
Amodei의 에세이는 Anthropic을 제3자 평가자에게 맡기고 정부에 다른 모든 개척 기업이 그러한 약속에 부합하도록 요구하도록 요청했습니다. Sam Altman은 몇 시간 내에 동의했습니다. Politico에 따르면 OpenAI도 평가자의 약속과 일치하면서 "나는 우리가 개척에 속도를 내야 한다는 Dario의 의견에 동의합니다."라고 말했습니다. 표면적으로 이는 전례 없는 일치입니다. 세계에서 가장 가치 있는 두 AI 연구소의 수장이 공개적으로 속도를 늦추도록 요구하고 있는 것입니다.
Gold의 편지는 관찰자들을 의심하게 만드는 것이 바로 이러한 합의라고 주장합니다. "귀하가 요청한 모든 규제는 포착으로 끝납니다"라고 경고합니다. 내장된 평가자, 컴퓨팅 임계값, 독점금지 면제를 통한 업계 조정 — "이 모든 내용은 기술 세부 사항을 작성할 만큼 충분히 이해하는 사람이 없기 때문에 현재 선두 연구실의 도움으로 작성됩니다." 이러한 규칙이 법으로 제정되면 모든 사건에는 규칙이 추가되고 어느 것도 제거되지 않으며 거대 기업은 소규모 도전자를 차단하는 규정 준수 팀을 감당할 수 있습니다. 편지는 Amodei에게 "당신의 속도를 늦추는 대신 당신의 지위와 이익을 보호합니다"라고 말합니다.
공개 가중치 반대 제안
대체 골드 스케치는 의도적으로 무뚝뚝합니다. 회사가 대중에게 제공하는 모든 AI 모델은 가중치가 게시된 상태로 출시되어야 합니다. 내부 및 연구 모델은 그대로 유지되며 정부는 아직 출시되지 않은 시스템에 대한 액세스 권한을 유지하게 됩니다. 하지만 Anthropic은 출시된 날 차기 프론티어 모델의 가중치를 게시해야 하며 OpenAI도 동일한 작업을 수행해야 합니다. 편지는 "심지어 당신에게도"라고 결론지었습니다. "게임하거나 피할 만한 것은 아무것도 없습니다."
메커니즘은 관료적이라기보다는 재정적이다. Gold가 설명했듯이 프론티어 모델 개발을 위한 자금은 가중치가 독점적으로 유지된다고 가정하는 가치 평가에 따라 달라집니다. 명령은 이 가정을 뒤집습니다. 모든 공개 릴리스가 공개되면 경쟁 우위는 해당 모델에 대한 액세스 권한을 판매하는 사람이 아닌 최고의 모델을 교육하는 사람에게 흐르고, 비공개 가치 평가에 포함된 프리미엄은 줄어들고 다음 교육 실행에 사용할 수 있는 돈은 줄어듭니다. "규제 기관이 아무것도 결정하지 않고 모든 실험실에서 동시에". 이는 사실상 폐쇄형 모델에 대한 시장의 기대가 경주의 엔진이며, 기대를 제거하면 엔진이 제거된다는 주장입니다.
왜 Amodei를 선택해야 할까요?
왜 Amodei가 이 제안을 할 수 있는 유일한 사람인지에 대한 편지의 근거는 그의 기록에 근거하고 있으며 특히 존경스럽습니다. Gold는 2020년 말에 OpenAI를 떠나 "안전한 경력 이동이 유지되어야 할 때" Anthropic을 설립하고 수년간 자신의 산업에 대한 규제를 옹호하고 자신의 시장을 축소하는 수출 통제를 추진한 것에 대해 그를 인정합니다. 그는 Anthropic이 "인류의 장기적인 이익을 위한 고급 AI의 책임감 있는 개발 및 유지 관리"라는 법적 사명을 가지고 공익 기업으로 조직화되었으며, 이를 통해 경영진이 그러한 법률이 가져올 재정적 타격을 흡수할 수 있게 되었다고 지적합니다. Amodei 자신의 에세이에서 Gold는 인류학 옹호자들이 규제를 옹호한다고 말합니다. "이로 인해 우리가 과대 광고, '두머리즘' 또는 규제 포획이라는 비난을 받게 될 때에도".
회의론자들은 명백한 반론을 언급할 것이지만, 편지는 이에 완전히 답하지 않습니다. 공개 가중치는 오용을 더 쉽게 만들고 진행을 어렵게 만들고, 공개 가중치 명령은 모든 연구소 투자자들의 격렬한 반대에 직면할 것이며, 중국 공개 모델에 대한 Amodei의 초기 입장을 비판하는 사람들은 이 제안에서 오래된 싸움의 반향을 듣게 될 것입니다. 그러나 서신의 핵심 도전은 채택되는 정책에 달려 있지 않습니다. 그것은 명시적으로 명명된 긴장에 달려 있습니다. 정부에 다른 모든 사람의 속도를 늦추도록 요청하는 동시에 자신의 가치 평가는 앞서 나가는 것에 달려 있지만 아직 비용이 드는 것은 아무것도 요구하지 않았습니다.
##이젠 피할 수 없는 논쟁
Amodei가 응답할지 여부는 거의 요점을 벗어났습니다. 하루 만에 프론티어 연구소는 능력 경쟁에서 속도 조절의 필요성에 동의하는 것으로 옮겨갔고, 대중의 반응은 AI가 위험한지 묻는 것에서 AI에 대해 경고하는 사람들을 믿을 수 있는지 묻는 것으로 바뀌었습니다. 하나의 불편한 질문을 둘러싼 몇 백 단어의 정책 세부 사항인 Gold의 편지는 그러한 회의론의 가장 날카로운 표현이 되었으며, 그 입소문은 워싱턴뿐만 아니라 공개 가중치 커뮤니티가 수년 동안 이 주장을 변형해 온 Hacker News와 같은 플랫폼에서 공개적으로 토론이 벌어질 것임을 암시합니다.
AI보다 앞서 나가세요
규제, 개방형 가중치, AI 속도에 대한 싸움 등을 과대 광고 없이 다루었습니다.
AI 뉴스 자세히 보기 →
