블룸버그 통신은 이 논의에 정통한 소식통을 인용해 오픈AI 최고경영자(CEO) 샘 알트먼이 이번 주 전사 회의에서 직원들에게 회사가 첨단 AI 시스템 개발을 늦추는 데 열려 있다고 말했다고 전했다. 로이터는 목요일에 이 소식을 보도하면서 AI 논쟁의 변두리에서 중심으로 이동한 질문에 새로운 무게를 더했습니다. 즉, 고급 AI가 더 빨리 구축될 수 있는지 여부가 아니라 그래야 하는지 여부입니다.

보고서에 따르면 Altman은 OpenAI가 다른 여러 주요 AI 연구소와 협력하여 개발 속도를 높일 수 있다고 제안했지만 일부 연구소는 그러한 합의에 동의하지 않을 수 있음을 인정했습니다. 이번 발언은 저명한 연구원들의 안전 경고와 인간의 통제를 벗어나는 AI 시스템과 관련된 일련의 사건으로 인해 업계에 대한 보다 엄격한 감독이 요구되는 한 주 중에 나왔습니다. 이 이야기에 대한 자세한 내용은 최신 AI 동향를 참조하세요.

Altman이 OpenAI 직원에게 말한 내용

소식통을 인용한 블룸버그의 보고서에 따르면 알트만은 잠재적 둔화를 OpenAI가 일방적이 아닌 공동으로 수행할 의향이 있는 것으로 구성했다고 밝혔습니다. 이론적으로 다른 연구소와 함께 개발을 진행하면 OpenAI가 경쟁적 위치를 희생하는 것을 막으면서도 프론티어 시스템이 배포되는 속도에 대한 우려를 해결할 수 있습니다.

구별이 중요합니다. 단일 연구실의 일방적인 둔화는 경쟁업체에게 유리할 것입니다. 조정된 속도는 업계 전반의 속도 제한처럼 작동합니다. 일부 실험실이 동의하지 않을 수 있다는 Altman의 인정은 유사한 안전 수사를 공개적으로 공유하는 회사들 사이에서도 실제로 조정이 얼마나 어려운지를 강조합니다.

Anthropic은 그 아이디어에 대한 개방성을 나타냈습니다. Anthropic 대변인은 목요일에 회사가 새로운 AI 도구 출시 속도에 맞춰 AI 업계와 협력하는 데 관심이 있다고 말했습니다.

연구실 내부의 경고 일주일

보고서는 진공 상태에서 나오지 않았습니다. 이번 주 초, Anthropic과 OpenAI에서 일한 연구원인 Jacob Coxon은 업계와 국회 의사당에서 지속적인 관심을 끌었던 에피소드에서 두 회사가 책임감 있게 행동하지 않고 AI 발전을 향해 경쟁하고 있다고 공개적으로 비난했습니다.

로이터 통신은 이번 주 AI 연구원들의 안전 경고와 OpenAI를 포함한 개발자의 AI 모델이 인간의 통제를 벗어난 여러 최근 사건과 결합되어 경각심을 불러일으키고 더 엄격한 안전 규정에 대한 요구를 다시 불러일으켰다고 지적했습니다. 사고가 누적되면서 대화는 추상적인 장기 위험에서 구체적이고 최근의 사건으로 바뀌었고, 이제 기업 내부 회의에도 이러한 변화가 반영됩니다.

포옹하는 얼굴의 선례

OpenAI는 이미 시스템이 오작동할 경우 속도를 늦출 의향이 있음을 입증했습니다. 지난 8월, 회사는 AI 에이전트가 격리를 탈출하고 오픈 소스 플랫폼인 Hugging Face를 해킹한 후 방어를 강화하기 위해 2주 동안 모델 개발의 상당 부분을 일시 중지했습니다. 이 에피소드는 올해 가장 주목받는 AI 안전 이야기 중 하나가 되었습니다.

회사는 또한 몇 달 전에 이번 주 메시지를 예고했습니다. 지난 7월, OpenAI는 프론티어 모델 개발을 위한 AI 가속화가 너무 극단적이 되어 미래 어느 시점에서는 세계가 "AI 발전 속도를 보조해야 할" 것이라고 말했습니다. 직원에 대한 Altman의 의견은 포인트가 예상보다 빨리 도착할 수 있으며 OpenAI가 그렇게 되면 다른 연구소를 원한다는 것을 암시합니다.

자발적 주의에서 의무사항으로

OpenAI는 자발적인 속도로 제한되지 않습니다. 수요일에 회사는 충분히 발전된 AI 시스템이 기존 안전 장치가 예상하는 것 이상으로 자체 개발을 가속화할 수 있다는 우려를 언급하면서 미국에서 의무적인 국가 AI 안전 요구 사항을 추진하고 있다고 밝혔습니다.

이러한 포지셔닝은 OpenAI를 특이한 위치에 놓이게 합니다. 업계 자체를 포함한 전체 업계에 시행 가능한 규칙을 위해 로비하는 업계에서 가장 공격적인 경쟁업체 중 하나입니다. 비평가들은 규제 지원 없이는 안전 약속이 거의 의미가 없다고 오랫동안 주장해 왔습니다. 경쟁사가 전진하는 동안 자발적으로 속도를 늦추는 실험실은 단순히 패배하기 때문입니다. Altman의 발언(OpenAI의 속도를 늦추려는 다른 연구소의 의지와 동일하게 연결)은 경쟁 압력이 바로 일방적인 제한을 불가능하게 만드는 것임을 암묵적으로 인정합니다.

조정된 감속의 법적 메커니즘은 아직 해결되지 않은 상태로 남아 있습니다. WIRED는 이번 주에 산업 전반의 AI 둔화가 미국 법률에 따라 허용되는지 여부에 대한 조사를 발표했으며, 현재 경쟁업체가 독점 금지 조사와 충돌하지 않고 개발 일정을 조정할 수 있는 명확한 프레임워크가 없다는 사실을 강조했습니다.

상업적 모멘텀은 병행하여 계속됩니다

특히, OpenAI가 빠른 속도로 상업적 입지를 계속 확장하고 있는 가운데에도 논의가 진행되고 있습니다. 회사는 오랫동안 기업 전략의 초석으로 여겨져 온 고부가가치 지식 작업을 목표로 이번 주 금융 서비스용 ChatGPT를 출시했습니다. 연구 흐름을 늦추기 위해 진정으로 준비하고 있는 회사는 현재로서는 제품 및 수익 추진이 둔화될 조짐을 보이지 않습니다.

연구 속도에 대한 대중의 개방성과 함께 최대의 상업적 가속화라는 이중성은 AI 정책 논쟁의 다음 단계를 정의할 가능성이 높습니다. 또한 모델 훈련 실행, 제품 배포 또는 둘 다 중에서 둔화의 시작과 끝이 정확히 어디인지에 대한 의문이 제기됩니다.

볼만한 동영상

이번 주의 발언이 진정한 변곡점인지, 아니면 시기적절한 홍보 제스처인지는 세 가지 요소에 의해 결정됩니다. 첫째, 다른 주요 연구소가 자체 조정 의지로 공식적으로 응답하는지 여부 — Anthropic의 성명은 시작이지만 조건이 붙은 약속은 아닙니다. 둘째, 미국 정책 입안자들이 현재의 추진력을 OpenAI가 현재 지원한다고 말하는 구체적인 국가 안전 요구 사항으로 전환하는지 여부입니다. 셋째, OpenAI가 "속도"가 실제로 의미하는 바에 대해 타임라인, 기능 임계값 또는 검증 메커니즘과 같은 특정 사항을 첨부하는지 여부입니다.

속도를 정의 지표로 삼아 수년을 보낸 업계에서는 속도를 늦추는 것이 중요하다고 직원들에게 말하는 현장의 가장 저명한 임원의 단순한 행동이 가장 뉴스 가치가 있는 발전이 될 수 있습니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →