이번 주 샌프란시스코의 Moscone Center에서는 특이한 공개 의견 차이가 있었습니다. Nvidia, Anthropic 및 OpenAI의 리더들은 Salesforce의 Dreamforce 컨퍼런스에서 몇 시간 만에 같은 무대에 등장하여 AI가 얼마나 빨리 발전해야 하는지에 대한 질문에 대해 완전히 다른 답변을 제시했습니다.
엔비디아 CEO 젠슨 황(Jensen Huang)은 세일즈포스(Salesforce)의 마크 베니오프(Marc Benioff) 최고경영자에게 속도와 안전성의 개념이 틀렸다고 말했습니다. CNBC에 따르면 황은 “잘못된 선택이다”라고 말했다. "확실히 두 가지를 동시에 가질 수 있습니다." 이 이야기에 대한 자세한 내용은 인공지능 뉴스를 참조하세요.
그의 입장은 그날 오전 Anthropic CEO Dario Amodei가 밝혔고 나중에 OpenAI CEO Sam Altman이 일주일 동안 연구 블로그에서 컨퍼런스 기조연설로 옮겨간 토론에서 분명히 밝힌 입장과 정반대였습니다.
Amodei의 슬로다운 피치로 기조 연설 플랫폼 확보
Amodei가 먼저 등장하여 약 12,000명의 청중 앞에서 Benioff와 함께 Salesforce 연례 기조연설을 진행했습니다. 이번 등장은 Amodei가 지난 주말 업계에 모델 개발 속도를 늦출 것을 촉구하는 에세이를 발표한 데 따른 것입니다. 그는 이 제안이 "상업적 이점이나 미국의 AI 선두를 희생"하지 않고 능력이 얼마나 빨리 향상되는지를 완화할 수 있다고 말했습니다.
CNBC에 따르면 Amodei는 자발적인 규제를 업계 리더십 테스트로 규정했습니다. "나는 그것이 업계를 발전시키고, 모범을 보이고, 모든 사람이 항상 더 나아질 수 있다고 말하는 방법이라고 생각합니다"라고 그는 Benioff에게 말했습니다.
이 에세이는 OpenAI의 Sam Altman, SpaceX CEO Elon Musk, Google DeepMind 회장 Demis Hassabis를 비롯한 다른 업계 임원들로부터 빠르게 대중의 지지를 얻었습니다. 업계 연구원들이 AI가 치명적인 피해를 입힐 가능성이 있다는 경고를 제기한 지 며칠 만에 이 같은 발표가 나왔습니다.
황: 새로운 법률이 아닌 시장의 힘
프론티어 모델을 훈련하고 운영하는 하드웨어를 판매하여 세계에서 가장 가치 있는 회사가 된 Huang은 절충 전제와 새로운 규제 아이디어를 모두 거부했습니다. 그는 무모한 행동을 규율하는 시장의 힘이 이미 존재하며, 제품에 대해 책임감 있게 행동하는 것은 모델 개발자의 몫이라고 주장했습니다.
황은 베니오프에게 "최대한 빨리 달려라"고 말했다. "그러나 특정 시점에 회사가 통제 불능 상태이거나 제품이 안전하지 않을 것이라고 생각되면 잠시 멈추고 올바른 조치를 취하십시오."
구별이 중요합니다. Huang은 기업이 결코 멈춰서는 안 된다고 주장하는 것이 아니라, 결정은 법률이나 업계 전반에 걸친 조정된 속도 합의를 통해 시행되기보다는 각 기업에 남아 있어야 한다고 주장합니다. 하루 전 로스앤젤레스에서 열린 올인 서밋에서 황 총리는 도널드 트럼프 대통령으로부터 스피커폰 통화를 받았는데, 트럼프 대통령은 AI 데이터센터 건설을 방해하려는 사람들에 대해 우려를 표명했습니다. 황 씨는 “그런 일이 일어나도록 놔두지 않을 것”이라고 답했다.
Altman: 안전에는 '예선이 없어야 합니다'
Dreamforce 무대에 오른 Altman의 차례는 그날 늦게 이루어졌고, 그는 Huang보다 Amodei에 더 가깝게 위치했습니다. Benioff와의 노변담화에서 Altman은 현재 모델의 성능을 고려할 때 안전과 모니터링이 성능보다 우선되어야 한다고 말했습니다.
그는 경쟁사의 행동에 따라 안전 약속을 정하는 기업을 겨냥했습니다. 알트만은 "'다른 회사가 책임을 져야만 우리도 책임을 진다'와 같은 말을 하는 기업이 있다"며 사람들이 "무슨 일이 있어도" 회사가 안전을 위해 무엇을 할 것인지 묻는다면 대답은 조건의 여지를 남겨서는 안 된다고 덧붙였다. "그 부분에는 한정자가 없어야 합니다."
베니오프가 중앙에 자리잡고 있다
세 명의 임원 모두를 초대한 베니오프는 진행 상황에서 어느 쪽을 선택하는 것을 거부했습니다. "속도를 늦춰야 한다고 느끼면 속도를 줄여야 합니다. 속도를 높여야 한다고 느끼면 속도를 높여야 합니다"라고 그는 기자들에게 말한 뒤 기업이 "책임을 져야 한다"고 덧붙였습니다.
이번 컨퍼런스에서는 비즈니스 관계가 얼마나 얽혀 있는지도 보여주었습니다. 화요일에 Salesforce와 Nvidia는 Nvidia의 개방형 Nemotron 모델 중 하나를 기반으로 구축된 Salesforce의 Agentforce 플랫폼을 위한 새로운 추론 모델을 발표했습니다. 8월 말 Salesforce와 Anthropic은 전략적 파트너십을 확대하고 영업사원이 Claude 내부에서 Salesforce 데이터에 액세스할 수 있는 "Claudeforce"를 공개했습니다.
분할이 중요한 이유
Dreamforce 거래소는 AI 거버넌스 논쟁에서 중심 결함이 된 것이 무엇인지, 즉 규제를 조정하고 잠재적으로 성문화해야 하는지, 아니면 경쟁 압력과 개별 기업 판단에 맡겨야 하는지를 결정했습니다.
Amodei의 제안은 여전히 자발적이지만 OpenAI, DeepMind 및 xAI의 CEO가 이를 지지한 것은 주요 프론티어 연구소의 리더들이 속도 저하 뒤에 공개적으로 협력한 최초의 사례입니다. 세계에서 가장 가치 있는 회사가 전한 황의 반론은 주의를 의무화하는 것이 경쟁사, 특히 중국에서 이점을 제공할 것이라고 주장하는 경영진과 정책 입안자들에게 도움이 됩니다.
CNBC가 관련 분석에서 언급했듯이 트럼프 대통령은 업계 자체의 경기 둔화 요구를 약화시키는 입장인 새로운 AI 규정에 반대해 왔습니다. 이로 인해 안전 옹호자들이 필요하다고 말하는 집행 메커니즘 없이 자발적 속도 합의가 이루어지지 않고 현재로서는 기업 명예 시스템에 대한 논쟁이 확고하게 유지되고 있습니다.
연구원들이 재앙적 위험에 대해 공개적으로 경고하고 해당 분야 최대 기업의 리더들이 이제 무대에서 공개적으로 동의하지 않는 상황에서, 시장이 그 동안 어떤 결정을 내리든, 속도 문제가 워싱턴의 다음 정책 주기를 지배할 가능성이 높습니다.
---
AI 최신 소식최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.
AI 뉴스 더 보기 →
