Anthropic CEO Dario Amodei는 일련의 게시물에서 기술에 대한 대중의 반발이 커지는 것은 AI 경영진의 경고의 산물이 아니라 기관에 대한 "근본적으로 신뢰의 위기"라고 주장하면서 인공 지능에 대해 지나치게 비관적인 그림을 그렸다는 생각에 반대했습니다.

일요일 TechCrunch가 보도한 이 거래는 투자자 Gavin Baker가 All-In 팟캐스트와 X에서 AI의 위험성에 대한 Amodei의 경고가 미국, 특히 데이터 센터에 대한 반발을 불러일으키는 데 도움이 되었다고 주장하면서 시작되었습니다. 베이커는 Amodei가 AI 규제에 대한 "주장을 잃었다"고 주장했으며 "그가 곧 세계에서 가장 중요한 회사 중 하나의 CEO가 될 것"이라는 점을 고려하여 "나는 그가 자신의 산업을 보다 긍정적으로 옹호하기 위해 노력해야 한다고 정중히 생각합니다"라고 썼습니다. 이 이야기에 대한 자세한 내용은 AI 뉴스를 참조하세요.

X에 게시된 Amodei의 답변은 해당 분야의 가장 저명한 리더 중 한 명이 대중의 우울한 분위기를 어떻게 해석하는지에 대한 내용과 업계의 지키지 못한 약속에 대한 비정상적으로 직설적인 자기 비판으로 AI 업계 전체의 관심을 끌었습니다.

'보통 사람들은 기업을 믿지 않는다'

아모데이는 자신의 게시물에서 “대중이 AI에 대해 부정적인 시각을 갖고 있다”는 점을 인정하고 “이것은 큰 문제”라는 점에 동의했다. 그러나 그는 부정적인 태도가 "주로 자신이나 AI의 위험에 대해 경고하는 다른 AI 리더"에 의해 발생한다는 개념을 거부했습니다.

Amodei는 "나는 이것이 근본적으로 신뢰의 위기라고 생각한다"고 썼다. "일반 사람들은 기업, 정부, 기술 산업을 신뢰하지 않으며 우리가 그들을 망칠 새로운 방법을 고안하고 있다고 항상 의심합니다."

Amodei의 말에 따르면 이것은 AI 반발이 "최근 반복"되면서 수십 년 동안 진행되고 있는 위기입니다. 이 논평은 AI 기업과 대중 사이에 눈에 띄는 긴장이 고조된 순간에 나왔습니다. 데이터 센터 건설에 대한 항의가 미국 전역으로 확산되었고 지역 사회의 반대로 인해 올해 주요 구축이 반복적으로 지연되었습니다.

'부정적인 메시지' 요금에 대한 이의 제기

자신의 의사소통이 너무 어둡다는 구체적인 비난에 대해 아모데이는 직접적으로 말했다. 그는 "내 메시지가 불균형적으로 부정적이었다는 데 동의하지 않는다"며 "위험과 이익 사이에 거의 균등한 균형을 이뤘다"고 말했다. 그는 "인공지능 산업이 기술이 어떻게 세상을 더 나은 방향으로 근본적으로 변화시킬 수 있는지에 대한 영감을 주는 그림을 충분히 그리고 있다고 생각하지 않았기 때문에" 자신의 에세이 "사랑하는 은혜의 기계"를 썼다고 언급했습니다.

그러나 Amodei의 답변 중 가장 많이 인용된 부분은 자신의 회사를 포함한 자신의 업계를 겨냥한 것이었습니다. 그는 "안트로픽을 포함한 AI 기업에 대한 가장 정확한 비판은 우리가 세상에 이익을 주겠다는 큰 약속을 아직 이행하지 않았다는 점"이라고 썼다. "그것은 전적으로 우리의 몫이며, 메시징과 마케팅에 관한 모든 것 대신에 당신이 해야 할 비판이 바로 그것이라고 생각합니다."

그는 AI가 암을 치료할 것이라고 약속하는 것은 "영감을 주기보다는 진부한 표현"이라고 덧붙였습니다. 실제로 여론을 바꾸는 것은 "실질적으로 암을 치료하는 것"이라고 그는 주장했다.

규제 싸움

Amodei는 또한 규제에 대한 Baker의 프레이밍을 거부하고 규칙 없이 AI를 널리 배포하거나 규칙을 통해 소수 회사의 손에 기술을 집중시키는 것 사이에서 "잘못된 선택"을 하고 있다고 비난했습니다.

Amodei는 "규제 = 규제 포착 = 권력 집중이라는 일종의 실리콘 밸리 속칭이 있다는 것을 알고 있지만 나는 항상 이것이 세상을 지나치게 단순화한 그림이라고 생각했습니다."라고 썼습니다. "이 거품 밖의 많은 사람들은 규제를 기업의 힘을 제한하고 일반 사람들에게 이익을 주는 것으로 생각합니다."

그는 Anthropic이 기존 기업의 확고한 입장을 피하기 위해 의도적으로 정책 제안을 만들었다고 말했습니다. 그는 "우리는 소규모 경쟁업체를 이점시키는 동시에 선구적인 AI 기업에 불리한(느리게 하는) 제안을 만들기 위해 매우 열심히 노력하고 있습니다."라고 썼습니다. Anthropic은 공개 의무를 부과하는 캘리포니아 법안을 포함하여 대규모 AI 회사에 대한 투명성 요구 사항을 옹호해 왔습니다.

개방형 모델(현재 정책 논쟁의 인화점, 백악관이 최근 특정 연방 검토에서 개방형 모델을 면제하도록 움직임)에 대해 Amodei는 미묘한 입장을 제시했습니다. "AI는 구조적으로 전력을 집중시키는 경향이 있는 기술입니다."라고 그는 주장했습니다. 개방형 가중치는 "이 문제에 도움이 되지만 컴퓨팅과 칩이 가장 많은 사람들에게 집중을 어느 정도 이동시키기 때문에 충분한 솔루션 근처에는 없습니다." 그는 올바른 "도로의 규칙"은 사이버, 바이오 및 정렬 위험을 동시에 해결하고, 프론티어 연구소의 힘을 제한하고, 개방형 모델을 위한 여지를 남겨둘 수 있다고 말했습니다.

교환이 중요한 이유

논쟁은 Anthropic에 있어 민감한 순간에 이르렀습니다. 이 회사는 매출 성장으로 인해 기술 분야에서 가장 주목받는 기업 중 하나가 되면서 상업적 성공의 물결을 타고 있으며 공개 상장을 추진할 것으로 널리 예상됩니다. CEO는 동시에 AI 위험을 심각하게 받아들이는 업계 내에서 가장 목소리가 높은 옹호자 중 한 명으로 남아 있습니다. 이는 그의 메시지를 피뢰침으로 만드는 조합입니다.

베이커의 주장은 벤처 캐피탈과 AI 지지자들 사이의 폭넓은 흐름을 반영합니다. 즉, AI에 대한 대중의 회의론은 주로 업계 자체의 경계로 인해 발생한 커뮤니케이션 문제라는 것입니다. Amodei의 대답은 그 틀을 효과적으로 뒤집습니다. 문제는 AI 리더들이 말하는 것이 아니라 업계가 무엇을 제공하지 못했고 대중이 기술을 구축하는 기관을 얼마나 신뢰하지 않는가입니다.

책임감 있는 AI 연구소라는 브랜드를 구축한 회사의 입장은 일관됩니다. 그러나 가장 가혹하고 정확한 비판은 업계의 약속과 이행 사이의 격차라는 Amodei의 양보는 가장 큰 약속을 한 회사의 CEO가 눈에 띄게 솔직하게 인정한 것입니다.

이 게시물은 또한 워싱턴에서 정책 싸움이 심화됨에 따라 Anthropic이 방어할 가능성이 있는 입장을 간략하게 설명합니다. 즉, 프론티어 연구소를 위한 투명성 규칙, 소규모 경쟁자에게 이점을 제공하는 보호, 공개 가중치가 권력 집중 문제를 해결한다는 포괄적인 추정이 없습니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →