AI 회사의 여러 연구원이 전 동료의 인공 지능에 대한 종말론적 평가를 반향하면서 이번 주 Anthropic 내부의 대중 경고 물결이 더욱 심해졌습니다. Elon Musk는 그 항의가 조직적인 "심리학자"라고 제안하면서 경멸적인 반응을 보였습니다.

The Guardian에 따르면 이러한 상황은 Anthropic 연구원인 Jacob Coxon이 바이러스성 게시물을 통해 사임을 발표한 지 하루 만에 발생했습니다. 그는 Anthropic이나 그의 전 고용주인 OpenAI 모두 책임감 있게 AI 모델을 구축하지 않았으며 "우리 삶을 두고 도박을 하고 있다"고 썼습니다. 현재 Anthropic 직원이 지지에 대한 자신의 끔찍한 평가를 게시하면서 논쟁은 사라지기보다는 커졌습니다. 이 이야기에 대한 자세한 내용은 인공지능 뉴스를 참조하세요.

경고가 쌓인다

Anthropic에서 인공 지능 안전 분야에 종사하고 이전에 Google DeepMind에서 근무한 Anna Wang은 목요일 회사의 많은 사람들이 점점 더 능력이 향상되는 모델로 인해 발생하는 위험에 대비하기 위해 개발 속도를 늦추고 싶어한다고 말했습니다.

Wang은 X에 대해 "반복적으로 자기 개선하는 AI로 인한 위험을 해결하기 위한 실행 가능한 과학적 계획은 아직 없습니다"라고 썼습니다.

또 다른 Anthropic 직원인 Drake Thomas는 기술 구축에서 물러나기로 한 Coxon의 결정을 존중한다고 말했습니다. Thomas는 "상황이 너무 빠르게 움직이고 있습니다. ASI(인공 초지능)에 대해 원하는 수준의 확신이 없습니다."라고 썼습니다.

회사에서 안전 연구를 담당하는 Samuel Marks는 우려 사항이 업계 내에서 널리 공유되고 있으며 연공 서열이 경보와 관련이 있다고 주장했습니다. Marks는 "AI 개발자들은 그들의 기술이 인류를 멸종(또는 이와 유사한 나쁜 결과)을 초래할 수 있다고 믿습니다."라고 썼습니다. "앞으로 몇 년 안에 이런 일이 일어날 수 있습니다. 일반적으로 고위직 직원일수록 더 많은 걱정을 합니다."

자신을 Anthropic 정렬 부문의 리더라고 묘사하는 Evan Hubinger가 가장 멀리 나아갔습니다. "우리는 AI가 모든 인간을 죽일 수 있다고 진심으로 믿습니다!" Hubinger는 개인적으로 향후 10년 내에 확률이 10% 이상이라고 덧붙였습니다.

인사이더는 인류학 연구자가 AI가 인류를 멸종시킬 확률을 10% 이상 할당했다는 CBS 뉴스의 보도와 이 경고가 미국에서 새로운 AI 규칙에 대한 요구를 다시 불러일으켰다는 The Japan Times의 보도에 대해 언급했습니다.

머스크: '설정처럼 보인다'

Elon Musk는 날카롭게 반대적인 견해를 취했습니다. 세계 최고 부자는 자신의 소셜 플랫폼인 X에 "설정인 것 같다"고 썼다.

Coxon은 셀카로 대답했습니다. "나는 진짜이고 이것이 나의 진짜 믿음입니다. xAI 연구원을 해고하지 않았다면 나에 대해 물어볼 수 있습니다."

머스크와 기타 동정적인 목소리는 보수적인 싱크탱크 캐피탈 리서치(Capital Research)의 연구원인 파커 테이어(Parker Thayer)가 제기한 이론을 증폭시켰습니다. 그는 증거가 거의 없이 콕슨의 게시물이 "AI를 망각으로 규제하기 위해 민주당원의 지지를 얻기 위한 매우 정교하고 자금이 풍부한 홍보 작전"의 시작 움직임이었다고 말했습니다.

억만장자 헤지펀드 매니저 빌 애크먼(Bill Ackman)은 테이어의 게시물을 인용해 "흥미롭다"라는 한 단어로 답했다.

머스크는 나중에 자세히 설명했다. 그는 “(더 나은 용어가 없기 때문에) 이번 심리 작전의 기반은 오랫동안 준비되었다고 생각한다”고 밝혔다. "이것은 바로 불을 붙인 성냥이었습니다."

Anthropic은 접근 방식을 옹호합니다

직원들의 경고와 외부 공격 사이에서 Anthropic은 신중한 대중 대응을 제시했습니다.

회사 대변인은 The Guardian에 "우리는 AI가 막대한 이점과 전례 없는 위험을 모두 가져올 것이라는 점을 항상 투명하게 밝혀왔습니다."라고 말했습니다. "이러한 위험을 해결하기 위해 우리는 업계에서 가장 강력한 보호 장치를 갖춘 모델을 계속해서 구축하고 있습니다."

회사는 오용을 문서화하고 방해한 실적을 지적했습니다. 경고가 입소문이 난 같은 날, Anthropic은 9월 위협 인텔리전스 보고서를 발표했습니다. 이 보고서에는 회사가 AI 모델을 사용하여 생물학적 무기를 만들려는 작전을 어떻게 해체했는지, 사이버 공격과 영향력 작전에 걸친 캠페인 중단을 자세히 설명했습니다. 알 자지라(Al Jazeera)와 BBC는 금요일에 생물무기 발견을 강조하는 매체 중 하나였습니다.

회의론자들은 다른 위험을 본다

모든 사람이 멸종 프레임을 받아들이는 것은 아닙니다. 과학자이자 오랜 AI 평론가인 게리 마커스(Gary Marcus)는 이 기술이 이미 초지능 시나리오에 관계없이 조치가 필요한 피해를 입히고 있다고 주장하면서 현재의 피해에 대해 AI 보이콧을 촉구했습니다.

마커스는 멸종보다 더 가디언과의 인터뷰에서 "AI가 생성한 병원체, AI가 생성한 허위 정보로 인해 시작되거나 확대된 전쟁, 중요한 인프라를 파괴하는 해킹 등으로 인한 '재앙의 위험'이 걱정된다. 내가 본 어떤 것도 그것이 통제되고 있다는 징후를 전혀 보여주지 못했다"고 말했다.

그의 입장은 AI 안전 논쟁 자체 내에서 미래 시스템의 장기적, 문명 규모의 위험에 초점을 맞춘 사람들과 오늘날 모델의 구체적인 피해에 초점을 맞춘 사람들 사이의 분열을 강조합니다.

내부에 머물기를 거부하는 논쟁

한 연구원의 사직서로 시작된 것은 AI 산업이 어떻게 가장 강력한 시스템을 구축하고 있는지에 대한 공개 투표가 되었습니다. Anthropic 내부에서 직원들은 안전한 개발을 위한 일정이 늦어졌는지 공개적으로 토론하고 있습니다. 외부에서는 경고가 정부의 개입 여부와 방법에 대한 점점 더 양극화되는 정치적 싸움으로 전환되고 있습니다.

Guardian의 보고에 따르면 많은 Anthropic 직원이 이러한 우려 사항을 개인적으로 공유하지만 공개적으로 말하지는 않았습니다. 그들 중 더 많은 사람이 Coxon, Wang, Thomas, Marks 및 Hubinger를 따를 경우 선도적인 AI 연구소의 속도를 늦추고 규제 기관의 조치를 취하라는 압력은 더욱 커질 것입니다.

_이 기사는 CBS News, The Japan Times, Al Jazeera 및 BBC의 추가 맥락과 함께 The Guardian의 보도를 기반으로 합니다._

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →