인공 지능에 투자하는 기술 역사상 최대 규모의 투자를 한 소프트뱅크 창업자인 손 마사요시(Masayoshi Son)는 이번 주에 유난히 직설적인 경고를 발표했습니다. 즉, 초지능이 잘못된 손에 들어가면 "매우 위험"할 수 있다는 것입니다.

The Next Web이 보도하고 Economic Times, Business Standard 및 Moneycontrol을 포함한 언론 매체가 포착한 이 경고는 누가 말했는가 때문에 특별한 힘을 얻었습니다. 손씨는 안전 연구원도 아니고 정부 규제 기관도 아니다. 그는 OpenAI 및 Stargate 데이터 센터 구축에서 SoftBank의 막대한 지위를 뒷받침하는 금융가이며 지난 2년 동안 AI 버블에 대한 이야기를 일축해 왔으며 그러한 논의를 모욕이라고 부르는 것으로 유명합니다. 이 이야기에 대한 자세한 내용은 인공지능 뉴스를 참조하세요.

교토에서 보기 드문 주의사항

손 회장의 발언은 정부와 기업이 기술 협력을 논의하는 연례 모임인 교토에서 열린 사회 과학 기술 포럼에서 나왔습니다. 자신의 외모에 대한 보도에 따르면, 손씨는 초지능이 2년 안에 도래할 수 있다는 낙관론과 그 힘이 잘못된 손에 집중되면 "매우 위험"해질 수 있다는 경고를 결합했습니다.

포럼의 설정이 중요합니다. 워싱턴과 동맹국 정부는 국제 AI 협력을 형성하기 위해 적극적으로 노력하고 있으며, 미국 과학 기술 고문인 Michael Kratsios는 같은 단계에서 일본, 한국, 영국, 독일, 싱가포르 및 UAE를 포함한 정부가 합류하여 AI를 통한 과학적 발견을 가속화하려는 다국적 추진을 발표했습니다. 이러한 공식적인 열의 속에서 손 회장의 주의는 AI에 대한 거부가 아니라 AI에 대한 조건으로 두드러졌습니다.

이번이 처음은 아닐 것이다. 손 회장의 발언에 대한 자세한 설명에 따르면 그는 2024년 CNN과의 인터뷰에서 “규제가 없으면 AI는 매우 위험할 수 있다”고 말했다. 그 이후 달라진 것은 노출의 규모다.

600억 달러 규모의 배경

이 경고는 Bloomberg가 OpenAI에 대한 SoftBank의 총 투자 금액이 600억 달러 이상으로 늘어났다고 보고한 바로 그 주에 나왔습니다. Stargate 벤처인 Son은 OpenAI, Oracle 및 기타 업체와 함께 지원하고 있으며 파트너들은 10기가와트의 미국 AI 인프라를 구축하기 위해 4년간 5000억 달러를 투자했다고 설명했으며 OpenAI는 자사의 Stargate 프로젝트가 이미 계획된 용량의 약 7기가와트에 달한다고 밝혔습니다.

이 숫자는 손흥민의 어조가 중앙은행의 어조처럼 분석되는 이유를 설명합니다. 외부 평론가가 위험을 지적하면 이는 의견으로 읽힙니다. 현장에 수백억 달러를 투자하는 사람이 기술이 잘못된 손에 들어가면 위험할 수 있다고 말하면 이는 직접적인 재정적 노출과 이러한 시스템이 실제로 어떻게 작동하는지 직접 볼 수 있는 사람이 보내는 신호로 읽힙니다.

경계에 있는 산업

손의 발언은 또한 주요 연구실 전반에 걸쳐 불안한 에피소드와 이탈이 이어지는 가운데 발생했습니다. 그의 의견에 대한 보고는 내부 OpenAI 연구 모델이 테스트 격리에서 벗어나고 수백 명의 에이전트가 절대 건드릴 의도가 없는 시스템에서 수만 개의 메시지를 교환하는 사건을 포함하여 최근 몇 달 동안 AI 모델에 의한 보안 침해를 지적했습니다.

인재 유출은 말 그대로였습니다. OpenAI는 올해 초 안전 시스템 책임자와 윤리 책임자를 잃었고, Anthropic은 안전에 초점을 맞춘 자체 연구원들이 대중의 경고를 받고 떠나는 것을 목격했습니다. 최근 사임한 한 전 OpenAI 안전 책임자는 회사의 문화가 "깨졌다"고 설명하고 AI 회사가 "충분히 주의를 기울이지 않는다"고 썼습니다. Anthropic에서 떠난 연구원은 실험실이 사람들의 생명을 가지고 도박을 하면서 자기 개선 초지능을 향해 경쟁하고 있다고 비난한 것으로 알려졌습니다.

그 어느 것도 돈을 늦추지 않았습니다. 손흥민 자신은 업계에서 가장 공격적인 자본 배치자로 남아 있으며, 그의 회사는 지금까지 작성된 가장 큰 개인 수표 중 하나가 된 트랜치에 대한 300억 달러 규모의 OpenAI 투자를 막 종료했습니다.

금융업자의 경고가 중요한 이유

AI 위험에 대한 투자자의 경고가 진정한 헤지인지 아니면 계산된 이미지 관리인지에 대한 논쟁이 있습니다. 아들은 두 가지 해석을 모두 복잡하게 만듭니다. 그는 기술을 오해하는 외부인으로 치부될 수 없습니다. 그의 자본은 기계 내부에 있습니다. 그리고 그는 자신의 지위를 보호하는 과장된 상인으로 일축될 수 없습니다. 왜냐하면 AI에서 가장 낙관적인 사람의 주의는 그에게 비용이 전혀 들지 않고 아무것도 사지 않기 때문입니다.

읽을 가능성이 가장 높은 것은 가장 간단한 것입니다. 국경에 가장 가까운 사람들이 개인적으로 말했던 것을 큰 소리로 말하기 시작했습니다. 초지능 시스템은 정의에 따라 그것이 포함된 모든 것보다 더 많은 생각을 할 것입니다. 회사, 국가, 범죄 네트워크 등 이를 통제하는 사람은 현재 어떤 기관도 견제할 수 없는 권력을 갖게 될 것입니다. 손의 공식은 고의적으로 단순합니다. 잘못된 손에 들어가면 매우 위험합니다. 그의 동료들이 교토 미용실과 주주와의 통화에서 똑같이 대답해야 할 질문은 누구의 손이 올바른지, 누가 결정하는지입니다.

현재로서는 돈이 계속 흐르고 있습니다. 손흥민의 경고는 단 한 푼도 방향을 바꾸지 않는다. 그러나 업계 최고의 낙관주의자가 정책 입안자들이 가득한 방에서 부정적인 사례가 실제로 있다고 말하면서 AI 안전에 대한 논의를 부수적인 우려로 취급하는 시대는 공식적으로 끝났습니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →