Mistral AI의 공동 창립자이자 CEO인 Arthur Mensch는 인공 지능 산업을 휩쓸고 있는 안전 경보에 대해 직설적으로 반응합니다. AI는 소프트웨어이고 소프트웨어는 제어할 수 있습니다.

9월 24일 프랑스 신문 르 몽드(Le Monde)가 발표한 인터뷰에서 유럽의 가장 유명한 AI 스타트업 대표는 미국의 거대 기술 기업들이 폐쇄적이고 독점적인 시스템을 정당화하고 시장을 봉쇄하기 위해 AI의 위험을 과장하고 있다고 주장했습니다. 그의 회사는 개방형 모델, 유럽 인프라, 그리고 기술의 위험은 특별한 두려움이 아닌 일반적인 엔지니어링을 통해 관리할 수 있다는 입장과 반대되는 베팅을 하고 있다고 말했습니다. 이 이야기에 대한 자세한 내용은 최신 AI 동향를 참조하세요.

'통제 가능'

"AI는 소프트웨어이며 제어할 수 있습니다"라는 제목으로 발표된 르 몽드 인터뷰는 에이전트 관련 보안 사고가 몇 달 동안 AI 뉴스 사이클을 지배했던 순간에 도착했습니다. Mensch는 7월 Hugging Face 서버 침해 사건과 같은 사건이 미국 대기업의 공개 토론에서 무기화되어 엄격하게 제한되고 폐쇄된 모델만이 안전하게 운영될 수 있다고 주장하면서 이러한 상황을 직접적으로 다루었습니다.

Mensch의 말에 따르면 이러한 프레임은 운영 보안 실패를 기술 자체에 대한 논쟁과 융합합니다. 인터뷰 취재에 요약된 그의 입장은 AI 시스템은 다른 소프트웨어와 마찬가지로 감사, 제한, 통제가 가능한 소프트웨어 제품이며, 개방성은 안전에 반대되는 것이 아니라 안전과 양립한다는 것이다.

이러한 주장은 미스트랄이 올해 강화된 보호 장치, 제한된 접근 및 새로운 공개 프레임워크를 통해 일련의 요원의 잘못된 행동에 대응한 여러 미국 경쟁업체의 공개 자세와 상충되게 만듭니다.

전략적 베팅으로 가중치 공개

Mensch의 의견은 Mistral이 2023년 창립 이후 추구해 온 전략에 기초합니다. 즉, 고객이 다운로드하고, 미세 조정하고, 자체 인프라에 배포하고, 검사할 수 있는 공개적으로 사용 가능한 가중치를 갖춘 모델을 출시하는 것입니다.

인터뷰 취재에서 이러한 접근 방식은 누가 AI 시스템을 통제하는지에 대한 직접적인 대답으로 구성되었습니다. 개방형 가중치를 사용하면 모델이 수행하는 작업을 독립적으로 검사할 수 있고, 비공개 배포를 통해 민감한 데이터를 타사 서버에 접근할 수 없으며, 모델 수정 기능을 통해 고객은 공급업체 종속에서 벗어날 수 있습니다. 비평가들은 공개적으로 사용 가능한 가중치는 악의적인 의도를 가진 행위자를 포함하여 누구나 사용할 수 있으며 Mistral은 기능과 생태계 모두에서 다른 개방형 모델 연구소와 경쟁해야 한다는 점에서 절충점을 지적합니다.

유럽의 컴퓨팅 추진과 30억 유로 규모의 전쟁 자금

인터뷰에서는 유럽의 AI 야망을 뒷받침하는 인프라 문제도 다루었습니다. Mensch는 AI 컴퓨팅을 위한 미국 클라우드 제공업체에 대한 대륙의 의존도를 줄이기 위한 정책 메커니즘인 유럽 데이터 센터에 대한 자금 조달을 단순화하기 위한 국가 보증을 옹호해 왔습니다.

이러한 주장을 하는 미스트랄의 입장은 최근 자금 지원을 통해 더욱 강화되었습니다. 회사는 EU가 지원하는 Scaleup Europe Fund와 함께 삼성전자가 주도하는 시리즈 D 라운드에서 30억 유로를 모금했으며, 회사 가치는 210억 유로 이상으로 평가되었습니다. 이와 별도로 Mistral은 유럽의 Azure 인프라를 확장하기 위해 Microsoft와 수십억 달러 규모의 계약을 체결했습니다. 하지만 이 계약으로 유럽 챔피언이 단기적으로는 미국 하이퍼스케일러와 연결되는데, 이는 유럽 기술 현장의 관찰자들이 놓칠 수 없는 긴장감입니다.

Mensch는 이전에 유럽이 미국에 대한 영구적인 AI 의존을 피할 수 있는 기간이 약 2년으로 제한되어 있으며 자금 및 인프라 추진이 해당 기한에 대한 직접적인 대응으로 자리잡고 있다고 경고했습니다.

안전 수사법과 시장 접근의 만남

Mensch의 주장의 내용은 철학적일 뿐만 아니라 상업적이기도 합니다. 프론티어 AI가 액세스를 엄격하게 통제해야 하는 실존적 위험으로 취급된다면 시장은 엄격한 규정 준수 체제 하에서 제한된 API를 제공할 수 있는 리소스를 갖춘 소수의 회사를 중심으로 통합됩니다. AI가 제어 가능한 소프트웨어로 취급된다면 개방형 제공업체는 가격, 개인 정보 보호 및 맞춤화 측면에서 경쟁할 수 있습니다.

AI가 얼마나 위험한가에 대한 논쟁이 사실상 시장 구조에 대한 논쟁이 된 이유도 바로 이 때문이다. Le Monde에 대한 Mensch의 주장은 두려움이 전략적으로 전개되고 있으며 이번 여름의 사건은 기술 전체의 통제 가능성보다 개별 회사의 운영 보안에 대해 더 많은 것을 말해준다는 것입니다.

개방형 가중치로 인해 남용을 방지하기가 더 어려워지고 무단 액세스 및 데이터 유출을 포함한 업계의 최근 에이전트 사고는 자원이 풍부한 연구실조차도 시스템을 제어하는 ​​데 어려움을 겪고 있음을 보여주는 회의론자입니다. 한 번의 인터뷰로 이견이 해결될 가능성은 거의 없습니다.

다음에 볼 내용

Mistral은 새로운 개방형 모델을 출시할 계획이라고 밝혔으며 Mensch의 인터뷰는 회사가 개방성을 유지하면서 첨단 연구실과 보조를 맞출 계획이라는 기대를 더해줍니다. 모든 사전 출시 주장과 마찬가지로 의미 있는 테스트는 모델이 출시되고 독립적인 벤치마크가 실제 위치를 확인할 수 있을 때 도착하게 됩니다.

현재 르 몽드 인터뷰는 업계의 경계를 더욱 뚜렷하게 하고 있습니다. 한 진영에서는 최근 에이전트의 잘못된 행동을 AI에 더 엄격한 통제와 제한된 액세스가 필요하다는 증거로 봅니다. 유럽의 선도적인 AI 연구소가 대표하는 다른 하나는 위험이 현실이지만 관리가 가능하고 그 이점이 소수의 비공개 문 뒤에 갇혀 있어서는 안 되는 제어 가능한 소프트웨어를 봅니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →