Microsoft의 사장에 따르면 우유와 세탁기는 현재 인공 지능보다 더 많은 규제를 받고 있으며 Brad Smith는 이것이 정확히 역행적이라고 주장합니다.
일요일 발표된 BBC의 빅 보스 인터뷰에서 Smith는 악성 AI 에이전트에 의해 시스템이 침해되었을 때 "피해자"에게 이를 알려야 하는 법적 의무와 AI 제품이 배송되기 전에 독립 평가자가 승인해야 하는 시기를 결정하는 프레임워크를 포함하여 AI에 대한 글로벌 안전 규칙을 요구했습니다. 그의 발언으로 인해 그는 미국 기업이 중국 경쟁자에게 입지를 잃지 않도록 업계 자체를 규제해야 한다고 주장한 도널드 트럼프 미국 대통령과 공개적으로 대립하게 되었습니다. 이 이야기에 대한 자세한 내용은 AI 뉴스를 참조하세요.
Smith는 "현재 세탁기에는 AI보다 더 많은 안전 규칙이 적용됩니다."라고 말했습니다. "식료품점에서 볼 수 있는 모든 우유 상자에는 안전 규칙과 검사가 적용됩니다."
도구이자 무기
Smith는 AI를 긴급하게 규제해야 하는 "도구이자 무기"라고 설명하면서 "오늘 시작합시다"라고 덧붙였습니다.
그의 제안은 일반적인 규제 상용구보다 더 구체적이었습니다. 기업은 AI 시스템이 통제 불능 상태가 되면 일시 중지하거나 속도를 늦출 수 있는 "비상 브레이크"(업계에서는 종종 킬 스위치라고 부름)를 구축해야 합니다. 기업은 AI가 악의적일 때 사건 보고서를 작성하고 피해자에게 알리도록 법적으로 요구되어야 합니다. 그리고 독립적인 정부 평가자는 출시 전에 새로운 AI 기술을 조사해야 합니다.
Smith는 "우리는 다른 제품에 대해 이 작업을 수행하는 방법을 알고 있습니다."라고 말했습니다. "우리는 그 지식을 바탕으로 이를 AI에 어떻게 적용할지 고민해야 합니다."
AI 감독을 위한 개입은 열광적인 주에 시작됩니다. 며칠 전, 마이크로소프트의 CEO인 사티아 나델라(Satya Nadella)는 작업 도중에 인간이 AI 시스템을 정지시킬 수 있는 비상 브레이크를 요구했습니다. 이는 세계 최대의 AI 벤더 중 한 곳의 수장으로서는 충격적인 위치이며, 이제는 한 임원의 생각이 아닌 회사의 원칙으로 보입니다.
백악관과의 결별
스미스의 견해는 대통령의 견해와 크게 다르다. 트럼프는 "AI를 이긴 사람이 승리한다"고 반복해서 말했으며 AI 개발 둔화 아이디어를 모두 지지하는 Anthropic, OpenAI, Google DeepMind의 상사들의 요구에 반대했습니다.
그러나 Smith는 또한 마찰이 보이는 것보다 작다고 제안했습니다. 지난 달 말, 트럼프 대통령은 OpenAI, Anthropic, Nvidia, SpaceX, Meta 및 Google의 리더들을 백악관에 초청했습니다. 그곳에서 경영진들은 AI 시스템이 의도한 대로 작동하는지 평가하기 위해 독립 감사 기관과 협력할 것을 약속하는 "도덕적으로 구속력 있는" 문서에 서명했습니다. 그리고 "의도하지 않은 방식으로 기술 시스템을 해킹하거나 접근"하지 말아야 합니다.
스미스는 이 성명에 박수를 보내며 마이크로소프트가 “서명하게 되어 기쁘다”고 말했다. 그러나 그는 "좋은 조치이고 필요한 단계입니다. 하지만 더 이상 충분하지 않다고 생각합니다."라고 덧붙였습니다.
그의 추론은 자발적 정권의 핵심 문제에 초점을 맞추고 있습니다. “좋은 회사는 당신이 원하는 것을 할 것입니다.”라고 그는 말했습니다. "당신이 걱정해야 할 것은 책임이 없는 회사들입니다."
그가 영국이 규칙을 작성해야 한다고 생각하는 이유
인터뷰에서 지정학적으로 가장 많이 언급된 부분은 Smith가 영국을 글로벌 AI 규칙의 자연적 작성자로 지지했다는 점이었습니다. 영국 AI 보안 연구소(Rishi Sunak 전 총리 정부 하에서 AI 안전 연구소로 출범)는 출시 전에 세계에서 가장 강력한 모델을 테스트합니다.
Smith는 "기술의 세계, 기술 부문에서 내가 아는 대부분의 사람들은 이 기술 역량을 보유한 선두 국가가 무엇인지 묻는다면 매우 간단하다고 말할 것입니다. 영국이 최고입니다."라고 Smith는 말했습니다.
그는 또한 미국 정부가 브뤼셀식 규제보다 영국이 만든 표준을 더 쉽게 받아들일 것이라고 주장했습니다. "워싱턴 DC에서 사람들은 영국을 보지 않으며 브뤼셀을 보는 방식으로 런던을 보지 않습니다. 이것이 강점입니다."
그의 긴급 상황은 무뚝뚝했습니다. Smith는 "인간의 통제를 벗어난 AI 에이전트나 너무 강력해서 세계의 사이버 보안을 위험에 빠뜨리고 있는 모델을 보면 '순간이 도래했다'고 말할 것입니다."라고 말했습니다. "차분하게, 어쩌면 부드럽지만 단호하게 말하고 사람들을 하나로 모으기 시작합시다. 그것이 기업으로서 우리가 할 수 있는 역할이기를 바랍니다. 그것이 영국이 국가로서 할 수 있는 역할이기를 바랍니다."
기술 정책에서 보기 드문 분할 화면
현직 회사 사장이 자신의 산업에 대해 더 엄격한 규칙을 위해 로비를 하는 반면 CEO가 다른 단계에서 같은 주장을 하는 것은 이례적입니다. Nadella의 비상 브레이크와 Smith의 필수 사건 보고, 피해자 알림 및 독립적 평가 요구와 같은 Microsoft의 결투는 적어도 한 주요 공급업체가 능력이 아닌 신뢰가 AI 채택에 구속력 있는 제약이 되고 있다는 결론을 내렸다는 신호입니다.
그들은 또한 영국 정부에 시기적절한 주장을 제시했습니다. 화이트홀은 지난 주 정보국장들의 경고를 흡수하는 데 시간을 보냈고, 장관들은 지금까지 워싱턴이 서명을 거부한 AI 안전 표준 조율을 위한 국제적 요구에 동참할지 여부를 고민하고 있습니다. Microsoft의 사장이 영국이 규칙서를 작성하기에 "최적의" 위치에 있다고 말했을 때 Downing Street는 무시하기 어려운 승인과 초대를 모두 얻습니다.
스미스의 우유팩 프레임이 워싱턴의 투표에 변화를 가져올지 여부는 또 다른 문제입니다. 그러나 AI의 가장 큰 개발자 중 하나가 규제 논의가 어디로 진행되기를 원하는지에 대한 진술(필수 브레이크, 의무 보고, 독립적 승인)에 대한 진술로서 인터뷰는 자발적 서약에서 집행 가능한 규칙으로 전환되는 신호로 기억될 수 있습니다.
---
AI 최신 소식최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.
AI 뉴스 더 보기 →
