도널드 트럼프 대통령은 화요일 연방정부에 '인공지능'이라는 용어를 사용하지 말라고 지시하는 행정명령에 서명했으며, 공식 정책 웹사이트, 정책 문서, 보도자료 등에서 인공지능 기술의 브랜드를 '슈퍼 인텔리전스'로 변경했습니다. 이 서명은 미국 최대 AI 기업의 지도자들이 트럼프 대통령이 "도덕적으로 구속력이 있는" 자발적 안전 협정에 서명한 백악관 행사에서 이루어졌습니다.
트럼프 대통령이 지난 주 유엔 총회 연설에서 처음 언급한 브랜드 변경은 행정부 관리들이 앞으로 관련 상황에서 '슈퍼 인텔리전스'만 언급할 것으로 예상된다는 것을 의미한다. 정책 기자들이 추적한 최신 AI 개발에 따르면 기관은 과거 규정이나 문서를 다시 작성할 필요가 없지만 이러한 변화로 인해 연방 정부 전반에서 기술이 정의되고 논의되는 방식이 여전히 바뀔 수 있습니다.
행정명령이 하는 일
명령에 따라 미국 정부 정책 웹사이트, 정책 문서, 보도자료에서는 해당 기술을 '슈퍼 인텔리전스'로만 언급하게 되며, 관계자들은 관련 환경에서 '인공지능'이나 'AI'라는 용어를 인정하지 않을 것으로 예상된다. "초지능(Superintelligence)"은 오랫동안 업계에서 특히 강력한 AI 시스템을 나타내는 라벨로 사용되어 왔지만, 이제 행정부는 이를 AI에 대한 보다 광범위한 법적 정의를 대체하는 용도로 사용하려고 합니다.
트럼프 대통령은 AI 기반 정부 웹사이트인 America.gov의 출범을 알리는 행사에서 "슈퍼라는 단어는 가장 좋은 단어이자 가장 단순한 단어"라고 말했다. 그는 지난주 백악관을 방문한 시진핑 중국 국가주석도 “좋아한다”고 덧붙였다.
트럼프 대통령은 "우리는 인공적인 것을 듣고 싶지 않다. 인공적이지 않기 때문에 그것은 매우 강력하고 매우 훌륭하다. 대부분 좋은 용도로 사용될 것이고 나쁜 용도는 중단할 것"이라고 트럼프 대통령은 말했다.
백악관 오찬
이번 행정명령은 트럼프 대통령이 백악관에서 기술 CEO 및 정부 관료들과 함께 주최한 오찬 후에 서명됐다. The Verge에 따르면 트럼프 대통령은 Nvidia CEO Jensen Huang과 Tesla 및 SpaceX CEO Elon Musk가 참석한 간단한 공개 연설에서 점심 식사를 "매우 생산적"이고 "매우 우호적"이라고 평가했습니다.
트럼프 대통령은 “엄청난 자율 규제가 있어야 한다는 믿음이 있다”고 말했다. "그리고 우리는 자동으로 법무부, FBI 등 모든 규제를 받게 됩니다." 트럼프 대통령은 전국적으로 지역적 반대가 심한 데이터센터에 대해 기업들이 자원과 경제적 지원을 제공해 “지역사회를 행복하게 만들기 위해 노력할 것”이라며 “데이터센터가 큰 인기를 끌 것”이라고 전망했다.
'도덕적으로 구속력 있는' CEO 합의
뉴욕포스트(New York Post)에 따르면 백악관은 행정명령과 함께 트럼프 대통령이 메타 CEO 마크 저커버그, 엘론 머스크, 앤트로픽 CEO 다리오 아모데이, 구글 CEO 순다르 피차이, 엔비디아 최고경영자 젠슨 황, 오픈AI 사장 그렉 브로크만과 함께 서명한 '슈퍼 인텔리전스에 관한 백악관 협정: 개척자 책임에 대한 공동 약속'이라는 자발적 협정문을 공개했다.
트럼프 대통령은 이 문서를 '보호의 한 형태'라고 부르며, 안전한 AI 개발을 위한 '헌법'에 비유하면서 '정말 도덕적으로 구속력 있는' 약속의 한 형태라고 말했습니다. 이 협정은 각 서명 회사에 4단계의 통제 및 감사를 맡깁니다.
1. 내부 통제를 통해 사이버 보안, 생물 보안, 화학적 위협에 대한 교육 및 배포 중에 모델의 기능과 정렬을 모니터링하고 모델이 "의도하지 않은 방식으로 기술 시스템을 해킹하거나 액세스하지 않도록" 보장합니다.
2. 통제, 모니터링, 탐지가 의도한 대로 작동하고 문제가 해결되었는지 확인하기 위한 권한을 갖춘 내부 팀.
3. 독립적인 외부 감사인은 이러한 통제가 작동하는지 독립적인 평가를 수행합니다.
4. 독립 이사회 위원회는 팀과 감사자를 감독하고 식별된 문제가 해결되었는지 확인합니다.
또한 두 회사는 정기적으로 회의를 열어 안전 표준과 모범 사례를 확립하기로 약속했습니다. 특히, 협정문에서는 "시간이 지남에 따라 이러한 단계를 법률이나 규정으로 성문화하는 것이 타당할 수 있다"고 인정하고 있습니다.
비평가들은 거래가 모호하다고 부릅니다.
협정에 대한 보고는 회의적이었습니다. 가디언은 이를 '엄청난 자기 단속'을 중심으로 한 '모호한 '도덕적 구속력이 있는' AI 거래'라고 묘사했고, 뉴욕 타임스는 트럼프 대통령이 메타, 오픈AI, 마이크로소프트에게 스스로 안전 결정을 내려달라고 요청했다고 보도했다. Roll Call은 AI 임원들이 백악관에서 환영을 받는 동안 의회가 뒷좌석 역할을 계속했으며 옹호 단체는 자발적인 약속에는 집행 메커니즘이 부족하다고 오랫동안 주장해 왔다고 지적했습니다.
이 협정에는 비준수에 대한 처벌이 포함되어 있지 않으며, 이 약속은 여러 선두 연구소에서 이미 준수한다고 주장하는 내부 평가, 제3자 감사 및 이사회 감독과 같은 안전 관행을 크게 반영합니다. 아직 불분명한 것은 프레임워크가 AI 개발자에게 구속력 있는 의무를 부과한 국가 수준의 AI 법률과 어떻게 상호 작용하는지인데, 그 중 일부는 현재 법정에서 이의를 제기하고 있습니다.
다음에 무슨 일이 일어날까요?
행정 명령은 연방 통신을 위해 즉시 발효되지만, 과거 문서를 수정할 필요가 없기 때문에 기관은 시행에 대한 재량권을 갖고 있습니다. CNBC에 따르면 행정부 관리가 Google의 Gemini 및 xAI의 Grok 모델을 사용한다고 말한 America.gov 웹 사이트는 브랜드 변경의 가장 눈에 띄는 적용을 나타냅니다.
AI 산업의 경우 백악관 행사는 놀라운 변화를 의미합니다. 이번 주에는 악성 AI 에이전트에 대한 소송, 국가 금지 명령 및 입법 조사에 직면한 동일한 회사가 자체 감독 조건을 공동 작성하도록 초대되었습니다. "도덕적으로 구속력 있는" 프레임이 실질적인 중요성을 지니는지 여부는 협정 서명국이 이를 준수하는지 여부와 국회의원들이 자율 단속만으로 충분하다고 결정하는지 여부에 달려 있습니다.
AI 정책 및 규제에 대한 지속적인 보도를 보려면 AI Buzz Wire를 팔로우하세요.
