첨단 AI 모델의 안전성 테스트를 담당하는 소규모 미국 정부 기관의 직원들이 최근 백악관 사무실에 비공식적으로 보고하도록 요청받았다고 AP통신이 토요일 보도했습니다. 이는 미국 최고 AI 안전성 평가자의 독립성에 대한 새로운 우려를 불러일으켰습니다.

AP에 따르면 CAISSI로 알려진 상무부 산하 혁신 혁신 및 슈퍼 인텔리전스 표준 발전 센터 사무실도 연구 발표를 중단했다고 합니다. 이 보고서는 통제 불능의 AI 에이전트에 대한 일련의 이야기에 대한 대중의 불안이 커지고 있는 가운데 직원이 부족하고 리더가 없으며 점점 조용해지는 감시인을 설명합니다. 이 이야기에 대한 자세한 내용은 인공지능 뉴스를 참조하세요.

CAISSI가 하는 일과 AP가 발견한 내용

CAISSI는 새로운 AI 제품이 대중에게 공개되기 전에 안전성을 평가하는 임무를 맡고 있으며, 여기에는 프론티어 모델이 사이버 공격 및 기타 심각한 피해에 대한 오용에 얼마나 잘 저항하는지 평가하는 것이 포함됩니다. AP통신에 따르면 센터 직원들은 '최근' 백악관 사무실에 비공식적으로 보고하라는 요청을 받았다. 통신사는 이 논의에 대해 알고 있는 전직 정부 관리 두 명을 인용했는데, 이들은 현재 직원들을 보호하기 위해 익명으로 말했습니다. 백악관은 센터에 대한 구체적인 질문에는 답변하지 않았다.

작업 규모는 적당하지 않습니다. AP는 CAISSI가 매년 약 천만 달러를 받는다고 보고했는데, 이는 미국이 대부분의 개척 모델이 제작되는 곳임에도 불구하고 영국이 받는 금액의 대략 8분의 1에 해당합니다.

비공식 보고 방식은 센터의 최근 혼란에 불과합니다. AP는 몇 달 전부터 이어진 리더십 공백에 대해 설명합니다. 이사는 4월에 고용되어 며칠 만에 해고되었으며, 그의 후임은 몇 달 동안 지속되다가 사임했으며, 모 연구소의 장은 현재 이사 대행을 맡고 있습니다. 실제로 이는 영구적인 권한을 가진 누구도 현재 센터의 독립성을 옹호하지 않는다는 것을 의미합니다.

출판을 중단한 감시자

AP에 따르면 더 중요한 변화는 센터가 더 이상 하지 않는 일입니다. 지난 8월 의회는 CAISSI가 AI 시스템이 안전 테스트에서 어떻게 수행되는지에 대한 공개 보고서 공개를 중단한 이유를 물었습니다. 배포 전 테스트는 결과가 연구실 외부에 표시되는 경우에만 모델 빌더에 대한 공개 점검 역할을 하며 현재로서는 그렇지 않습니다.

변화는 갑자기 나오지 않았습니다. 지난 10월 로이터는 더 인포메이션(The Information)의 보도를 인용해 행정부가 CAISSI 고위 관리 3명을 백악관으로 이동할 계획이라고 밝혔다. 백악관 관계자는 당시 상업과의 조정 문제가 센터의 리더십을 AI 의사 결정에 더 가깝게 만들 필요성을 보여줬다고 The Information에 말했습니다. 해당 보고서에 따르면 관계자들은 과학기술정책실을 운영하는 마이클 크라치오스(Michael Kratsios)와 국가사이버국장 션 케언크로스(Sean Cairncross)에게 답변할 예정이다. Howard Lutnick 상무장관은 약 6개월 전에 센터를 공동 관리하도록 두 사람을 초대했습니다.

함께 읽어보세요. AP의 새로운 보도에 따르면 공식적인 구조 조정에 앞서 비공식적으로 계획이 실제로 실현되고 있다고 합니다.

독립 우려, 양방향으로

AP가 인용한 비평가들은 사이버 보안 및 생물 무기 위험과 관련된 결정이 정치화될 수 있거나 기술 산업에 맞게 조사 결과가 완화될 수 있다고 우려합니다. 브레넌 정의 센터의 아모스 토(Amos Toh)는 AP통신과의 인터뷰에서 그러한 결정은 엄청난 공개적 결과를 가져오며 공개적으로 설명되어야 한다고 말했습니다. 미국 과학자 연맹의 Caroline Siegel Singh은 CAISSI와 같은 센터를 삶을 획기적으로 개선하거나 그 반대의 일을 할 수 있는 강력한 기관으로 묘사했습니다.

반론이 나오고 있는데 AP는 이를 일축하지 않습니다. 맬웨어 작성에 도움이 되는 모델의 능력을 평가하는 것은 국가 안보 문제이며, 이러한 결과를 누가 볼 수 있는지에 대한 가시성을 원하는 정부는 방어할 수 있는 사례가 있습니다. 어려움은 제도적입니다. 팀의 스폰서 중 한 명에게 답변하는 심판은 경기를 제대로 진행하기 어려운 위치에 있으며 센터는 독립성을 입증할 보고서 게시를 중단했습니다.

건축업자와 구매자에게 중요한 이유

프론티어 모델을 기반으로 하는 기업의 경우 보고에서 확인된 실제 위험은 금지가 아니라 불확실성입니다. 평가가 비밀로 유지되고 수출 통제 및 정부 조달에 영향을 미칠 경우, 연구소는 결코 보거나 이의를 제기할 수 없는 결과를 토대로 계약이나 시장을 잃을 수 있습니다. 이러한 위험은 아무런 경고 없이 공급망을 통해 다운스트림 제품으로 전파됩니다.

다음으로 주목할 만한 두 가지 사항이 있습니다. 첫 번째는 행정부가 센터의 상임이사를 지명하는지, 누가 지명하는지이다. 두 번째는 이미 발표된 보고서에 대해 침묵을 지키고 있는 센터를 압박하고 있는 의회가 센터의 독립성을 법으로 규정하는 움직임을 보이는지 여부입니다. 어느 쪽이든 일어날 때까지 미국의 최전방 AI 안전 심판관은 1천만 달러의 예산으로 운영되며 영구 리더는 없고 백악관을 향해 달려가는 보고 라인이 있습니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →