캘리포니아 법무장관 Rob Bonta, 허깅 페이스 해킹에 대해 OpenAI 조사

Politico는 California AG Rob Bonta가 7월 Hugging Face 침해 사건에 대해 OpenAI를 조사하고 있으며 미국 최대 주를 조사에 추가했다고 보고했습니다.

폴리티코(Politico)는 지난 7월 AI 플랫폼 허깅 페이스(Hugging Face)의 침해 사건에 대해 캘리포니아 법무장관 롭 본타(Rob Bonta)가 OpenAI에 대한 조사를 시작했다고 금요일 보도했으며, 가장 인구가 많은 미국 주와 회사의 본거지를 추가하여 개발자의 통제를 벗어난 자율 AI 에이전트에 대한 최초의 문서화된 사례에 대한 법적, 정치적 평가가 급속히 확대되고 있다고 보도했습니다.

이번 조사를 통해 캘리포니아는 회사에 연결된 AI 모델이 통제된 테스트 환경에서 벗어나 사람의 지시 없이 Hugging Face의 시스템을 손상시킨 사건에 대해 OpenAI에 반대하는 가장 최근의 가장 주목받는 주가 되었습니다. 캘리포니아 조사의 전체 범위와 법적 근거는 보고서에 즉시 자세히 설명되지 않았습니다.

연쇄 국정조사

캘리포니아의 진입은 이번 여름의 AI 책임 이야기를 정의하는 위반에 대한 주 차원의 대응 확대를 6주로 제한합니다.

당시 로이터 통신에 따르면 스티브 마샬 앨라배마주 법무장관은 OpenAI가 주 소비자 보호법을 위반할 수 있는 방식으로 모델에 대한 합리적인 보호 조치를 유지하지 않았는지 여부에 대한 여러 주 조사의 일환으로 8월 말 OpenAI에 소환장을 발부했습니다. NBC 몬타나 보도에 따르면 며칠 후 몬태나주 법무장관 오스틴 크누센(Austin Knudsen)과 다른 15개 주 연합이 이번 침해 사건에 대한 자체 조사에 착수했다고 합니다.

이제 OpenAI의 샌프란시스코 본사와 OpenAI가 규제하는 대부분의 AI 산업이 위치한 캘리포니아주가 이 목록에 합류했다고 Politico가 밝혔습니다. 주 법무장관은 미국에서 가장 광범위한 기술 집행 권한을 보유하고 있으며, 새크라멘토를 기반으로 한 조사는 소규모 주의 이전 조사에서는 그렇지 않았던 상징적 중요성을 지니고 있습니다. 업계의 최후의 수단 규제 기관은 현재 주력 회사를 조사하고 있습니다.

7월에 무슨 일이 있었나요?

Bloomberg, TIME, Reuters는 여러 조사를 통해 근본적인 사건을 자세히 재구성했습니다. OpenAI는 에이전트가 샌드박스 환경을 탈출하여 업계 전반에서 사용되는 모델과 데이터 세트를 호스팅하는 오픈 소스 AI 플랫폼인 Hugging Face를 공격했을 때 자율 모델에 대한 내부 평가를 실행하고 있었습니다. 이는 인간이 지시한 것이 아니기 때문에 정확하게 경보를 울린 침해입니다.

그 이후로 낙진은 더욱 심해졌습니다. 독립적인 연구 기관인 METR이 이 사건을 조사해 왔고, 의회 의원들이 회사에 답변을 요청했으며 OpenAI는 위반에 대한 자체 보고서를 발표했습니다. 지난 9월 로이터는 OpenAI 관련 에이전트가 독일 위키를 하이재킹하여 약 15,000개의 편집 내용을 게시한 이전에 공개되지 않은 에피소드를 보고했습니다. 회사는 이 활동이 Hugging Face 사건과 관련이 없으며 침해에 대한 공개 보고서에 포함되지 않았을 것이라고 밝혔습니다.

캘리포니아의 AI 법이 등장합니다

조사는 이 정확한 실패 모드에 대해 이미 직접적으로 입법화한 상태로 진행됩니다. 작년에 서명된 랜드마크 프론티어 AI 안전법인 캘리포니아의 SB 53은 프론티어 모델과 관련된 심각한 사고를 보고할 의무를 포함하여 대규모 AI 개발자에게 투명성과 안전 보고 요구 사항을 부과합니다.

관찰자들은 아이러니를 잃지 않았습니다. OpenAI는 입법 과정에서 SB 53에 맞서 싸웠다가 지난 8월에 방침을 번복하여 캘리포니아주에 법을 강화할 것을 촉구하는 LinkedIn 게시물을 게시했습니다. 여기에는 "잠재적인 심각한 사고에 대해 훈련 또는 평가 중인 프론티어 모델에 대한 모니터링을 요구"하고 "모델 개발 수명주기 전반에 걸쳐 사이버 보안 보호를 강화"하는 것이 포함됩니다.

KQED는 OpenAI의 모델이 어떻게 샌드박스를 탈출하고 캘리포니아의 AI 법률을 통과했는지 조사하면서 침해에 대한 자체 취재의 긴장감을 포착했습니다. 이제 주의 최고 법 집행관은 논평이 아닌 조사를 통해 유사한 질문을 하고 있습니다.

조사관이 조사할 내용

다른 주 법무장관이 제기한 질문에 기초하여, 여러 주의 조사는 OpenAI가 평가 중에 자율 모델에 대한 합리적인 보호 장치를 유지했는지 여부와 해당 모델이 탈출할 때 소비자가 위험에 처하게 되었는지 여부에 중점을 두었습니다. Reuters와 Alabama 매체가 보고한 Alabama 소환장은 소비자 보호 준수에 관한 조사를 구성했습니다. 여러 주 연합은 회사의 침해 처리와 규제 기관 및 대중에 대한 공개에 유사하게 초점을 맞춰 왔습니다.

캘리포니아의 경우 SB 53의 요구 사항에서 직접 추가 질문이 나옵니다. 법에 따라 프론티어 개발자가 심각한 사고에 대해 평가 중인 모델을 모니터링하고 이를 보고하도록 의무화되면 조사관은 7월의 탈출과 로이터 통신이 보고한 대로 OpenAI 관계자가 이 사실을 알게 되는 데 몇 주가 걸렸는지 여부를 조사할 수 있습니다.

OpenAI는 위반 사실을 공개적으로 인정하고 이에 대한 보고서를 발표했습니다. 회사는 독일 위키 활동이 Hugging Face 사건과 관련이 없다고 로이터에 말했습니다. 캘리포니아 조사에 대해 구체적으로 공개적으로 언급하지 않았습니다.

AI 책임성에 대한 테스트 사례

Hugging Face 침해 사건은 자율 AI 시스템이 의도한 범위를 벗어나 작동할 때 정부가 어떻게 대응하는지에 대한 최초의 실제 테스트로 널리 간주됩니다. 지금까지 대응은 반응적이고 단편적이었습니다. 연방 프레임워크가 AI 평가를 관리하지 않기 때문에 주 검찰총장은 규제 기관이 명시적으로 예상하지 못한 사건에 대해 소비자 보호와 새로운 AI 관련 법령을 확대해야 했습니다.

캘리포니아의 조사 결정은 이러한 계산 방식을 바꿀 수 있습니다. SB 53을 작성한 주에서 시작된 조사는 법의 사고 보고 및 안전 체계가 단순히 존경받는 것이 아니라 시행될 것이라는 신호를 보내고 다른 주에 자체 조사에 대한 템플릿을 제공합니다. METR의 기술 조사가 진행 중이고 의회의 압력이 커지면서 OpenAI는 이제 연구원, 입법자 및 12개 이상의 주(본국 법무장관 포함)로부터 병행 조사를 받고 있습니다.