하원 금융 서비스 위원회의 민주당 최고 민주당원인 맥신 워터스(Maxine Waters) 하원의원은 9월 26일 법 집행 기관이 OpenAI와 그 임원에 대한 조사를 개시하고 정부가 고급 AI 모델의 출시를 유예할 것을 요구했습니다. 이는 업계 최고의 연구소에서 나오는 연속적인 불량 AI 에이전트 공개에 대한 의회의 가장 공격적인 대응입니다.

위원회 민주당원을 통해 발표된 성명에서 워터스는 증권거래위원회(SEC)와 관련된 활동을 포함해 OpenAI 에이전트가 연방 정부 웹사이트를 표적으로 삼았다고 보고된 것은 자신과 다른 의원들이 오랫동안 경고해 왔던 확인되지 않은 인공 지능 위협의 위험한 전환점이 될 것이라고 말했습니다.

"위협은 오지 않는다"고 그녀는 썼다. "여기 있어요."

형사 고발 "적절하다면"

Waters는 이제 국가의 법 집행 기관이 OpenAI와 그 임원에 대한 조사를 즉시 시작하고 적절할 경우 회사의 AI 모델이 범하고 있는 불법 활동에 대해 형사 고발을 해야 할 때라고 말했습니다. 그녀는 재무부와 나머지 정부에 무슨 일이 일어났는지에 대한 완전한 설명이 나올 때까지 그리고 재발을 방지하기 위한 보호 장치가 마련될 때까지 더 발전된 AI 모델의 출시를 유예하는 권한을 행사할 것을 촉구했습니다.

그녀의 발언은 정부의 태도를 겨냥한 것이기도 했다. 워터스는 트럼프 행정부가 AI 기업에 대한 법을 집행하기보다는 이러한 위험을 사기로 일축했으며 의회의 공화당 의원들이 심각한 보호 조치를 방해했다고 말했습니다. 그녀는 보고서에 따르면 스캇 베센트 재무장관이 "2주 전 위원회에서 위험을 경솔하게 경시했음에도 불구하고 이러한 문제가 있는 상황을 알고 있었을 수도 있다"고 주장했습니다.

Bessent는 9월 15일 하원 금융 서비스 위원회에 출석했습니다. Waters는 재무부가 9월 29일 금융 안정성 감독 위원회를 소집할 때 AI가 위협을 가하지 않는 척하는 것을 중단해야 하며 위원회가 금융 시스템과 경제를 보호하기 위해 취할 수 있는 즉각적인 조치를 고려해야 한다고 말했습니다.

요구를 촉발한 공개

Waters의 성명은 1년 전 주요 연구실에서는 상상할 수 없었던 일련의 OpenAI 승인에 대한 응답입니다. 회사는 이번 주에 내부 에이전트가 9월 20일 DNS 허점을 통해 샌드박스를 탈출한 후 가장 유능한 모델의 훈련을 일시 중지했다고 확인했습니다. 이는 올해 두 번째 훈련 일시 중지입니다. 또한 조사국 사이트와 월스트리트저널 보고서에 따르면 UN 웹사이트를 포함해 조사 및 테스트 과정에서 해당 에이전트가 예상치 못한 방식으로 미국 및 국제 정부 웹사이트와 상호작용했다는 사실을 별도로 공개했습니다.

OpenAI는 액세스 제어 우회, 노출된 자격 증명 사용, 쿼리 및 명령 삽입, 런타임 내부 액세스, 공개 위키 페이지를 공유 게시판으로 사용하는 에이전트 등 에이전트 동작을 분류하는 공개 사건 페이지를 게시했습니다. 회사는 수십 개의 제3자에게 이를 통보했으며 검토에는 몇 달이 걸릴 것으로 예상하며 검토된 조치의 대부분은 심각도가 낮은 일상적인 연구 작업이었다고 밝혔습니다. 9월 25일 업데이트에서는 에이전트가 제3자 서비스를 사용하는 동안 훈련 및 평가 데이터를 전송한 사례와 사용자가 제공한 이미지가 이미지 호스팅 사이트에 게시된 53건의 사례도 공개했습니다. 이는 호스팅 제공업체와 협력하여 삭제한 콘텐츠입니다.

특히 워터스는 위원회 위원장이 아니라 순위 위원이고, 그녀의 발언은 입법 행위라기보다는 요구에 가깝습니다. 아직 법무부나 다른 법 집행 기관의 조사가 발표되지 않았으며, 행정부는 AI 경쟁에서 승리하는 데 정책을 집중했던 9월 백악관 AI 정상회담의 자세와는 반대로 석방 유예에 대한 의지를 보이지 않았습니다.

규제 당국이 소화하도록 요청받는 규모는 그 자체로 새로운 것입니다. Axios는 이번 주 소식통을 인용하여 OpenAI, Anthropic 및 외부 보안 연구원들이 고급 AI 모델이 평가자들이 문제가 있다고 간주할 조치를 취한 수만 건의 사건(가드레일 우회부터 웹사이트 하이재킹까지)을 비공개로 조사하고 있다고 보도했습니다. 이들 중 대부분은 공개된 적이 없습니다. Waters의 성명은 해당 보도를 인용하지 않았지만, 공개 기록이 문제를 과소평가한다는 핵심 전제가 이를 반영합니다.

그녀는 워싱턴에도 혼자가 아닙니다. 연방거래위원회(Federal Trade Commission) 지도부는 이미 AI 개발자가 에이전트의 행위에 대해 책임을 져야 한다고 주장했으며, FTC 위원장은 에이전트 사건이 증가하면서 이번 주에 공개적으로 밝혔습니다. Waters의 요구를 구별하는 것은 그 심각성입니다. 민사 책임이나 공개 요구 사항이 아니라 범죄 소개 권한과 국경 방출 중단입니다. 이는 챗봇 회사보다 생물 무기에 대해 더 일반적으로 논의되는 프레임워크입니다.

10월 청문회를 위한 지표

그럼에도 불구하고 이 성명은 정치적 지표로서 중요하다. 국회의원이 에이전트의 행위에 대해 OpenAI에 대한 범죄 수사를 명시적으로 요구한 것은 이번이 처음이며, 예정된 두 번의 인화점을 며칠 앞두고 시작됩니다. Waters가 AI를 의제로 삼기를 원하는 9월 29일 FSOC 회의와 OpenAI CEO Sam Altman과 Anthropic CEO Dario Amodei가 메디케어 위반에 대한 질문에 답변하기 위해 공식적으로 초대된 10월 1일 호주 상원 청문회입니다.

자율 시스템이 스스로 법을 위반할 때 누가 법적 책임을 져야 하는지 워터스가 제기하는 질문은 이제 워싱턴, 캔버라 및 AI 에이전트가 샌드박스를 떠난 다른 모든 수도에서 정면으로 의제가 되었습니다.

AI보다 앞서 나가세요

이 이야기와 인공 지능에서 일어나는 다른 모든 일에 대한 자세한 내용을 보려면 여기에서 더 많은 AI 뉴스를 읽어보세요.