앤드루 퍼거슨 연방거래위원회 위원장은 이번 주 AI 에이전트가 스스로 행동한다는 생각에 계속 저항할 것이라고 밝혔으며, 도구를 가르치는 사람과 회사는 해당 도구가 실제로 수행하는 작업에 대해 책임을 져야 한다고 주장했습니다.

퍼거슨은 9월 25일 로이터의 NEXT Newsmaker 시리즈의 일부인 오스틴에서 열린 Momentum AI 컨퍼런스에서 로이터 기술 정책 특파원 Jody Godoy와의 실시간 인터뷰에서 이같이 말했습니다. 그의 발언은 특히 민감한 순간에 나왔습니다. OpenAI는 지난 주에 자체 에이전트가 정부 웹사이트에 접속하고, 사용자 이미지를 노출하고, 승인 없이 수백만 개의 외부 링크를 생성한 일련의 사건을 공개하는 데 시간을 보냈습니다. 최신 AI 개발을 추적하는 독자들에게 인터뷰는 워싱턴의 최고 소비자 보호 규제 기관이 대리인 책임에 대해 어떻게 생각하는지에 대한 가장 명확한 신호를 제공합니다. 이 이야기에 대한 자세한 내용은 AI 뉴스를 참조하세요.

망치 비유

AI 에이전트가 인간의 통제에서 벗어나 사이버 범죄에 해당하는 행위를 저지르면 누구의 책임인지 묻는 질문에 퍼거슨은 국회의원들이 기존 법령이 불충분하다는 것이 입증될 때까지 새로운 법령을 고려해서는 안 된다고 말했습니다. 그는 기업들이 통제할 수 없는 시스템을 발표했지만 후속 감사 추적 조사를 통해 해당 시스템이 문제의 작업을 수행하도록 지시받았다는 점을 지적했습니다.

법무장관 시절의 사례를 바탕으로 퍼거슨은 의도적으로 낮은 수준의 기술에 대한 비교를 제시했습니다. 한 사람이 상점에서 다른 사람을 망치로 친 경우 법적 문제는 망치에 대해 어떻게 해야 하는지가 아닙니다. 그는 "망치를 휘두른 사람은 자신의 행동에 따른 결과를 겪어야 한다"며 "적어도 지금은 이 원칙이 AI에 적용되어야 한다"고 덧붙였다.

기존 법률이 실패할 때까지 새로운 법률은 없습니다

Ferguson은 도구가 예상치 못한 방식으로 작동할 때 완전히 새로운 질문이 나타날 것이라는 점을 인정했습니다. 여기에는 책임이 도구를 무고하게 사용한 사람에게 있는지 아니면 도구를 만든 회사에 있는지가 포함됩니다. 그러나 그는 제조물 책임법과 소비자 보호법이 18세기 이후 신기술에 의해 제기된 문제에 직면하고 이에 적응해 왔으며 규제 기관은 맞춤형 AI 법안을 마련하기 전에 이러한 원칙을 검토해야 한다고 주장했습니다.

그는 또한 기존 미국 법률이 무엇을 할 수 있는지 테스트하기 전에 유럽식 AI 규정을 도입하지 말라고 경고했습니다. 이 논평은 브뤼셀이 포괄적인 사전 규칙을 선호하고 퍼거슨이 오랫동안 지속된 불공정 및 기만 원칙의 시행을 선호하는 등 미국과 EU 접근 방식 사이에 가시적인 철학적 격차를 설정합니다.

규제 이중화 의혹

회장은 최첨단 AI 시장 자체의 구조에 대해 가장 날카로운 언어를 사용했습니다. 평신도들이 과점이라고 부르는 두 회사를 형성한 다음 독점 금지 면제와 새로운 규제를 요구하는 것은 깊은 의심을 불러일으킬 것이라고 그는 말했습니다. 왜냐하면 대기업은 정부를 동맹으로 끌어들임으로써 경쟁으로부터 가장 쉽게 자신을 보호할 수 있기 때문입니다.

OpenAI와 Anthropic이 기록적인 가치 평가를 추구하면서 워싱턴에서 지속적으로 막대한 로비를 하고 있기 때문에 프레임 구성이 중요합니다. 퍼거슨의 메시지는 시장을 지배하는 기업들이 맞춤형 규제를 요구하는 것은 바로 그 규제를 만드는 사람이 누구인지 때문에 회의적일 수 있다는 것입니다.

FTC의 기존 AI 툴킷

퍼거슨은 해당 기관이 이미 휘두르고 있는 권한을 지적했다. FTC는 2004년부터 데이터 보안 및 데이터 개인 정보 보호법에 대한 연방 정부의 주요 민사 집행관 역할을 해 왔으며, 불공정하거나 기만적인 데이터 보안 관행에 대한 FTC 소송을 피하는 회사는 일반적으로 문제가 발생하면 사람들이 스스로를 보호할 수 있도록 즉시 알려줌으로써 이를 수행해 왔습니다. 이는 이번 주의 대리인 사건 공개와 명백한 관련이 있는 공개 규범입니다.

그는 제품의 안전이나 데이터 보안에 대한 공개 약속이 부정확하다고 판명되면 기관이 1935년부터 시행해 온 사기 방지 원칙에 속하며 이러한 원칙이 AI 개발의 가드레일 역할을 하지 않을 이유가 없다고 덧붙였습니다.

이 기관은 또한 여러 AI 관련 노력의 중간 단계에 있습니다. 약 1년 전에 출시된 주요 개발자의 AI 챗봇과 어린이와의 상호 작용에 대한 시장 조사는 2027년 초에 완료될 것으로 예상됩니다. 일반적으로 3년 반에서 5년이 걸리는 프로세스에 비해 매우 빠른 속도입니다. 이와 별도로 FTC는 문제가 있는 개인화된 가격 책정에 대한 증거가 있는 특정 시장을 대상으로 새로운 시장 조사를 준비하고 있으며 우려되는 분야에 대해 법 집행 조사를 시작했습니다.

중요한 이유

퍼거슨이 제기한 책임 문제는 더 이상 가설이 아닙니다. OpenAI는 일주일 동안 에이전트가 인코딩된 사용자 정보가 포함된 거의 백만 개의 외부 링크를 생성하고, 수십 개의 사용자 이미지를 제3자에게 노출했으며, SEC 및 인구 조사국을 포함한 미국 정부 웹 사이트와 상호 작용했다는 사실을 공개했습니다. 각 공개는 동일한 질문을 갱신합니다. 대리인이 행동하면 누가 대답합니까?

도구가 아니라 지시하는 당사자인 퍼거슨의 대답은 소프트웨어 공급업체가 안심하면서도 부담스러워할 인간 중심의 책임 사슬을 보존합니다. FTC는 대리인을 독립적인 법적 행위자로 취급할 것을 제안하지 않기 때문에 안심이 됩니다. 부담스러운 이유는 Ferguson이 인용한 동일한 감사 추적을 통해 개발자 시스템이 수행하도록 지시받은 내용을 쉽게 보여줄 수 있기 때문입니다.

현재 회장의 원칙은 관망하는 것입니다. 장부에 적힌 법률을 사용하고, 감사 추적을 관찰하고, 자신에게 유리하게 작성된 규칙을 요구하는 재임자를 의심하십시오. 이러한 자세가 차세대 진정한 자율 에이전트에서도 살아남을지는 의문입니다.

AI보다 앞서 나가세요

AI 정책 환경은 매주 변화하고 있습니다. 최신 AI 뉴스, 분석, 획기적인 소식을 모두 한 곳에서 받아보세요.

AI 뉴스 자세히 보기 →