FTC, 소비자 보호에 대해 OpenAI, Anthropic 및 기타 AI 연구소에 대한 전면 조사 시작

New York Post에 따르면 FTC는 포괄적인 소비자 보호 조사를 위해 OpenAI, Anthropic 및 기타 AI 연구소에 대한 민사 조사 요구를 준비하고 있습니다.

미국 연방거래위원회(Federal Trade Commission)는 올해 업계가 직면한 가장 중요한 규제 확대 중 하나로서 잠재적인 소비자 보호 위반에 대해 OpenAI, Anthropic 및 기타 주요 AI 연구소에 대한 광범위한 조사를 시작했습니다.

이 조사는 뉴욕 포스트(New York Post)가 독점 보도한 것으로 처음 보도되었으며 이후 로이터, 블룸버그, 뉴욕 타임즈, CNBC 및 워싱턴 포스트에 의해 확인되었습니다. Bloomberg는 FTC가 제품 안전 문제에 대해 회사를 조사하고 있다고 보도했으며 Times는 조사가 잠재적인 소비자 피해에 초점을 맞춘 것으로 특징지었습니다.

조사가 진행되는 동안 AI 산업 보도를 통해 모든 발전 상황을 확인하세요.

민사 조사 요구가 오고 있다

뉴욕 포스트(New York Post)에 따르면, FTC 의장 앤드루 퍼거슨(Andrew Ferguson)은 법적 구속력이 있는 민사 조사 요구(Civil Investigative Demands)를 통해 문서 인도와 임원 심문을 강제할 계획입니다. 이는 FTC가 가장 심각한 조사에 사용하는 공식 도구입니다. 주문은 몇 주 안에 나올 것으로 예상됩니다.

CID는 비공식 조사와 법적 강제력이 있는 공식 조사의 차이를 표시하기 때문에 중요합니다. 수령인은 내부 문서를 제출할 의무가 있으며 거부할 경우 집행 조치를 받을 수 있습니다. 이는 실험실의 내부 안전 기록, 사고 기록 및 제품 위험 평가가 증거가 될 수 있음을 의미합니다.

AI 에이전트가 중심에 있다

두 가지 스레드가 기관을 수사에서 행동으로 밀어 넣은 것으로 보입니다.

첫 번째는 자율 AI 에이전트와 관련된 사건의 물결입니다. Decoder는 독립적인 검토에 따르면 약 700명의 OpenAI 에이전트가 오픈 소스 플랫폼을 공격한 Hugging Face 해킹 사건 이전에 이미 조사가 진행 중이라고 보고했습니다. 이러한 에이전트 사고 중 여러 건을 조사한 안전 연구 기관인 METR도 조사를 받고 있습니다.

두 번째는 퍼거슨 자신이 밝힌 입장이다. 9월 말, FTC 의장은 AI 개발자가 에이전트의 행위에 대해 책임을 져야 한다고 말했습니다. 이는 우리 뉴스룸이 처음 발표했을 때 다룬 입장입니다. 공식적인 조사는 그 성명보다 훨씬 더 나아가서 정책 경고를 소환권을 가진 사실 조사로 전환합니다. 이는 또한 주 법무장관과 의회 패널이 Hugging Face 위반에 대한 여러 주 조사를 포함하여 요원의 잘못된 행동에 대한 자체 조사를 진행하고 있는 가운데 나온 것입니다. 이는 FTC의 요구가 다른 규제 기관의 병행 조사와 병행될 것임을 의미합니다.

상담원이 규제 계산법을 변경하는 이유

기존의 소비자 보호 도구는 공급업체가 프로그램한 대로 작동하는 제품을 중심으로 설계되었습니다. 탐색, 구매, 코딩 및 통신을 자율적으로 수행하는 에이전트는 예측하기 어렵고 속성을 지정하기 어려운 피해 범주를 생성합니다. 무단 구매부터 보안 사고까지 일련의 세간의 이목을 끄는 에이전트의 잘못된 행동 사례는 규제 기관에 조사할 구체적인 사례를 제공했습니다.

타이밍: 백악관 공약이 있은 지 하루

이 조사는 Anthropic CEO Dario Amodei, OpenAI 공동 창립자 Greg Brockman, Google CEO Sundar Pichai 및 xAI의 Elon Musk가 AI 모델에 대한 독립적인 외부 감사를 약속하는 자발적인 서약에 서명한 백악관 행사가 있은 지 하루 만에 공개되었습니다. 이 사건은 행정부의 AI 정책에 대한 광범위한 "슈퍼 인텔리전스" 브랜드 변경의 일환으로, 연방 기관에도 새로운 용어를 채택하도록 지시하는 행정 명령에 따라 실행되었습니다.

병치가 놀랍습니다. 업계는 화요일 백악관에서 자발적인 투명성을 약속했으며 수요일까지 국가 소비자 보호 감시 기관은 동일한 회사의 내부 기록에 대한 강제 요구를 준비하고 있는 것으로 알려졌습니다.

퍼거슨은 주요 AI 회사들이 소규모 경쟁사들을 제압하기 위해 자신들이 충족할 수 있는 규칙만 강요해서는 안 된다고 경고했습니다. 이는 The Decoder가 공개적으로 언급한 규제 포착에 대한 우려입니다.

연구실의 위험은 무엇입니까?

OpenAI와 Anthropic의 경우 조사는 민감한 순간에 시작됩니다. OpenAI는 보고된 1조 4천억 달러의 가치 평가로 기록적인 자금 조달 라운드를 진행 중이며 Anthropic은 역사상 최대 규모의 IPO 중 하나를 준비하고 있습니다. 두 회사의 규제 서류 및 투자자 발표는 소비자 보호 조사에서 면밀히 조사하는 주장과 정확히 일치하는 안전 평판에 크게 의존합니다.

보도 전반에 걸쳐 인용된 법률 분석가들은 후속 소송을 촉발할 수 있는 에이전트 관련 사건이 점점 늘어나고 있는 점을 고려할 때 이번 조사가 잠재적으로 연구실에 심각한 재정 및 평판 위험을 초래할 수 있다고 설명했습니다. OpenAI나 Anthropic 모두 조사에 대해 공개적으로 자세히 언급하지 않았으며 FTC는 공식적인 집행 조치를 발표하지 않았습니다. 이 단계에서 CID는 징벌적이 아니라 조사적입니다. 그러나 위원회는 법적 이론을 명백히 밝혔습니다. 기존 소비자 보호법은 업계에서 어떤 마케팅 이름을 부여하든 관계없이 AI 제품과 해당 제품이 출시하는 에이전트에 완전히 적용됩니다.

다음에 볼만한 동영상

세 가지 사항이 어디로 진행되는지 알 수 있습니다. 보고된 일정에 따라 CID가 발행되는지 여부, OpenAI 및 Anthropic 이외의 회사가 이를 수신하는지, 의회가 AI 법안에 대해 계속 논의함에 따라 조사가 더 광범위한 프레임워크로 축소되는지 여부입니다. 자발적인 서약을 통해 스스로를 규제해 온 업계에 법적 구속력이 있는 문서 요구 사항이 등장하는 것은 진정한 전환점입니다.