Meta는 No Kings Coalition의 주요 인스타그램 계정이 부당하게 정지된 것에 대해 Anthropic의 Claude와 연결된 인공 지능 도구를 비난했습니다. 이 오류로 인해 11월 중간 선거를 앞두고 조기 유권자 투표율을 높이기 위한 전국적인 행동이 진행되는 동안 항의 운동의 소셜 미디어 존재가 몇 시간 동안 오프라인 상태가 되었습니다.

토요일 오후에 시작된 정지는 처음에는 일상적인 자동 보호로 인해 발생했습니다. 하루 후 Meta는 좀 더 특이한 계정을 제공했습니다. Bloomberg와 The Guardian의 보고에 따르면 회사의 엔지니어들은 Anthropic의 Claude에 연결된 도구가 평소보다 약 4배 빠른 속도로 계정에서 게시물, 프로필 및 해시태그를 가져오고 있다는 사실을 발견했습니다. 이는 Meta의 시스템이 자동화된 봇 활동으로 착각하고 계정을 다운시키는 트래픽 패턴이었습니다. 이 이야기에 대한 자세한 내용은 최신 AI 동향를 참조하세요.

국가 행동의 날 동안 묵념 시간

폐쇄는 이보다 더 민감한 순간에 일어날 수 없었습니다. 최근 몇 년 동안 수백만 명의 미국인을 거리로 끌어 모은 민주화 운동의 일부인 The Deep Dive가 인용한 수치에 따르면 주최측은 토요일에 미국 전역에서 거의 3,000개의 "왕 없음: 조기 투표" 행사를 열었습니다.

관리자는 오후 1시 30분경에 계정에 대한 액세스를 잃었습니다. 동부연합 대변인은 말했다. 계정 자체는 약 90분 후에 공개적으로 다시 나타났지만, 그 뒤에 있는 사람들은 거의 4시간 동안 백엔드에 잠겨 있었고 오후 5시 33분에 전체 액세스 권한을 다시 얻었습니다. 동부.

조직화 단체인 Indivisible의 공동 창립자인 Ezra Levin은 상황을 직설적으로 설명했습니다. "그들은 그것을 중단했습니다. 우리는 그것에 접근할 수 없었습니다."라고 그는 말했습니다.

메타 설명이 두 번 변경되었습니다.

Meta의 첫 공개 반응은 토요일에 나왔습니다. 대변인 Andy Stone은 X에 대해 플랫폼의 자동화된 시스템이 "계정이 매우 높은 빈도로 게시, 공유 또는 댓글을 달 때" 때때로 작동한다고 썼습니다. 그는 "자동화된 조치가 분명히 실수로 취해진 것"임을 인정하고 "이제 모든 것이 정상적으로 작동하고 있으며 진심으로 사과드립니다"라고 덧붙였습니다.

일요일까지 회사는 사건 기록을 수정했습니다. 긴 성명에서 스톤은 프로필, 게시물, 해시태그를 "강렬하게" 읽는 활동량이 많아 메타의 AI 도구가 트래픽을 자동화된 봇으로 분류하게 되었다고 말했습니다. Stone은 "이 활동으로 인해 우리의 자동 보호 기능이 No Kings Instagram 계정을 잘못 오프라인 상태로 만들었습니다."라고 Stone은 말했습니다. Stone은 한 시간 후 자동 재검토를 통해 실수를 인식하고 계정을 복원했지만 관리자 액세스를 풀려면 추가 시간이 걸렸다고 말했습니다.

클로드 연결은 일요일 블룸버그에 의해 처음 보도되었습니다. Meta가 설명하지 않은 것은 누가 도구를 운영했는지, 왜 그들이 계정에 그렇게 공격적으로 쿼리했는지입니다. 회사는 공개 성명에서 해당 질문에 응답하지 않았습니다.

주최자는 답변이 부적절하다고 말합니다.

연합은 봇 트래픽에 대한 설명을 확신하지 못했습니다. 이 그룹은 일요일 인스타그램에 올린 게시물에서 활동 당일 회원들이 "게시물을 몇 번만 게시하고 수천 명에게 실시간 스트리밍했다"고 밝혔습니다. 이는 자동화된 스팸 작업의 프로필과는 거의 다릅니다.

No Kings Coalition은 "우리는 계정에 대한 액세스 권한을 다시 얻었지만 Meta는 여전히 우리에게 설명을 해야 합니다"라고 썼습니다. "선거 도중 투표에 관한 커뮤니케이션을 제한하는 것은 용납될 수 없습니다."

이 에피소드는 빠르게 정치적 반응을 불러일으켰습니다. 버니 샌더스(Bernie Sanders) 상원의원은 X에서 "미디어의 억만장자 소유권"이 정지의 원인이라고 제안했고, 코네티컷주 상원의원 크리스 머피(Chris Murphy)는 무슨 일이 일어났는지 조사할 것을 촉구했습니다.

AI 트래픽이 남용으로 보일 때

즉각적인 정치를 넘어서, 이 사건은 대규모 플랫폼이 시스템을 감시하는 방식에 대한 단층이 커지고 있음을 보여줍니다. 자동화된 시행은 인간의 행동과 봇의 행동을 구별하는 분류자에 달려 있습니다. AI 에이전트, 스크레이퍼 및 타사 도구가 합법적인 이유로 기계 속도로 소셜 플랫폼에 쿼리함에 따라 이러한 구별은 유지하기가 점점 더 어려워지고 있습니다.

정지에 대한 Meta의 설명은 방어가 실제로 자동화된 것처럼 보이는 트래픽에 대해 설계된 대로 작동했으며 자동 조정에 대한 비평가들이 오랫동안 경고해 온 방식과 정확히 일치하지 않았음을 시사합니다. 신속하고 불투명하며 잘못된 대상에 대해 피해가 발생한 후에야 수정이 이루어졌습니다.

Anthropic의 경우 이 에피소드는 모델의 발자국이 자체 제품을 훨씬 뛰어넘는다는 점을 상기시켜 줍니다. Claude는 Anthropic의 API를 통해 제3자 애플리케이션에 의해 액세스되며, 사건에 대한 보고에 따르면 Meta는 Anthropic 자체가 실행하는 도구가 아닌 모델에 "연결된" 도구를 가리켰습니다. 즉, 다운스트림 사용은 자체적인 직접적인 조치 없이도 모델 제작자의 이름을 달갑지 않은 헤드라인에 올릴 수 있습니다.

다음에 무슨 일이 일어날까요?

Meta는 두 번 사과하고 계정을 복원했지만 연합은 더 완전한 회계를 요구하고 있으며 회사는 지금까지 Claude와 연결된 도구의 운영자를 지명하거나 선거 시즌 동안 정치 조직에 적용되는 보호 조치(있는 경우)에 대해 자세히 설명하는 것을 거부했습니다.

주 중반이 다가오고 여러 주에서 조기 투표가 진행되는 가운데, 플랫폼 그룹과 선거 관리들은 Meta 및 유사한 자동화된 방어에 의존하는 다른 플랫폼이 시민 단체를 봇 필터에 얽매이지 않도록 임계값을 조정하는지 여부를 지켜볼 것입니다. 규제 당국이 더 긴밀한 관심을 가질지는 주최자가 계속 묻는 질문에 Meta가 얼마나 만족스럽게 대답하는지에 달려 있습니다. 정확히 무슨 일이 일어났는지, 모든 것을 촉발한 트래픽 뒤에 누가 있었는지.

The Guardian, Bloomberg 및 The Deep Dive의 보고가 이 기사에 기고되었습니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →