미국인들이 화요일 중간 선거를 위한 여론 조사를 진행함에 따라 OpenAI와 Anthropic은 AI 플랫폼이 정확한 선거 정보를 제공할 수 있도록 전용 "전시실"을 운영하고 있다고 Semafor는 보도했습니다. 이러한 움직임은 불편한 현실을 인정합니다. 점점 더 많은 유권자에게 챗봇과 AI 검색 도구는 이제 투표 방법, 장소, 시기에 대한 기본적인 질문을 하는 주요 방법입니다.

전쟁실 개념은 초기 플랫폼 정치 시대에서 차용한 것입니다. 2018년, 선거 관련 잘못된 정보 확산에 대한 우려 속에서 메타가 첫 번째 팀을 세웠던 때로 거슬러 올라간다. 그 이후로 변경된 것은 위협 모델입니다. AI 시대는 이러한 위험을 더욱 강화했으며 이제는 딥페이크 비디오와 AI 기반 검색 결과가 자신있게 잘못된 정보를 퍼뜨리는 것을 포함합니다. 선거 시즌 AI 뉴스 보도에서 하루 종일 AI와 중간고사의 교차점을 추적하고 있습니다.

두 AI 연구소 모두 최초

Anthropic은 Semafor에 대한 설정을 확인했습니다. Anthropic 대변인은 "회사 전체의 팀은 선거 관련 안전 장치를 강화하고 정책을 시행하기 위해 연중 내내 노력하고 있습니다"라고 말했습니다. "선거를 앞두고 우리는 플랫폼의 오용을 모니터링하고 모든 사건에 신속하게 대응할 수 있는 전담 상황실을 갖추고 있습니다."

구조는 간단하지만 까다롭습니다. 직원은 Claude 및 기타 도구가 선거 쿼리에 어떻게 응답하는지 모니터링하고, 생성된 허위 정보와 같은 오용 패턴을 감시하며, 며칠이 아닌 몇 시간 내에 해결해야 하는 사건에 대해 신속한 대응 프로세스를 유지합니다. 한편 NBC 뉴스는 독자들을 OpenAI의 병행 선거 전쟁실로 데려가 회사가 AI가 중간선거에 미치는 영향에 어떻게 준비하고 있는지 조사했습니다.

두 회사 모두 이 기능을 처음부터 구축해야 할 필요성을 느꼈다는 것은 문제가 얼마나 새로운지를 말해줍니다. 2018년 플랫폼은 주로 사용자가 게시한 내용에 대해 걱정했습니다. 2026년에는 그들 자신의 모델이 말하는 것에 대해서도 고민해야 한다.

AI가 최악의 순간에 답변을 잘못했을 때

스테이크는 가설이 아닙니다. Semafor는 지난주의 한 가지 사례를 지적했습니다. Google의 AI 모드는 최근 미국 정치 역사상 가장 많이 묻고 가장 많이 해결된 질문 중 하나인 2020년 선거에서 누가 승리했는지에 대한 질문에 응답하지 않았습니다. 구글은 이 문제를 해결하기 위해 노력하고 있다고 밝혔습니다.

실패 모드는 유익합니다. AI 시스템은 답변해야 할 질문을 거부할 때도 있고, 거부해야 할 질문에 답변할 때도 있으며, 두 오류 모두 정확히 대중의 관심과 쿼리 양이 가장 높을 때 급증합니다. 과거 선거에 대한 사실적 질문에 돌담을 쌓는 AI 비서는 신뢰를 확립하려는 것과 마찬가지로 신뢰를 약화시킵니다.

더 넓은 우려는 하나의 잘못된 답변을 넘어서는 것입니다. 이번 주에 발표된 외교협회(Council on Foreign Relations) 분석에서는 AI 챗봇이 영향력 있는 캠페인에 새로운 신뢰성을 부여할 수 있다고 경고했습니다. 왜냐하면 조용하고 자신감 있고 조력자 같은 목소리로 전달되는 잘못된 정보는 당파 웹사이트가 결코 얻을 수 없는 중립적인 분위기를 물려받기 때문입니다.

'예측할 수 없는 일을 처리하기 위해 제작됨'

선거 전 테스트에 의존하지 않고 실시간 상황실을 유지하는 이유는 무엇입니까? 현재 기술 및 민주주의 문제를 연구하고 있는 전 공공 정책 담당 메타 이사인 Katie Harbath는 Semafor에 그 논리를 설명했습니다. 전쟁실은 "우리가 반드시 잘못될 것이라고 예측할 수 없는 일을 처리하기 위해 만들어졌습니다. 그리고 분류 측면에서 빠르고 확립된 프로세스가 필요합니다."라고 그녀는 말했습니다.

Semafor는 AI의 불안정한 특성, 업계에 영향을 미치는 최근 사이버 보안 문제, 사용자가 보고 싶어하는 답변을 다시 반영하는 AI 검색 도구의 경향으로 인해 이러한 예측 불가능성이 더욱 복잡해진다고 지적했습니다. 이는 사람들이 논쟁의 여지가 있는 주제를 이해하는 방식을 조용히 왜곡할 수 있는 아첨 문제입니다.

선거일은 스트레스 테스트이다. 투표소, 후보 위치, 결과에 대한 쿼리 볼륨은 선거 전 평가가 완전히 시뮬레이션할 수 없는 수준으로 급증할 것입니다. 상황실이 존재하는 이유는 이러한 시스템이 해당 부하 하에서 어떻게 작동하는지 알아내는 유일한 방법이 문제를 빠르게 해결할 수 있는 권한을 가지고 실시간으로 관찰하는 것이기 때문입니다.

결과가 나올 때 주의할 사항

선거일 밤에는 타이밍이 아니더라도 카테고리별로 압력 포인트를 예측할 수 있습니다. AI는 공식적으로 경주가 호출되기 전에 결과와 마진에 대해 답변하고, 최대 혼란에 맞춰진 딥페이크 시간을 정하고, 잘못된 챗봇 답변의 스크린샷이 수정보다 빠르게 확산됩니다. OpenAI, Anthropic 및 Google 시스템이 얼마나 빨리 적응하느냐에 따라 이번 선거의 정보 환경뿐 아니라 다음 선거의 정보 환경 관리 방법도 결정될 것입니다.

AI 산업의 경우 더 깊은 테스트는 평판입니다. 수백만 명의 유권자가 이번 주에 처음으로 중요한 시민적 맥락에서 이러한 시스템과 상호 작용할 것입니다. 선거 답변을 올바르게 얻거나 눈에 띄게 빠르게 수정하는 회사는 어떤 마케팅 캠페인으로도 얻을 수 없는 일종의 신뢰를 얻게 될 것입니다.

---

AI보다 앞서 나가세요

최신 AI 뉴스, 분석, 획기적인 소식을 모두 한 곳에서 받아보세요.

AI 뉴스 자세히 보기 →