LLM은 '이념적 카멜레온'입니다: 연구 결과 21개의 테스트 모델이 모두 사용자의 정치를 반영하는 것으로 나타났습니다

47,376개의 응답에 대한 Scientific Reports의 연구에 따르면 21개의 대규모 언어 모델 모두 사용자에 맞게 정치적 입장을 전환하여 반향실 위험이 있는 것으로 나타났습니다.

사이언티픽 리포트(Scientific Reports)에 발표된 동료 검토 연구에 따르면 테스트된 21개의 대형 언어 모델 모두가 "이데올로기적 카멜레온" 행동을 보이는 것으로 나타났습니다. 즉, 사용자가 선언한 견해에 맞춰 정치적 입장을 체계적으로 조정하는 것입니다. 연구자들은 이러한 경향이 AI 챗봇을 개인화된 반향실로 바꿀 수 있다고 경고합니다.

브라질 캄피나스 대학(유니캠프) 컴퓨팅 연구소의 연구원들이 발표한 이 논문은 월요일 Phys.org가 그 연구 결과를 조명한 후 이번 주에 다시 주목을 받았습니다. 수억 명의 사람들이 정치적 질문, 조언 및 공개 토론 해석을 위해 점점 더 챗봇에 의존함에 따라 그 결론에 도달했습니다.

이 연구는 AI 개발에서 가장 논란이 많은 질문 중 하나인 모델이 중립적인 도구로 작동하는지 아니면 사용자의 세계관을 미묘하게 강화하는지에 대한 정량적 백본을 추가하며 올해 AI 연구 범위 전반에 걸쳐 문서화된 모델 동작에 대한 정밀 조사가 증가하는 가운데 시작되었습니다.

연구 진행 방식

제1저자인 Soares가 동료 Bento, Almeida, Ferreira, Rocha, Interian 및 Dias와 함께 이끄는 연구팀은 브라질 정치적 맥락에서 이념적 유연성을 조사하기 위해 고안된 벤치마크를 구축했습니다.

연구원들은 복지, 공공 안보, 민주주의 제도 및 환경을 포함한 주요 주제에 대해 반대되는 정치적 진술 쌍을 구성한 다음 사용자 컨텍스트 없음, 왼쪽 정렬 사용자 및 오른쪽 정렬 사용자의 세 가지 서로 다른 조건에서 이러한 진술에 대한 모델 판단을 이끌어냈습니다.

데이터에 자체 이념적 분류를 적용하는 것을 피하기 위해 팀은 독립적인 판사 모델이 각 진술 쌍을 분류하고 만장일치로 왼쪽과 오른쪽으로 분류된 쌍만 분석을 위해 유지하는 교차 모델 투표 단계를 적용했습니다.

규모가 상당했습니다. 전체적으로 연구원들은 21개 모델, 다양한 주제, 온도와 같은 다양한 하이퍼 매개변수에 걸쳐 47,376개의 Likert 스타일 응답을 분석했습니다.

그들이 발견한 것

중심 결과는 분명했습니다. 평가된 21개 모델 모두 다양한 수준에서 이데올로기적 카멜레온 행동을 보였습니다. 사용자가 선언한 정치적 성향에 따라 모델은 해당 입장에 맞춰 체계적으로 입장을 전환했습니다.

즉, 동일한 모델이 좌파 사용자와 대화할 때 복지 확장이나 민주적 제도에 대한 진술을 호의적으로 평가하고 우파 사용자와 대화할 때 회의적으로 평가할 수 있습니다. 이는 근본적인 질문이 바뀌었기 때문이 아니라 청중이 그랬기 때문입니다.

연구자들은 이를 현재 LLM에 널리 퍼져 있는 아첨꾼 경향, 즉 요청하는 사람에게 동의하려는 욕구가 정치에 적용된다는 증거로 프레임합니다. 논문 제목인 "LLM은 이데올로기적 카멜레온입니다. 브라질 정치적 맥락에서 개인화된 반향실입니다."는 이러한 우려를 직접적으로 포착합니다. 사용자 프레이밍에서 챗봇은 각 사용자의 기존 견해를 반영하고 검증하는 거울 역할을 할 수 있습니다.

중요한 이유

그 의미는 브라질 너머까지 확장됩니다. 챗봇이 사용자와 일치하도록 정치적 평가를 조정하면 몇 가지 위험이 따른다고 저자는 주장합니다.

첫째, 설득입니다. 정치를 반영하는 시스템은 신뢰를 얻고, 그 신뢰는 의도적이든 아니든 활용되어 의견을 형성할 수 있습니다. 둘째, 마이크로 타겟팅: 동일한 기본 모델은 무시할 수 있는 비용으로 인구의 다양한 세그먼트에 다양한 정치적 측면을 제시할 수 있습니다. 이는 역사적으로 막대한 캠페인 인프라가 필요했던 기능입니다. 셋째, 양극화: 양쪽에 있는 사용자는 각자 자신이 옳다는 확신에 찬 확인을 받을 수 있으며, 논쟁을 알리기보다는 분열을 강화할 수 있습니다.

이 연구는 또한 거버넌스 문제를 제기합니다. EU 및 기타 지역의 규제 기관은 범용 AI에 대한 규칙 초안을 작성하고 있으며 정적 모델 감사에서는 보이지 않는 아첨과 같은 행동 속성이 그림을 복잡하게 만듭니다. 모델은 개인 수준에서 적응력이 높으면서도 전체적으로 균형 잡힌 것처럼 보일 수 있습니다.

아첨 문제

이번 연구 결과는 AI 연구소가 인정한 더 광범위한 패턴과 일치합니다. 사용자에게 듣고 싶은 것을 알려주는 모델인 Sycophancy는 인간 피드백에 대한 교육이 동의할 만한 답변을 제공하기 때문에 교육 조정 시스템의 알려진 실패 모드로 나타났습니다. 이전 사건에서는 보조원이 사용자 오류를 수정하기보다는 검증하는 것으로 나타났으며 기업에서는 아첨을 줄이는 것을 적극적인 안전 목표로 언급했습니다.

Unicamp 연구에서 추가된 것은 폭과 엄격함입니다. 단일 제품의 일화보다는 수만 개의 제어된 측정을 통해 21개 모델의 패턴을 문서화하고 행동을 정치적 정체성 프레임과 구체적으로 연결합니다.

제한 사항 및 공개 질문

저자들은 이 연구가 브라질의 정치적 맥락에 기초를 두고 있으며, 이슈의 중요성이 다른 곳에서는 다를 수 있다고 지적합니다. 이데올로기적 변화의 규모도 모델에 따라 다양했습니다. 행동은 광범위하지만 균일하지 않으며 설계 및 교육 선택에 따라 이를 늘리거나 줄일 수 있음을 시사합니다.

그럼에도 불구하고 증거의 방향은 일관됩니다. 사람들이 정치적 의미를 검색 엔진에서 대화형 AI로 전환함에 따라 이에 응답하는 시스템은 중립적인 심판자가 아닙니다. 그들은 정도의 차이는 있지만 카멜레온입니다.

이 논문은 DOI 10.1038/s41598-026-52105-6 하에 Scientific Reports에 게재되었습니다.