AI 조언은 사람들을 3배 덜 정확하지만 2배 더 확신하게 만든다는 연구 결과가 나왔습니다.

연구원들은 AI 조언에 대한 접근이 정확도가 27%에서 9%로 감소한 반면 신뢰도는 30%에서 76%로 치솟았다는 사실을 발견했습니다. '모르겠다'고 답하려는 의향은 44%에서 3%로 급락했다.

유럽 3개 대학 연구자들의 새로운 연구에 따르면, 인공지능 조언에 접근하면 사람들이 질문에 답하는 능력이 극적으로 저하되는 동시에 잘못된 답에 대한 자신감이 훨씬 높아지는 것으로 나타났습니다. 2026년 7월 19일에 발표된 연구 결과는 AI 도구가 독립적인 판단을 강화하기보다는 억제할 수 있다는 증거가 늘어나고 있다는 사실에 날카로운 데이터 포인트를 추가합니다.

AI 지원을 받을 때 사람들이 어떻게 반응하는지 조사한 이 연구는 자동화된 시스템에 대한 인간의 과도한 의존에 대한 증가하는 우려를 추적한 AI 속보 보도를 통해 표면화되었습니다. 그 결과는 놀라웠습니다. AI가 상담할 수 있게 되었을 때 사람들은 정확도가 대략 3배 정도 떨어졌지만 자신감은 거의 2배나 높아졌습니다.

무지를 인정하려는 의지의 붕괴

이 연구는 Milano-Bicocca 대학의 부교수인 Valerio Capraro와 École Normale Supérieure의 Chiara Marcoccia 및 로마 Sapienza 대학의 Walter Quattrociocchi와 함께 작성되었습니다. 연구원들은 AI 모델이 일반적으로 실패하는 질문, 즉 Bend It Like Beckham의 팀 유니폼 색상과 같은 영화의 시각적 세부정보를 중심으로 실험을 의도적으로 설계했습니다.

성능 저하가 신뢰할 수 있는 도구에 대한 합리적인 위임으로 설명되지 않도록 하기 위해 팀에서는 이러한 질문에 대해 일반적으로 잘못된 모델인 3.5단계 Flash를 사용했습니다. 이 설정은 AI가 도움이 될 수 있는지 여부가 아니라 AI의 존재만으로도 인간의 판단이 왜곡되는지 여부를 테스트했습니다.

결과는 분명했습니다. AI를 사용할 수 없는 경우 참가자의 44%가 "모르겠어요"라고 기꺼이 대답했습니다. AI 조언이 제공되자 그 수치는 단 3%로 줄어들었습니다. 정확도는 27%에서 9%로 감소한 반면 신뢰도는 30%에서 76%로 급증했습니다.

> 사람들은 훨씬 더 나빠졌습니다. 정확도는 3분의 1에 불과했지만 자신감은 2배나 됐다.

Capraro의 이 인용문은 핵심 결과를 요약합니다. 스스로 올바르게 대답했을 일부 참가자는 AI에 문의하여 결국 틀렸지만 이전보다 대답에 대해 더 나은 느낌을 받았습니다.

금전적 인센티브는 거의 도움이 되지 않았습니다.

연구자들은 재정적 보상이 그 효과를 상쇄할 수 있기를 바라면서 참가자들에게 정답에 대한 금전적 인센티브를 제공했습니다. 개입이 도움이 되었지만 미미한 수준이었습니다. 무지를 인정하려는 의지는 3%에서 8%로 증가했고 정확도는 9%에서 16%로 향상되었습니다. 둘 다 여전히 AI가 없는 기준선인 44%와 27%보다 훨씬 낮습니다.

그 의미는 중요합니다. 사람들이 신중하게 생각하고 오류를 방지해야 하는 구체적인 재정적 이유가 있더라도 자신감 있는 AI 답변이 주는 중력은 더 나은 판단을 무시할 만큼 강력합니다.

'인지적 항복' 현상

이 발견은 올해 동일한 패턴을 설명하기 위해 "인지 항복"이라는 용어를 만든 와튼 스쿨(Wharton School) 연구원들의 이전 연구 결과를 반영합니다. 그들의 연구에서 사람들은 약 80%의 시간 동안 잘못된 AI 답변을 받아들였으며 AI 지원 없이 일하는 사람들보다 더 높은 자신감을 보고했습니다.

새로운 유럽 연구에서 추가된 것은 보다 정확한 메커니즘입니다. 사람들이 잘못된 AI 답변을 접했을 때 단순히 신뢰하는 것은 아닙니다. AI 의견의 가용성은 자신의 지식의 한계를 인식하는 인지적 습관, 즉 잠시 멈추고 "모르겠습니다"라고 말하는 기본 능력을 억제한다는 것입니다.

인간에게 불확실성을 인정하는 능력은 학습과 의사결정의 기초입니다. Capraro는 성숙한 비판적 사고 기술을 개발하기 전에 이러한 시스템과 함께 성장하는 어린이에 대해 특히 우려한다고 말했습니다.

AI 제품 디자인에 대한 더 넓은 의미

이 연구는 AI 도구가 어떻게 구축되고 배포되는지에 대한 광범위한 논쟁이 진행되는 가운데 진행됩니다. Google의 검색 제품 정밀 검사는 전통적인 링크를 일관된 권위를 가지고 말하는 AI 생성 요약으로 대체했으며 이번 주 옹호 단체인 Common Sense Media는 이러한 디자인이 학생들에게 "용납할 수 없는 위험"이라고 말했습니다.

연구원들이 확인한 패턴은 제품 전반에 걸쳐 일관됩니다. AI 시스템은 "모르겠어요"라고 거의 말하지 않고 대답하도록 설계되었습니다. 증거에 따르면 이를 사용하는 인간도 동일한 방법을 배우고 있습니다.

이는 영화에 대한 상식 이상의 결과를 가져옵니다. 직장, 병원, 교실에서 불확실성을 표시하려는 의지를 약화시키는 도구는 권한을 부여한다고 느껴지더라도 조용히 의사결정 품질을 저하시킬 수 있습니다. 그것이 심어주는 자신감은 많은 경우 기본 정확성이 보장하는 것과 정반대입니다.

다음에 나올 내용

연구원들은 이번 연구 결과가 AI 비서의 설계 방식을 재구성해야 한다고 주장합니다. AI의 기본 동작이 신뢰성에 관계없이 자신 있는 답변을 생성하는 것이라면, 데이터에 따르면 불확실성을 인식하는 부담은 전적으로 이를 감당할 준비가 부족한 사용자에게 있습니다. 자신의 불확실성을 보정하고 전달할 수 있고 증거가 희박할 때 주장하기보다는 주저하는 시스템 구축은 인간의 판단을 온전하게 유지하는 데 필수적일 수 있습니다.

그때까지 이 연구는 간단하면서도 불편할 수 있는 교훈을 제공합니다. 확실히 들리는 AI는 올바른 AI와 같지 않습니다. 그리고 자신감 있는 목소리, 심지어 잘못된 목소리라도 신뢰하려는 인간의 본능은 기술이 지금까지 발휘한 가장 강력한 힘일 수 있습니다.