이번 주 언어 모델링 컨퍼런스(COLM)에서 발표된 동료 검토 연구에 따르면 AI 도구에 의존하는 데 10분만 투자하면 어려운 작업에 집중하고 지속하는 능력이 크게 손상됩니다.

"AI 지원은 지속성을 감소시키고 독립적인 성능을 저하시킵니다"라는 제목의 이 논문은 작가이자 연구원인 UC 버클리 인간 호환 AI 센터의 연구원인 Brian Christian이 카네기 멜론 대학교, 매사추세츠 공과대학, 옥스퍼드 대학교 및 UCLA의 학자들과 함께 공동 집필했습니다. 연구의 초기 초안은 봄에 유포되었지만 동료 검토를 거쳐 업데이트된 버전이 이번 주 컨퍼런스에서 발표되었으며 UC Berkeley 연구 사무실은 10월 9일에 자세한 요약을 발표했습니다. 이 이야기에 대한 자세한 내용은 최신 AI 동향를 참조하세요.

연구원들이 발견한 것

사람들의 집중력과 끈기가 얼마나 빨리 감소하는지 측정하기 위해 팀은 온라인으로 모집된 1,222명의 참가자를 대상으로 일련의 무작위 대조 시험을 실시했습니다.

첫 번째 실험에서는 354명의 참가자에게 15가지 기본 분수 문제를 풀도록 요청했습니다. 한 그룹은 도움 없이 작업했고, 두 번째 그룹은 ChatGPT를 옆에 열어두고 자유롭게 도움을 받거나 심지어 직접 답변을 요청할 수도 있었습니다. AI 액세스 권한이 있는 그룹은 더 정확하게 시작되었습니다. 그런 다음 12번의 문제 후에 연구원들은 도구를 제거했습니다. 거의 즉시 해당 그룹의 정확도가 무너졌습니다.

이 패턴은 667명의 참가자로 구성된 두 번째 대규모 그룹에서도 반복되었습니다. AI 지원이 철회되자 AI 사용자들은 틀린 답을 얻거나 완전히 포기한 반면, 도움 없이 일했던 그룹은 작업을 계속해 더 성공적으로 마쳤다.

201명의 참가자를 대상으로 한 세 번째 실험에서는 수학 문제를 SAT 독해 프롬프트로 바꿨습니다. 결과는 이전 시도와 동일했습니다. 도구가 사라지자 지속성과 정확성도 사라졌습니다.

Christian은 UC Berkeley가 게시한 논평에서 "이보다 더 명확한 이야기를 요구할 수는 없을 것입니다"라고 말했습니다.

즉시 답변의 '인적 비용'

연구원들은 문제는 AI 자체가 아니라 AI가 기본적으로 제공하는 도움의 종류에 있다고 주장합니다. 시스템이 몇 초 만에 답변을 생성하면 사용자는 그 속도에 익숙해지고 느린 것은 비효율적이라고 느끼기 시작합니다. 도구에 의존하면 팀이 "생산적 투쟁"이라고 부르는 것, 즉 사람들이 자신의 강점과 관심사를 발견하는 데 도움이 되는 노력이 필요하지 않게 됩니다.

"우리는 도움이 되도록 이러한 시스템을 구축했지만 실제로 우리에게 도움이 되는 방식으로 우리에게 도움이 되고 있습니까?" 크리스천이 말했다. "아이러니하게도 그들은 종종 도움이 되지 않는 방식으로 우리를 돕고 있다는 사실을 보여주었습니다."

2020년 저서 '정렬 문제(The Alignment Problem)'를 집필한 크리스티안(Christian)은 AI 안전에 대한 접근 가능한 주요 저작 중 하나로 널리 알려져 있으며 이번 발견은 많은 사람들이 갖고 있는 직관에 대한 증거를 제공한다고 말했습니다. "이것은 놀라운 발견이지만 어떤 면에서는 우리 중 많은 사람들이 직감적으로 느끼는 이야기에 대한 탄약을 제공합니다"라고 그는 말했습니다. "저도 경험해요."

분수를 넘어서 중요한 이유

이번 연구는 교육 분야의 인지적 부담에 대한 우려가 커지고 있는 가운데 시작되었습니다. Berkeley의 보고서에 따르면 프론티어 AI 회사들은 작업을 챗봇에 맡기면 주제에 대한 사용자의 기본 이해가 떨어질 수 있다는 점을 인정했습니다. Christian은 가능한 수정 방법을 제안합니다. AI 응답은 기본적으로 더 유익할 수 있습니다. 즉, 대체하는 자동 응답기보다는 안내하는 교사처럼 행동할 수 있습니다.

그는 “우리는 인간의 능력이 대체되기보다는 최대한 강화되는 미래를 향해 노력해야 한다”고 말했다.

그의 관심은 전문적인 연구에도 적용됩니다. 크리스찬은 과학에서 AI 도구에 대한 과도한 의존이 훌륭한 과학자를 만드는 습관, 즉 데이터에 가까이 머물고, 자료에 몰입하고, 팀과 긴밀하게 협력하는 습관을 정확히 침식할 수 있다고 우려합니다. 그는 획기적인 아이디어를 창출하는 10명의 연구 그룹이 2~3명의 연구원과 챗봇으로 줄어들 수 있다고 지적했습니다.

"이것은 분수와 SAT 문제에 관한 이야기가 아닙니다."라고 Christian은 말했습니다. "이것은 위에서 아래로, 초등학생부터 세계 최고의 전문가에 이르기까지 인간의 지식과 전문 지식에서 일어나고 있는 일입니다."

주류에 진입한 연구

UC Berkeley에 따르면, 초기 연구 결과는 봄에 예비 초안이 발표되었을 때 WIRED와 Psychology Today에서 보도되었으며, New York Times는 지난주 이 논문과 유사한 연구에 대한 기사를 게재했습니다. 언어 모델링 연구 분야의 주요 장소 중 하나인 COLM의 동료 검토 프레젠테이션은 이제 그 결과에 공식적인 스탬프를 제공합니다.

교육자와 고용주에게 메시지는 불편하지만 구체적입니다. 즉각적인 AI 답변에 짧은 노출이라도 답변을 더 이상 사용할 수 없을 때 사람들의 행동 방식이 눈에 띄게 변화합니다. 그리고 AI 기업의 경우, 이 연구는 해결하는 만큼 자주 가르치는 시스템을 설계해야 한다는 압력을 가중시킵니다.

크리스찬은 책상 위에 공책을 두고 매일 글을 씁니다. 그는 버클리에게 그 실천이 그를 기반으로 삼고 자신의 학문적 우위가 무뎌지는 것을 막아준다고 말했습니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →