Wikipedia의 자원 편집자들은 기계 생성 콘텐츠에 맞서 조용한 전쟁을 벌이고 있으며 처음으로 수치가 확정되었습니다. WikiProject AI Cleanup의 창립 멤버인 Ellia Lebleu와의 최근 IEEE Spectrum 인터뷰에 따르면, AI 탐지 도구는 영어 Wikipedia의 새로운 기사와 초안 중 무려 20%가 2025년 말에 기계 생성된 것으로 추정했으며, 2026년 초에는 15~16%가 기계 생성된 것으로 추정했습니다. 이 인터뷰는 Hacker News를 1위로 차지한 후 이번 주에 새로운 관심을 끌었습니다.

Lebleu, 박사. 렌 대학교 인리아 센터의 AI 전공 학생은 2023년 12월 정리 프로젝트를 공동 창립했습니다. 그때 그녀와 Wikipedia Discord 서버의 다른 편집자들은 똑같은 이상한 특성을 공유하는 이상한 새 기사의 물결을 발견했습니다. 이 이야기에 대한 자세한 내용은 인공지능 뉴스를 참조하세요.

뻔한 진부함부터 미묘한 이야기까지

초기에는 텔이 눈에 띄었습니다. AI가 작성한 기사는 "증언으로 서 있다" 또는 "풍부한 문화 유산"과 같은 상투적인 문구를 반복했으며 종종 공식적인 결론 섹션이나 "이것이 왜 중요한가?"와 같은 이상한 헤더를 포함했습니다. — 감지를 비교적 쉽게 만든 ChatGPT 시대 출력의 상표입니다.

2025년까지 신호는 더욱 미묘해지고 구조화되었다고 Lebleu는 IEEE Spectrum에 말했습니다. AI 글쓰기는 "3의 법칙"과 부정적인 평행법, 즉 그 자체로는 아무런 의미가 없지만 축적되면 의미가 있게 되는 음성 패턴을 좋아합니다. 편집자들은 또한 단일 기사 이상의 것을 봅니다. 계정이 5분 안에 각각 수천 단어로 구성된 기사 5개를 생성한다면 뭔가 잘못된 것입니다.

인용 문제

가장 심각한 고민은 스타일이 아니라 소싱이다. 검색 증강 생성을 통해 모델이 실제 출처를 찾을 수 있게 되면서 완전히 환각적인 인용(존재하지 않는 논문에 대한 참조)은 훨씬 더 드물어졌습니다. 그러나 Lebleu는 보다 일반적인 실패는 더 미묘하고 더 위험하다고 말했습니다. AI는 실제 소스를 찾은 다음 소스가 실제로 제공하지 않는 지원을 인용하여 이를 잘못 특성화합니다. 그녀는 쓰여진 내용을 뒷받침하지 않는 AI 인용을 "매우 흔한 일"이라고 불렀습니다.

커뮤니티는 자체 도구를 사용하여 반격하고 있습니다. 한 Wikipedia 편집자는 페이지의 소스를 읽고 주장과 일치하는지 확인하는 AI 소스 검증기를 구축했습니다. 이는 AI 텍스트를 감시하는 AI 모델입니다. Lebleu는 이것이 정확하다고 보장되지는 않지만 규모에 따라 첫 번째 필터로 작동한다고 인정했습니다. 한편, 위키미디어 재단(Wikimedia Foundation)은 일부 AI 챗봇에서 직접 붙여넣은 텍스트에 플래그를 지정할 수 있는 붙여넣기 확인(Paste Check)이라는 도구를 개발하고 있습니다.

AI로 작성된 위키피디아 콘텐츠는 얼마나 됩니까?

15~20%의 추정치는 Lebleu와 AI 탐지 회사인 Pangram과의 협력에서 나온 것입니다. 그녀는 ChatGPT 이전의 Wikipedia 콘텐츠에 대해 탐지기를 스트레스 테스트한 결과 거짓 긍정을 발견하지 못했습니다. 즉, 수치는 천장이 아닌 보수적인 하한으로 읽어야 합니다.

20%에서 15~16%로 감소한 이유는 아직 해결되지 않았습니다. Wikipedia의 최근 정책이 효과가 있을 수도 있고, 최신 모델에서는 탐지 도구가 따라잡지 못하는 동안 탐지 가능한 텍스트가 적어졌을 수도 있습니다. Lebleu는 IEEE Spectrum에 대부분의 AI 생성 콘텐츠가 초보 편집자로부터 나온 것이며, 이 프로젝트는 신규 사용자가 규칙을 잘 볼 수 있도록 노력해 왔다고 말했습니다.

금지, 거부 그리고 철학적 질문

영어 위키피디아는 이미 편집자가 LLM을 사용하여 기사를 생성하는 것을 금지하는 조치를 취했습니다. 이는 커뮤니티가 지침을 승인한 후 2026년 3월에 The Guardian이 금지 사항을 보고한 것입니다. 정책 효과는 아직 측정 중입니다. Lebleu의 설명에 따르면 변화는 이데올로기보다는 필요성의 문제였습니다. 그녀는 IEEE Spectrum에 "우리는 AI 콘텐츠가 넘쳐났고 좋은 도구가 없었으며 이를 중단해야 했습니다"라고 말했습니다.

모델 측면에서 한 가지 측정 가능한 변화가 이미 눈에 띕니다. Lebleu는 Claude가 때때로 요청을 노골적으로 거부하고 Wikipedia 기사를 작성하면 Wikipedia의 정책을 위반하기 때문에 이를 작성할 수 없다고 응답했다고 지적했습니다. 그녀는 모든 주요 AI 회사가 유사한 거부를 시행한다면 의미 있는 도움이 될 것이라고 주장했습니다. 하지만 제한을 우회하기 위해 조정할 수 있는 개방형 모델은 여전히 ​​허점으로 남아있을 것입니다.

프로젝트를 나누는 더 깊은 질문은 철학적입니다. Lebleu의 말에 따르면 실용적인 조치로 시작된 것은 그 이후로 더 철학적인 차원을 갖게 되었으며, 많은 사람들이 Wikipedia를 "인터넷의 마지막 좋은 장소"라고 부르게 되었습니다. 이는 여전히 원칙적으로 인간이 작성한 몇 안 되는 주요 정보 소스 중 하나입니다.

Wikipedia 너머에 중요한 이유

이해관계는 백과사전 자체를 훨씬 넘어 확장됩니다. Wikipedia는 검색 엔진의 상위 참조 결과이고, AI 훈련 데이터의 공통 소스이며, 사실 확인을 위해 가장 먼저 방문하는 곳입니다. 새 페이지의 의미 있는 부분이 잘못 특성화된 인용으로 기계로 작성된 경우 오류는 검색 스니펫, 모델 교육 자료 및 향후 AI 출력으로 전파됩니다.

현재 정리 작업은 한 번에 하나의 플래그가 지정된 기사, 즉 인간이 쓴 백과사전을 인간으로 유지하기 위해 패턴 발견, 편집 속도 확인, 점점 더 AI 자체를 사용하는 자원 봉사 활동을 계속하고 있습니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →