ویراستاران داوطلب ویکی‌پدیا در حال نبردی آرام علیه محتوای تولید شده توسط ماشین هستند و برای اولین بار اعداد سختی دارند. طبق مصاحبه اخیر IEEE Spectrum با Ellia Lebleu، یکی از اعضای موسس WikiProject AI Cleanup، یک ابزار تشخیص هوش مصنوعی تخمین زده است که 20 درصد از مقالات و پیش‌نویس‌های جدید در ویکی‌پدیای انگلیسی در اواخر سال 2025 توسط ماشین تولید شده‌اند - و 15 تا 16 درصد بعد از مصاحبه جدید Hacker در اوایل هفته 20 مورد توجه قرار گرفت.

Lebleu، Ph.D. دانشجوی هوش مصنوعی در مرکز اینریا در دانشگاه رن، پروژه پاکسازی را در دسامبر 2023 تأسیس کرد، زمانی که او و سایر ویراستاران در سرور Discord ویکی‌پدیا متوجه موجی از مقالات جدید عجیب و غریب با ویژگی‌های عجیب و غریب مشابه شدند. For more context on this story, see our ongoing more AI stories.

از کلیشه های آشکار تا سخنان ظریف

در روزهای اول، گزارش ها به چشم می خورد. مقالات نوشته شده با هوش مصنوعی عباراتی مانند "میایستد به عنوان یک وصیت نامه" یا "میراث فرهنگی غنی" را تکرار می کردند و اغلب شامل بخش های نتیجه گیری رسمی یا سرفصل های عجیب و غریب مانند "چرا این مهم است؟" - علائم تجاری خروجی عصر ChatGPT که تشخیص را نسبتاً آسان کرده است.

لبلو به IEEE Spectrum گفت: تا سال 2025، سیگنال ها ظریف تر و ساختاری تر شدند. نوشتن هوش مصنوعی عاشق "قاعده سه" و توازی های منفی است - الگوهای گفتاری که به خودی خود هیچ معنایی ندارند اما در انباشت معنادار می شوند. ویراستاران همچنین به فراتر از یک مقاله نگاه می کنند: اگر یک حساب کاربری پنج مقاله با هزاران کلمه را در هر پنج دقیقه تولید کند، چیزی اشتباه است.

مشکل استناد

جدی ترین نگرانی سبک نیست بلکه منبع یابی است. نقل قول‌های کاملاً توهم‌آمیز - ارجاع به مقالاتی که وجود ندارند - بسیار نادرتر شده‌اند، زیرا نسل‌های تقویت‌شده با بازیابی به مدل‌ها اجازه می‌دهد منابع واقعی را پیدا کنند. اما لبلو گفت که شکست رایج‌تر ظریف‌تر و خطرناک‌تر است: هوش مصنوعی یک منبع واقعی را پیدا می‌کند و سپس آن را نادرست توصیف می‌کند و به حمایتی اشاره می‌کند که منبع در واقع ارائه نمی‌کند. او نقل‌قول‌های هوش مصنوعی را که از نوشته‌های نوشته شده پشتیبانی نمی‌کنند «بسیار عادی» نامید.

جامعه با ابزارهای خودش در حال مبارزه است. یکی از ویرایشگرهای ویکی‌پدیا یک تأییدکننده منبع هوش مصنوعی ساخته است که منابع موجود در یک صفحه را می‌خواند و بررسی می‌کند که آیا آنها با ادعاها مطابقت دارند یا خیر - یک مدل هوش مصنوعی که متن هوش مصنوعی را کنترل می‌کند، که Lebleu اذعان داشت که صحت آن تضمین نمی‌شود اما در مقیاس به عنوان اولین فیلتر کار می‌کند. در همین حال، بنیاد ویکی‌مدیا در حال توسعه ابزاری به نام Paste Check است که می‌تواند متنی را که مستقیماً از برخی ربات‌های چت هوش مصنوعی چسبانده شده است، پرچم‌گذاری کند.

چه مقدار محتوای ویکی پدیا با هوش مصنوعی نوشته شده است؟

تخمین 15 تا 20 درصدی از همکاری Lebleu با Pangram، یک شرکت تشخیص هوش مصنوعی است. او آشکارساز را در محتوای ویکی‌پدیا قبل از ChatGPT آزمایش کرد و هیچ مثبت کاذبی پیدا نکرد، به این معنی که ارقام باید به‌عنوان یک کران پایین محافظه‌کار خوانده شوند تا سقف.

آنچه کاهش از 20 درصد به 15 یا 16 درصد را توضیح می دهد، حل نشده است. ممکن است خط‌مشی‌های اخیر ویکی‌پدیا کارساز باشد – یا اینکه مدل‌های جدیدتر متن‌های قابل تشخیص کمتری تولید می‌کنند در حالی که ابزارهای تشخیص به آن دسترسی ندارند. Lebleu به IEEE Spectrum گفت که بیشتر محتوای تولید شده توسط هوش مصنوعی از ویرایشگران مبتدی می‌آید و این پروژه تلاش کرده تا قوانین را برای تازه‌واردها بسیار قابل مشاهده کند.

ممنوعیت، امتناع، و یک سوال فلسفی

ویکی‌پدیای انگلیسی قبلاً اقدام کرده است و ویراستاران را از استفاده از LLM برای تولید مقاله منع کرده است - ممنوعیتی که گاردین در مارس 2026 پس از تأیید انجمن این دستورالعمل را گزارش کرد. اثرات این سیاست هنوز در حال اندازه گیری است. به گفته Lebleu، این تغییر یک امر ضروری بود تا ایدئولوژی: او به IEEE Spectrum گفت: "ما مملو از محتوای هوش مصنوعی بودیم، ابزارهای خوبی نداشتیم و باید به آن پایان دهیم."

یک تغییر قابل اندازه گیری از قبل در سمت مدل قابل مشاهده است: Lebleu خاطرنشان کرد که کلود گاهی اوقات درخواست ها را کاملاً رد می کند و پاسخ می دهد که نمی تواند مقاله ویکی پدیا بنویسد زیرا انجام این کار خط مشی های ویکی پدیا را نقض می کند. او استدلال کرد که اگر همه شرکت‌های بزرگ هوش مصنوعی امتناع‌های مشابهی را اجرا کنند، به طور معناداری کمک می‌کند – اگرچه مدل‌های وزن باز که می‌توانند برای دور زدن محدودیت‌ها بهینه‌سازی شوند، یک راه گریز باقی می‌مانند.

سوال عمیق تری که پروژه را تقسیم می کند، فلسفی است. آنچه که به عنوان یک اقدام عملی آغاز شد، از آن زمان به بعد، بعد فلسفی تری به خود گرفت، زیرا بسیاری از مردم ویکی‌پدیا را «آخرین مکان خوب در اینترنت» نامیدند - یکی از معدود منابع اطلاعاتی اصلی که هنوز در اصل توسط انسان نوشته شده است.

چرا فراتر از ویکی پدیا مهم است

خطرات به خوبی از خود دایره المعارف گذشته است. ویکی‌پدیا یک نتیجه مرجع برتر برای موتورهای جستجو، یک منبع رایج برای داده‌های آموزشی هوش مصنوعی و اولین توقف مکرر برای بررسی واقعیت است. اگر بخش معنی‌داری از صفحات جدید آن به‌صورت ماشینی با نقل‌قول‌های نادرست نوشته شده باشد، خطاها منتشر می‌شوند: در قطعه‌های جستجو، به مجموعه‌های آموزشی مدل و بازگشت به خروجی‌های هوش مصنوعی آینده.

در حال حاضر، پاکسازی یک مقاله پرچمدار در یک زمان ادامه می یابد - یک تلاش داوطلبانه با استفاده از الگوبرداری، بررسی سرعت ویرایش، و به طور فزاینده ای، خود هوش مصنوعی، برای نگه داشتن یک دایره المعارف نوشته شده توسط انسان.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →