OpenAI روز سه‌شنبه گفت که مجموعه‌ای از حساب‌های ChatGPT روسیه را که برای حمایت از یک کمپین نفوذ آنلاین استفاده می‌شد، ممنوع کرده است - عملیاتی که حول یک سازمان تحقیقاتی ساختگی به نام مؤسسه بین‌المللی برک ساخته شده بود که وابستگی‌هایی با دانشگاهیان برجسته ساخت و اکثریت قریب به اتفاق مطالب منتشر شده آن را سرقت ادبی کرد.

این شرکت در یک پست وبلاگی با عنوان "اختلال در یک کمپین نفوذ مخفی جدید از روسیه" این حذف را فاش کرد و یافته ها توسط CNBC و کوارتز گزارش شد. به گفته OpenAI، این حساب‌ها برای تبلیغ مؤسسه بین‌المللی برک یا IBI، یک «جامعه متخصص» که وب‌سایت آن آدرس خیابانی در اسرائیل را فهرست کرده و در فوریه 2025 ثبت شده است، استفاده شده است. For more context on this story, see our ongoing AI industry coverage.

تانک فکری که هرگز نبود

محور اصلی عملیات مشروعیت نهادی بود. OpenAI گفت که وب سایت IBI به دروغ ادعا می کند که دارای دانشگاهیان برجسته از جمله فرانسیس فوکویاما و نوام چامسکی است. در بررسی 36 مقاله مرتبط با کارشناسان لیست شده در سایت و منتشر شده بین سپتامبر 2025 و مه 2026، این شرکت دریافت که 34 مقاله از جای دیگری در اینترنت کپی شده است - گاهی اوقات با ذکر منبع نادرست.

یکی از ویژگی‌های اصلی این کمپین، «شاخص حاکمیت» بود که کشورها را بر اساس معیاری که برای نشان دادن مثبت روسیه و انتقاد از کشورهای غربی طراحی شده بود، رتبه‌بندی می‌کرد. OpenAI گفت که گزارش هایی که فرانسه، آلمان، ایالات متحده و اتحادیه اروپا را هدف قرار می دهد به بحث و جدل کشیده شده است. در یکی از نوشته‌های مربوط به ایالات متحده آمده است: «ترامپ با شاخص برتر حاکمیتی شماره 1 در جهان [به پکن] وارد شد و پس از برداشتن تعدادی گام که [...] می‌توان به عنوان کاهش داوطلبانه خودمختاری تلقی کرد، آنجا را ترک کرد.»

عملیات چگونه کار کرد

OpenAI گفت که با وجود استتار، حساب‌ها را به احتمال زیاد از روسیه منشا گرفته است. این شرکت گفت که برای فرار از ممنوعیت OpenAI برای دسترسی مدل از روسیه، اپراتورها اتصالات خود را از طریق VPN ها مسیریابی کردند. آن‌ها که به زبان روسی کار می‌کردند، از ChatGPT برای پیش‌نویس محتوای رسانه‌های اجتماعی که در Substack، Telegram، X، Facebook و LinkedIn ظاهر می‌شد، استفاده کردند – و مدل را هدایت کردند تا هر ویژگی متنی را که ممکن است به ریشه‌های تولید شده توسط هوش مصنوعی خیانت کند، حذف کند. بیشتر محتوای تولید شده به زبان انگلیسی نوشته شده بود، انتخابی که نشان می دهد هدف این عملیات مخاطبان غربی بود تا خوانندگان روسی داخلی.

این عملیات فراتر از محتوای انگلیسی زبان بود. یکی از اپراتورها پست هایی به زبان آلمانی برای یک کانال تلگرامی به نام "Lahme Ente" - آلمانی به معنای "لنگ اردک" - ایجاد کرد که از اوکراین، اتحادیه اروپا و دولت آلمان انتقاد کرد و در عین حال از روابط نزدیک تر با روسیه حمایت کرد. اپراتور دوم برای تقریباً 12 کانال تلگرامی با تمرکز بر آلمان، ایالات متحده، فرانسه، لهستان و ترکیه آرم ایجاد کرد و از فعالیت آنها به زبان روسی درخواست کرد.

دسترسی محدود، اما طرحی هشداردهنده

با معیارهای تعامل مرسوم، این کمپین موفقیت آمیز نبود. OpenAI اذعان کرد که بیشتر پست‌های رسانه‌های اجتماعی تعداد بازدید کمی داشتند، حساب‌های رسمی IBI مشترکین کمی داشتند و کانال‌های تلگرام مرتبط هر کدام بین 10000 تا 20000 دنبال کننده جذب کردند.

اما این شرکت استدلال کرد که اهمیت این عملیات در دسترس آن نیست، بلکه در دستگاهی است که اپراتورهای آن ساخته اند. پست‌های تولید شده با ChatGPT، خوانندگان را به سمتی سوق داد که به نظر می‌رسید یک سازمان تحقیقاتی قانونی باشد - با یک آدرس فیزیکی، فهرستی از متخصصان، و یک جریان ثابت از انتشارات. به گفته OpenAI، این ساختار نشان می‌دهد که چگونه ابزارهای هوش مصنوعی می‌توانند به بازیگران بد کمک کنند تا اعتبار سازمانی را بسازند، منبع واقعی روایت‌های ترجیحی را پنهان کنند، و زمینه را برای عملیات‌هایی که می‌توانند به طور قابل‌توجهی بزرگ‌تر شوند، ایجاد کنند.

نبرد گسترده تر بر سر نفوذ ایجاد شده توسط هوش مصنوعی

این حذف آخرین مورد از مجموعه اختلالاتی است که OpenAI در مورد عوامل تهدید وابسته به دولت اعلام کرده است و در بحبوحه شواهد فزاینده مبنی بر اینکه عملیات های تأثیرگذار جاه طلبی های خود را از فید رسانه های اجتماعی به سمت سیستم های هوش مصنوعی تغییر می دهند، به دست می آید. در اوایل ماه اوت، تحقیقات جداگانه‌ای توسط Responsible Statecraft یک اندیشکده جعلی را مستند کرد که بیش از 100 گزارش را در یک هفته منتشر می‌کرد تا تلاشی آشکار برای دستکاری پاسخ‌هایی که چت ربات‌های هوش مصنوعی در مورد اسرائیل و فلسطین می‌دهند.

این موارد با هم یک کتاب بازی نوظهور را ترسیم می کنند: اپراتورها به جای ارسال پیام به انسان، مؤسسات نادرستی می سازند که خروجی آنها می تواند توسط مدل های هوش مصنوعی استناد، خراشیده و جذب شود که به طور فزاینده ای واسطه نحوه برخورد مردم با اطلاعات است.

برای شرکت های هوش مصنوعی، این مفهوم ناراحت کننده است. همان ویژگی‌هایی که مدل‌های زبانی بزرگ را مفید می‌سازد - پیش‌نویس چندزبانه روان، هزینه کم، خروجی خستگی‌ناپذیر - آن‌ها را زیرساخت جذابی برای تبلیغات شسته‌شده می‌سازد. پاسخ OpenAI در این مورد، حذف در سطح محتوا بود: حساب‌های ممنوعه، تاکتیک‌های نام‌گذاری شده، و حسابداری عمومی از نحوه عملکرد عملیات.

این که آیا چنین افشاگری‌ها می‌توانند همگام با عملیاتی که توصیف می‌کنند، یکی از سؤالات اصلی امنیتی عصر هوش مصنوعی است یا خیر. همانطور که گزارش روز سه شنبه مشخص می کند، هزینه ساخت یک موسسه جعلی متقاعد کننده به شدت کاهش یافته است - و نهادهایی که بهترین موقعیت را برای شناسایی آنها دارند، همان شرکت هایی هستند که از مدل های آنها برای ساخت آنها استفاده می شود.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →