OpenAI روز پنجشنبه اعلام کرد که یک عملیات نفوذ مرتبط با ایران را مختل کرده است که از ChatGPT برای قرار دادن تقریباً 100 مقاله تولید شده توسط هوش مصنوعی در نشریات واقعی در سراسر جهان، از جمله چندین رسانه ایالات متحده، تحت عنوان های جعلی روزنامه نگاران غربی استفاده می کند.

این کمپین که OpenAI آن را عملیات "جبهه دروغین" می نامد، در گزارشی که شرکت در 8 اکتبر منتشر کرد و در گزارش های بعدی واشنگتن پست، CNN، NPR و رادیو اروپای آزاد/رادیو آزادی به تفصیل آمده است. این یکی از واضح‌ترین موارد مستند تا به امروز است که یک شبکه نفوذ خارجی از یک ربات چت تجاری جریان اصلی استفاده می‌کند، نه فقط برای پیش‌نویسی تبلیغات، بلکه برای مدیریت گردش کار کامل تحریریه برای کاشت آن در رسانه‌های قانونی. For more context on this story, see our ongoing breaking AI news.

خبرنگاری که هرگز وجود نداشت

در مرکز عملیات شخصی به نام اروین بی هاسکینز قرار داشت که به عنوان یک روزنامه نگار مستقل آمریکایی معرفی شده بود. به گزارش رادیو آزادی، مقالات منتسب به هاسکینز، ایالات متحده را به عنوان متجاوز در درگیری های جاری با ایران معرفی می کند، اسرائیل را متحدی غیرقابل اعتماد نشان می دهد و ایران را به عنوان یک مستضعف سرکش معرفی می کند. هاسکینز، که OpenAI تایید کرد، هرگز وجود نداشته است.

او یکی از هفت شخصیت جعلی روزنامه‌نگار بود که همگی از کشورهای غربی بودند و اپراتورها از آن‌ها استفاده می‌کردند. OpenAI در گزارش خود گفت: "ما تقریباً 100 مقاله منتشر شده یا سندیکایی شده تحت خطوط فرعی این عملیات را در حدود 12 رسانه آنلاین در سراسر جهان شناسایی کردیم."

واشنگتن پست که برای اولین بار از نفوذ کمپین به رسانه های ایالات متحده خبر داد، دریافت که یک هفته نامه کوچک فلوریدا یکی از مقالات جعلی را منتشر کرده است. سایر موارد پرچم گذاری شده در رسانه هایی از جمله میدل ایست مانیتور ظاهر شد که به CNN گفت مقالات مورد بحث را حذف کرده و در حال بررسی روند ارسال آن است.

چگونه ChatGPT استفاده شد

بر اساس افشای OpenAI، اپراتورها از ChatGPT به دو زبان فارسی و انگلیسی در کل خط لوله استفاده کردند: ویرایش پیش‌نویس‌های مقاله‌های طولانی، متناسب‌سازی با نیازهای سرمقاله نشریات جداگانه، تهیه ایمیل‌های ارتباطی برای سردبیران، و ایجاد دسته‌ای از نظرات رسانه‌های اجتماعی که شبیه واکنش‌های خوانندگان مستقل هستند.

یکی از نمونه‌هایی که توسط محققان ردیابی شده است: مقاله‌ای با عنوان «جرد کوشنر و خصوصی‌سازی استراتژی آمریکا در ایران»، که در 12 ژوئن توسط PeaceVoice، یک سرویس توزیع مقاله که توسط مؤسسه صلح اورگان اداره می‌شود، منتشر شد. به گزارش رادیو آزادی، در روزهای بعد همین مقاله توسط CounterPunch و LA Progressive بازنشر شد.

OpenAI گفت فعالیت انتشارات پس از آغاز درگیری بین ایالات متحده و ایران در اوایل سال جاری افزایش یافته است. طبق گزارش CNN، این شرکت گفت که حساب‌های ChatGPT درگیر در این کمپین را ممنوع کرده است و توانایی این عملیات برای قرار دادن محتوا در روزنامه‌های خارج از تحریریه را به عنوان رده 4 در مقیاس عملیات نفوذ شش نقطه‌ای خود ارزیابی کرده است.

Attribution باز می ماند

نکته قابل توجه، OpenAI گفت که نمی تواند بازیگر خاصی را که پشت این کمپین قرار دارد شناسایی کند یا هدایت دولت ایران را تایید کند. ارزیابی آن، همانطور که توسط CNN گزارش شده است، به یک عملیات نفوذ تجاری و استخدامی به جای یک عملیات مستقیم دولتی اشاره دارد - ساختاری که انتساب را سخت تر و اختلال را کمتر قطعی می کند. ممنوع کردن حساب ها باعث اختلال در آنچه OpenAI می توانست مشاهده کند. ثابت نکرد که شبکه گسترده‌تر منحل شده است.

جسیکا برانت، که از سال 2023 تا 2025 دفتر مدیر مرکز نفوذ بدخیم خارجی اطلاعات ملی را رهبری می کرد، به CNN گفت این عملیات نشان می دهد که چگونه هوش مصنوعی به بازیگران خارجی کمک می کند تا مشارکت خود را پنهان کنند و پیام ها را از طریق کانال های معتبر هدایت کنند.

کمپین ایرانی تنها فعالیتی نبود که OpenAI پرچم گذاری شده بود. همانطور که The Record from Recorded Future News گزارش داد، گزارش این شرکت همچنین شامل اختلال در عملیات نفوذ مرتبط با روسیه بود که از ChatGPT استفاده می کرد. رادیو آزادی به طور جداگانه خاطرنشان کرد که آنتروپیک قبلا تلاش های ایران برای سوء استفاده از مدل های کلود خود برای تبلیغات و نظارت بر مخالفان را مختل کرده است.

انتشار دیگر مدرکی برای تألیف نیست

برای اتاق‌های خبر، پرونده به حقیقتی ناخوشایند می‌رسد: یک خط فرعی، یک ضرباهنگ منسجم، یک زندگی‌نامه قابل‌قبول و یک خط صیقلی دیگر دلالت بر وجود مشارکت‌کننده ندارند. ویراستارانی که به ارسال‌های آزاد تکیه می‌کنند - به‌ویژه میزهای ویرایش و تفسیر، که بر اساس طراحی، دیدگاه‌های بیرونی را منتشر می‌کنند - اکنون با یک مشکل تأیید مواجه هستند که فیلترهای هرزنامه و اکتشافی با کیفیت نوشتن نمی‌توانند آن را حل کنند.

پاسخ‌های عملی پرچم‌گذاری‌شده در پوشش گزارش عبارتند از احراز هویت قوی‌تر مشارکت‌کننده، تاریخچه ارائه مستند، بررسی خطوط فرعی که در چندین خروجی در پنجره‌های کوتاه ظاهر می‌شوند، و ابزار منشأ که ارسال‌ها را به هویت‌های قابل تأیید مرتبط می‌کند.

اقتصاد هم مهمه عملیاتی که زمانی به کارکنانی از نویسندگان نیاز داشت، اکنون می‌تواند توسط یک تیم کوچک که یک ربات چت را هدایت می‌کند، با مدلی که همه چیز را از ترجمه گرفته تا لحن مطابق با سبک خانه یک نشریه هدف، مدیریت می‌کند، اجرا کند. گزارش OpenAI حاکی از آن است که مانع اجرای یک کمپین قرار دادن چند نفره و چند رسانه ای به حدی کاهش یافته است که یک فروشگاه اجاره ای می تواند آن را به عنوان یک سرویس تجاری انجام دهد.

هیچ یک از رسانه های نام برده شده در گزارش، سازمان های خبری اصلی جریان اصلی نبودند، اما تعدادی از آنها مخاطبان واقعی داشتند. محققان می گویند: این نکته است: قرار دادن در هر نشریه معتبر، پیامی را از طریق توزیع، تجمیع و جستجو به گردش گسترده تری منتقل می کند - این دقیقاً همان چیزی است که کمپین قبل از مختل شدن به آن دست یافت.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →