OpenAI روز پنجشنبه گفت که دو عملیات نفوذ مخفی را ممنوع کرده است - یکی از روسیه و دیگری در ایران - که از ChatGPT برای اجرای نهادهای پیچیده "جبهه دروغین" طراحی شده برای شستشوی تبلیغات ژئوپلیتیکی در رسانه های واقعی استفاده می کردند. این شرکت گفت که کمپین منشأ روسیه گسترده‌ترین عملیات نفوذی است که از زمان شروع انتشار گزارش‌های تهدید در دو سال و نیم پیش مختل شده است.

این افشاگری که در وب‌سایت OpenAI منتشر شده است، آخرین مطلب از مجموعه گزارش‌هایی است که نشان می‌دهد بازیگران دولتی چگونه از مدل‌های هوش مصنوعی تجاری سوء استفاده می‌کنند. همچنین، همانطور که در آخرین گردآوری [اخبار هوش مصنوعی] (https://aibuzzwire.news) اشاره کردیم، الگویی که OpenAI در 30 عملیات مخفی که از اوایل سال 2024 فاش کرده است مشاهده کرده است: کمپین هایی که موفق می شوند محتوای خود را در نشریات واقعی قرار دهند به مخاطبان بسیار بیشتری نسبت به حساب های رسانه های اجتماعی جعلی دسترسی پیدا می کنند.

اول رده 5: عملیات "دارک کلارک"

عملیات روسی که OpenAI آن را "دارک کلارک" نامید، بر یک سازمان تحقیقاتی خودخوانده در آمریکای لاتین به نام مرکز تحقیقات اجتماعی (SRC) متمرکز شد. به گفته OpenAI، اپراتورها از طریق شخصی ساختگی به نام «میا کلارک»، اتاق فکر را کنترل می‌کردند، در حالی که کارمندان محلی در آمریکای لاتین بدون اینکه بدانند برای یک گروه روسی کار می‌کنند، مصاحبه‌ها و پیش‌نویس‌های تحقیقاتی را تهیه می‌کردند.

OpenAI با استفاده از مقیاس برک آوت - مقیاسی از 1 به 6 برای دستیابی بالقوه عملیات نفوذ که در بروکینگز توسعه یافته است - دارک کلارک را در رده 5 ارزیابی کرد که بالاترین رتبه ای است که از زمان شروع گزارش خود به هر عملیاتی اختصاص داده است. کمپین ایران مبدا به رده 4 رسید.

OpenAI گفت: بسیاری از استفاده از ChatGPT اپراتورها در گزارش های داخلی به یک مدیر ناشناس منتقل شد و کمپین هایی را برای تحقیر اوکراین، تضعیف استخدام برای نیروهای مسلح اوکراین و مداخله در سیاست داخلی در آرژانتین و بولیوی توصیف کرد. اپراتورها بیشتر به زبان روسی درخواست می‌کردند و برای دسترسی به این سرویس به VPN اعتماد می‌کردند که ترافیک روسیه را مسدود می‌کرد.

محققان OpenAI چندین کمپین ادعایی این عملیات را از طریق منابع باز تأیید کردند. یکی شامل ایمیل‌های جعلی بود که ادعا می‌شد از سوی اداره آموزش منطقه‌ای لیما می‌آمد، و به مدارس در پایتخت پرو دستور می‌داد تا مراسمی را برای بزرگداشت استپان باندرا - شخصیت ملی‌گرای جنجالی اوکراینی - در روز تنوع ملی برگزار کنند. رسانه های پرو و ​​لهستانی جنجال های بعدی را پوشش دادند و یکی از اعضای لهستانی پارلمان اروپا در پوشش آن نقل قول شد. در اکوادور، اپراتورها از آدرس ایمیل جعلی استفاده کردند تا مدارس را فریب دهند تا با رئیس جمهور دانیل نوبوآ و رئیس سابق بلک واتر، اریک پرنس، وفاداری کنند. این شیرین کاری با پوشش رسانه ای و انکار عمومی وزیر آموزش اکوادور مواجه شد.

این عملیات همچنین ضبط‌های صوتی ساختگی را پخش کرد، از جمله یکی منتسب به کارگر شرکت آب دولتی EPSAS بولیوی که ادعا می‌کرد دولت عرضه لاپاز را قطع می‌کند و دیگری به کنسول اوکراین در اکوادور نسبت داده می‌شود. بررسی‌کنندگان واقعیت در هر دو کشور این ادعاها را رد کردند. محققان منبع باز قبلاً فعالیت‌های مشابهی را با "Politology" یا "La Compania" مرتبط کرده‌اند، نهادهایی که به عنوان جانشین عملیات یوگنی پریگوژین فقید توصیف شده‌اند، و گزارش‌های خود اپراتورها ادعا می‌کنند که کمپین‌هایی که خاویر مایلی، رئیس‌جمهور آرژانتین را هدف قرار می‌دهند، مطابق با گزارش‌های عمومی است.

هفت روزنامه نگار قلابی: عملیات "Bgus Bylines"

عملیات ایران مسیر متفاوتی را در اکوسیستم رسانه ای در پیش گرفت. اپراتورهای آن که ChatGPT را به زبان فارسی برانگیختند، از این مدل برای اصلاح مقاله‌های انگلیسی زبان بلندمدت در مورد درگیری ایران و ایالات متحده استفاده کردند، سپس آنها را با استفاده از هفت شخصیت روزنامه‌نگار ساختگی: اروین بی. هاسکینز، نوح لامینگتون، سوفیا گونزالس، ای. جانسون

OpenAI نزدیک به 100 مقاله منتشر شده یا سندیکایی شده تحت این خطوط فرعی را در حدود 12 رسانه در سراسر جهان شناسایی کرد که بیشتر آنها بر روی امور بین المللی و خاورمیانه متمرکز بودند. این عملیات همچنین دسته‌ای از نظرات رسانه‌های اجتماعی را ایجاد کرد، اگرچه OpenAI گفت که این نظرات درگیری واقعی کمی را به همراه داشت - و خاطرنشان کرد که اپراتورها از محاسبه‌ای فریبنده در گزارش‌های داخلی خود برای افزایش تأثیر آشکار رسانه‌های اجتماعی خود استفاده کردند. این شرکت گفت که این فعالیت با اجرای یک کمپین نفوذ برای استخدام توسط یک بازیگر تجاری مطابقت دارد و اطلاعاتی را با مقامات مربوطه به اشتراک گذاشته است.

تجارت قدیمی، ابزار جدید

OpenAI نوشت، آنچه بیش از همه محققان را تحت تأثیر قرار می دهد این است که هر دو عملیات چقدر شبیه کمپین های تأثیرگذاری از دوران قبل از هوش مصنوعی هستند. شخصیت‌های روزنامه‌نگار جعلی شباهت خانوادگی به «آلیس دونوان» دارند، یک گزارشگر ساختگی که برای اطلاعات نظامی روسیه فعالیت می‌کند و نوشته‌هایش در سال‌های 2016 و 2017 در رسانه‌های غربی منتشر شده بود.

هوش مصنوعی این تکنیک‌ها را ابداع نکرده است – آنها را ارزان‌تر، سریع‌تر و روان‌تر کرده است. اپراتورها از مدل‌هایی برای تطبیق جعلی‌ها با واژگان محلی و سبک سازمانی، ترجمه اسکریپت‌ها به انواع اسپانیایی منطقه‌ای، و تولید ایمیل‌های صیقلی برای ویراستاران استفاده کردند. اما OpenAI استدلال کرد که ماهیت پنهانی و شخص به شخص عملیات های جبهه دروغین نیز آنها را در معرض قرار گرفتن آسیب پذیر می کند: هر دو Alice Donovan و PeaceData پس از نامگذاری عمومی تعطیل شدند.

خواندن شواهد با دقت

OpenAI مراقب بود که یافته های خود را اخطار دهد. اپراتورها به طور معمول برای رویدادهایی که هیچ ارتباطی با آنها نداشتند، اعتبار می‌کردند، و برخی از جعلی‌هایی که گزارش کردند کاشت آن‌ها را نمی‌توان در منابع باز یافت. آنچه OpenAI می تواند تأیید کند - از طریق بررسی واقعیت، انکار رسمی، و مقالات منتشر شده مطابق با توضیحات اپراتورها - نشان دهنده نفوذ واقعی گفتمان رسانه ای و سیاسی در حداقل چهار کشور است.

برای صنعت هوش مصنوعی، این گزارش یادآوری می‌کند که مؤثرترین استفاده‌ها از مدل‌ها در اطلاعات نادرست، اغلب کمتر دیده‌کننده‌ترین کاربردها هستند: تهیه پیش‌نویس گزارش‌های داخلی، اصلاح طرح‌ها، صیقل دادن ترجمه‌ها. همانطور که موارد قبلی OpenAI نشان داد، نهادهایی که بهترین موقعیت را برای شناسایی این کمپین ها دارند، اغلب پلتفرم هایی هستند که ابزارهای خود برای اجرای آنها استفاده می شود.

---

از هوش مصنوعی جلوتر بمانید

آخرین اخبار، تحلیل ها و پیشرفت های هوش مصنوعی را دریافت کنید - همه در یک مکان.

بیشتر بخوانید اخبار هوش مصنوعی →