اندیشکده جعلی ایالات متحده که برای اولین بار هفته گذشته افشا شد، اکنون توسط گاردین اندازه‌گیری شده است: 124 گزارش و 560000 کلمه در 9 روز، ساخته شده بر روی یک پلتفرم تجاری که وعده بهینه‌سازی محتوا را می‌دهد تا ربات‌های چت هوش مصنوعی به آن استناد کنند - با یک دنباله بودجه دولت اسرائیل که در پرونده‌های وزارت دادگستری ایالات متحده مستند شده است. این واضح ترین نمونه عمومی تاکنون از بازیگران مرتبط با دولت است که لایه پاسخ هوش مصنوعی را هدف قرار می دهند: نه خوانندگان، بلکه مدل هایی که به طور فزاینده ای به جای آنها صحبت می کنند. این همان داستانی است که پوشش صنعت هوش مصنوعی ما آن را ردیابی می کند، زیرا دستکاری ربات های چت صنعتی می شود. (ما کشف اولیه سایت را [اینجا] پوشش دادیم (https://aibuzzwire.news/en/article/israel-hanover-institute-fake-think-tank-llm-poisoning-chatbots).)

اتاق فکری که وجود ندارد

این سایت با نام موسسه هانوفر برای سیاست عمومی منتشر می شود. به گفته جیسون ویلسون از گاردین، این مؤسسه ظاهراً به‌عنوان یک نهاد حقوقی در هیچ حوزه قضایی وجود ندارد، هیچ آدرس فیزیکی ندارد، و هیچ کارمند نام‌گذاری و هیچ خط‌مشی در هیچ یک از گزارش‌های خود ندارد. شرایط استفاده از آن تحت قوانین «ایالتی است که مؤسسه در آن تأسیس شده است» - دولتی که سند از نام بردن آن خودداری می کند.

مقیاس خروجی صنعتی بود. بین 6 تا 14 آگوست، مؤسسه هانوفر 124 گزارش با بیش از 560000 کلمه منتشر کرد که هر کدام به طور متوسط ​​حدود 4500 کلمه بود. تنها در 12 و 13 آگوست، 73 گزارش تقریباً 354000 کلمه ارائه کرد. از زمان انتشار اولین گزارش های رسانه ای در مورد این سایت، چیزی منتشر نشده است.

برای لایه پاسخ ربات چت مهندسی شده است

آنچه این عملیات را بدیع نشان می دهد، هدف گیری آن است. همه به جز یکی از 124 عنوان با سوالی شبیه به سوالی که کاربر ممکن است در چت بات تایپ کند باز می شود - "آیا ضد صهیونیسم یهودستیزی است؟"، "آیا اسرائیل فلسطینی ها را از سرزمینشان اخراج کرد؟"، "آیا اسرائیل در غزه نسل کشی می کند؟" این گزارش ها موضع اسرائیل در مورد شکنجه اسرای فلسطینی، جنایات جنگی و گرسنگی در غزه را به عنوان پژوهشی بی طرف ارائه می کند که برای بازیابی ماشینی شکل گرفته است.

مکانیک ها در پرونده های رسمی مستند شده اند. شرکت تولید رسانه نیویورک Piro Inc این سایت را در وزارت دادگستری ایالات متحده در این ماه تحت قانون ثبت عوامل خارجی (فارا) ثبت کرد. گاردین گزارش می دهد که این تلاش ده ها میلیون دلار از سوی دولت اسرائیل تامین می شود که از طریق اشخاص ثالث از جمله گروه تبلیغاتی اروپایی Havas Media انجام می شود. قراردادی بین Havas و یک شرکت آمریکایی دیگر که بر روی این کمپین کار می‌کند، آن را متعهد به «استقرار وب‌سایت‌ها و محتوا برای ارائه نتایج کادربندی GPT در مکالمات GPT می‌کند».

پس از اینکه وجود این سایت برای اولین بار در 14 آگوست گزارش شد، مؤسسه بی سر و صدا یک صفحه بودجه حاوی یک تصحیح قاطع را اضافه کرد: "نسخه قبلی این صفحه می گفت که موسسه بدون بودجه خارجی کار می کرد، و این در زمان نگارش درست بود." گاردین برای اظهار نظر با Piro Inc، Havas Media و آژانس تبلیغاتی دولتی اسرائیل LaPam تماس گرفت.

چرا چت ربات ها میدان جنگ جدید هستند

این استراتژی در صنعت بازاریابی نامی دارد - بهینه سازی موتور مولد یا GEO - و رشته جانشین بهینه سازی موتورهای جستجو است. هنگامی که یک ربات چت به یک سوال پاسخ می دهد، از مجموعه آموزشی و منابع بازیابی خود استفاده می کند. محتوایی که حجیم، قالب‌بندی‌شده با پرسش‌ها و سبک‌دهی به عنوان پژوهش معتبر است، احتمالاً در پاسخ یک مدل ظاهر، استناد یا جذب می‌شود. یک اتاق فکر جعلی تقریباً مصنوع ایده آل GEO است: اعتبار سازمانی بدون موسسه.

زمان بندی به همان اندازه که پیچیدگی را منعکس می کند ناامیدی است. گاردین خاطرنشان می‌کند که این کمپین در حالی صورت می‌گیرد که جایگاه اسرائیل در افکار عمومی ایالات متحده از بین رفته است و مقامات اسرائیلی به رسانه‌ها اعلام می‌کنند که پول‌هایی که برای دیپلماسی عمومی «هسبارا» در خارج از کشور خرج شده است به هدر رفته است.

موسسه هانوفر یک مورد مجزا نیست. در همان روزی که گاردین تحقیقات خود را منتشر کرد، OpenAI اعلام کرد که یک کمپین نفوذ مخفی جدید روسیه را با استفاده از هوش مصنوعی مختل کرده است - آخرین مورد از مجموعه ای از حذف هایی که این شرکت به بازیگران مرتبط با دولت نسبت داده است. دو عملیات جداگانه، دو قاره، یک بینش مشترک: تأثیرگذاری بر مدل‌ها اکنون ارزان‌تر و بادوام‌تر از تأثیرگذاری مستقیم بر افراد است.

شکاف حاکمیتی

برای تنظیم‌کننده‌ها، کیس حفره‌ای را در چارچوب‌های موجود آشکار می‌کند. افشای فارا این عملیات را روی کاغذ نشان داد، اما تنها پس از اینکه محتوا زنده و به طور بالقوه بلعیده شد. مفاد شفافیت قانون هوش مصنوعی اتحادیه اروپا و چارچوب‌های داوطلبانه حاکم بر منشأ داده‌های آموزشی برای جهانی که ارزان‌ترین مسیر برای رسیدن به باورهای یک جمعیت از طریق ربات‌های چت آن می‌گذرد، طراحی نشده است.

برای آزمایشگاه‌های هوش مصنوعی، سؤال عملیاتی فوری است: چگونه سیستم‌های بازیابی و خطوط لوله آموزشی، پژوهش را از مزارع محتوا که لباس‌های تحقیقاتی می‌پوشند، متمایز می‌کنند؟ حجم، قالب‌بندی و نقل‌قول‌های مطمئن - نشانه‌های قدرت - دقیقاً همان چیزی است که موسسه هانوفر به‌طور انبوه تولید کرد. تا زمانی که مدل‌ها از نظر منشأ بهتر نشوند، نیم میلیون کلمه در حال حاضر وجود دارد و پس از اینکه این واقعیت آنها را به خاطر آورد، هیچ افشاگری ثبت نشده است.

---

از هوش مصنوعی جلوتر بمانید

آخرین اخبار، تحلیل ها و پیشرفت های هوش مصنوعی را دریافت کنید - همه در یک مکان.

بیشتر بخوانید اخبار هوش مصنوعی →