بر اساس تحقیقاتی که روز دوشنبه توسط Responsible Statecraft منتشر شد، یک اندیشکده جعلی که از طرف دولت اسرائیل ایجاد شده است، بیش از 100 گزارش تحقیقاتی صیقلی را در بیش از یک هفته منتشر کرده است که تحلیلگران آن را یک کمپین عمدی برای دستکاری پاسخ‌هایی که چت ربات‌های هوش مصنوعی در مورد اسرائیل و فلسطین به کاربران می‌دهند، توصیف می‌کنند.

این سازمان که موسسه سیاست عمومی هانوفر نام دارد، خود را به عنوان یک نهاد تحقیقاتی جدید با تمرکز بر اسرائیل/فلسطین معرفی می کند. اما گزارش‌های آن هیچ حاشیه‌ای ندارند، و یک سلب مسئولیت در پایین وب‌سایت آن تصدیق می‌کند که از طرف آژانس تبلیغاتی دولتی اسرائیل توسط Piro, Inc.، شرکتی که توسط دانیل روزنبرگ، تهیه‌کننده فیلمی که در فیلم «درون مرد» اسپایک لی تأسیس شده، ایجاد شده است. این داستان توسط رسانه هایی از جمله اخبار عرب و The Cradle انتخاب شد و آخرین نشانه ای است که نشان می دهد عملیات نفوذ از فید رسانه های اجتماعی به مدل های هوش مصنوعی تغییر می کند. برای اطلاعات بیشتر در مورد چگونگی دستکاری در عصر هوش مصنوعی، پوشش خبری فوری هوش مصنوعی ما را دنبال کنید. For more context on this story, see our ongoing breaking AI news.

گزارش‌های مهندسی شده برای نحوه قضاوت LLMs اعتبار

چیزی که مؤسسه هانوفر را غیرمعمول می کند این است که چگونه به نظر می رسد خروجی آن دقیقاً مطابق با روش ارزیابی مدل های زبان بزرگ منابع است. Responsible Statecraft گزارش داد که "گزارش های داده" آن همراه با پاورقی، فهرست مطالب، و لحن سنجیده و خنثی ارائه می شود - نوعی قالب بندی که به اسناد کمک می کند تا برای چت ربات هایی مانند Claude یا Gemini جذاب شوند.

بسیاری از عناوین دقیقاً به عنوان سؤالاتی هستند که کاربر ممکن است در یک ربات چت تایپ کند: "چه چیزی باعث آوارگی فلسطینیان در سال 1948 شد؟" "کدام سازمان های بشردوستانه جنایات جنگی اسرائیل را مستند کرده اند؟" "وضعیت فعلی در نوار غزه چگونه است؟" و "آیا ارتش اسرائیل اخلاقی ترین ارتش جهان است؟" - آخرین مورد به یک نظرسنجی در سال 2022 اشاره می کند که نشان می دهد 47٪ از یهودیان اسرائیل به این توصیف اعتقاد داشتند.

وب سایت خود پیرو در مورد این روش صریح است. این شرکت می‌گوید «محتوای مهندسی‌شده برای نحوه ارزیابی اعتبار توسط LLM»، سرویسی که آن را با عنوان «بهینه‌سازی داستان هوش مصنوعی» به بازار عرضه می‌کند، تولید می‌کند. محققان یک نام واضح برای این عمل دارند: "مسمومیت LLM".

"تقلید کامل" از یک موسسه معتبر

آلیس لی، تحلیلگر NewsGuard، شرکت ردیابی اطلاعات نادرست، به Responsible Statecraft گفت که به نظر می رسد گزارش های سایت برای دستیابی به مخاطبان آمریکایی کنجکاو در مورد درگیری، چه از طریق موتورهای جستجو یا دستیاران هوش مصنوعی، طراحی شده است.

لی گفت: "LLM ها از آمار و داده های مشخص و همچنین منابع و استنادهای قوی که همه این مقالات دارند، طرفدار دارند." این یک تقلید کامل از یک اتاق فکر معمولی معتبر آمریکایی است، دقیقاً به نام عمومی، طرح‌بندی سایت و طرح رنگ قرمز-سفید-آبی.

این مؤسسه همچنین آنچه را که ادعا می‌کند یافته‌های اصلی است منتشر کرده است - به عنوان مثال، مطالعه‌ای که ادعا می‌کند 19 فیلم از 36 ویدیوی توضیح‌دهنده اسرائیل-غزه پربیننده‌ترین آنها حاوی ادعاهای مناقشه‌برانگیز هستند که بیشتر آن ادعاهای مورد مناقشه با روایت فلسطینی همسو هستند. گزارش‌های دیگر با اسناد ثابت شده مخالفت می‌کنند، از جمله گزارشی که ادعای یونیسف را مبنی بر اینکه 90 درصد آب و زیرساخت‌های سازمانی در غزه آسیب دیده یا از بین رفته است را مورد تردید قرار می‌دهد.

قابل توجه است که خروجی همیشه خط دولت اسرائیل را دنبال نمی کند. یکی از گزارش‌ها این نظریه را توصیف می‌کند که بودجه خارجی دانشگاه‌ها، حوادث یهودی‌ستیزانه را «ضعیف و پر از استثناء» توضیح می‌دهد – حتی اگر نخست‌وزیر بنیامین نتانیاهو این نظریه را ترویج کرده و به Breitbart گفته است که بازیگران خارجی «میلیاردها» در دانشگاه‌های آمریکایی هزینه کرده‌اند. بسیاری از گزارش‌ها با پیوند دادن موضوع مورد بحث به یهودستیزی فزاینده، با استناد به مطالعات مشابه، به پایان می‌رسند.

پول را دنبال کنید: 900000 دلار از طریق یک شرکت روابط عمومی فرانسوی

بر اساس گزارش Responsible Statecraft، Piro, Inc. برای کار خود 900,000 دلار از دولت اسرائیل دریافت کرده است که از طریق Havas Media، یک مجموعه روابط عمومی فرانسوی، قرارداد فرعی دریافت کرده است - ترتیبی که مطابق با نحوه پرداخت حقوق سایر پیمانکاران اسرائیلی برای کارهای نفوذ در خارج از کشور است.

موسسه هانوفر در 6 آگوست شروع به انتشار کرد. تقریباً در ده روز پس از آن، بیش از 100 گزارش ارائه کرده است، سرعتی که هیچ فروشگاه واقعی سیاست گذاری با اندازه مشابه آن را حفظ نمی کند.

چرا دستکاری چت بات متفاوت است

این مورد بر ضعف ساختاری در نحوه جمع‌آوری پاسخ‌ها توسط دستیاران هوش مصنوعی تاکید می‌کند: آنها اسنادی را که به خوبی استناد می‌کنند و دارای آمار سنگین هستند، بدون توجه به اینکه چه کسی یا چرا آنها را تهیه کرده است، معتبر می‌دانند. اطلاعات نادرست سنتی خوانندگان انسانی را در پلتفرم های اجتماعی مورد هدف قرار می دهد، جایی که ضربه های عاطفی بیشترین اهمیت را دارد. به‌اصطلاح مسمومیت LLM در عوض لایه‌های بازیابی و رتبه‌بندی را هدف قرار می‌دهد که تصمیم می‌گیرند کدام منابع را یک مدل نقل‌قول کند - و سپس یک سند متقاعدکننده می‌تواند به میلیون‌ها پاسخ منعکس شود.

برای توسعه دهندگان چت بات، موسسه هانوفر یک تست استرس برای بررسی منبع است. ارزیابی NewsGuard نشان می‌دهد که تقلید به اندازه کافی نزدیک است تا سیگنال‌های اعتبار خودکار را فریب دهد. برای خوانندگان، این درس ساده‌تر است: پاسخ مطمئن و مستدلی که یک ربات چت در مورد یک درگیری مورد مناقشه به شما می‌دهد، ممکن است به سازمانی بازگردد که برای ارائه دقیقاً همان پاسخ ساخته شده، نام‌گذاری شده و سرمایه‌گذاری شده است.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →