از حالت هوش مصنوعی گوگل بپرسید که چه کسی در انتخابات ریاست جمهوری سال 2020 پیروز شد و برای بسیاری از کاربران، پاسخ شانه بالا انداختن در قالب متن است. تجربه جستجوی مبتنی بر هوش مصنوعی به جای نام بردن از برنده، مردم را به مشورت با گزارش رسمی کمیسیون انتخابات فدرال هدایت کرده است. این رفتار عجیب که ابتدا توسط Ars Technica شرح داده شد، توجه کافی را به خود جلب کرده است که اکنون گوگل آن را به عنوان یک شکاف فنی که در حال تلاش برای رفع آن است، کمتر از دو هفته مانده به انتخابات میان دوره ای ایالات متحده، تصدیق می کند.

این اپیزود یادآوری مفیدی است که محصولات جستجوی هوش مصنوعی حتی بر اساس حقایق تاریخی ثابت می‌توانند به روش‌های عجیبی با شکست مواجه شوند، و اینکه [آگاه ماندن در پیشرفت‌های هوش مصنوعی] (https://aibuzzwire.news/en) به طور فزاینده‌ای به معنای ردیابی نه تنها راه‌اندازی مدل‌ها بلکه نحوه رفتار این سیستم‌ها تحت فشار سیاسی است.

آنچه که تست Ars Technica پیدا کرد

هنگامی که یک خبرنگار Ars Technica این سوال را مستقیماً به حالت هوش مصنوعی گوگل مطرح کرد، پاسخ به طور قابل توجهی غیرمستقیم بود: برای بررسی نتایج و آمار رسمی انتخابات ریاست‌جمهوری ایالات متحده در سال 2020، از جمله تفکیک نهایی کالج‌های انتخاباتی، شمارش آرای مردمی و تاییدیه برندگان، این ابزار توصیه می‌کند که گزارش رسمی تهیه‌شده توسط FEC را بررسی کنید.

طفره رفتن ثابت نبود. آزمایش پاسخ‌های غیرمستقیم مشابهی را برای انتخابات 2024 و 2012 نشان داد، در حالی که حالت هوش مصنوعی برای هر انتخابات ریاست‌جمهوری دیگری که به سال 2000 برمی‌گردد، پاسخ‌های دقیق و درستی ارائه می‌دهد. کارکنان مختلف Ars الگوهای متفاوتی را مشاهده کردند، به طوری که یکی از آنها فقط برای رقابت‌های 2016 و 2024 پاسخ‌های فوری دریافت کرد و برای هر چیز دیگری به داده‌های بیرونی پیوند داشت.

مسائل تاریخ سیاسی فراتر از رقابت های ریاست جمهوری نیز تحت تأثیر قرار گرفت. AI Mode در پاسخ به این سوال که کدام حزب بعد از انتخابات 2020 سنا را کنترل می کند، به خبرنگار گفت که سوابق رسمی کنگره را بررسی کند و به صفحه تاریخچه بخش حزبی سنا مرتبط شود. با طرح همین سوال در مورد انتخابات 1992، مستقیماً پاسخ داد که دموکرات ها اکثریت 57 به 43 را در اختیار داشتند.

دیگر چت ربات ها بدون تردید پاسخ می دهند

بر اساس این گزارش، مدل Gemini خود گوگل، جدا از حالت هوش مصنوعی، بدون مشکل به این سوال پاسخ داد. ChatGPT از OpenAI، کلود Anthropic و حتی مدل هوش مصنوعی دولتی در America.gov نیز همینطور. این تمایز مهم است، زیرا نشان می‌دهد که مشکل در نحوه رسیدگی به پرس‌و‌جویان لایه جستجوی حالت هوش مصنوعی به جای دانش مدل زبانی اساسی نهفته است.

رفتار با جغرافیا نیز تغییر کرد. بررسی‌های نقطه‌ای Ars Technica از طریق VPN‌ها در تایوان، روسیه، فرانسه و کانادا همگی پاسخ‌های دقیق و مستقیمی را در مورد نتایج انتخابات اخیر ایالات متحده به دست دادند، که به این معنی است که رسیدگی محدود به کاربران در ایالات متحده است.

پاسخ گوگل: یک شکاف فنی

سخنگوی گوگل ابتدا به پستی در رسانه های اجتماعی اشاره کرد که در آن اذعان کرد که اپلیکیشن Gemini به این سوال پاسخ کامل تری می دهد و پاسخ حالت AI مفیدترین نبود و افزود که شرکت در حال بررسی آن است. این سخنگوی بعداً توضیح دقیق تری داد و به Ars Technica گفت که گوگل در حال رفع این مشکل با درخواست های انتخاباتی 2020 در حالت هوش مصنوعی است. به گفته این سخنگوی، سیستم‌های گوگل با استفاده از مقالات خبری یا داده‌های AP برای انتخابات‌های اخیر و سوابق تاریخی برای انتخابات‌های قدیمی‌تر، پاسخ‌های انتخاباتی را تأیید می‌کنند، و یک شکاف فنی با سال ۲۰۲۰ وجود داشت، که همین امر در مورد رقابت‌های سنا ۲۰۲۲ صادق است، که این شرکت در تلاش است تا در همان به‌روزرسانی برطرف شود.

یک چروک جالب از آزمایش: پشتکار نتیجه داد. هنگامی که همان سؤالات برای بار دوم پرسیده شد، حالت AI به طور مستقیم برنده را با استناد به داده های Google Civics ارائه کرد. این ابزار در پاسخ به این سوال که چرا در ابتدا پاسخی نداده است، فیلترهای ایمنی سختگیرانه را مقصر موضوعات اخیر و بسیار حساس انتخاباتی دانست و سیستمی به شدت خودکار را توصیف کرد که چنین پرسش‌هایی را به پایگاه‌های اطلاعاتی رسمی رسمی دولتی هدایت می‌کند تا از هرگونه خطر نمایش داده‌های تایید نشده یا اطلاعات نادرست جلوگیری کند. همانطور که Ars Technica اشاره می کند، مدل های هوش مصنوعی راوی غیرقابل اعتمادی از فرآیندهای داخلی خود هستند، بنابراین توضیح لازم است کمی احتیاط شود.

چرا پاسخ های انتخاباتی برای جستجوی هوش مصنوعی سخت است

گوگل اشتباه نمی کند که درخواست های انتخاباتی را به عنوان ریسک بالا در نظر بگیرد. سیستم‌های جستجوی مولد می‌توانند توهم ایجاد کنند، و اطلاعات نادرست انتخابات یک مشکل مستند است که پلتفرم‌ها بارها و بارها با آن برخورد کرده‌اند. در سال 2023، یوتیوب متعلق به گوگل، سیاستی را تغییر داد که تمام ویدیوهایی را که ادعاهای نادرست درباره انتخابات 2020 می‌دادند ممنوع می‌کرد و گفت که حذف‌ها می‌توانند سخنان سیاسی را بدون کاهش معنی‌دار آسیب‌های دنیای واقعی کاهش دهند.

بر اساس صفحه سیاست عمومی انتخابات و پست وبلاگ سپتامبر در مورد کمک به رای دهندگان در یافتن اطلاعات قابل اعتماد در میان دوره ای، وضعیت عمومی فعلی این شرکت بر نمایش اطلاعات معتبر انتخاباتی مستقیماً در نتایج، از جمله پیوندهای مستقیم به منابع رسمی تأکید دارد. حادثه حالت هوش مصنوعی شکاف بین این سیاست و رفتار روی زمین یک سیستم خودکار را نشان می دهد: در تلاش برای جلوگیری از گفتن چیزی اشتباه، در نهایت از گفتن چیزی حل شده امتناع کرد.

با نزدیک شدن به دوره میان دوره ای، این اپیزود خط ظریفی را که محصولات هوش مصنوعی در طول انتخابات طی می کنند را نشان می دهد. مسدود کردن بیش از حد پاسخ‌های واقعی، کاربران را ناامید می‌کند و می‌تواند اعتماد را به همان اندازه که اشتباهات انجام می‌دهند، از بین ببرد، و از طفره رفتنی که بسته به کاربر، کشور، و تکرار متفاوت است، به سختی می‌توان از ایمنی یا دقت دفاع کرد. به‌روزرسانی وعده داده شده گوگل نشان می‌دهد که آیا این اصلاحیه پاسخ‌های مستقیم را به طور یکنواخت بازیابی می‌کند یا اینکه آیا درخواست‌های انتخاباتی در حالت هوش مصنوعی همچنان بخت‌آزمایی از فیلترها و شکاف‌های فنی هستند.

از هوش مصنوعی جلوتر بمانید

برای پوشش مستمر خط‌مشی هوش مصنوعی، رفتار پلت‌فرم، و سیستم‌هایی که اطلاعات آنلاین را شکل می‌دهند، [AI Buzz Wire] (https://aibuzzwire.news/en) را برای اخبار و تحلیل‌های مستقل هوش مصنوعی دنبال کنید.

اخبار هوش مصنوعی را در AI Buzz Wire بخوانید