سمافور گزارش داد، در حالی که آمریکایی ها برای انتخابات میان دوره ای روز سه شنبه به پای صندوق های رای می روند، OpenAI و Anthropic هر دو "اتاق های جنگ" اختصاصی را راه اندازی می کنند تا اطمینان حاصل کنند که پلت فرم های هوش مصنوعی آنها اطلاعات دقیق انتخابات را ارائه می دهند - اولین مورد برای هر یک از شرکت ها. این حرکت ها واقعیت ناراحت کننده ای را تصدیق می کند: برای تعداد فزاینده ای از رای دهندگان، چت بات ها و ابزارهای جستجوی هوش مصنوعی اکنون راه اصلی پرسیدن سوالات اساسی در مورد چگونگی، مکان و زمان رای دادن هستند.

مفهوم اتاق جنگ از دوران قبلی سیاست پلت فرم وام گرفته شده است. این به سال 2018 برمی گردد، زمانی که متا در میان نگرانی ها در مورد گسترش اطلاعات نادرست مربوط به انتخابات، اولین تیم از این قبیل را بر عهده گرفت. آنچه از آن زمان تغییر کرده است مدل تهدید است: عصر هوش مصنوعی این خطرات را افزایش داده است، که اکنون شامل ویدیوهای جعلی عمیق و نتایج جستجوی مبتنی بر هوش مصنوعی است که با اطمینان اطلاعات نادرست را منتشر می کند. ما در طول روز در [پوشش خبری هوش مصنوعی فصل انتخابات] (https://aibuzzwire.news) تقاطع هوش مصنوعی و میان ترم ها را ردیابی می کنیم.

اولین برای هر دو آزمایشگاه هوش مصنوعی

Anthropic راه اندازی خود را به Semafor تایید کرد. یکی از سخنگویان آنتروپیک گفت: «تیم‌های شرکت در تمام طول سال برای تقویت پادمان‌های مربوط به انتخابات و اجرای سیاست‌های ما کار می‌کنند.» قبل از انتخابات، ما یک اتاق جنگ اختصاصی داریم که از پلت فرم ما برای سوء استفاده نظارت می کند و آماده واکنش سریع به هر حادثه ای است.»

این ساختار ساده اما سخت است: کارکنان بر نحوه پاسخگویی کلود و سایر ابزارها به سوالات انتخابات نظارت می‌کنند، الگوهای استفاده نادرست مانند اطلاعات نادرست تولید شده را بررسی می‌کنند، و فرآیند واکنش سریع را برای حوادثی که نیاز به اصلاح دارند در عرض چند ساعت و نه چند روز حفظ می‌کنند. در همین حال، ان‌بی‌سی نیوز، خوانندگان را به اتاق جنگ انتخاباتی موازی OpenAI برد و نحوه آماده‌سازی این شرکت برای تأثیر هوش مصنوعی در میان‌دوره‌ای را بررسی کرد.

اینکه هر دو شرکت نیاز به ایجاد این قابلیت را از ابتدا احساس کردند، چیزی در مورد جدید بودن مشکل نشان می دهد. در سال 2018، پلتفرم‌ها در درجه اول نگران مطالبی بودند که کاربران پست می‌کردند. در سال 2026، آنها همچنین باید نگران صحبت های مدل های خود باشند.

وقتی پاسخ های هوش مصنوعی در بدترین زمان اشتباه می شود

ریسک ها فرضی نیستند. سمافور به یک مورد از هفته گذشته اشاره کرد: حالت هوش مصنوعی گوگل به پرسشی درباره اینکه چه کسی در انتخابات 2020 پیروز شد پاسخ نمی‌دهد - یکی از پرپرسی‌ترین و حل‌شده‌ترین سؤالات در تاریخ سیاسی اخیر آمریکا. گوگل اعلام کرد که در حال کار برای رفع این مشکل است.

حالت شکست آموزنده است. سیستم‌های هوش مصنوعی گاهی سوالاتی را که باید پاسخ دهند را رد می‌کنند، و گاهی به سوالاتی که باید رد کنند پاسخ می‌دهند، و هر دو خطا دقیقاً زمانی افزایش می‌یابند که توجه عمومی - و حجم پرس و جو - بالاترین میزان باشد. یک دستیار هوش مصنوعی که یک سوال واقعی در مورد انتخابات گذشته را به چالش می کشد، اعتماد به همان نفسی را که تلاش می کند آن را ایجاد کند، تضعیف می کند.

نگرانی گسترده‌تر فراتر از پاسخ‌های اشتباه است. یک تحلیل شورای روابط خارجی که این هفته منتشر شد هشدار داد که چت ربات‌های هوش مصنوعی می‌توانند اعتبار جدیدی به کمپین‌های تاثیرگذار بدهند – زیرا اطلاعات نادرست که با صدایی آرام، مطمئن و دستیار ارائه می‌شود، هاله‌ای از بی‌طرفی را به ارث می‌برد که یک وب‌سایت طرفدار هرگز آن را دریافت نمی‌کند.

"ساخته شده برای مقابله با چیزهایی که نمی توانیم پیش بینی کنیم"

چرا به جای تکیه بر آزمایشات قبل از انتخابات، یک اتاق جنگ زنده را حفظ کنید؟ کیتی هاربث، مدیر سابق سیاست عمومی متا که اکنون روی مسائل فناوری و دموکراسی کار می کند، منطق را برای سمافور توضیح داد. او گفت که اتاق‌های جنگ "برای مقابله با چیزهایی ساخته شده‌اند که نمی‌توانیم لزوماً پیش‌بینی کنیم که اشتباه می‌شوند، و شما به یک فرآیند سریع و تثبیت‌شده از نظر تریاژ نیاز دارید."

سمافور خاطرنشان کرد که این غیرقابل پیش بینی بودن به دلیل ماهیت پوسته پوسته هوش مصنوعی، مسائل اخیر امنیت سایبری که صنعت را تحت تاثیر قرار می دهد، و تمایل ابزارهای جستجوی هوش مصنوعی برای بازتاب پاسخ هایی که کاربران می خواهند ببینند، ترکیب می شود - یک مشکل همسویی که می تواند به آرامی نحوه درک افراد از موضوعات مورد بحث را مخدوش کند.

روز انتخابات آزمون استرس است. حجم پرس و جو در مورد مکان های رای گیری، موقعیت نامزدها و نتایج به سطوحی افزایش می یابد که ارزیابی قبل از انتخابات به طور کامل شبیه سازی نشده است. اتاق‌های جنگ وجود دارند زیرا تنها راه برای فهمیدن اینکه این سیستم‌ها چگونه تحت این بار رفتار می‌کنند، تماشای آن‌ها در زمان واقعی، با اختیار تعمیر سریع مسائل است.

در نتیجه چه چیزی را تماشا کنیم

در طول شب انتخابات، نقاط فشار در دسته‌بندی قابل پیش‌بینی هستند، حتی اگر در زمان‌بندی نباشند: پاسخ‌های هوش مصنوعی در مورد نتایج و حواشی قبل از فراخوان رسمی مسابقات، زمان‌بندی دیپ‌فیک‌ها تا حداکثر سردرگمی، و اسکرین شات‌هایی از پاسخ‌های چت بد که سریع‌تر از اصلاحات پخش می‌شوند. سرعت انطباق سیستم‌های OpenAI، Anthropic و Google نه تنها محیط اطلاعاتی این انتخابات، بلکه نحوه مدیریت انتخابات بعدی را نیز شکل خواهد داد.

برای صنعت هوش مصنوعی، آزمون عمیق‌تر شهرت دارد. میلیون ها رای دهنده در این هفته برای اولین بار در یک زمینه مدنی پرمخاطره با این سیستم ها تعامل خواهند داشت. شرکت‌هایی که پاسخ‌های انتخاباتی را به درستی دریافت می‌کنند – یا به وضوح آن‌ها را به سرعت اصلاح می‌کنند – نوعی اعتماد به دست خواهند آورد که هیچ کمپین بازاریابی نمی‌تواند آن را بخرد.

---

از هوش مصنوعی جلوتر بمانید

آخرین اخبار، تحلیل ها و پیشرفت های هوش مصنوعی را دریافت کنید - همه در یک مکان.

بیشتر بخوانید اخبار هوش مصنوعی →