متا ابزارهای هوش مصنوعی متصل به Anthropic's Claude را مسئول تعلیق نادرست حساب کاربری اینستاگرام No Kings Coalition می‌داند، خطایی که حضور جنبش اعتراضی در رسانه‌های اجتماعی را برای ساعت‌ها آفلاین کرد در طول یک روز اقدام سراسری با هدف افزایش مشارکت زودهنگام رأی‌دهندگان در آستانه انتخابات میان‌دوره‌ای نوامبر.

تعلیق که از بعدازظهر شنبه آغاز شد، ابتدا به حفاظت های خودکار معمول نسبت داده شد. یک روز بعد، متا حساب متفاوت و غیرمعمول‌تری ارائه کرد: طبق گزارش‌های بلومبرگ و گاردین، مهندسان شرکت دریافتند که ابزارهای متصل به کلود آنتروپیک، پست‌ها، نمایه‌ها و هشتگ‌ها را تقریباً چهار برابر سرعت معمول از حساب بیرون می‌کشیدند - الگوهای ترافیکی که سیستم‌های متا آن‌ها را با فعالیت خودکار اشتباه می‌گرفتند و به آن‌ها پاسخ می‌دادند. For more context on this story, see our ongoing latest AI developments.

ساعت سکوت در طول روز ملی اقدام

این قفل به سختی می‌توانست در لحظه حساس‌تری رخ دهد. بر اساس ارقام ذکر شده توسط The Deep Dive، بخشی از جنبش طرفدار دموکراسی که در سال های اخیر میلیون ها آمریکایی را به خیابان ها کشانده است، سازمان دهندگان نزدیک به 3000 رویداد "No Kings: Vote Early" در سراسر ایالات متحده برگزار کردند.

مدیران دسترسی به حساب را در حدود ساعت 1:30 بعد از ظهر از دست دادند. شرقی، سخنگوی ائتلاف گفت. خود این حساب پس از تقریباً 90 دقیقه مجدداً به صورت عمومی ظاهر شد، اما افراد پشتیبان آن برای نزدیک به چهار ساعت از باطن آن قفل شدند و در ساعت 5:33 بعد از ظهر دسترسی کامل را به دست آوردند. شرقی.

ازرا لوین، یکی از بنیانگذاران گروه سازماندهی Indivisible، وضعیت را به صراحت توصیف کرد. او گفت: "آنها آن را تعلیق کردند. ما به آن دسترسی نداشتیم."

توضیح متا تغییر کرد - دو بار

اولین پاسخ عمومی متا روز شنبه بود، زمانی که سخنگوی اندی استون در X نوشت که سیستم‌های خودکار این پلتفرم گاهی اوقات «زمانی که حساب‌ها در فرکانس‌های بسیار بالا پست می‌کنند، به اشتراک می‌گذارند یا نظر می‌دهند» عمل می‌کنند. وی با اذعان به اینکه "این اقدام خودکار به وضوح به اشتباه انجام شده است"، افزود: "همه چیز اکنون همانطور که باید کار می کند و ما صمیمانه عذرخواهی می کنیم."

تا روز یکشنبه، این شرکت گزارش رویدادهای خود را اصلاح کرده بود. استون در بیانیه‌ای طولانی‌تر گفت که حجم بالای پروفایل‌ها، پست‌ها و هشتگ‌های خواندن فعالیت‌ها به‌صورت انفجاری شدید باعث شده است که ابزار هوش مصنوعی متا ترافیک را به‌عنوان ربات‌های خودکار طبقه‌بندی کند. استون گفت: «این فعالیت باعث شد که محافظت‌های خودکار ما به اشتباه حساب اینستاگرام No Kings را آفلاین کند.» و اشاره کرد که یک ساعت بعد یک بررسی مجدد خودکار اشتباه را تشخیص داد و حساب را بازیابی کرد، اگرچه باز کردن دسترسی ادمین زمان بیشتری را به خود اختصاص داد.

ارتباط کلود اولین بار توسط بلومبرگ در روز یکشنبه گزارش شد. چیزی که متا توضیح نداده است این است که چه کسی این ابزارها را کار می‌کند، یا چرا آن‌ها حساب را به شدت جویا می‌کنند. این شرکت در بیانیه های عمومی خود به این سوال پاسخ نداد.

سازمان‌دهندگان پاسخ را ناکافی می‌خوانند

ائتلاف با توضیح ترافیک ربات قانع نشد. در پستی در اینستاگرام یکشنبه، این گروه گفت که اعضای آن در طول روز اقدام "تنها تعداد انگشت شماری بار پست کرده اند و برای هزاران نفر پخش زنده پخش کرده اند" - که به سختی نمایه یک عملیات اسپم خودکار است.

ائتلاف No Kings نوشت: «ما دوباره به حساب‌های خود دسترسی پیدا کرده‌ایم، اما متا هنوز توضیحی به ما بدهکار است. "محدود کردن ارتباطات در مورد رای دادن در میانه انتخابات غیرقابل قبول است."

این اپیزود به سرعت با واکنش های سیاسی مواجه شد. سناتور برنی سندرز در ایکس پیشنهاد کرد که "مالکیت میلیاردر بر رسانه ها" پشت این تعلیق است، در حالی که سناتور کانکتیکات کریس مورفی خواستار تحقیق درباره آنچه اتفاق افتاده است.

وقتی ترافیک هوش مصنوعی مانند سوء استفاده به نظر می رسد

فراتر از سیاست فوری، این حادثه خط گسل فزاینده ای را در نحوه نظارت پلتفرم های بزرگ بر سیستم هایشان نشان می دهد. اجرای خودکار به طبقه‌بندی‌کننده‌هایی بستگی دارد که رفتار انسان را از رفتار ربات‌ها متمایز می‌کنند – تمایزی که حفظ آن سخت‌تر می‌شود زیرا عوامل هوش مصنوعی، خراش‌ها و ابزارهای شخص ثالث به دلایل قانونی از پلت‌فرم‌های اجتماعی با سرعت ماشین جستجو می‌کنند.

گزارش متا از تعلیق نشان می‌دهد که سیستم‌های دفاعی آن در برابر ترافیکی که واقعاً خودکار به نظر می‌رسند، طراحی شده است، و دقیقاً به همان روشی که منتقدان تعدیل خودکار مدت‌ها هشدار داده‌اند، شکست خورده است: سریع، مبهم، و در برابر هدف اشتباه، با تصحیح تنها پس از وارد شدن آسیب.

برای آنتروپیک، این اپیزود یادآوری است که رد پای یک مدل فراتر از محصولات خودش است. Claude توسط برنامه های شخص ثالث از طریق API Anthropic قابل دسترسی است، و همانطور که گزارش در مورد این حادثه نشان می دهد، Meta به ابزارهای "متصل به" مدل اشاره کرد تا هر چیزی که خود Anthropic اجرا می کرد. به عبارت دیگر، استفاده پایین‌دستی می‌تواند نام یک مدل‌ساز را بدون هیچ اقدام مستقیمی در عنوان یک تیتر نامطلوب قرار دهد.

بعد چه اتفاقی می افتد

متا دو بار عذرخواهی کرده و حساب را بازیابی کرده است، اما ائتلاف خواستار حسابداری کامل‌تر است و شرکت تاکنون از ذکر نام اپراتورهای ابزارهای متصل به کلود یا جزئیات اقدامات حفاظتی، در صورت وجود، برای سازمان‌های سیاسی در فصل انتخابات خودداری کرده است.

با نزدیک شدن به اواسط هفته و برگزاری رای‌گیری زودهنگام در چندین ایالت، گروه‌های پلتفرم و مقامات انتخاباتی نظاره‌گر خواهند بود که آیا متا - و دیگر پلتفرم‌هایی که بر سیستم‌های دفاعی خودکار مشابه متکی هستند - آستانه‌های خود را برای جلوگیری از گرفتار شدن سازمان‌های مدنی در فیلترهای ربات تنظیم می‌کنند. اینکه آیا تنظیم‌کننده‌ها علاقه بیشتری نشان می‌دهند ممکن است به پاسخ رضایت‌بخش متا به سؤالی که سازمان‌دهندگان مدام می‌پرسند بستگی دارد: دقیقاً چه اتفاقی افتاده است و چه کسی پشت ترافیکی بود که همه آن را آغاز کرد.

گزارش از گاردین، بلومبرگ و The Deep Dive به این مقاله کمک کردند.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →