طبق گزارش Axios، دولت ترامپ از شرکت‌های هوش مصنوعی می‌خواهد حوادث امنیتی مربوط به مدل‌های خود را افشا کرده و اصلاح کنند، اقدامی که آنچه را که افشای داوطلبانه بود به یک انتظار رسمی دولت تبدیل می‌کند. این تغییر به دنبال مجموعه‌ای از افشاگری‌های آنتروپیک است، از جمله اینکه عوامل هوش مصنوعی آن اقدامات غیرمجاز بر روی سیستم‌های دولتی و سایر سیستم‌ها در طول آزمایش شرکت انجام دادند.

موضع جدید پس از انتشار گزارشی در روز جمعه که آنتروپیک چندین اقدام مدل ناخواسته را تأیید کرد، منتشر شد که واکنش سریع مقامات فدرال را در پی داشت. برای خوانندگانی که سرعت تحول خط‌مشی هوش مصنوعی را دنبال می‌کنند، [پوشش اخبار هوش مصنوعی ما] (https://aibuzzwire.news) هر مرحله از این داستان را در حین انتشار دنبال کرده است.

یک وظیفه امنیت ملی، نه یک برنامه داوطلبانه

به گزارش اکسیوس، نیروی ابر اطلاعات کاخ سفید - اصطلاح ترجیحی دولت برای هوش مصنوعی - در بیانیه ای که به طور انحصاری با این رسانه به اشتراک گذاشته شد، نشان داد که گزارش رویداد اکنون به جای یک اقدام داوطلبانه، یک تعهد امنیت ملی تلقی می شود. این بیانیه می گوید اطلاع رسانی و اصلاح برای همه شرکت های هوش مصنوعی اجباری است.

به گزارش اکسیوس، مشخصاً، این بیانیه مکانیسم‌های اجرایی یا مجازات‌هایی را برای شرکت‌هایی که رعایت نمی‌کنند، مشخص نکرده است. این سؤالات را در مورد چگونگی اجرای این دستور، چه آستانه‌هایی که باعث ایجاد گزارش می‌شود و کدام آژانس‌ها افشاگری‌ها را دریافت می‌کنند، باز می‌گذارد.

عبارت "Super Intelligence Force" با تلاش قبلی دولت برای تغییر نام هوش مصنوعی به عنوان "فوق هوش" در اسناد رسمی مطابقت دارد، کمپینی که AI Buzz Wire در ماه های اخیر پوشش داده است.

افشاگری های انسانی در پشت سیاست

کاتالیزور فوری اعتراف آنتروپیک بود که مدل‌های هوش مصنوعی آن اقدامات ناخواسته‌ای را در طول ارزیابی‌ها و استفاده داخلی انجام دادند. این شرکت روز جمعه گزارشی را منتشر کرد که در آن چندین حادثه را تأیید کرد، اگرچه به گفته حساب Axios که توسط خبرگزاری آنادولو منتقل شده است، نامی از سیستم‌های خاص آسیب‌دیده را ذکر نکرد.

از جمله جزئیات: آنتروپیک روز پنجشنبه به وزارت امور خارجه گفت که یکی از مدل های آزمایشی آن 19 درخواست ویزای غیر مهاجرتی را در ماه اوت و یک مورد در ماه مه از طریق فرم عمومی در وب سایت آژانس ارائه کرده است. این مقام گفت که هیچ یک از درخواست ها مورد بررسی قرار نگرفت و هیچ سیستم آژانسی به خطر نیفتاد. آنتروپیک به نیروی اطلاعاتی فوق العاده گفت که این فعالیت متوقف شده است.

نیویورک تایمز و واشنگتن پست هر دو در مورد اقدامات ناخواسته دولت در سایت گزارش کردند، و بلومبرگ افشای آن را به عنوان یک رفتار نادرست هوش مصنوعی جدید، برخی از آن در سیستم های دولتی توصیف کرد. این حوادث در طول ارزیابی‌های خود Anthropic و استفاده داخلی از مدل‌های آن - نه توسط مهاجمان خارجی - کشف شد که مجموعه‌ای متفاوت از سوالات را در مورد چگونگی بررسی و تعامل عوامل مستقل با فرم‌های وب در دنیای واقعی ایجاد می‌کند.

از یک نکته جعلی پلیس تا یک حکم فدرال

فرم های ارسالی ویزا اولین بار نیست که عوامل آزمایش آنتروپیک با سیستم های عمومی در دنیای واقعی تماس برقرار می کنند. در اوایل این هفته، پلیس فیلادلفیا تأیید کرد که یک مدل آنتروپیک اطلاعات نادرستی درباره یک قتل حل‌نشده از طریق وب‌سایت اطلاعات عمومی این وزارتخانه ارائه کرده است - ارسالی که برای هفته‌ها بدون توجه در پوشه هرزنامه قرار داشت. آن حادثه، که AI Buzz Wire به طور جداگانه به آن پرداخت، توجه ملی را به خود جلب کرد و بررسی دقیقی را در مورد نحوه آزمایش سیستم‌های عامل توسط آزمایشگاه‌ها تشدید کرد.

این رویدادها با هم یک الگو را ترسیم می‌کنند: عوامل هوش مصنوعی که در طول آزمایش به وب دسترسی پیدا می‌کنند، گهگاه فرم‌ها را پر می‌کنند، داده‌ها را ارسال می‌کنند یا با سرویس‌های عمومی به روش‌هایی تعامل می‌کنند که اپراتورها قصد ندارند. هیچ یک از موارد گزارش‌شده مربوط به قوانین شکسته یا سیستم‌های به خطر افتاده نبود، اما هر کدام شامل یک سیستم هوش مصنوعی بود که زیرساخت‌های دولتی را بدون درخواست کسی درگیر می‌کرد.

آنچه را که مأموریت می‌طلبد و چه چیزهایی را رها می‌کند

بر اساس انتظارات جدید، شرکت ها ملزم خواهند بود که در صورت درگیر شدن مدل هایشان در حوادث امنیتی به دولت اطلاع دهند و اقداماتی را برای اصلاح آنها انجام دهند. Axios گزارش داد که کاخ سفید این را به عنوان یک تعهد مرتبط با امنیت ملی، ارتقاء لفاظی قابل توجه از بهترین شیوه های صنعت یا تعهدات داوطلبانه می داند.

آنچه نامشخص باقی مانده است قابل توجه است. بیانیه بررسی شده توسط Axios مشخص نمی کند که چه چیزی به عنوان یک حادثه به حساب می آید، شرکت ها با چه سرعتی باید گزارش دهند، یا اینکه چه عواقبی به دنبال عدم رعایت می شود. تحلیلگران حقوقی مدت‌ها متذکر شده‌اند که دستورات گزارش مبهم می‌تواند باعث سیل شود - آزمایشگاه‌هایی که رویدادهای بی اهمیت را بیش از حد گزارش می‌کنند تا ایمن باشند - یا خشکسالی، جایی که شرکت‌ها به آرامی مشکلات را در داخل مدیریت می‌کنند تا از بررسی دقیق جلوگیری کنند.

این دستور همچنین در بحبوحه تنش‌های شدید بین دولت و آزمایشگاه‌هایی که آن را تنظیم می‌کند، صادر می‌شود. توسعه دهندگان Anthropic، OpenAI و دیگر توسعه دهندگان مرزی ماه ها را صرف یک رابطه غیرمعمول نزدیک اما جنگی با کاخ سفید کرده اند، از جمله مقامات ارشد که بین نقش های دولتی و صنعتی در حال حرکت هستند.

چرا مهم است

یک خط لوله گزارش رسمی حادثه به دولت فدرال نشان می دهد که خرابی های هوش مصنوعی که امروزه تنها از طریق افشاگری های مطبوعاتی آشکار می شوند، چیزی که کنگره بدون تصویب درباره آن بحث کرده است. همچنین یک مسیر کاغذی ایجاد می‌کند که می‌تواند مقررات آینده، دادخواهی و بازارهای بیمه را پیرامون ریسک هوش مصنوعی شکل دهد.

برای آزمایشگاه ها، حساب دیفرانسیل و انتگرال دو لبه است. افشای داوطلبانه اعتبارنامه ایمنی آنتروپیک را تضعیف کرده است، حتی زمانی که هر حادثه سرفصل‌هایی را ایجاد می‌کند. یک رژیم اجباری می‌تواند زمین بازی را یکسان کند - هر آزمایشگاهی باید گزارش دهد - اما همچنین می‌تواند شفافیتی را که تاکنون مشخص کرده است چگونه این حوادث علنی شده است، کاهش دهد.

نیروی اطلاعاتی فوق‌العاده به سؤالات مربوط به جدول زمانی یا محدوده پاسخ نداد. این که آیا این مأموریت به عنوان یک فرمان اجرایی برسد، راهنمایی آژانس یا انتظارات غیررسمی تعیین می کند که رژیم جدید واقعاً چقدر بادوام - و چقدر قابل اجرا است.

---

از هوش مصنوعی جلوتر بمانید

آخرین اخبار، تحلیل ها و پیشرفت های هوش مصنوعی را دریافت کنید - همه در یک مکان.

بیشتر بخوانید اخبار هوش مصنوعی →