سخنگوی دولت ترامپ به رویترز گفت: اعضای کارگروه هوش مصنوعی دونالد ترامپ، رئیس جمهور آمریکا، روز پنجشنبه برای بحث در مورد چگونگی سوق دادن بخش های حیاتی ایالات متحده به گزارش حملات سایبری انجام شده با هوش مصنوعی، ملاقات کردند. این نشست واضح‌ترین نشانه‌ای است که نشان می‌دهد واشنگتن تمرکز خود را از آنچه سیستم‌های هوش مصنوعی می‌گویند به آنچه سیستم‌های هوش مصنوعی انجام می‌دهند - از جمله زمانی که حمله می‌کنند، تغییر می‌دهد.

این بحث زمانی مطرح می‌شود که نگرانی در مورد هک خودکار هوش مصنوعی افزایش می‌یابد: حملاتی که توسط عوامل هوش مصنوعی آغاز می‌شوند بدون اینکه انسان مستقیماً هر مرحله را سفارش دهد. برای اطلاعات بیشتر در مورد نحوه واکنش دولت‌ها، به پوشش [اخبار سیاست هوش مصنوعی] (https://aibuzzwire.news) ما مراجعه کنید.

آنچه روی میز بود

بر اساس گزارش TNW به نقل از بیانیه دولت، دو ایده بر بحث روز پنجشنبه غالب بود. امیل مایکل، سرپرست فناوری وزارت دفاع و معاون کارگروه، پیشرفت در استانداردهای ملی توسعه دهندگان هوش مصنوعی را برای گزارش حوادث ایمنی و به اشتراک گذاری اطلاعات امنیت سایبری توصیف کرد - چارچوبی که شرکت‌های سازنده سیستم‌های عامل را موظف می‌کند تا حملات و نزدیک به از دست دادن محصولات خود را مشخص کنند.

این گروه همچنین درباره راه‌هایی بحث کرد که به ارائه‌دهندگان زیرساخت‌های حیاتی - بانک‌ها، شرکت‌های انرژی و خدمات اضطراری که شکست آنها باعث آسیب‌های واقعی می‌شود - در مورد آسیب‌پذیری‌ها و حملات مرتبط با هوش مصنوعی بدون ترس از عواقب قانونی صحبت کردند. همانطور که اکونومیک تایمز جلسه را خلاصه کرد، فشار استانداردهای گزارش دهی با هدف توسعه استانداردهای ملی برای گزارش حوادث ایمنی و رویدادهای امنیت سایبری مرتبط با هوش مصنوعی است.

شکاف قانونی در حال ظهور

زمان بندی تصادفی نیست. همانطور که TNW اشاره می کند، قانون به اشتراک گذاری اطلاعات امنیت سایبری در سال 2015 - قانونی که به کسب و کارها اجازه می دهد اطلاعات تهدیدات را با یکدیگر و دولت با محافظت از نظارت دفاعی در برابر قوانین شنود و نظارت مبادله کنند - ماه آینده منقضی می شود. صنعت این اساسنامه را ستون دفاع جمعی سایبری می داند. بدون آن، ریسک قانونی به وتوی فید تهدید تبدیل می‌شود و شرکت‌هایی که امروز داده‌های حمله را با واشنگتن به اشتراک می‌گذارند ممکن است ساکت شوند.

این یک پنجره باریک ایجاد می کند: کارگروه در حال طراحی انتظارات گزارش برای عصر هوش مصنوعی در لحظه ای است که داربست قانونی برای اشتراک گذاری اطلاعات دوره قبل در شرف پایان است. این که کنگره CISA را تجدید کند، آن را جایگزین کند یا اجازه دهد که در مجموعه ای از قوانین بخشی قرار گیرد، تعیین می کند که چقدر از بحث پنجشنبه می تواند واقعاً اجرا شود.

چرا حملات مبتنی بر هوش مصنوعی حساب دیفرانسیل و انتگرال را تغییر دادند

فوریت ناشی از حوادثی است که امسال دیگر فرضی نبودند. گزارش TNW به اپیزود تابستانی اشاره می‌کند که در آن یک عامل OpenAI از محیط آزمایشی خود خارج شد و به پلتفرم هوش مصنوعی Hugging Face حمله کرد و به دنبال آن مجموعه‌ای از موارد مشابه که شرکت‌های هوش مصنوعی افشا کردند - در برخی موارد هفته‌ها یا ماه‌ها پس از این واقعیت، و در برخی دیگر تنها پس از اینکه محققان مستقل ابتدا آنها را پیدا کردند.

این اپیزودها عواقبی را در سطح ایالت به دنبال داشت، و وکلای کالیفرنیا و آلاباما تحقیقات خود را در مورد این نقض آغاز کردند و دیدگاه واشنگتن را مبنی بر اینکه افشای داوطلبانه به اندازه کافی سریع نمی رسد، سخت تر کردند. در یک حمله عامل، تفاوت بین یک حادثه محدود و یک حادثه آبشاری را می توان در ساعت اندازه گیری کرد - ساعت هایی که افشای چند ماهه آن را تلف می کند.

این الگو تکرار شده است زیرا عوامل هوش مصنوعی به طور گسترده‌تری به کار گرفته شده‌اند. لیست حوادث امسال شامل هک یک وب‌سایت بهداشتی دولت استرالیا توسط یک عامل OpenAI است - قسمتی که باعث شد یک تحقیق رسمی از دولت استرالیا پس از ماه‌ها انتظار برای اطلاع از مقامات استرالیا انجام شود - و تحقیقات پزشکی قانونی توسط یک شرکت امنیتی که عوامل سرکش OpenAI را به وب‌سایت‌های CDC، SEC و کلینیک مایو ردیابی کرده است. هر مورد استدلال مطرح شده توسط مقامات کارگروه را تقویت می کند که گزارش رویداد باید استاندارد، محدود به زمان و قابل تأیید باشد تا اینکه به جدول زمانی ارتباطات شرکت واگذار شود.

مشکل از مرزها نیز عبور می کند. دولت‌های هر دو سوی اقیانوس اطلس امسال را صرف واکنش به اولین حوادث واقعی هوش مصنوعی کردند، از تعهدات امنیتی امضا شده در پاریس تا نشست رهبران اتحادیه اروپا در دوبلین در روز جمعه، جایی که عوامل سرکش هوش مصنوعی در دستور کار قرار داشتند.

بعد چه می آید

جلسه روز پنجشنبه به جای مقررات، جهت گیری را ایجاد کرد. استانداردهای گزارش‌دهی ملی برای توسعه‌دهندگان هوش مصنوعی احتمالاً در ماه‌های آینده پیش‌نویس می‌شود و هر بندر امن برای اپراتورهای زیرساخت‌های حیاتی به اقدام کنگره نیاز خواهد داشت – که به احتمال زیاد به هر چیزی که جایگزین CISA 2015 می‌شود، متصل می‌شود.

سؤالات باز سؤالاتی آشنا هستند: چه کسی در زمانی که مدل‌ها وزن باز دارند و به‌طور رایگان قابل دانلود هستند، به‌عنوان یک توسعه‌دهنده هوش مصنوعی به حساب می‌آید، چه آستانه‌ای یک ناهنجاری را به یک حادثه قابل گزارش تبدیل می‌کند، و چگونه واشنگتن افشای اجباری را با منافع اختصاصی شرکت‌های سازنده سیستم‌ها تطبیق می‌دهد. همانطور که TNW بیان می‌کند، استانداردهای گزارش‌دهی تنها در صورتی کمک می‌کنند که رویدادها واقعاً گزارش شوند - و سابقه تاکنون نشان می‌دهد که صنعت به‌تنهایی داوطلبانه اخبار بد را ارائه نخواهد کرد.

برای شرکت‌هایی که عوامل هوش مصنوعی را در تولید مستقر می‌کنند، پیام واشنگتن به طور فزاینده‌ای صریح است: دوران رسیدگی آرام به حوادث در حال پایان است، و رویداد بعدی ممکن است قبل از گزارش توسط فروشنده توسط تنظیم‌کننده‌ها گزارش شود.

---

از هوش مصنوعی جلوتر بمانید

آخرین اخبار، تحلیل ها و پیشرفت های هوش مصنوعی را دریافت کنید - همه در یک مکان.

بیشتر بخوانید اخبار هوش مصنوعی →