بر اساس گزارش واشنگتن سان به نقل از سه منبع آشنا با مکالمات خصوصی، مدیران وال استریت و مقامات آژانس امنیت ملی به اعضای کنگره گفته اند که آبشار قطع فناوری ایالات متحده در هفته نه به دلیل حملات سایبری، بلکه به دلیل تلاش های اضطراری برای اصلاح آسیب پذیری هایی که مدل های هوش مصنوعی کشف کرده اند، ایجاد شده است.
این ادعا، در صورت اثبات، یکی از واضحترین موارد را نشان میدهد که تا کنون اثرات درجه دوم هوش مصنوعی بیثباتکننده زیرساختهای حیاتی است – نه به این دلیل که مدلها به هر چیزی حمله میکنند، بلکه به این دلیل که آنقدر نقاط ضعف واقعی پیدا کردهاند که اپراتورهای انسانی برای رفع آنها به یکباره عجله کردهاند. For more context on this story, see our ongoing artificial intelligence updates.
یک هفته از شکست های آبشاری
قطعی ها از 12 نوامبر انباشته شد و در طول هفته شتاب گرفت. در 13 نوامبر، مقامات هوانوردی ایالات متحده یک توقف زمینی سراسری را به دلیل نقص فناوری ارتباطات صادر کردند - چیزی که استریت تایمز طولانیترین توقف پروازهای سراسری از زمان حملات 11 سپتامبر 2001 را توصیف کرد. سرویس ایمیل Outlook مایکروسافت دچار اختلالاتی شد که مکاتبات بسیاری از شرکتهای آمریکایی را از بین برد و سرویسهای اپل از جمله iCloud، App Store و Apple Pay نیز از کار افتادند.
در 16 نوامبر، آشفتگی به سیستم بانکی رسید و مشتریان موسساتی از جمله JPMorgan Chase قادر به دسترسی به حسابها نبودند. بانک مشکلات خدمات خود را به اشکالات نرم افزاری نسبت داد. در 17 نوامبر، NSA خود اعلام کرد که شبکه آن در جریان آنچه که تعمیر و نگهداری معمول برنامهریزی شده مینامید، "تخریب موقت" را تجربه کرده است، در حالی که اصرار داشت که "قابلیتهای حیاتی ماموریت" به طور کامل عملیاتی هستند.
مقامات به طور مداوم یک حمله سایبری خصمانه را رد کرده اند. مارکو روبیو، وزیر امور خارجه، که مشاور امنیت ملی بود، اذعان کرد که این حوادث "ناراحت کننده" هستند، اما به خبرنگاران در مانیل، جایی که دونالد ترامپ، رئیس جمهور آمریکا در کنفرانس اقتصادی آسه آن شرکت می کرد، گفت: "ما مورد حمله سیستمی قرار نگرفته ایم. ما هیچ مدرکی یا هیچ دلیلی برای این باور نداریم که هر یک از اینها به هم مرتبط هستند."
توضیح AI-Patching
در پشت صحنه، توضیح متفاوتی در کاپیتول هیل منتشر شده است. بر اساس گزارش واشنگتن سان، مقامات دولتی و بانکی به قانونگذاران گفتند که این اختلالات ناشی از تلاشها برای ترمیم شکافهای دفاع سایبری است که مدلهای هوش مصنوعی شناسایی کردهاند و سیل اصلاحات ناشی از آن به طور موقت سیستمهای آسیبدیده را تحت تأثیر قرار داده است.
یکی از مقامات کنگره که در این باره توضیح داده است، به این نشریه گفت: «این مدلها آسیبپذیریهای عظیم را شناسایی میکنند و این باعث افزایش فوریت وصله فوری میشود». "آنها سعی می کنند تعداد زیادی وصله را به یکباره از بین ببرند - بیشتر از آنچه سیستم برای آنها طراحی شده است."
وزیر امنیت داخلی، مارکوین مولین، در مصاحبهای با CNBC، تشخیص مرتبطی را ارائه کرد و گفت: سازمانها «فناوری جدید را بر روی سیستمهای رایانهای واقعاً قدیمی فشار میدهند و به نظر میرسد که سیستم را تحت تأثیر قرار میدهد... با رواج فناوری جدید، شاهد موارد بیشتری از این موضوع خواهیم بود».
این حساب با یک پویایی همسو میشود که تیمهای امنیتی درباره آن هشدار دادهاند که تحلیل کد به کمک هوش مصنوعی بالغ میشود: مدلهایی که میتوانند پایگاههای کد عظیمی را برای یافتن نقصهای قابل بهرهبرداری اسکن کنند، سریعتر از فرآیندهای مدیریت تغییر یافتههایی ایجاد میکنند که با خیال راحت آنها را جذب کنند. وصله کردن به خودی خود یک عملیات مخاطره آمیز است، و انجام بیش از حد سریع آن در زیرساخت های قدیمی می تواند به اندازه آسیب پذیری هایی که اصلاح می کند، مخرب باشد.
قانونگذاران به دنبال پاسخ هستند
واکنش سیاسی به طور قابل توجهی در بی صبری دو حزبی بوده است. سناتور جاش هاولی، جمهوریخواه میسوری، به خبرنگاران گفت: "اگر همه اینها تصادفی است، مانند بزرگترین تصادف در تاریخ جهان است"، در حالی که سناتور جک رید، دموکرات رتبه بندی شده در کمیته نیروهای مسلح، به درخواست ها برای توضیح کامل تر این الگو پیوسته است.
ترامپ علناً این قسمت را به حداقل رساند. رئیس جمهور به خبرنگاران در مانیل گفت: "مثل زمانی است که شما بزرگ و قدرتمند هستید و تمام پول را در اختیار دارید. چنین چیزهایی اتفاق می افتد. خوب است." کاخ سفید گفته است که «بحرانی وجود ندارد».
تحلیلگرانی که در پوشش این قطعها ذکر شدهاند به دو عامل ترکیبی اشاره کردهاند: کاهش عمیق کارکنان در عملیاتهای فناوری در سالهای اخیر، و ادغام سریع ابزارهای هوش مصنوعی در تعمیر و نگهداری سیستمها، که ممکن است زیرساختهای حیاتی را هم انعطافپذیری کمتری داشته باشد و هم در صورت شکست شکنندهتر.
چه معنایی برای صنعت هوش مصنوعی دارد
برای بخش هوش مصنوعی، هفته هشداری در مورد سرعت عملیاتی است که ابزار هوش مصنوعی ایجاد می کند. همان قابلیتهای مدلی که به مدافعان اجازه میدهد آسیبپذیریها را در سرعت ماشین پیدا کنند، همچنین آنها را به برنامههای اصلاحی متعهد میکند که سیستمهای قدیمی هرگز برای برآورده کردن آن مهندسی نشده بودند. چندین فروشنده اکنون اسکن امنیتی مستمر مبتنی بر هوش مصنوعی را دقیقاً به این دلیل به بازار عرضه می کنند که نقص هایی را می یابد که انسان ها از دست می دهند - این قطعی ها نشان می دهد که گلوگاه از کشف به استقرار منتقل شده است.
انتظار می رود وقتی کنگره توجه خود را به نظارت بر زیرساخت ها بازگرداند، قانونگذاران به دنبال توضیحات رسمی در مورد موج خاموشی باشند، و هم آژانس ها و هم بانک ها احتمالاً با سؤالاتی در مورد نحوه برنامه ریزی، آزمایش و کنترل تعمیر و نگهداری مبتنی بر هوش مصنوعی مواجه خواهند شد. این قسمت همچنین ممکن است یک بحث نظارتی نوظهور را در مورد اینکه آیا تغییرات به کمک هوش مصنوعی در سیستمهای حیاتی باید مرحلهبندی و با نرخ محدود مانند سایر تغییرات عملیاتی پرخطر باشد، ایجاد کند.
در حال حاضر، پروازها در حال پرواز هستند، بانکها به برنامههای آنها پاسخ میدهند و NSA میگوید سیستمهای حیاتی ماموریتاش خوب هستند. درسی ناراحتکنندهای که از کنگره خواسته میشود این است که ماشینهایی که عیوب را پیدا میکنند ممکن است جلوتر از نهادهایی که آنها را برطرف میکنند کار کنند.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →

