Eksekutif Wall Street dan pegawai Agensi Keselamatan Negara telah memberitahu ahli Kongres bahawa rangkaian gangguan teknologi AS minggu ini disebabkan bukan oleh serangan siber, tetapi oleh usaha kecemasan untuk menambal kelemahan yang telah ditemui model kecerdasan buatan, menurut laporan oleh The Washington Sun memetik tiga sumber yang biasa dengan perbualan peribadi itu.

Dakwaan itu, jika dibuktikan, akan menandakan salah satu kes yang paling jelas lagi mengenai kesan tertib kedua AI yang menjejaskan kestabilan infrastruktur kritikal — bukan kerana model menyerang apa-apa, tetapi kerana mereka mendapati begitu banyak kelemahan sebenar sehingga pengendali manusia bergegas untuk memperbaikinya sekaligus. For more context on this story, see our ongoing latest AI developments.

Seminggu Kegagalan Lata

Gangguan mula terkumpul pada 12 November dan dipercepatkan sepanjang minggu. Pada 13 November, pihak berkuasa penerbangan AS mengeluarkan hentian darat di seluruh negara atas kegagalan teknologi komunikasi — yang disifatkan The Straits Times sebagai pemberhentian penerbangan paling lama di seluruh negara sejak serangan 11 September 2001. Perkhidmatan e-mel Outlook Microsoft mengalami gangguan yang menyebabkan surat-menyurat terputus untuk banyak syarikat AS, dan perkhidmatan Apple termasuk iCloud, App Store dan Apple Pay juga menurun.

Pada 16 November, pergolakan itu mencapai sistem perbankan, dengan pelanggan di institusi termasuk JPMorgan Chase tidak dapat mengakses akaun; bank mengaitkan isu perkhidmatannya kepada pepijat perisian. Pada 17 November, NSA sendiri mengumumkan bahawa rangkaiannya telah mengalami "kemerosotan sementara" semasa apa yang dipanggil penyelenggaraan rutin berjadual, sambil menegaskan bahawa "keupayaan kritikal misi" kekal beroperasi sepenuhnya.

Pegawai secara konsisten menolak serangan siber yang bermusuhan. Setiausaha Negara Marco Rubio, dua kali ganda sebagai penasihat keselamatan negara, mengakui insiden itu "meresahkan" tetapi memberitahu pemberita di Manila, di mana Presiden Donald Trump menghadiri persidangan ekonomi ASEAN, "Kami tidak diserang sistemik. Kami tidak mempunyai bukti atau sebarang sebab untuk mempercayai bahawa mana-mana daripada ini ada kaitan."

Penjelasan AI-Patching

Di sebalik tabir, penjelasan berbeza telah beredar di Capitol Hill. Menurut laporan The Washington Sun, pegawai kerajaan dan perbankan memberitahu penggubal undang-undang gangguan berpunca daripada percubaan untuk membaiki jurang dalam pertahanan siber yang dikenal pasti oleh model AI, dan pembaikan pembaikan yang terhasil buat sementara waktu mengatasi sistem yang terjejas.

"Model-model ini mengenal pasti kelemahan besar-besaran, dan itu meningkatkan keperluan untuk menambal segera," seorang pegawai kongres memberi taklimat mengenai perkara itu kepada outlet itu. "Mereka cuba meneruskan banyak tampalan sekaligus - lebih daripada sistem yang direka bentuk."

Setiausaha Keselamatan Dalam Negeri Markwayne Mullin menawarkan diagnosis berkaitan dalam temu bual CNBC, mengatakan organisasi "mendorong teknologi baharu di atas sistem komputer yang benar-benar lama, dan ia seolah-olah mengatasi sistem. ... Kami akan melihat lebih banyak perkara ini apabila teknologi baharu dilancarkan."

Akaun itu sejajar dengan pasukan keselamatan dinamik telah memberi amaran tentang analisis kod dibantu AI semakin matang: model yang boleh mengimbas pangkalan kod yang besar untuk kelemahan yang boleh dieksploitasi menjana penemuan lebih cepat daripada proses pengurusan perubahan yang boleh menyerapnya dengan selamat. Tampalan itu sendiri merupakan operasi yang berisiko, dan melakukan terlalu cepat pada infrastruktur yang semakin tua boleh mengganggu seperti kelemahan yang dipulihkannya.

Penggubal undang-undang Menolak Jawapan

Reaksi politik adalah sangat bipartisan dalam ketidaksabarannya. Senator Josh Hawley, seorang Republikan Missouri, memberitahu wartawan, "Jika ini semua kebetulan, ia seperti kebetulan terbesar dalam sejarah dunia," manakala Senator Jack Reed, Demokrat berpangkat dalam Jawatankuasa Perkhidmatan Bersenjata, telah menyertai panggilan untuk penjelasan yang lebih lengkap mengenai corak itu.

Trump secara terbuka meminimumkan episod itu. "Ia seperti apabila anda besar dan berkuasa, dan anda mempunyai semua wang. Perkara seperti itu berlaku. Tidak mengapa," kata presiden itu kepada pemberita di Manila. Rumah Putih berkata "tiada krisis."

Penganalisis yang disebut dalam liputan gangguan telah menunjukkan dua faktor pengkompaunan: pemotongan kakitangan yang mendalam merentas operasi teknologi sejak beberapa tahun kebelakangan ini, dan penyepaduan perkakasan AI yang semakin pantas ke dalam penyelenggaraan sistem, yang mungkin telah menjadikan infrastruktur kritikal kurang berdaya tahan dan lebih jelas rapuh apabila gagal.

Maksudnya untuk Industri AI

Untuk sektor AI, minggu ini adalah amaran tentang tempo operasi yang dicipta oleh perkakas AI. Keupayaan model yang sama yang membolehkan pembela mencari kelemahan pada kelajuan mesin juga memberikan mereka kepada jadual pemulihan yang sistem warisan tidak pernah direka bentuk untuk dipenuhi. Beberapa vendor kini memasarkan pengimbasan keselamatan didorong AI berterusan dengan tepat kerana ia mendapati kelemahan yang manusia terlepas — gangguan itu menunjukkan kesesakan telah beralih daripada penemuan kepada penggunaan.

Penggubal undang-undang dijangka mendapatkan taklimat rasmi mengenai gelombang gangguan apabila Kongres mengembalikan perhatiannya kepada pengawasan infrastruktur, dan kedua-dua agensi dan bank mungkin akan menghadapi soalan tentang cara penyelenggaraan dipacu AI dijadualkan, diuji dan dikurangkan. Episod ini juga mungkin menimbulkan perdebatan kawal selia mengenai sama ada perubahan yang dibantu AI kepada sistem kritikal harus dipentaskan dan dihadkan kadar seperti perubahan operasi berisiko tinggi yang lain.

Buat masa ini, penerbangan sedang terbang, bank menjawab aplikasi mereka, dan NSA mengatakan sistem kritikal misinya baik. Pelajaran yang tidak selesa yang diminta oleh Kongres adalah bahawa mesin yang mencari kelemahan mungkin berjalan di hadapan institusi yang memperbaikinya.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →