Para eksekutif Wall Street dan pejabat Badan Keamanan Nasional telah mengatakan kepada anggota Kongres bahwa rangkaian pemadaman teknologi AS yang terjadi pada minggu ini bukan disebabkan oleh serangan siber, namun oleh upaya darurat untuk menambal kerentanan yang telah ditemukan oleh model kecerdasan buatan, menurut laporan The Washington Sun yang mengutip tiga sumber yang mengetahui percakapan pribadi tersebut.
Klaim tersebut, jika terbukti, akan menandai salah satu kasus yang paling jelas mengenai dampak tingkat kedua AI yang mengganggu stabilitas infrastruktur penting – bukan karena model menyerang apa pun, namun karena mereka menemukan begitu banyak kelemahan nyata sehingga operator manusia bergegas untuk memperbaikinya sekaligus. For more context on this story, see our ongoing breaking AI news.
Seminggu Kegagalan Bertingkat
Pemadaman listrik mulai terakumulasi pada 12 November dan semakin cepat sepanjang minggu. Pada tanggal 13 November, otoritas penerbangan AS mengeluarkan penghentian penerbangan secara nasional karena kegagalan teknologi komunikasi – yang digambarkan oleh The Straits Times sebagai penghentian penerbangan terpanjang secara nasional sejak serangan 11 September 2001. Layanan email Microsoft Outlook mengalami gangguan yang melumpuhkan korespondensi di banyak perusahaan AS, dan layanan Apple termasuk iCloud, App Store, dan Apple Pay juga tidak berfungsi.
Pada tanggal 16 November, kekacauan mencapai sistem perbankan, dengan nasabah di institusi termasuk JPMorgan Chase tidak dapat mengakses rekening; bank mengaitkan masalah layanannya dengan bug perangkat lunak. Pada tanggal 17 November, NSA sendiri mengumumkan bahwa jaringannya telah mengalami "degradasi sementara" selama apa yang disebutnya pemeliharaan rutin terjadwal, sambil bersikeras bahwa "kemampuan penting" tetap beroperasi penuh.
Para pejabat secara konsisten mengesampingkan serangan siber yang tidak bersahabat. Menteri Luar Negeri Marco Rubio, yang juga menjabat sebagai penasihat keamanan nasional, mengakui bahwa insiden tersebut "meresahkan" namun mengatakan kepada wartawan di Manila, tempat Presiden Donald Trump menghadiri konferensi ekonomi ASEAN, "Kami tidak sedang diserang secara sistemik. Kami tidak memiliki bukti atau alasan apa pun untuk meyakini bahwa semua insiden tersebut ada hubungannya."
Penjelasan AI-Patching
Di balik layar, penjelasan berbeda beredar di Capitol Hill. Menurut laporan The Washington Sun, pejabat pemerintah dan perbankan mengatakan kepada anggota parlemen bahwa gangguan tersebut berasal dari upaya untuk memperbaiki kesenjangan dalam pertahanan dunia maya yang diidentifikasi oleh model AI, dan bahwa banyaknya perbaikan yang terjadi membuat sistem yang terkena dampak kewalahan untuk sementara waktu.
“Model-model ini mengidentifikasi kerentanan yang sangat besar, dan hal ini meningkatkan urgensi untuk segera melakukan perbaikan,” kata seorang pejabat kongres yang mengetahui masalah tersebut kepada outlet tersebut. “Mereka mencoba melakukan banyak perbaikan sekaligus – lebih dari apa yang dirancang oleh sistem ini.”
Menteri Keamanan Dalam Negeri Markwayne Mullin memberikan diagnosis terkait dalam sebuah wawancara dengan CNBC, dengan mengatakan bahwa organisasi-organisasi “mendorong teknologi baru ke dalam sistem komputer yang sudah sangat tua, dan hal ini sepertinya membuat sistem kewalahan. … Kita akan melihat hal ini lebih banyak seiring dengan diperkenalkannya teknologi baru.”
Akun ini sejalan dengan peringatan tim keamanan dinamis seiring dengan semakin matangnya analisis kode yang dibantu AI: model yang dapat memindai basis kode yang sangat besar untuk mencari kelemahan yang dapat dieksploitasi menghasilkan temuan lebih cepat daripada yang dapat diserap oleh proses manajemen perubahan dengan aman. Patching sendiri merupakan operasi yang berisiko, dan melakukan terlalu banyak tindakan terlalu cepat pada infrastruktur yang sudah tua bisa sama mengganggunya dengan kerentanan yang diperbaiki.
Anggota Parlemen Mendorong Jawaban
Reaksi politik yang muncul terutama bersifat bipartisan dalam hal ketidaksabarannya. Senator Josh Hawley, seorang anggota Partai Republik dari Missouri, mengatakan kepada wartawan, "Jika ini semua hanya kebetulan, maka ini seperti kebetulan terbesar dalam sejarah dunia," sementara Senator Jack Reed, anggota Partai Demokrat di Komite Angkatan Bersenjata, telah ikut menyerukan penjelasan yang lebih lengkap mengenai pola tersebut.
Trump secara terbuka meminimalkan episode tersebut. "Ini seperti ketika Anda besar dan berkuasa, dan Anda punya banyak uang. Hal-hal seperti itu terjadi. Tidak apa-apa," kata presiden kepada wartawan di Manila. Gedung Putih mengatakan “tidak ada krisis.”
Para analis yang dikutip dalam liputan pemadaman listrik menunjukkan dua faktor yang memperparah: pengurangan staf yang besar di seluruh operasi teknologi dalam beberapa tahun terakhir, dan percepatan integrasi peralatan AI ke dalam pemeliharaan sistem, yang mungkin telah membuat infrastruktur penting menjadi kurang tangguh dan lebih terlihat rapuh ketika gagal.
Apa Artinya bagi Industri AI
Bagi sektor AI, minggu ini merupakan peringatan mengenai tempo operasional yang diciptakan oleh peralatan AI. Kemampuan model yang sama yang memungkinkan para pembela HAM menemukan kerentanan dengan kecepatan mesin juga membuat mereka terikat pada jadwal remediasi yang tidak pernah dapat dipenuhi oleh sistem lama. Beberapa vendor kini memasarkan pemindaian keamanan berbasis AI secara terus-menerus karena alat ini menemukan kelemahan yang tidak diketahui manusia – pemadaman ini menunjukkan bahwa hambatan telah berpindah dari penemuan ke penerapan.
Anggota parlemen diharapkan untuk mendapatkan pengarahan formal mengenai gelombang pemadaman listrik ketika Kongres mengembalikan perhatiannya pada pengawasan infrastruktur, dan baik lembaga maupun bank kemungkinan akan menghadapi pertanyaan tentang bagaimana pemeliharaan berbasis AI dijadwalkan, diuji, dan dibatasi. Peristiwa ini juga dapat memicu perdebatan mengenai peraturan yang muncul mengenai apakah perubahan yang dibantu oleh AI pada sistem penting harus dilakukan secara bertahap dan dibatasi lajunya seperti perubahan operasional berisiko tinggi lainnya.
Untuk saat ini, penerbangan sudah berjalan, bank-bank menjawab aplikasi mereka, dan NSA mengatakan sistem penting mereka baik-baik saja. Pelajaran yang tidak menyenangkan yang diminta untuk diserap oleh Kongres adalah bahwa mesin yang menemukan kelemahan tersebut mungkin berjalan lebih cepat dari institusi yang memperbaikinya.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →

