Presiden Korea Selatan Lee Jae Myung mengatakan pada hari Selasa bahwa kecerdasan buatan tampaknya telah digunakan dalam gelombang serangan siber di sektor keuangan negaranya, peretasan yang mengungkap data pengguna di tujuh perusahaan keuangan dan memicu apa yang digambarkan oleh seorang pejabat sebagai “jenis krisis yang benar-benar baru.”
Menurut laporan dari Financial Times, presiden mengatakan indikasi keterlibatan AI dalam beberapa insiden tersebut "menyebabkan kekhawatiran dan kecemasan publik yang besar." Pernyataan tersebut, antara lain dilaporkan oleh Reuters, New York Times, dan Wall Street Journal, menandai salah satu atribusi paling langsung yang pernah dibuat oleh seorang kepala negara yang menghubungkan alat AI dengan serangan siber terhadap bank. For more context on this story, see our ongoing AI trends.
Apa yang Terjadi dalam Peretasan Bank Korea Selatan
Para penyerang tampaknya menargetkan sistem kurang aman yang dioperasikan oleh pihak ketiga dibandingkan jaringan pembayaran inti bank, menurut laporan Financial Times. Dalam satu insiden, seorang peretas melewati pemeriksaan identitas di portal tempat pialang pinjaman memantau aplikasi nasabah, sehingga mengungkap rincian pribadi sekitar 25.000 nasabah Bank Shinhan.
Tidak ada dana curian yang dilaporkan sejauh ini, namun skala paparan data telah membuat regulator keuangan Korea Selatan waspada. Seorang pejabat yang mengetahui situasi tersebut mengatakan kepada Financial Times bahwa insiden tersebut mewakili “jenis krisis yang benar-benar baru” bagi industri perbankan negara tersebut.
“AI generatif digunakan untuk mengidentifikasi kerentanan dan melancarkan serangan,” kata presiden, menurut laporan tersebut. “Bukannya Korea Selatan memiliki keamanan siber yang lemah – hal seperti ini bisa terjadi di mana saja.”
Peran Artex, Alat Peretasan AI Sumber Terbuka
Peneliti keamanan yakin ada alat tertentu yang mungkin terlibat. Moon Jong-hyun, kepala Pusat Keamanan Genians, mengatakan pekan lalu bahwa tampaknya Artex – alat sumber terbuka berbahasa Tiongkok yang menggunakan AI untuk menemukan dan menguji kerentanan sistem komputer – telah digunakan dalam beberapa serangan, Financial Times melaporkan.
Dalam postingan LinkedIn, Moon menyamakan Artex dengan pisau dapur: alat yang dapat digunakan oleh koki untuk menyiapkan makanan, atau "sebagai senjata penjahat". Analogi ini menangkap dilema penggunaan ganda yang menyelimuti alat keamanan AI sumber terbuka sejak alat tersebut mulai berkembang biak: kemampuan yang sama yang membantu pembela HAM mengaudit sistem mereka sendiri dapat menurunkan hambatan masuk bagi penyerang yang menyelidiki sistem milik orang lain.
The Wall Street Journal, yang juga meliput berita tersebut, menggambarkan penggunaan alat AI berbahasa Tiongkok terhadap bank-bank Korea Selatan sebagai sebuah kategori risiko baru bagi lembaga keuangan di seluruh dunia.
Mengapa Sistem Pihak Ketiga Menjadi Titik Lemahnya
Tema yang berulang kali muncul dalam pelaporan ini adalah bahwa sistem yang dikompromikan bukanlah infrastruktur bank yang paling tangguh. Sebaliknya, para penyerang dilaporkan menyerang aplikasi-aplikasi periferal yang kurang aman – seperti portal perantara pinjaman – di mana verifikasi dan pemantauan identitas mungkin lebih lemah.
Pola tersebut konsisten dengan apa yang telah diperingatkan oleh para profesional keamanan siber ketika serangan yang dibantu AI menjadi lebih mampu: otomatisasi tidak serta merta menembus pertahanan terkuat, namun dapat dengan cepat menemukan dan mengeksploitasi titik terlemah dalam suatu permukaan serangan yang besar. Penelitian kerentanan yang dulunya membutuhkan tenaga manusia yang mahal – memetakan aplikasi, memeriksa dokumentasi, memahami alur autentikasi, dan berulang kali menyelidiki sistem untuk mencari perilaku yang tidak biasa – kini dapat dilakukan secara otomatis sebagian.
Pejabat Korea Selatan belum mengatakan apakah mereka mengaitkan serangan tersebut dengan aktor tertentu, dan penyelidikan masih berlangsung. Kantor kepresidenan tidak segera mengumumkan langkah-langkah peraturan baru sehubungan dengan pernyataan tersebut, meskipun insiden tersebut kemungkinan akan meningkatkan pengawasan terhadap bagaimana perusahaan keuangan mengawasi aplikasi pihak ketiga yang menyentuh data pelanggan.
Kasus Uji Kebijakan Keamanan Siber AI
Peretasan bank di Korea Selatan terjadi di tengah perdebatan global yang lebih luas mengenai AI dan kejahatan dunia maya. Para peneliti keamanan telah mendokumentasikan agen-agen AI yang digunakan untuk mencoba melakukan serangan terhadap situs-situs pemerintah, dan laboratorium-laboratorium AI telah menerbitkan penelitian tentang kemampuan siber yang muncul dalam model-model frontier – temuan-temuan yang memicu seruan untuk perlindungan yang lebih kuat pada sistem AI yang kuat.
Hal yang membedakan kasus Korea Selatan ini adalah kerangka resminya: seorang presiden yang menjabat secara terbuka menghubungkan serangan terhadap bank-bank besar dengan metode yang dibantu AI, dan diskusi nasional tentang apakah peraturan keamanan siber yang ada – yang dirancang untuk musuh manusia – cukup memadai untuk dunia di mana alat sumber terbuka dapat mengotomatiskan penemuan kerentanan.
Bagi bank dan industri lain yang diatur, insiden ini merupakan pengingat bahwa batas keamanan mereka melampaui sistem inti hingga vendor, broker, dan portal di sekitar mereka. Bagi para pembuat kebijakan, hal ini menimbulkan pertanyaan apakah alat AI yang dapat digunakan ganda seperti Artex harus menghadapi pembatasan distribusi – atau apakah, seperti analogi pisau dapur Moon, fokusnya harus tetap pada bagaimana sistem dipertahankan dan bukan pada alat itu sendiri.
Ketika penyelidikan berlanjut, perhatian akan beralih pada apakah Korea Selatan memperkenalkan persyaratan pengungkapan baru atau standar keamanan untuk aplikasi keuangan pihak ketiga, dan apakah pemerintah lain akan melakukan hal yang sama dalam secara resmi menangani peran AI dalam kejahatan dunia maya.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
