Sydkoreas president Lee Jae Myung sa på tisdagen att artificiell intelligens verkar ha använts i en våg av cyberattacker mot landets finanssektor, hack som avslöjade användardata hos sju finansföretag och föranledde vad en tjänsteman beskrev som "en helt ny typ av kris".
Enligt en rapport från Financial Times sa presidenten att indikationer på AI-inblandning i några av incidenterna "orsakade stor allmän oro och oro." Kommentarerna, rapporterade av bland annat Reuters, New York Times och Wall Street Journal, markerar en av de mest direkta tillskrivningarna hittills av en statschef som kopplar AI-verktyg till levande cyberattacker mot banker. For more context on this story, see our ongoing AI news.
Vad hände i South Korea Bank Hacks
Angriparna verkar ha riktat in sig på mindre säkra system som drivs av tredje part snarare än bankernas centrala betalningsnätverk, enligt Financial Times. I en incident kringgick en hackare identitetskontroller på en portal där låneförmedlare övervakade kunders ansökningar, och avslöjade personliga uppgifter om ungefär 25 000 Shinhan Bank-kunder.
Inga stulna pengar har rapporterats hittills, men omfattningen av dataexponeringen har satt Sydkoreas finansiella tillsynsmyndigheter på larm. En tjänsteman med kännedom om situationen sa till Financial Times att incidenterna representerade "en helt ny typ av kris" för landets banksektor.
"Generativ AI användes för att identifiera sårbarheter och starta en attack", sa presidenten, enligt rapporten. "Det är inte så att Sydkorea har svag cybersäkerhet - sånt här kan hända var som helst."
Rollen av Artex, ett AI-hackningsverktyg med öppen källkod
Säkerhetsforskare tror att ett specifikt verktyg kan ha varit inblandat. Moon Jong-hyun, chef för Genians Security Center, sa förra veckan att det verkar som att Artex – ett kinesiskt språk, öppen källkodsverktyg som använder AI för att hitta och testa sårbarheter i datorsystem – hade använts i några av attackerna, rapporterade Financial Times.
I ett inlägg på LinkedIn liknade Moon Artex vid en kökskniv: ett verktyg som kan användas av en kock för att laga en måltid, eller "som ett vapen av en brottsling". Analogin fångar det dilemma med dubbla användningsområden som har omgett säkerhetsverktyg för öppen källkod för AI sedan de började spridas: samma funktioner som hjälper försvarare att granska sina egna system kan sänka inträdesbarriären för angripare som undersöker någon annans.
Wall Street Journal, som också täckte berättelsen, inramade användningen av ett kinesiskspråkigt AI-verktyg mot sydkoreanska banker som att exponera en ny riskkategori för finansiella institutioner över hela världen.
Varför tredje parts system var den svaga punkten
Ett återkommande tema i rapporteringen är att de komprometterade systemen inte var bankernas mest härdade infrastruktur. Istället har angriparna enligt uppgift gått efter perifera, mindre säkra applikationer - såsom låneförmedlarportalen - där identitetsverifiering och övervakning kan vara svagare.
Det mönstret överensstämmer med vad cybersäkerhetsproffs har varnat för när AI-assisterade attacker blir mer kapabla: automatisering bryter inte nödvändigtvis igenom de starkaste försvaren, men den kan snabbt hitta och utnyttja den svagaste länken i en stor attackyta. Sårbarhetsforskning som en gång krävde dyrt mänskligt arbete – kartläggning av applikationer, inspektion av dokumentation, förståelse av autentiseringsflöden och upprepade undersökningar av system för ovanligt beteende – kan nu delvis automatiseras.
Sydkoreanska tjänstemän har inte sagt om de tillskriver attackerna till någon specifik aktör, och utredningen pågår. Presidentens kansli tillkännagav inte omedelbart nya regleringsåtgärder i samband med kommentarerna, även om incidenterna sannolikt kommer att intensifiera granskningen av hur finansiella företag övervakar tredjepartsapplikationer som rör kunddata.
Ett testfall för AI Cybersecurity Policy
Sydkoreas bankhack anländer mitt i en bredare global debatt om AI och cyberbrottslighet. Säkerhetsforskare har dokumenterat AI-agenter som används för att försöka attackera statliga webbplatser, och AI-laboratorier har publicerat forskning om framväxande cyberfunktioner i frontiermodeller – fynd som har underblåst krav på starkare skydd kring kraftfulla AI-system.
Det som utmärker det sydkoreanska fallet är dess officiella inramning: en sittande president som offentligt tillskriver attacker mot stora banker till AI-assisterade metoder, och en nationell konversation om huruvida befintliga cybersäkerhetsregler – byggda för mänskliga motståndare – är tillräckliga för en värld där ett verktyg med öppen källkod kan automatisera upptäckt av sårbarheter.
För banker och andra reglerade branscher är incidenten en påminnelse om att deras säkerhetsomkrets sträcker sig långt bortom kärnsystemen till de leverantörer, mäklare och portaler som omger dem. För beslutsfattare väcker det frågan om huruvida AI-verktyg med dubbla användningsområden som Artex bör möta några restriktioner för distribution - eller om, som Moons kökskniv-analogi antyder, fokus bör förbli på hur systemen försvaras snarare än på själva verktygen.
När utredningen fortsätter kommer uppmärksamheten att riktas mot om Sydkorea inför nya avslöjandekrav eller säkerhetsstandarder för finansiella tillämpningar från tredje part, och om andra regeringar följer efter när de formellt tar itu med AI:s roll i cyberbrottslighet.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
