Jižní Korea zavádí některá z nejagresivnějších opatření proti podvádění, která se kdy pokusila o národní zkoušku, včetně nouzových výstrah, které zazní na každém telefonu v zemi, a peněžní odměny ve výši nejméně 75 000 USD poté, co se kandidát s nejvyšším skóre přiznal, že použil skrytou kameru a generativní umělou inteligenci k podvádění při profesionální licenční zkoušce.
Opatření, potvrzená premiérem Hanem Seong-sookem na úterním zasedání kabinetu a o nichž informovaly The Guardian, Bloomberg a další média, přišla několik dní předtím, než má více než půl milionu studentů ve čtvrtek složit suneung – jihokorejskou přijímací zkoušku na vysokou školu – v 1312 testovacích centrech. For more context on this story, see our ongoing breaking AI news.
Vyznání, které otřáslo zemí
Zásah vyvolalo přiznání, které o víkendu ovládlo jihokorejské titulky. Nejlepší střelec v letošním testu daňového účetnictví, který správně odpověděl na 159 ze 160 otázek, ve videu zveřejněném na kanálu YouTube svého právníka přiznal, že jeho téměř dokonalý výsledek byl podvodný. Podle svého vlastního účtu fotografoval zkušební otázky skrytou mikrokamerou, přenášel je do systému AI a četl odpovědi ze smartphonu v testovací hale.
"Podváděl jsem u zkoušky daňového účetního," řekl ve videu. "Moje nejlepší umístění není výsledkem legitimního úsilí."
Přiznání zakotvilo v zemi, kde je účetní zkouška vrátnicí určující kariéru a kde přijetí do státní služby a elitních profesí závisí na nepatrných rozdílech v hodnocení zkoušek. Ukázal také, jak spotřebitelské nástroje umělé inteligence – kapesní fotoaparát, kanál pro zasílání zpráv a velký jazykový model – mohou porazit fyzická bezpečnostní opatření navržená pro éru pašovaných prostěradel.
Odpověď celé vlády
Premiér Han nazval podvádění s pomocí umělé inteligence „sociálním zlem“, které by vláda „vykořenila“, a řekl agenturám, aby k problému přistupovaly, „jako by na to sázely svou práci,“ uvedl The Guardian. Podle opatření oznámených pro čtvrteční zkoušku:
- Chytrá zařízení jsou přímo zakázána v testovacích halách. Telefony je nutné před začátkem zkoušky vypnout a odevzdat.
- V taškách ponechaných na chodbách se budou hledat zařízení, která zůstanou zapnutá.
- Invigilátoři zkontrolují kandidátům brýle, hodinky, límce, rukávy a knoflíky, zda nemají skryté kamery – což odráží obavu, že brýle s umělou inteligencí a rekordéry velikosti tlačítka se mohou vyhnout detektorům kovů.
- Školní Wi-Fi ve zkouškových centrech a veřejná Wi-Fi v okruhu zhruba 100 metrů budou během testu vypnuty.
- Osobní hotspoty, které nelze rušit, budou následně sledovány prostřednictvím záznamů o telekomunikačním spojení.
- V 1 312 střediscích budou rozmístěni další dozorci.
Nejnápadnějším opatřením je vnitrostátní opatření: vláda během zkoušky rozešle nouzová upozornění na každý telefon v Jižní Koreji. Výstrahy znějí na plnou hlasitost a nelze je ztišit, takže každý kandidát, který by měl skrytý telefon, by byl okamžitě odhalen, když se v okolí celé místnosti rozhoří sirény.
Presidential Bounty
Prezident Lee Jae Myung v pondělí eskaloval odpověď a oznámil finanční pobídky v příspěvku na X. "Nařídili jsme nové pobídky, abychom podpořili informování o podvádění při zkouškách v oblasti špičkových technologií: odměnu nejméně 100 milionů vyhraných případů za případ," napsal prezident, což je částka zhruba 75 000 USD. Řekl, že platby by se mohly zvýšit v závislosti na tom, kolik lidí bylo zapojeno, a že podvodníci, kteří informují o spoluspiklenci, dostanou nižší tresty.
The Straits Times poznamenal, že oznámení se zdá být prvním případem, kdy hlava státu nabídla peněžité odměny, které mají zabránit podvádění s pomocí AI. Korejská média také uvedla, že zvažované tresty pro usvědčené podvodníky by mohly zahrnovat zákaz budoucích zkoušek trvajících až deset let.
Země postavená kolem jedné zkoušky
Jižní Korea se již každý listopad reorganizuje kolem suneung. Vzlety a přistání letadel jsou přeplánovány během poslechové sekce v angličtině, aby se snížil hluk, vojenská dělostřelecká cvičení jsou pozastavena, burza se otevírá s hodinovým zpožděním a policie eskortuje opožděné studenty do jejich hal. Letošní přírůstky účinně rozšiřují národní mobilizaci z řízení dopravy na telekomunikace a spotřební elektroniku.
Sázky jsou umocněny neobvyklou pozicí Jižní Koreje v ekonomice AI. Země má jedny z nejrychlejších průměrných rychlostí internetu na světě a patří k nejvyšším mírám adopce AI, díky čemuž jsou nástroje pro podvádění i protiopatření pro sledování neobvykle efektivní. Vláda v celostátním měřítku efektivně testuje druh opatření pro detekci AI, o kterých školy a testovací organizace po celém světě teprve začínají diskutovat.
Testování limitů dohledu nad zkouškou
Zastánci soukromí se již začali ptát, kde by měla padnout hranice. Celostátní nouzové výstrahy jsou ve většině zemí právně vyhrazeny pro katastrofy a varování před raketami a rozhodnutí Jižní Koreje přeměnit tento kanál na zkoušku integrity signalizuje, jak vážně vláda bere hrozbu. Skupiny pro občanské svobody pravděpodobně prozkoumají plán na sledování osobních hotspotů prostřednictvím záznamů o telekomunikačním připojení, což rozšiřuje vymáhání zkoušek na síťová data, která by obvykle vyžadovala soudní příkaz k přístupu.
Existuje také praktická otázka, zda opatření mohou zůstat před nástroji. Schéma přiznaného podvádění využívalo hardware, který stojí několik set dolarů a službu AI dostupnou komukoli. Brýle vybavené fotoaparátem a záznamníky velikosti tlačítka jsou spotřebním zbožím a kontrolní protokoly, které se spoléhají na to, že je zpozorují dozorci, čelí eskalujícímu závodu ve zbrojení proti zařízením navrženým tak, aby nebyla spatřena. Odpověď Jižní Koreje tento týden je více inspektorů, více inspekcí a více mlčení – zda to platí pro budoucí zkouškové cykly, je otevřená otázka.
Pro zhruba 500 000 uchazečů, kteří ve čtvrtek složili zkoušku, je okamžitý efekt přísnější, tišší a přísněji monitorovaný testovací den. Pro vzdělávací systémy jinde, které sledují, jak generativní umělá inteligence narušuje integritu zkoušek, se odpověď Jižní Koreje pravděpodobně stane referenčním případem – pro její ambice a pro svou invazivitu.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →