Federální prokuratura v New Yorku obvinila tři lidi z vedení podvodného plánu, který využíval umělou inteligenci k vydávání se za šéfy korporací a externí právníky a vytahoval přibližně 129 milionů dolarů ze společností v různých zemích, podle obžaloby podané u amerického okresního soudu v New Yorku a oznámené ve čtvrtek.

Jacob Soall, 41, Sharon Hazan, 54, a Guy Sheetrit, 42, jsou obviněni z drátových podvodů, krádeže identity a praní špinavých peněz v kampani, která trvala déle než 18 měsíců a byla zaměřena na tisíce společností po celém světě. Tři obžalovaní, kteří mají vazby na Španělsko, Spojené království, Izrael a Spojené arabské emiráty, byli podle soudních dokumentů zatčeni mezi červnem a zářím. Žalobci uvedli, že Hazan byl v roce 2008 u soudu v New Yorku odsouzen za spiknutí za účelem spáchání bankovního podvodu.

Pro společnosti, které sledují rychlou industrializaci zločinu s umělou inteligencí, je tento případ jedním z dosud nejjasnějších příkladů generativních nástrojů zakomponovaných do tradiční příručky pro převzetí firemních účtů – a v rozsahu, na který se dobře organizovaný tým může dostat, jakmile lze zfalšovat jak hlas vedoucího pracovníka, tak telefonní linku advokátní kanceláře. Můžete sledovat naše probíhající zpravodajství o AI, jak se stále více těchto případů dostává přes soudy.

Jak schéma fungovalo

Obžalovaní se podle obžaloby zaměřovali především na firemní účetní oddělení. Proces začal e-maily, které vypadaly, že pocházejí od generálního ředitele společnosti a žádají o pomoc s důvěrnou finanční transakcí.

Když zaměstnanci odpověděli, podezřelí si domluvili telefonické hovory nebo videohovory, během kterých použili technologii AI k napodobení hlasů vedoucích pracovníků a v některých případech státní zástupci tvrdili, že vypadají. Zaměstnanci, kteří chtěli druhý názor, byli poté instruováni, aby kontaktovali právníky velkých advokátních kanceláří – právníky, za které byli obžalovaní podle obžaloby také připraveni se vydávat.

Soall se primárně vydával za britské právníky a údajně používal ručně psaný scénář nazvaný „Lawyer Call“, aby při komunikaci s oběťmi zněl jako skutečný právní profesionál.

Vydávání právníci poté nařídili zaměstnancům, aby převáděli velké částky peněz na bankovní účty v různých zemích, uvádí obžaloba. Odtud byly finanční prostředky přeměněny na kryptoměnu, aby se zakryl jejich původ před rozdělením mezi obžalované a další údajné účastníky, uvedly soudní dokumenty.

Údajné oběti

Obžaloba popisuje geograficky a průmyslově různorodý soubor údajných obětí. Mezi organizacemi jmenovanými v soudních dokumentech jsou sítě nemocnic v Missouri a Kalifornii, banka se sídlem na Rhode Islandu, společnost zabývající se finančními technologiemi ve Spojeném království, společnost podílových fondů v Massachusetts a obchod s krmivem pro domácí mazlíčky se sídlem na Floridě.

Údajný rozsah – zhruba 129 milionů dolarů od společností, které byly osloveny v průběhu 18 měsíců – řadí tento případ mezi větší korporátní podvody s napodobováním identity, které obvinili američtí státní zástupci, a neobvyklé v ústřední roli státních zástupců tvrdí, že nástroje umělé inteligence hrály v porážce ověřovacích kroků, které by zastavily konvenční e-mailové podvody.

Soudní dokumenty také poznamenávají, že obžalovaní při koordinaci schématu používali přezdívky včetně „Rocky Balboa“, „Superman Cash“ a „Fat Boy“.

Reakce FBI a potenciální sankce

James C. Barnacle Jr., odpovědný zástupce ředitele FBI, uvedl, že případ ukázal, jak lze využít pokročilé technologie k provádění rozsáhlých finančních podvodů. Řekl, že FBI je i nadále odhodlána přizpůsobit své vyšetřovací schopnosti tak, aby identifikovala a narušila zločince pomocí nových technologií k cílení na jednotlivce a podniky.

Pokud budou odsouzeni, mohou obžalovaní čelit maximálnímu trestu 20 let za každé z obvinění, s výjimkou krádeže identity, za kterou je podle amerického státního zastupitelství povinný dvouletý trest odnětí svobody. Počty praní špinavých peněz zvyšují riziko, protože každý krok převodu a konverze lze účtovat samostatně.

Právníci Soall a Sheetrit okamžitě nereagovali na žádosti o vyjádření a nebylo okamžitě jasné, zda má Hazan právní zastoupení.

Proč záleží na dvouvrstvém zosobnění

Bezpečnostní týmy už roky varují, že klonování hlasu AI zhroutilo náklady na „podvod s generálními řediteli“, kategorii podvodů, ve které se zločinci vydávají za vedoucí pracovníky a tlačí finanční pracovníky do naléhavých bankovních převodů. To, co odlišuje toto obvinění, je údajná druhá vrstva: když se zaměstnanci pokusili ověřit žádost nezávislým kanálem – zavolali do advokátní kanceláře – dostali se ke stejné kriminální operaci, která hrála jinou roli.

To popírá ověřovací rady, na které se stále spoléhá většina firemních školení, protože zpětné volání směřuje na číslo nebo zástupce kontrolovaného podvodníky, nikoli na skutečnou firmu. Popis scénáře „Lawyer Call“ žalobců naznačuje, že vydávání se za právníky bylo nacvičeno, nikoli improvizováno.

Případ také ilustruje mechanismy praní, které činí zosobnění ve velkém měřítku životaschopné: finanční prostředky byly přesunuty přes účty v několika zemích a poté do kryptoměny, což komplikuje úsilí o obnovu. Zda bude možné získat zpět nějakých 129 milionů dolarů, bude záviset na postupu propadnutí věci vedle trestního případu.

Nebylo oznámeno žádné datum pokusu. Jak se hlasové a video nástroje AI neustále zlepšují, je pravděpodobné, že tento případ bude citován v rostoucí debatě o tom, jak by společnosti měly ověřovat pokyny k platbám s vysokou hodnotou – přičemž mnoho výzkumníků v oblasti bezpečnosti tvrdí, že hlas a dokonce ani živé video již nelze považovat za důkaz identity a že jedinou trvalou obranou je ověřování mimo pásmo proti nezávisle získaným kontaktním údajům.

---

Stay Ahead of AI

Získejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.

Přečtěte si další zprávy o AI →