Jak wynika z aktu oskarżenia złożonego w Sądzie Okręgowym Stanów Zjednoczonych w Nowym Jorku i ogłoszonego w czwartek, prokuratorzy federalni w Nowym Jorku oskarżyli trzy osoby o prowadzenie oszustwa wykorzystującego sztuczną inteligencję do podszywania się pod dyrektorów naczelnych korporacji i zewnętrznych prawników, w wyniku czego wyłudzenia około 129 milionów dolarów od firm w wielu krajach.

Jacob Soall (41 l.), Sharon Hazan (54 l.) i Guy Sheetrit (42 l.) zostali oskarżeni o oszustwa drogą elektroniczną, kwalifikowaną kradzież tożsamości i pranie pieniędzy w ramach kampanii, którą prokuratorzy określają jako trwającą ponad 18 miesięcy i skierowaną do tysięcy firm na całym świecie. Z dokumentów sądowych wynika, że ​​trzej oskarżeni, mający powiązania z Hiszpanią, Wielką Brytanią, Izraelem i Zjednoczonymi Emiratami Arabskimi, zostali aresztowani w okresie od czerwca do września. Prokuratorzy powiedzieli, że Hazan był już skazany w 2008 roku przez nowojorski sąd za spisek mający na celu popełnienie oszustwa bankowego.

Dla firm śledzących szybką industrializację przestępczości opartej na sztucznej inteligencji ten przypadek jest jednym z najwyraźniejszych jak dotąd przykładów włączenia narzędzi generatywnych do tradycyjnego podręcznika przejmowania kont korporacyjnych oraz skali, jaką może osiągnąć dobrze zorganizowana załoga, gdy uda się sfałszować zarówno głos dyrektora, jak i linię telefoniczną kancelarii prawnej. Możesz śledzić nasze bieżące aktualności dotyczące AI, w miarę jak coraz więcej takich spraw trafia do sądów.

Jak działał plan

Z aktu oskarżenia wynika, że oskarżeni atakowali przede wszystkim działy księgowe przedsiębiorstw. Proces rozpoczął się od e-maili, które najwyraźniej pochodziły od dyrektora generalnego firmy z prośbą o pomoc w poufnej transakcji finansowej.

Kiedy pracownicy odpowiedzieli, podejrzani umawiali się na rozmowy telefoniczne lub wideo, podczas których wykorzystywali technologię sztucznej inteligencji do naśladowania głosów kadry kierowniczej, a w niektórych przypadkach – jak twierdzi prokurator – także ich wyglądu. Pracownikom, którzy chcieli zasięgnąć drugiej opinii, polecono następnie skontaktować się z prawnikami największych kancelarii prawnych – z prawnikami, pod których oskarżeni byli także gotowi się podszywać, jak wynika z aktu oskarżenia.

Soall udawał głównie brytyjskich prawników i według doniesień używał odręcznego pisma zatytułowanego „Wezwanie do prawnika”, aby podczas komunikacji z ofiarami sprawiać wrażenie prawdziwego prawnika.

Podszywający się prawnicy poinstruowali następnie pracowników, aby przelali duże sumy pieniędzy na konta bankowe w różnych krajach – czytamy w akcie oskarżenia. Stamtąd środki zostały zamienione na kryptowalutę, aby ukryć ich pochodzenie, zanim zostały rozdzielone pomiędzy oskarżonych i innych rzekomych uczestników, jak wynika z dokumentów sądowych.

Domniemane ofiary

Akt oskarżenia opisuje grupę rzekomych ofiar zróżnicowanych pod względem geograficznym i branżowym. Wśród organizacji wymienionych w dokumentach sądowych znajdują się sieci szpitali w Missouri i Kalifornii, bank z siedzibą w Rhode Island, firma z branży technologii finansowych w Wielkiej Brytanii, fundusz inwestycyjny z Massachusetts i firma zajmująca się karmą dla zwierząt domowych z Florydy.

Rzekoma skala – około 129 milionów dolarów od firm, do których zwrócono się w ciągu 18 miesięcy – stawia tę sprawę wśród większych oszustw polegających na podszywaniu się pod korporację postawionych przez amerykańskich prokuratorów, a według prokuratorów kluczową rolę odgrywają narzędzia sztucznej inteligencji, które pokonują etapy weryfikacji, które powstrzymałyby konwencjonalne oszustwa związane z pocztą elektroniczną.

Z dokumentów sądowych wynika również, że oskarżeni podczas koordynowania programu używali pseudonimów, w tym „Rocky Balboa”, „Superman Cash” i „Fat Boy”.

Reakcja FBI i potencjalne kary

James C. Barnacle Jr., zastępca dyrektora FBI, powiedział, że sprawa pokazała, jak zaawansowaną technologię można wykorzystać do przeprowadzania oszustw finansowych na dużą skalę. Powiedział, że FBI w dalszym ciągu angażuje się w dostosowywanie swoich możliwości dochodzeniowych, aby identyfikować i zakłócać spokój przestępców wykorzystujących nowe technologie do atakowania osób fizycznych i przedsiębiorstw.

W przypadku skazania oskarżonym może grozić kara maksymalnie 20 lat więzienia za każdy z zarzutów, z wyjątkiem kwalifikowanej kradzieży tożsamości, za którą według Biura Prokuratora USA obowiązkowe są dwa lata więzienia. Pranie pieniędzy zwiększa ryzyko, ponieważ każdy etap przelewu i konwersji może zostać obciążony odrębną opłatą.

Prawnicy Soalla i Sheetrita nie odpowiedzieli natychmiast na prośby o komentarz i nie było od razu jasne, czy Hazan ma przedstawiciela prawnego.

Dlaczego dwuwarstwowe podszywanie się ma znaczenie

Zespoły ds. bezpieczeństwa od lat ostrzegają, że klonowanie głosu AI obniżyło koszty „oszustw dyrektorskich” – kategorii oszustw, w ramach których przestępcy podszywają się pod kadrę kierowniczą i wywierają presję na pracowników finansowych, aby wykonywali pilne przelewy bankowe. To, co wyróżnia ten akt oskarżenia, to rzekoma druga warstwa: gdy pracownicy próbowali zweryfikować wniosek niezależnym kanałem – dzwoniąc do kancelarii prawnej – dotarli do tej samej akcji przestępczej, grając inną rolę.

To podważa porady dotyczące weryfikacji, na których wciąż opiera się większość szkoleń korporacyjnych, ponieważ oddzwonienie jest kierowane na numer lub przedstawiciela kontrolowanego przez oszustów, a nie do prawdziwej firmy. Z relacji prokuratorów na temat scenariusza „Lawyer Call” wynika, że ​​podszywanie się pod prawników było przećwiczone, a nie improwizowane.

Sprawa ilustruje również mechanizmy prania pieniędzy, które sprawiają, że podszywanie się pod kogoś na dużą skalę staje się opłacalne: środki przelewane są przez konta w wielu krajach, a następnie do kryptowaluty, co komplikuje wysiłki w zakresie odzyskiwania danych. To, czy uda się odzyskać choć część ze 129 milionów dolarów, będzie zależeć od postępów w postępowaniu karnym dotyczącym przepadku majątku.

Nie podano daty rozprawy. W miarę ciągłego udoskonalania narzędzi głosowych i wideo opartych na sztucznej inteligencji sprawa ta będzie prawdopodobnie cytowana w rosnącej debacie na temat tego, w jaki sposób firmy powinny weryfikować instrukcje dotyczące płatności o dużej wartości – wielu badaczy bezpieczeństwa twierdzi, że głosu, a nawet wideo na żywo nie można już traktować jako dowodu tożsamości, a weryfikacja poza pasmem na podstawie danych kontaktowych pochodzących z niezależnych źródeł to jedyna trwała obrona.

---

Wyprzedź sztuczną inteligencję

Otrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.

Przeczytaj więcej aktualności o sztucznej inteligencji →