Google DeepMind i Singapurska Rządowa Agencja Technologiczna (GovTech) zaprezentowały model wykrywania oszustw na urządzeniu, którego zadaniem jest ostrzeganie użytkowników smartfonów o manipulacyjnych rozmowach w czasie rzeczywistym — bez konieczności opuszczania telefonu przez prywatne wiadomości. Oświadczenie, opublikowane na blogu Google DeepMind i zaprezentowane podczas Międzynarodowego Cybertygodnia 2026 w Singapurze, opisuje lekki model dostosowany do lokalnego środowiska oszustw i zoptymalizowany do działania na typowych smartfonach.
Dlaczego Singapur jest poligonem doświadczalnym Więcej kontekstu na ten temat znajdziesz w naszych wiadomości AI.
Skala problemu oszustw w Singapurze nadaje projektowi jasne uzasadnienie. Zgodnie z ogłoszeniem, którego autorami są JJ Geewax i Miguel de Andrés z Google DeepMind, oszustwa stanowią ponad połowę zgłoszonych przestępstw w kraju i od 2019 r. spowodowały straty o wartości ponad 4 miliardów dolarów australijskich. Taktyki oszustw – jak twierdzą firmy – zmieniły się z prostego phishingu na złożoną inżynierię społeczną, w ramach której napastnicy przez kilka dni lub tygodni prowadzą przekonujące rozmowy, zanim poproszą o pieniądze – jest to wzorzec, który obecnie stanowi aż 80% wszystkich straty oszustwa.
Jak czytamy w ogłoszeniu, modele ogólnej sztucznej inteligencji często borykają się z lokalnymi technikami oszustwa. Aby rozwiązać ten problem, zespół udoskonalił lekki model Google Gemma pod kątem lokalnych rozmów o oszustwach, począwszy od podszywania się pod instytucje publiczne, banki i osobistości lokalne, po zyskujące popularność programy regionalne. Trening ten ma pozwolić modelowi odróżnić nieszkodliwą pogawędkę społeczną od prawdziwej manipulacji.
Jak działa dwuetapowy potok na urządzeniu
Model przetwarza dane rozmów w całości na samym urządzeniu. Ten wybór projektu ma znaczenie, ponieważ konwencjonalne wykrywanie zagrożeń skanuje wiadomości na serwerach w chmurze — co jest niemożliwe w przypadku wielu platform przesyłania wiadomości korzystających z kompleksowego szyfrowania, w przypadku których dostawcy nie mogą sprawdzać prywatnych rozmów, nawet gdyby chcieli.
Lokalne uruchomienie analizy przyspiesza także wykrywanie, dzięki czemu ludzie mogą podjąć działania, zanim nastąpi narażenie na ryzyko finansowe lub dane uwierzytelniające. Gdy model wykryje manipulacyjne wzorce konwersacji, na urządzeniu pojawia się ostrzeżenie w czasie rzeczywistym, wzywające użytkownika do wstrzymania się przed udostępnieniem poufnych informacji lub pieniędzy.
Z komunikatu wynika, że wydajność baterii była kluczowym problemem przy uruchamianiu złożonego klasyfikatora oszustw na nowoczesnych smartfonach. Zespoły rozwiązały ten problem, stosując dwuetapowy potok:
- Etap 1: Lekki, wydajny klasyfikator monitoruje wiadomości przychodzące przy minimalnym zużyciu energii i koncentruje się na wychwytywaniu potencjalnych zagrożeń.
- Etap 2: Dopracowany model Gemma przeprowadza kontekstową ocenę większej migawki rozmowy, aby potwierdzić zagrożenie lub odrzucić fałszywy alarm.
Zarządzanie: brak danych obywateli, suwerenna piaskownica
Współpraca została zaprezentowana podczas Międzynarodowego Cybertygodnia w Singapurze 2026, którego przemówienie inauguracyjne wygłosił 13 października K Shanmugam, starszy minister i minister spraw wewnętrznych Singapuru, według Ministerstwa Spraw Wewnętrznych. W ogłoszeniu opisano ścisłe zarządzanie utrzymywane przez cały okres rozwoju w ramach trzech środków, które określa się jako suwerenną piaskownicę, brak danych obywatelskich i testy warunków skrajnych.
W ramach Sovereign Sandbox dostrojenie odbyło się w zarządzanym przez GovTech środowisku Google Cloud Platform, zapewniając izolację danych szkoleniowych. W ramach programu „No Citizen Data” ze szkolenia ściśle wykluczono informacje prywatne lub umożliwiające identyfikację, opierając się zamiast tego na zanonimizowanych zbiorach danych pochodzących z raportów o oszustwach i źródeł wywiadowczych. W ramach testów warunków skrajnych model przetestowano w oparciu o syntetyczne dialogi i lokalne korpusy obejmujące różne kategorie oszustw i ewoluujące taktyki podszywania się pod inne osoby.
„Walka z oszustwami nie powinna oznaczać rezygnacji z prywatności” – stwierdził w ogłoszeniu Mark Chen, dyrektor ds. zaufania i bezpieczeństwa w GovTech Singapore. „Współpracując z Google DeepMind, zapewniamy zaawansowaną ochronę sztucznej inteligencji bezpośrednio na urządzeniach obywateli. Dzięki temu możemy wyłapywać wysoce ukierunkowane, lokalne próby oszustw w czasie rzeczywistym, zachowując jednocześnie całkowitą prywatność komunikacji osobistej”.
Część szerszego partnerstwa Google–Singapur w zakresie sztucznej inteligencji
Model wykrywania oszustw został dostarczony w ramach krajowego partnerstwa Google dotyczącego sztucznej inteligencji z rządem Singapuru, które Google DeepMind ogłosiło 20 maja 2026 r., po otwarciu laboratorium badawczego w Singapurze w poprzednim roku. To partnerstwo obejmuje szereg innych programów: badanie możliwości współpracy lekarzy zajmujących się sztuczną inteligencją z klastrami zdrowia publicznego, wsparcie badań nad chorobami zakaźnymi poprzez wkład Google.org w wysokości 7 milionów dolarów na rzecz koalicji Health for Human Potential stowarzyszenia Philanthropy Asia Alliance, asystent biegania zasilany energią Gemma dla niewidomych i słabowidzących sportowców przetestowany za pomocą SG Enable, szkolenia dla lokalnych badaczy w zakresie narzędzi naukowych agentycznej sztucznej inteligencji prowadzone przez National Research Foundation, Gemini for Education dla nauczycieli oraz badania nad wielomodalnymi i wielojęzycznymi wzorcami bezpieczeństwa z udziałem Urząd ds. Rozwoju Mediów Infocomm i MLCommons.
Ścieżka integracji platform przesyłania wiadomości
Google DeepMind twierdzi, że platformy do przesyłania wiadomości i dostawcy systemów operacyjnych mogą bezpośrednio integrować te lekkie modele, aby chronić użytkowników lokalnie, zapewniając bezpieczeństwo interakcji na czacie bez ujawniania prywatnych danych. Ogłoszenie stawia projekt jako szablon dla platform komunikacyjnych równoważących ochronę użytkowników z kompleksowym szyfrowaniem oraz jako przykład rządów i dostawców modeli współpracujących nad problemami bezpieczeństwa, których żaden z nich nie jest w stanie rozwiązać samodzielnie.
W regionie, w którym straty wynikające z oszustw sięgają miliardów rocznie, bariera ochronna na urządzeniu, która uwzględnia szyfrowanie, może okazać się istotna. To, czy inne rządy pójdą w ślady Singapuru, będzie zależeć od tego, jak model będzie się zachowywał, gdy dotrze do telefonów prawdziwych użytkowników.
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →
