Google DeepMind와 싱가포르 정부 기술 기관(GovTech)은 비공개 메시지가 전화기 밖으로 나가지 않고도 스마트폰 사용자에게 조작된 대화에 대해 실시간으로 경고하도록 설계된 온디바이스 사기 탐지 모델을 공개했습니다. Google DeepMind 블로그에 게시되고 2026년 싱가포르 국제 사이버 위크에서 발표된 이 발표는 현지 사기 환경에 맞게 미세 조정되고 일반적인 스마트폰에서 실행되도록 최적화된 경량 모델을 설명합니다.

싱가포르가 시험장인 이유 이 이야기에 대한 자세한 내용은 최신 AI 동향를 참조하세요.

싱가포르에서 발생한 사기 문제의 규모는 이 프로젝트에 대한 명확한 근거를 제공합니다. Google DeepMind의 JJ Geewax와 Miguel de Andrés가 작성한 발표에 따르면 사기는 국가에서 신고된 범죄의 절반 이상을 차지하며 2019년 이후 S$40억 이상의 손실을 입혔습니다. 회사에 따르면 사기 전술은 단순한 피싱에서 공격자가 돈을 요구하기 전에 며칠 또는 몇 주에 걸쳐 설득력 있는 대화를 구축하는 복잡한 사회 공학으로 바뀌었습니다. 이는 현재 모든 사기 손실의 최대 80%를 차지하는 패턴입니다.

일반 AI 모델은 국부적인 속임수 기술로 어려움을 겪는 경우가 많다고 발표 노트는 밝혔습니다. 이 문제를 해결하기 위해 팀은 공공 기관, 은행, 지역 인사의 사칭부터 최신 지역 계획에 이르기까지 지역 사기 대화에 대한 Google의 경량 Gemma 모델을 미세 조정했습니다. 이러한 훈련은 모델이 무해한 사회적 대화와 실제 조작을 구별할 수 있도록 하기 위한 것입니다.

2단계 온디바이스 파이프라인의 작동 방식

모델은 대화 데이터를 전적으로 기기 자체에서 처리합니다. 기존 위협 탐지는 클라우드 서버에서 메시지를 검사하기 때문에 설계 선택이 중요합니다. 이는 공급자가 원하더라도 비공개 대화를 검사할 수 없는 종단 간 암호화를 사용하는 많은 메시징 플랫폼에서는 불가능합니다.

로컬에서 분석을 실행하면 탐지 속도도 빨라지므로 사람들은 금융 또는 자격 증명 노출이 발생하기 전에 조치를 취할 수 있습니다. 모델이 조작된 대화 패턴을 감지하면 민감한 정보나 돈을 공유하기 전에 사용자에게 일시 중지를 촉구하는 실시간 경고가 장치에 나타납니다.

발표에 따르면 최신 스마트폰에서 복잡한 사기 분류기를 실행하는 데 있어 배터리 효율성은 중요한 문제였습니다. 팀은 2단계 파이프라인으로 이 문제를 해결했습니다.

  • 1단계: 가볍고 효율적인 분류자는 잠재적인 위협을 포착하는 데 중점을 두고 최소한의 전력을 사용하여 인바운드 메시지를 선별합니다.
  • 2단계: 미세 조정된 Gemma 모델은 대화의 더 큰 스냅샷에 대한 상황별 평가를 수행하여 위협을 확인하거나 허위 경보를 삭제합니다.

거버넌스: 시민 데이터 없음, 소버린 샌드박스

내무부에 따르면 이 협력은 싱가포르 국제 사이버 위크 2026에서 발표되었으며, 10월 13일 싱가포르 수석 장관 겸 내무부 장관 K Shanmugam이 개회 연설을 했습니다. 이번 발표에서는 소버린 샌드박스(Sovereign Sandbox), 시민 데이터 없음(No Citizen Data), 스트레스 테스트(Stress-Testing)라는 세 가지 조치에 따라 개발 전반에 걸쳐 유지되는 엄격한 거버넌스를 설명합니다.

Sovereign Sandbox에서는 GovTech의 관리형 Google Cloud Platform 환경 내에서 미세 조정이 이루어졌으며 훈련 데이터는 격리된 상태로 유지되었습니다. 시민 데이터 없음 하에서 교육에서는 개인 정보 또는 개인 식별 정보를 엄격히 배제하고 대신 사기 보고서 및 인텔리전스 피드에서 가져온 익명 데이터 세트에 의존했습니다. 스트레스 테스트에서 모델은 다양한 사기 카테고리와 진화하는 사칭 전술을 다루는 합성 대화 및 로컬 말뭉치에 대해 테스트되었습니다.

GovTech Singapore의 신뢰 및 안전 담당 이사인 Mark Chen은 발표문에서 "사기에 맞서는 것이 개인 정보를 희생하는 것을 의미해서는 안 됩니다."라고 말했습니다. "Google DeepMind와 협력하여 우리는 고급 AI 보호 기능을 시민의 장치에 직접 적용하고 있습니다. 이를 통해 개인 통신을 완전히 비공개로 유지하면서 고도로 표적화된 지역 사기 시도를 실시간으로 포착할 수 있습니다."

더 광범위한 Google-싱가포르 AI 파트너십의 일부

사기 탐지 모델은 Google DeepMind가 전년도 싱가포르에 연구소를 개설한 후 2026년 5월 20일 발표한 싱가포르 정부와 Google의 국가 AI 파트너십의 일환으로 제공되었습니다. 해당 파트너십에는 공중 보건 클러스터와의 AI 공동 임상의 협력 탐색, Philanthropy Asia Alliance의 Health for Human Potential 연합에 대한 Google.org 기부금 700만 달러를 통한 감염병 연구 지원, SG Enable로 테스트한 시각 장애 및 저시력 운동선수를 위한 Gemma 기반 달리기 도우미, 국립 연구 재단(National Research Foundation)의 에이전트 AI 과학 도구에 대한 현지 연구원 교육, 교육자를 위한 Gemini for Education, 다중 모드 및 다중 언어 안전 벤치마크에 대한 연구 등 다양한 프로그램이 포함됩니다. Infocomm Media Development Authority 및 MLCommons와 협력합니다.

메시징 플랫폼을 위한 통합 경로

Google DeepMind는 메시징 플랫폼과 운영 체제 공급업체가 이러한 경량 모델을 직접 통합하여 사용자를 로컬로 보호하고 개인 데이터를 노출하지 않고도 채팅 상호 작용을 안전하게 유지할 수 있다고 말합니다. 이번 발표는 이 프로젝트를 사용자 보호와 엔드투엔드 암호화 간의 균형을 유지하는 메시징 플랫폼을 위한 템플릿으로 자리매김하고, 정부와 모델 제공업체가 혼자서는 해결할 수 없는 안전 문제를 해결하기 위해 협력하는 사례로 자리매김했습니다.

사기 피해가 매년 수십억 달러에 달하는 지역에서는 암호화를 존중하는 온디바이스 가드레일이 중요할 수 있습니다. 다른 정부가 싱가포르의 선례를 따를지는 실제 사용자의 휴대폰에 도달한 후 모델이 어떻게 작동하는지에 달려 있습니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →