Google DeepMind và Cơ quan Công nghệ Chính phủ Singapore (GovTech) đã tiết lộ một mô hình phát hiện lừa đảo trên thiết bị được thiết kế để cảnh báo người dùng điện thoại thông minh về các cuộc trò chuyện lôi kéo trong thời gian thực — mà không cần gửi tin nhắn riêng tư ra khỏi điện thoại. Thông báo được đăng trên blog Google DeepMind và được trình bày tại Tuần lễ Điện tử Quốc tế Singapore 2026, mô tả một mô hình nhẹ được tinh chỉnh cho bối cảnh lừa đảo địa phương và được tối ưu hóa để chạy trên điện thoại thông minh thông thường.

Tại sao Singapore là nơi thử nghiệm For more context on this story, see our ongoing latest AI developments.

Quy mô của vấn đề lừa đảo ở Singapore mang lại cho dự án một lý do rõ ràng. Theo thông báo, được viết bởi JJ Geewax và Miguel de Andrés của Google DeepMind, các vụ lừa đảo chiếm hơn một nửa số tội phạm được báo cáo của đất nước và gây ra thiệt hại hơn 4 tỷ đô la Singapore kể từ năm 2019. Các công ty cho biết, chiến thuật lừa đảo đã chuyển từ lừa đảo đơn giản sang kỹ thuật xã hội phức tạp, trong đó những kẻ tấn công xây dựng các cuộc trò chuyện thuyết phục trong nhiều ngày hoặc nhiều tuần trước khi yêu cầu tiền – một mô hình hiện chiếm tới 80% tổng số tổn thất lừa đảo.

Thông báo lưu ý rằng các mô hình AI thông thường thường gặp khó khăn với các kỹ thuật đánh lừa cục bộ. Để giải quyết vấn đề đó, nhóm đã tinh chỉnh mô hình Gemma nhẹ của Google về các cuộc trò chuyện lừa đảo tại địa phương, từ việc mạo danh các tổ chức công, ngân hàng và nhân vật địa phương cho đến các âm mưu đang thịnh hành trong khu vực. Việc đào tạo đó nhằm mục đích giúp mô hình phân biệt những cuộc trò chuyện xã hội vô hại với sự thao túng thực sự.

Cách hoạt động của đường dẫn hai giai đoạn trên thiết bị

Mô hình xử lý dữ liệu hội thoại hoàn toàn trên chính thiết bị. Lựa chọn thiết kế đó rất quan trọng vì tính năng phát hiện mối đe dọa thông thường sẽ quét tin nhắn trên máy chủ đám mây – điều không thể thực hiện được đối với nhiều nền tảng nhắn tin sử dụng mã hóa hai đầu, nơi các nhà cung cấp không thể kiểm tra các cuộc trò chuyện riêng tư ngay cả khi họ muốn.

Việc chạy phân tích cục bộ cũng giúp phát hiện nhanh hơn, do đó mọi người có thể hành động trước khi xảy ra rủi ro về tài chính hoặc thông tin xác thực. Khi mô hình phát hiện các kiểu trò chuyện lôi kéo, cảnh báo thời gian thực sẽ xuất hiện trên thiết bị, kêu gọi người dùng tạm dừng trước khi chia sẻ thông tin nhạy cảm hoặc tiền bạc.

Theo thông báo, hiệu quả sử dụng pin là mối quan tâm hàng đầu khi chạy một trình phân loại lừa đảo phức tạp trên điện thoại thông minh hiện đại. Các nhóm đã giải quyết vấn đề này bằng quy trình gồm hai giai đoạn:

  • Giai đoạn 1: Trình phân loại gọn nhẹ, hiệu quả sẽ sàng lọc các tin nhắn gửi đến bằng cách sử dụng công suất tối thiểu, tập trung vào việc phát hiện các mối đe dọa tiềm ẩn.
  • Giai đoạn 2: Mô hình Gemma đã tinh chỉnh thực hiện đánh giá theo ngữ cảnh của ảnh chụp nhanh lớn hơn về cuộc trò chuyện để xác nhận mối đe dọa hoặc loại bỏ cảnh báo sai.

Quản trị: Không có dữ liệu công dân, Sandbox có chủ quyền

Theo Bộ Nội vụ, sự hợp tác này đã được trình bày tại Tuần lễ Điện tử Quốc tế Singapore 2026, với bài phát biểu khai mạc vào ngày 13 tháng 10 bởi K Shanmugam, Bộ trưởng Cấp cao kiêm Bộ trưởng Bộ Nội vụ của Singapore. Thông báo mô tả việc quản lý chặt chẽ được duy trì trong suốt quá trình phát triển theo ba biện pháp được gắn nhãn Hộp cát có chủ quyền, Không có dữ liệu công dân và Kiểm tra căng thẳng.

Trong Sovereign Sandbox, quá trình tinh chỉnh diễn ra bên trong môi trường Google Cloud Platform do GovTech quản lý, giúp tách biệt dữ liệu đào tạo. Theo Không có dữ liệu công dân, việc đào tạo loại trừ nghiêm ngặt thông tin cá nhân hoặc thông tin nhận dạng cá nhân, thay vào đó dựa vào các tập dữ liệu ẩn danh được lấy từ các báo cáo lừa đảo và nguồn cấp dữ liệu thông minh. Trong khuôn khổ Stress-Testing, mô hình này đã được thử nghiệm dựa trên các cuộc đối thoại tổng hợp và tập hợp nội dung địa phương bao gồm các danh mục lừa đảo đa dạng cũng như các chiến thuật mạo danh đang phát triển.

Mark Chen, Giám đốc Tin cậy và An toàn tại GovTech Singapore, cho biết trong thông báo: “Chống lừa đảo không có nghĩa là hy sinh quyền riêng tư cá nhân”. "Hợp tác với Google DeepMind, chúng tôi đang đưa biện pháp bảo vệ AI tiên tiến trực tiếp lên thiết bị của công dân. Điều này cho phép chúng tôi phát hiện các nỗ lực lừa đảo cục bộ, có mục tiêu cao trong thời gian thực trong khi vẫn giữ thông tin liên lạc cá nhân hoàn toàn riêng tư."

Là một phần của mối quan hệ đối tác AI rộng lớn hơn giữa Google và Singapore

Mô hình phát hiện lừa đảo được cung cấp như một phần của Quan hệ đối tác AI quốc gia của Google với Chính phủ Singapore, mà Google DeepMind đã công bố vào ngày 20 tháng 5 năm 2026, sau khi mở phòng thí nghiệm nghiên cứu ở Singapore vào năm trước. Sự hợp tác đó bao gồm một loạt các chương trình khác: khám phá sự hợp tác của bác sĩ đồng lâm sàng AI với các cụm y tế công cộng, hỗ trợ nghiên cứu bệnh truyền nhiễm thông qua khoản đóng góp trị giá 7 triệu đô la của Google.org cho liên minh Sức khỏe tiềm năng con người của Liên minh từ thiện châu Á, trợ lý chạy bộ do Gemma cung cấp cho các vận động viên mù và thị lực kém được thử nghiệm với SG Enable, đào tạo cho các nhà nghiên cứu địa phương về các công cụ khoa học AI tác nhân với Quỹ nghiên cứu quốc gia, Gemini for Education dành cho các nhà giáo dục và nghiên cứu về các tiêu chuẩn an toàn đa phương thức và đa ngôn ngữ với Cơ quan phát triển truyền thông Infocomm và MLCommons.

Đường dẫn tích hợp cho nền tảng nhắn tin

Google DeepMind cho biết các nền tảng nhắn tin và nhà cung cấp hệ điều hành có thể tích hợp trực tiếp các mô hình nhẹ này để bảo vệ người dùng cục bộ, giữ an toàn cho các tương tác trò chuyện mà không làm lộ dữ liệu riêng tư. Thông báo định vị dự án như một khuôn mẫu cho các nền tảng nhắn tin cân bằng khả năng bảo vệ người dùng với mã hóa đầu cuối — đồng thời là một ví dụ về việc chính phủ và nhà cung cấp mô hình hợp tác cùng nhau giải quyết các vấn đề an toàn mà không thể một mình giải quyết được.

Đối với một khu vực mà tổn thất do lừa đảo lên tới hàng tỷ USD mỗi năm, một rào chắn bảo vệ trên thiết bị tôn trọng mã hóa có thể là hậu quả. Việc các chính phủ khác có đi theo sự dẫn dắt của Singapore hay không sẽ phụ thuộc vào cách mô hình hoạt động khi nó đến tay người dùng thực.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →