OpenAI đã phá vỡ một mạng lưới lừa đảo phối hợp do ChatGPT điều khiển hoạt động ở Poipet, Campuchia, công ty tiết lộ trong một báo cáo nêu chi tiết cách các nhóm tội phạm hiện đang nhúng các mô hình trí tuệ nhân tạo thương mại vào hoạt động hàng ngày của các tổ hợp lao động cưỡng bức.
Tiết lộ, được công bố vào ngày 31 tháng 7 với tiêu đề “Làm gián đoạn hoạt động lừa đảo hình sự”, mô tả một tổ chức đã sử dụng ChatGPT không chỉ để lừa dối các nạn nhân trên toàn cầu mà còn để quản lý hoạt động nội bộ của một doanh nghiệp có liên quan đến buôn người. Vụ việc đưa ra một góc nhìn về cách các mô hình ngôn ngữ lớn đang được tái sử dụng làm cơ sở hạ tầng hoạt động cho tội phạm có tổ chức. Để biết báo cáo liên tục về việc sử dụng sai mục đích và các biện pháp bảo vệ AI, hãy theo dõi những phát triển AI mới nhất tại AI Buzz Wire.
Mạng hoạt động như thế nào
Theo phát hiện của OpenAI, doanh nghiệp tội phạm đã dựa vào ChatGPT để tiếp cận nạn nhân, tạo ra các giao diện đầu tư lừa đảo và soạn thảo các thông báo pháp lý giả mạo. Các nhà điều hành nhắm mục tiêu vào các cá nhân thông qua các nền tảng nhắn tin bao gồm WhatsApp và Telegram, trải qua vòng đời lừa đảo gồm ba giai đoạn.
Kế hoạch này thường bắt đầu bằng những lời đề nghị lãng mạn được thiết kế để xây dựng niềm tin, sau đó chuyển hướng sang các nền tảng đầu tư tiền điện tử không có thật và cuối cùng leo thang đến mức đe dọa phạt tiền giả khi các lần chào hàng trước đó thất bại. Các nhà điều hành không giới hạn bản thân trong một ngành dọc lừa đảo duy nhất — họ kết hợp các thiết lập lãng mạn với bàn giao dịch vàng giả và định tuyến lại các mục tiêu vào các kênh cờ bạc, tối đa hóa số lượng đường dẫn đến khoản thanh toán.
Điều làm nên sự khác biệt của hoạt động này là quy mô và tính kỷ luật trong việc sử dụng AI của nó. Thay vì chạy một số lời nhắc một lần, tổ chức này đã hệ thống hóa các mô hình tổng quát để tạo ra các thông tin liên lạc bản địa hóa, thuyết phục với số lượng lớn trên nhiều ngôn ngữ.
Khía cạnh lao động cưỡng bức
Những phát hiện đáng lo ngại nhất không phải đến từ vụ lừa đảo mà nạn nhân phải đối mặt mà đến từ hoạt động nội bộ của nhóm. Nhật ký nhanh chóng được phục hồi trong quá trình điều tra cho thấy rằng các nhà khai thác đã sử dụng ChatGPT cho các nhiệm vụ quản trị bên trong các tổ hợp lừa đảo vật lý nằm gần biên giới Thái Lan-Campuchia.
Những nhật ký đó bao gồm dịch các thông tin liên lạc của ban quản lý, ghi lại các khoản nợ của công nhân, ghi lại những trường hợp quá hạn thị thực và theo dõi các khoản phạt kỷ luật. Một số mục đề cập đến việc cưỡng bức giam giữ, công nhân trốn thoát và mạng lưới buôn người. Chi tiết này phù hợp với nhiều năm báo cáo về các tổ hợp lừa đảo ở Đông Nam Á, thường thu hút người tìm việc bằng các lời đề nghị hành chính gian lận trước khi tịch thu hộ chiếu và buộc họ lao động tội phạm mạng dưới sự đe dọa bạo lực.
Nói cách khác, các mô hình AI đang thực hiện nhiệm vụ kép: trang bị vũ khí chống lại các nạn nhân bên ngoài đồng thời đóng vai trò là phần mềm quản lý cho lực lượng lao động bị giam cầm.
Phản hồi của OpenAI
OpenAI cho biết họ đã xác định và cắt các tài khoản liên quan đến hoạt động này, chặn quyền truy cập của tổ chức này vào các mô hình của nó. Công ty mô tả sự gián đoạn này là một phần trong nỗ lực rộng lớn hơn nhằm phát hiện và triệt phá các mạng lạm dụng nền tảng của mình để thực hiện tội phạm tài chính và vi phạm nhân quyền.
Vụ việc nhấn mạnh thách thức ngày càng tăng đối với các nhà cung cấp AI. Những kẻ độc hại không còn coi các mô hình ngôn ngữ thương mại đơn thuần như vũ khí bên ngoài nữa - họ đang triển khai chúng như phần mềm trung gian hoạt động, đưa chúng vào bộ máy hỗ trợ văn phòng của các doanh nghiệp tội phạm. Việc phát hiện loại lạm dụng đó đòi hỏi phải xem xét xa hơn những lời nhắc nhở rõ ràng mà nạn nhân phải đối mặt.
Một vấn đề phát hiện mới
Phân tích bảo mật của hoạt động cho thấy rằng việc lọc từ khóa đơn giản theo các lời nhắc liên quan đến lừa đảo không còn đủ nữa. Các trường hợp sử dụng quản trị - dịch bản ghi nhớ, theo dõi nợ, ghi nhật ký điểm danh - được coi là đơn giản và khó gắn cờ hơn nhiều so với các tập lệnh gian lận công khai.
Theo thông tin về sự gián đoạn, việc phát hiện hành vi lạm dụng có tính chất này ngày càng đòi hỏi phải chia sẻ thông tin đa nền tảng và phân tích hành vi theo các yêu cầu hành chính, trong đó các hoạt động tội phạm để lại dấu vết hoạt động rõ ràng ngay cả khi các yêu cầu riêng lẻ có vẻ lành tính. Lời nhắc yêu cầu mô hình "dịch thông báo của người quản lý này" vốn không đáng ngờ — nhưng hàng trăm lời nhắc như vậy, bắt nguồn từ các tài khoản được liên kết với một tổ hợp đã biết, tạo thành một mẫu.
Bức tranh lớn hơn
Hoạt động ở Campuchia là tín hiệu mới nhất cho thấy bề mặt lạm dụng AI sáng tạo đã mở rộng vượt ra ngoài phạm vi deepfake và spam. Khi công nghệ phát triển, hành vi lạm dụng có giá trị cao nhất có thể ít được nhìn thấy nhất: AI âm thầm điều hành công việc hậu cần của một doanh nghiệp bất hợp pháp, từ dịch thuật nạn nhân đến quản lý lực lượng lao động.
Đối với OpenAI và các đối thủ cạnh tranh, sự thay đổi đó đặt ra những câu hỏi khó về trách nhiệm giám sát sẽ mở rộng đến mức nào. Các nhà cung cấp có thể đình chỉ tài khoản, nhưng các hợp chất cơ bản, mạng lưới buôn bán và điều kiện lao động cưỡng bức vẫn tồn tại. Việc phá vỡ lớp kỹ thuật số có ích nhưng không phá hủy cơ sở hạ tầng vật lý duy trì các hoạt động này.
Việc tiết lộ cũng đến trong thời điểm quy định rộng hơn. Với các quy tắc minh bạch mới có hiệu lực và áp lực ngày càng tăng đối với các công ty AI trong việc giải thích cách sử dụng mô hình của họ, những trường hợp như thế này có thể sẽ định hình cả các ưu tiên thực thi và các nhà cung cấp biện pháp bảo vệ kỹ thuật được xây dựng trong các hệ thống trong tương lai.
Nó cũng làm nổi bật sự bất đối xứng khó chịu. Khả năng ngôn ngữ tương tự khiến ChatGPT trở nên có giá trị đối với các doanh nghiệp hợp pháp - dịch thuật, soạn thảo, tóm tắt - chính xác là điều khiến nó trở nên hấp dẫn đối với các doanh nghiệp tội phạm hoạt động xuyên biên giới và ngôn ngữ. Một mô hình có thể giúp một doanh nghiệp nhỏ tiếp cận khách hàng ở hàng chục quốc gia cũng có thể dễ dàng giúp một tổ chức lừa đảo nhắm mục tiêu vào các nạn nhân ở mọi châu lục. Sự khác biệt không nằm ở công nghệ mà nằm ở cơ sở hạ tầng bao quanh nó và đó là nơi các nhà cung cấp có ít khả năng hiển thị nhất.
Điều gì xảy ra tiếp theo
Tiết lộ của OpenAI đáng chú ý vì tính minh bạch cũng như bản thân sự gián đoạn. Bằng cách công bố chi tiết về cách thức hoạt động của mạng, công ty đang cung cấp một mẫu mà các nhà cung cấp và cơ quan thực thi pháp luật khác có thể sử dụng để phát hiện hành vi lạm dụng tương tự. Nhưng vụ việc cũng làm rõ rằng việc đình chỉ tài khoản, tuy cần thiết, là một biện pháp phản ứng chống lại kẻ thù có thể tạo ra danh tính mới và di dời các hoạt động một cách tương đối dễ dàng.
Đối với các nhóm bảo mật cũng như các nhà cung cấp AI, điều đáng rút ra là việc bảo vệ chống lại loại lạm dụng này sẽ cần đầu tư lâu dài vào việc phát hiện mẫu, chia sẻ dữ liệu giữa các công ty và hợp tác với các cơ quan có thể tự hành động chống lại các hợp chất vật lý. Lớp kỹ thuật số và lớp vật lý, như trường hợp này chứng minh, không còn có thể tách rời được nữa.
Đi trước AI
Để biết thêm về các rủi ro bảo mật, các tình huống khó xử về đạo đức và các cuộc tranh luận về chính sách xung quanh trí tuệ nhân tạo, hãy theo dõi tin tức nóng hổi về AI từ AI Buzz Wire.
Đọc thêm tin tức về AI →
