Các nhà nghiên cứu bảo mật tại Cisco Talos đã trình bày chi tiết về một kẻ đánh cắp thông tin Windows chuyển dữ liệu bị đánh cắp của nó sang một mô hình ngôn ngữ lớn và yêu cầu nó thực hiện những gì mà các nhà phân tích tội phạm con người đã từng làm: tìm ra nạn nhân nào đáng để theo đuổi. Phần mềm độc hại có tên tự là VOLTA-AUTODOXER, sử dụng giai đoạn lập hồ sơ nạn nhân do LLM cung cấp để biến nhật ký thông tin xác thực thô thành hồ sơ ưu tiên của những người đứng sau máy.
Trong một phân tích được công bố vào ngày 31 tháng 10 bởi nhà nghiên cứu Ryan Fetterman của Talos, phần mềm độc hại – được Talos theo dõi với tên VOLTA – được mô tả là một bộ cấy đánh cắp trưởng thành với lớp tích hợp AI tùy chọn. Sau khi thu thập thông tin xác thực, phiên trình duyệt và ví tiền điện tử, VOLTA tập hợp một gói bằng chứng có cấu trúc về nạn nhân và gửi nó cho nhà cung cấp LLM kèm theo hướng dẫn hoạt động như một nhà phân tích pháp y. Các tín hiệu phát triển mà việc lạm dụng AI trong tội phạm mạng đang hướng tới: không chỉ tạo văn bản lừa đảo mà còn hoạt động trí tuệ tự động. Để biết thông tin liên tục về những câu chuyện như thế này, hãy xem những phát triển AI mới nhất của chúng tôi.
Trộm mọi thứ rồi để AI phân loại
VOLTA lần đầu tiên xuất hiện thông qua nỗ lực nghiên cứu của CAIRN và Talos mô tả nó như một công cụ đánh cắp thông tin Windows tự xóa mà không có cơ sở hạ tầng do kẻ tấn công sở hữu - những đặc điểm khiến nó khó phân bổ hơn và khó phá vỡ hơn. Giai đoạn thu thập của nó rất đầy đủ ngay cả theo các tiêu chuẩn đánh cắp: mật khẩu trình duyệt, cookie và thẻ thanh toán; cụm từ hạt giống của ví tiền điện tử; Mã thông báo phiên Discord, Telegram, Steam và Roblox; Mã thông báo OAuth của Microsoft; Khóa SSH và nhà cung cấp đám mây; Cấu hình Wi-Fi; và ảnh chụp màn hình.
Sự mới lạ bắt đầu sau vụ trộm. VOLTA xây dựng cái mà Talos gọi là gói bằng chứng có cấu trúc bao gồm vị trí địa lý và địa chỉ nhà, tên miền của chủ lao động và chủ lao động, năm sinh được suy ra, bốn chữ số cuối của thẻ thanh toán, không gian làm việc Slack, siêu dữ liệu về quyền tác giả tài liệu, chỉ báo sao lưu iPhone và thậm chí cả định giá trực tiếp tài khoản Roblox của nạn nhân.
Sau đó, nó sẽ làm phong phú gói đó bằng cách sử dụng các phiên bị đánh cắp của chính nạn nhân. Theo Talos, phần mềm độc hại tìm kiếm biên lai mua hàng trong Gmail của nạn nhân để chứng thực địa chỉ nhà của họ, lấy lịch sử đặt hàng UberEats và DoorDash, đồng thời làm phong phú tài khoản Discord thông qua mã thông báo bị đánh cắp. Kết quả là một bức chân dung của một người được ghép gần như hoàn toàn từ tài khoản đăng nhập của chính họ.
Lời nhắc: 'Hành động với tư cách là Nhà phân tích tình báo pháp y'
Gói đã lắp ráp được tuần tự hóa và gửi tới các LLM được truy cập thông qua OpenRouter, một dịch vụ định tuyến các yêu cầu đến nhiều nhà cung cấp mô hình. Lời nhắc của hệ thống hướng dẫn mô hình đóng vai trò là "nhà phân tích tình báo pháp y soạn thảo đánh giá mục tiêu".
Sản lượng yêu cầu đặc biệt mang tính doanh nghiệp. Nó phải bao gồm một phần có tiêu đề "HỌ ĐÁNG GIÁ GÌ", xếp hạng các tài sản có giá trị của nạn nhân theo tiềm năng kiếm tiền với các cấp thấp, trung bình và cao và một phần về "OPSEC CỦA HỌ", đánh giá tình trạng bảo mật và vệ sinh mật khẩu của nạn nhân. Mô hình này trở thành nhà phân tích phân loại của nhà điều hành một cách hiệu quả, tạo ra một hồ sơ dựa trên trích dẫn để cho tội phạm biết tiền ở đâu.
Talos cũng tìm thấy bằng chứng cho thấy những người vận hành đã thiết kế các rào chắn an toàn bằng AI. Nếu một mô hình từ chối thực hiện đánh giá mục tiêu, VOLTA sẽ chuyển sang chuỗi ba mô hình, thử chuỗi tiếp theo - điều mà nhà nghiên cứu mô tả là nỗ lực kỹ thuật trực tiếp được xây dựng dựa trên kỳ vọng đạt được sự từ chối của mô hình. Lời nhắc cấu hình AI được khôi phục từ phần mềm độc hại thậm chí còn mang theo những hướng dẫn mang tính văn phong: "Đi sâu, không rộng... Hãy thẳng thừng, cụ thể, chính xác."
Tại sao nó lại quan trọng
Talos định hình sự đổi mới một cách chính xác: AI ở đây không hỗ trợ khả năng phần mềm độc hại truyền thống như làm xáo trộn hoặc tạo ra mồi nhử. Nó đang làm việc như một nhà phân tích tình báo thay mặt cho người điều hành. Công ty viết, ý tưởng thâm nhập vào thế giới tội phạm mạng là giăng một mạng lưới rộng, đánh cắp mọi thứ và để AI phân loại các chi tiết cụ thể.
Điều đó có ý nghĩa vượt ra ngoài dòng phần mềm độc hại này. Những kẻ đánh cắp thông tin đã cung cấp phần lớn nền kinh tế tội phạm - gỗ được bán với số lượng lớn và người mua chọn chúng theo cách thủ công. Giai đoạn phân loại dựa trên mô hình sẽ tự động hóa việc lấy hàng, cho phép những người vận hành có kỹ năng thấp thu được giá trị tối đa từ hành vi trộm cắp số lượng lớn và tập trung các cuộc tấn công tiếp theo, chẳng hạn như tống tiền hoặc chiếm đoạt tài khoản, vào những nạn nhân thực sự có thể trả tiền.
Đối với các nhà cung cấp mô hình và dịch vụ định tuyến, trường hợp này là một lời nhắc nhở rằng việc lạm dụng không chỉ giới hạn ở các giao diện trò chuyện công khai. Quyền truy cập dựa trên API thông qua người bán lại và người tổng hợp tạo ra con đường kiếm tiền cho công cụ tội phạm và hành vi từ chối — điều mà các nhà điều hành VOLTA đã dự đoán rõ ràng — vẫn là tuyến phòng thủ đầu tiên.
Đối với người dùng, hướng dẫn thực tế không thay đổi nhưng cấp bách hơn: cách bảo vệ an toàn nhất chống lại kẻ đánh cắp thông tin có thể thẩm vấn toàn bộ cuộc sống số của bạn là từ chối quyền truy cập của nó ngay từ đầu, bằng mật khẩu duy nhất, xác thực đa yếu tố chống lừa đảo và trình duyệt nhanh chóng cũng như vệ sinh thông tin xác thực.
Talos cho biết VOLTA là một thiết bị cấy ghép trưởng thành, cho thấy việc tích hợp AI có thể đã hoạt động tự nhiên được một thời gian. Giống như những đổi mới của kẻ ăn cắp trước đây, những kẻ sao chép và bắt chước có xu hướng đi theo nhanh chóng.
---
Đi trước AINhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.
Đọc thêm tin tức về AI →
