Tin tặc đã sử dụng một khuôn khổ hack được hỗ trợ bởi AI đang nổi lên nhanh chóng trong một cuộc xâm nhập nhắm vào lĩnh vực hàng không vũ trụ của Hoa Kỳ, bộ phận tình báo mối đe dọa của Google cho biết hôm thứ Hai trong các phát hiện được Nextgov báo cáo. Công cụ này, được gọi là Cairn, là một khung thử nghiệm thâm nhập có sẵn công khai gắn liền với cộng đồng bảo mật nguồn mở của Trung Quốc - và sự xuất hiện của nó trong một cuộc xâm nhập trực tiếp đánh dấu một bước nữa trong quá trình di chuyển AI tác nhân từ các bản demo nghiên cứu sang các hoạt động gián điệp thực sự.

Google không nêu tên tổ chức hàng không vũ trụ đã bị truy cập, cho biết thông tin nào có thể đã bị lấy hoặc quy sự xâm nhập cho một chính phủ cụ thể. Báo cáo bao gồm rộng rãi hoạt động được quan sát trong quý vừa qua và được đưa ra trong bối cảnh ngành công nghiệp AI ngày nay đưa tin về các hệ thống tác nhân được tái sử dụng nhanh hơn mức mà các nhà bảo vệ có thể thích ứng.

Những gì Cairn và những người anh em họ của nó có thể làm

Cairn khác với cách hack được hỗ trợ bởi chatbot vốn thống trị các báo cáo về mối đe dọa trước đó. Thay vì con người nhắc nhở trợ lý AI từng bước một, Cairn sử dụng các tác nhân AI để chia sẻ thông tin với nhau và quyết định nên thử kỹ thuật hack nào tiếp theo khi chúng tiến hành xâm nhập hệ thống.

Các nhà nghiên cứu của Google cho biết các hệ thống nguồn mở khác – bao gồm ARTEX, CyberStrikeAI và PentAGI – hiện đang được sử dụng để “thực hiện các cuộc xâm nhập nhiều giai đoạn với tốc độ hoạt động lớn hơn” so với hoạt động trước đó, trong đó tin tặc nhắc nhở các chatbot AI theo cách thủ công để hỗ trợ từng bước riêng lẻ. ARTEX đã được gắn cờ riêng trong tư vấn an ninh mạng của FBI được đăng hôm thứ Sáu.

Phát hiện đáng báo động nhất: Khai thác hoàn toàn tự động

Một phát hiện nổi bật trong báo cáo hàng quý. Các nhà nghiên cứu của Google đã phát hiện ra hệ thống của kẻ tấn công được định cấu hình để nghiên cứu các bản sửa lỗi phần mềm, phát triển các cuộc tấn công dựa trên những gì nó đã học được và thực hiện các cuộc tấn công đó một cách tự động mà không có con người tham gia vào vòng lặp. Công ty cho biết đây là lần đầu tiên các nhà nghiên cứu của họ xác định được những kẻ tấn công tự động hóa hoàn toàn quy trình đó.

Hàm ý rất rõ ràng: cuộc chạy đua giữa phát hành bản vá và khai thác có thể sụp đổ từ hàng tuần đến hàng giờ, gây thêm áp lực cho các tổ chức vốn đang gặp khó khăn trong việc cài đặt các bản cập nhật bảo mật trước khi bọn tội phạm tiếp cận chúng. Hacker News, cũng đưa ra những phát hiện tương tự, đã tóm tắt kỹ thuật này khi tin tặc sử dụng tác nhân AI để xây dựng và chạy các hoạt động khai thác trực tiếp từ các bản vá phần mềm.

Theo Nextgov, công ty cho biết: “Với rào cản gia nhập thấp, dễ dàng tích hợp các hoạt động khai thác mới và tiềm năng mở rộng quy mô lớn, chúng tôi tin rằng rất có thể các tác nhân đe dọa sẽ tiếp tục sử dụng các khuôn khổ này trong các chiến dịch nhắm mục tiêu vào các tổ chức trên toàn cầu”.

Nhóm Trung Quốc Phân tích Công nghiệp hóa; Nhà tuyển dụng Bắc Triều Tiên đi tổng hợp

Báo cáo cũng trình bày chi tiết cách các chủ thể liên kết với nhà nước sắp xếp các mô hình thành các giai đoạn hoạt động khác nhau của họ. Các nhóm hacker Trung Quốc đã sử dụng mô hình AI để phân tích các tập tin bị đánh cắp và tạo ra các báo cáo tình báo hoàn chỉnh cho khách hàng. Trong một trường hợp, một nhà thầu đã sử dụng AI để dịch và phân tích thông tin bị đánh cắp, tìm ra cách cấu trúc các tổ chức mục tiêu và sắp xếp các phát hiện thành báo cáo tình báo – sử dụng công nghệ này cho công việc giải thích phức tạp theo sau hành vi trộm cắp thay vì chính hành vi trộm cắp.

Google cũng quan sát thấy các đặc vụ Trung Quốc bị nghi ngờ đang thử nghiệm các công cụ hack tự động, bao gồm cả một nhóm có liên hệ với Trung Quốc đang phát triển hệ thống của riêng mình, có khả năng được sử dụng trong các hoạt động gián điệp.

Trong khi đó, các diễn viên Triều Tiên đang sử dụng AI để nâng cao kỹ thuật xã hội của họ. Một nhóm Google theo dõi các tổ chức tiền điện tử được nhắm mục tiêu ở Bắc Mỹ và Châu Âu bằng cách sử dụng hồ sơ nhà tuyển dụng bịa đặt. Những nhà tuyển dụng giả mạo đã hướng mục tiêu đến các dịch vụ họp giả mạo, trong đó các hướng dẫn khắc phục một sự cố kỹ thuật được cho là đã khiến họ chạy mã độc.

Khi vào bên trong, những kẻ tấn công đã thay đổi cài đặt cho Claude Code – trợ lý mã hóa AI của Anthropic – trong kho mã của công ty, do đó việc khởi chạy trợ lý sẽ kích hoạt quá trình tải xuống phần mềm độc hại. Việc vũ khí hóa một công cụ dành cho nhà phát triển đáng tin cậy có nghĩa là các kỹ sư phần mềm đã tin tưởng vào hành động độc hại.

Những phát hiện này lặp lại thông báo của Bộ Tư pháp vào tuần trước nhắm vào FaceStealer, một chương trình gọi điện video giả mạo của Triều Tiên có liên quan đến vụ trộm hơn 400 triệu đô la, cùng với các lệnh của tòa án bao gồm hơn 1,2 tỷ đô la bị đánh cắp từ Binance. Báo cáo của Google không kết nối những phát hiện của họ với cả hai trường hợp.

Các hoạt động gây ảnh hưởng cũng được tự động hóa nhiều hơn

Ngoài hoạt động gián điệp và tội phạm tài chính, Google cho biết các hoạt động gây ảnh hưởng liên quan đến Nga, Trung Quốc và Iran hiện thường xuyên sử dụng các mô hình AI để sản xuất nội dung và tự động hóa việc phân phối nội dung đó – giao phó nhiều công việc đóng giả người bình thường lên mạng cho máy móc.

Khoảng cách ngày càng mở rộng

Tổng hợp lại, những phát hiện này phác họa một vấn đề phòng thủ ngày càng gia tăng với mỗi bản phát hành nguồn mở. Các khung kiểm tra thâm nhập như Cairn, ARTEX, CyberStrikeAI và PentAGI là các công cụ pháp lý được xây dựng bởi và dành cho cộng đồng bảo mật, đồng thời kiến ​​trúc tác nhân của chúng khiến chúng thực sự hữu ích cho các đội đỏ. Các đặc tính tương tự khiến chúng trở thành vũ khí tấn công chìa khóa trao tay cho bất kỳ ai tải chúng xuống.

Thông điệp của Google gửi tới những người bảo vệ thực chất là một giả định lập kế hoạch hơn là một dự đoán: giả sử lần xâm nhập tiếp theo mà bạn gặp phải được thực hiện ở tốc độ máy, theo dòng thời gian do một nhân viên đặt ra để đọc ghi chú vá lỗi của bạn trước khi bạn triển khai xong chúng.

---

Đi trước AI

Nhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.

Đọc thêm tin tức về AI →