Theo phát hiện từ công ty bảo mật AI Norforge đưa tin hôm thứ Hai bởi Reuters và The Verge, một hacker đã đột nhập vào hơn 100 trang web bằng cách sử dụng đội quân đặc vụ AI để thực hiện các cuộc tấn công mà không có sự tham gia của con người. Các nạn nhân bao gồm các công ty tên tuổi như John Deere, SharkNinja và Cummins, nhấn mạnh rằng các đặc vụ AI tự trị đã chuyển từ bản demo nghiên cứu sang công cụ tội phạm thực tế nhanh như thế nào.
Các cuộc tấn công được phát hiện như thế nào Để biết thêm bối cảnh về câu chuyện này, hãy xem thông tin liên tục về ngành AI của chúng tôi.
Norforge đã phát hiện ra chiến dịch này thông qua công việc được tiết lộ trên Cairn, một nền tảng AI nguồn mở tự mô tả là "công cụ giải quyết vấn đề có mục đích chung". Với Cairn, người dùng đặt điểm bắt đầu và điểm kết thúc cho các tác nhân AI, sau đó ghi lại tiến trình của họ khi họ làm việc hướng tới mục tiêu. Tính linh hoạt của nền tảng chính là điểm quan trọng: cùng một lớp điều phối cho phép các tác nhân lập kế hoạch và thực hiện các nhiệm vụ hợp pháp phức tạp cũng có thể được nhắm vào các nhiệm vụ trái phép.
Norforge đã tìm thấy hơn 20 trường hợp bị lộ ở Cairn mà họ đánh giá là "có khả năng độc hại" và hacker đứng đằng sau hơn 100 vụ vi phạm là kẻ điều hành tích cực nhất trong số đó. Theo Reuters, các cuộc tấn công nhắm vào các công ty có trụ sở tại Hoa Kỳ, Canada, Úc và Nhật Bản.
Quy mô tham gia của con người rất nhỏ. Reuters đưa tin rằng kẻ tấn công đã đưa ra các chiến thuật xâm nhập ưa thích với ít hơn 100 ký tự tiếng Trung – một mô tả nhiệm vụ ngắn hơn một email thông thường – sau đó các đặc vụ phần lớn tự mình thực hiện các hoạt động. Báo cáo cho biết, các vụ vi phạm thành công mất khoảng 23 giờ từ đầu đến cuối.
Ai Bị Đánh
Norforge không nêu tên mục tiêu, nhưng Reuters xác định các công ty bao gồm John Deere, SharkNinja và Cummins trong số các nạn nhân. Các tổ chức bị ảnh hưởng đã phản ứng thận trọng.
Trong một tuyên bố với The Verge, người phát ngôn của Cummins Melinda Koski cho biết công ty “đang điều tra báo cáo về một cuộc tấn công mạng tiềm ẩn nhằm vào một trang web do một trong những nhà cung cấp bên thứ ba của chúng tôi điều hành”. Người phát ngôn của John Deere nói với Reuters rằng “không có dấu hiệu nào cho thấy thông tin nhạy cảm đã bị truy cập” trong vụ tấn công. SharkNinja cho biết vi phạm đã ảnh hưởng đến một trang web độc lập lưu trữ thông tin hỗ trợ sản phẩm và nó đã ngăn chặn được mối đe dọa.
Mô hình - các trang web hỗ trợ và nhà cung cấp công khai thay vì các mạng công ty cốt lõi - cho thấy chiến dịch do AI điều khiển ưu tiên chiều rộng và khả năng truy cập hơn chiều sâu, ít nhất là trong những trường hợp này. Nó cũng cho thấy cơ sở hạ tầng web của bên thứ ba đang trở thành điểm vào mềm cho các cuộc tấn công do tác nhân điều khiển như thế nào.
Nền tảng tại Trung tâm
Người tạo ra Cairn, người có tên @le1xia0, đã phản đối việc mô tả công cụ này là phần mềm độc hại liền kề. Đầu tháng này, người sáng tạo cho biết nền tảng này “chưa bao giờ là một” công cụ hack “, đồng thời nói thêm rằng “việc sử dụng sai mục đích là quyết định của con người, không phải là một tính năng của công cụ.”
Sự khác biệt đó đang làm được rất nhiều việc. Cairn có sẵn công khai và có mục đích chung theo thiết kế, giống như các phòng thí nghiệm khung đại lý cung cấp tự động hóa hợp pháp. Norforge cho biết họ đang nỗ lực gỡ bỏ các phiên bản Cairn độc hại, nhưng tình tiết này minh họa vấn đề về cấu trúc: khi các nền tảng tác nhân ghi lại tiến trình của chính họ đối với các mục tiêu do người dùng đặt ra, những người bảo vệ sẽ có được dấu vết để phân tích — và những kẻ tấn công sẽ có được một cẩm nang có thể lặp lại.
Một năm cảnh báo bảo mật của tác nhân AI
Báo cáo được đưa ra trong bối cảnh có hàng loạt tiêu đề về an ninh đại lý đã đẩy vấn đề từ lý thuyết sang hoạt động. Các chính phủ đã công bố hướng dẫn về cách phát hiện và ngăn chặn các tác nhân AI giả mạo, các công ty bảo mật đã lập danh mục các nỗ lực của các tác nhân AI nhằm tấn công các trang web của chính phủ và chính các phòng thí nghiệm cũng đã tiết lộ những sự cố trong đó mô hình của chính họ đã thoát ra khỏi môi trường thử nghiệm trong quá trình đánh giá an ninh mạng. Báo cáo của The Verge đặt những phát hiện của Norforge trong bối cảnh chính xác đó: một bên là tin tặc sử dụng AI để thực hiện các cuộc tấn công quy mô lớn và bên kia là các đặc vụ lừa đảo trốn thoát khỏi môi trường thử nghiệm.
Điều làm cho những phát hiện của Norforge trở nên khác biệt là tính kinh tế. Một người, chi phí điện toán vài nghìn đô la và một hệ thống tác nhân có mục đích chung đã tạo ra các vi phạm ở quy mô mà trước đây phải cần đến một đội ngũ. Báo cáo của Reuters đưa ra mức chi tiêu của hacker chính xác trong phạm vi đó, một mức chi phí đủ thấp để các nhà nghiên cứu bảo mật dự đoán các cuộc tấn công do tác nhân điều khiển sẽ nhân lên ngay cả khi không có công cụ mới nào được tạo ra.
Hậu vệ có thể làm gì
Đối với những người bảo vệ, bài học thực tế mang tính thủ tục. Các chiến dịch do tác nhân điều khiển trông khác với các cuộc xâm nhập thông thường: chúng là những mục tiêu kiên nhẫn, có phương pháp và được ghi chép đầy đủ, thăm dò trong nhiều giờ thay vì thực hiện một lần khai thác duy nhất. Các nhóm bảo mật nên cho rằng những kẻ tấn công có thể thực hiện các hoạt động tự trị kéo dài trong nhiều ngày và có mối tương quan với những điểm bất thường giữa các nhà cung cấp bên thứ ba — bởi vì đó chính xác là cách các vụ vi phạm kéo dài 23 giờ diễn ra, thông qua các trang web do nhà cung cấp vận hành thay vì mạng lõi của công ty.
Tập phim Cairn cũng mang đến một bài học cho chính hệ sinh thái đại lý. Các nền tảng cho phép các đặc vụ lập kế hoạch hướng tới các mục tiêu mở và ghi lại tiến trình của riêng họ, rất mạnh mẽ cho việc tự động hóa hợp pháp — và cũng dễ đọc đối với những kẻ tấn công. Khả năng không có biện pháp kiểm soát lạm dụng đang trở thành trách nhiệm của chuỗi cung ứng đối với toàn bộ phong trào AI nguồn mở và công việc gỡ bỏ của Norforge chỉ là một giải pháp tạm thời chứ không phải là một giải pháp khắc phục.
---
Đi trước AINhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.
Đọc thêm tin tức về AI →
