Một hoạt động tấn công quy mô lớn nhằm vào hệ thống ống nước của ngành AI đã ghi lại những gì xảy ra với lời nhắc mà người dùng gửi hàng ngày — và câu trả lời là: chúng bị rò rỉ. Nhà nghiên cứu bảo mật HD Moore, giám đốc nghiên cứu của công ty bảo mật công nghiệp Dragos, đã gửi gần hai triệu lời nhắc AI chứa những bí mật độc đáo, có thể theo dõi cho các nhà cung cấp AI và sau đó xem những bí mật đó xuất hiện ở đâu. Moore viết trong một báo cáo được công bố hôm thứ Năm: “Những gì chúng tôi phát hiện đã tiết lộ những vi phạm an ninh, hành vi trộm cắp nhanh chóng và những thất bại phổ biến trong việc bảo vệ dữ liệu khách hàng”.
Các phát hiện này được Ars Technica báo cáo chi tiết, xuất hiện dưới dạng bộ định tuyến AI – các dịch vụ môi giới như OpenRouter và Vercel chấp nhận lời nhắc từ người dùng cuối và định tuyến chúng đến bất kỳ nhà cung cấp suy luận nào rẻ nhất hoặc phù hợp nhất – đã trở thành cơ sở hạ tầng cốt lõi cho hàng nghìn ứng dụng. Họ cũng gây ra phản ứng nhanh chóng trong ngành: OpenRouter đã công bố thông báo sự cố của riêng mình vào ngày 22 tháng 11, cho biết họ đã loại bỏ ba nhà cung cấp, loại bỏ 125 điểm cuối khỏi tư cách đủ điều kiện Không lưu giữ dữ liệu và thông báo cho những khách hàng có khả năng bị ảnh hưởng.
Bẫy chim hoàng yến hoạt động như thế nào
Moore đã tập hợp một bộ sưu tập các khóa truy cập AWS đang hoạt động được liên kết với các tài khoản trống, mật khẩu SSH đang hoạt động cũng như các URL, tên DNS và tham chiếu kho lưu trữ git riêng tư. Không có bí mật nào từng được sử dụng trước đây và Moore kiểm soát cơ sở hạ tầng ở đầu nhận. Mỗi bí mật được đưa vào chính xác một lời nhắc gửi đến một nhà cung cấp duy nhất — vì vậy, nếu bí mật sau đó xuất hiện ở bất kỳ đâu, thì hành trình của nó có thể được truy ngược về liên kết chính xác trong chuỗi chịu trách nhiệm.
Thiết kế quan trọng vì cách hệ sinh thái AI thực sự di chuyển dữ liệu. Lời nhắc được mã hóa trong quá trình truyền nhưng chúng được giải mã ở mỗi bước nhảy. Bộ định tuyến AI đọc bản rõ để chọn nhà cung cấp suy luận phù hợp; Sau đó, lời nhắc thường được chuyển tiếp đến một nhóm mô hình, đôi khi chạy bên trong các công ty cung cấp dịch vụ lưu trữ khác nhau. Lời nhắc thậm chí có thể chuyển từ bộ định tuyến này sang bộ định tuyến khác - chẳng hạn như Vercel sang OpenRouter - với mỗi bên trung gian có quyền tự do ghi nhật ký và lưu trữ nội dung theo chính sách riêng của mình.
Ba nhà cung cấp bị vi phạm, khóa được sử dụng trong vòng vài giờ
Phát hiện đáng báo động nhất liên quan đến ba nhà cung cấp dịch vụ lưu trữ riêng biệt đã bị xâm phạm trong quá trình thử nghiệm. Theo Moore, những kẻ tấn công xâm phạm được một nhà cung cấp đã sử dụng lại “vài trăm” khóa AWS đã được cài đặt. Mỗi khóa đã được gửi chính xác một yêu cầu tới một nhà cung cấp, trong một vài khoảng thời gian ngắn vào cuối tháng 10 - và "mọi yêu cầu chúng tôi gửi trong những khoảng thời gian đó đều bị đánh cắp". Điều quan trọng là một số khóa bị đánh cắp xuất phát từ các yêu cầu mà nhà cung cấp đã từ chối trước khi một mô hình chạy, cho thấy kẻ tấn công đang sao chép lưu lượng truy cập tại cửa trước của nhà cung cấp thay vì sâu hơn trong ngăn suy luận.
Trong hai vụ vi phạm còn lại, một số yêu cầu bị đánh cắp được gắn cờ là Không lưu giữ dữ liệu. Moore viết: “Cờ bảo mật không giúp ích gì khi kẻ tấn công đã ở bên trong. Trong một số trường hợp, các bên đứng sau các vụ xâm nhập đã kiểm tra khóa mồi trong vòng vài giờ, lục lọi bộ chứa S3, trình quản lý bí mật và kho tham số để có thêm thông tin xác thực, cố gắng kích hoạt các mô hình được lưu trữ trong AWS Bedrock và thêm người dùng IAM của riêng họ để duy trì quyền truy cập. Nói chung, các khóa bị đánh cắp đã được sử dụng "hàng chục nghìn" lần trong các lệnh gọi API AWS. Các bí mật bị đánh cắp từ hai trong số các nhà cung cấp bị tấn công đã được sử dụng cùng nhau, gần như ngay lập tức, từ cùng một máy chủ được thuê - bằng chứng mạnh mẽ cho thấy một đối thủ đã xâm phạm cả hai.
Người bán lại ăn cắp và phòng thí nghiệm bị trầy xước
Không phải mọi người rò rỉ đều là hacker. Moore ghi lại những người bán lại thu hút lời nhắc bằng giá thấp, bật ghi nhật ký yêu cầu và chỉ chờ đợi. Anh ta xác định chúng bằng cách gửi các yêu cầu giống hệt nhau đến cùng một mô hình thông qua những người bán khác nhau: khi thông tin xác thực được sử dụng lại từ một người bán này chứ không phải từ người bán khác thì thủ phạm đã rõ ràng.
Moore viết, trường hợp thu thập dữ liệu rõ ràng nhất liên quan đến một phòng thí nghiệm AI của Trung Quốc có hệ thống tìm nạp các URL bí mật từ hơn một nửa số lời nhắc được gửi đến các mô hình của nó trong khoảng thời gian từ tháng 7 đến tháng 10 – bao gồm khoảng 2/3 yêu cầu được đánh dấu rõ ràng là "không thu thập dữ liệu" hoặc Không lưu giữ dữ liệu. Máy cạp thường xuất hiện hai hoặc ba ngày sau mỗi yêu cầu. Nó không chỉ giới hạn ở khách hàng trực tiếp: một số nhà cung cấp dịch vụ lưu trữ ở Hoa Kỳ bán lại các mô hình của phòng thí nghiệm và các lời nhắc được gửi qua các trung gian ở Mỹ đó đã kích hoạt cùng một máy quét. Nói cách khác, một khách hàng đã chọn một nhà cung cấp đặc biệt của Hoa Kỳ để lưu giữ dữ liệu ở tiểu bang, đã không nhận được những gì họ đã trả tiền. Riêng biệt, một ứng dụng khách git trên một đám mây khác bắt đầu cố gắng sao chép các kho lưu trữ riêng tư được tham chiếu trong lời nhắc — nhưng chỉ dành cho những lời nhắc sử dụng mô hình của lab đó.
OpenRouter phản hồi
Thí nghiệm nhanh chóng tạo ra những hậu quả trong thế giới thực. Ars Technica đã báo cáo trong một bản cập nhật rằng OpenRouter đã gửi email cho khách hàng vào ngày 21 tháng 11 để cảnh báo rằng một số lời nhắc của họ có thể đã được đọc, trích dẫn nghiên cứu: khả năng hiển thị tiềm ẩn liên quan đến các lời nhắc được gửi đến MiniMax, một nhà cung cấp mô hình có trụ sở tại Trung Quốc, dù trực tiếp hay thông qua ba đại lý - AtlasCloud, Novita và StreamLake. OpenRouter đã xóa nhãn "Không lưu giữ dữ liệu" khỏi các điểm cuối của mô hình MiniMax.
Trong bài đăng trên blog chính thức của mình vào ngày 22 tháng 11, OpenRouter xác nhận họ đã loại ba nhà cung cấp, xóa 125 điểm cuối khỏi tính đủ điều kiện của ZDR và thông báo cho người dùng bị ảnh hưởng xem các nhà cung cấp có đăng công khai hay không. Công ty cho biết những phát hiện này "không cho thấy bất kỳ vi phạm hoặc truy cập trái phép nào vào OpenRouter", cảm ơn nhóm Dragos và cho biết các nhà cung cấp muốn ở lại nền tảng "sẽ cần phải đáp ứng" một thanh bảo mật ngày càng tăng khi OpenRouter tích hợp các kỹ thuật thử nghiệm tương tự.
Moore cũng tìm thấy những rò rỉ dài: một nhà cung cấp dịch vụ lưu trữ của Hoa Kỳ đã thu thập dữ liệu một URL bí mật hơn hai tháng sau một lệnh gọi suy luận duy nhất đến điểm cuối tìm kiếm của họ và một nhà cung cấp dịch vụ lưu trữ khác đã chạy một công cụ quét trả về các URL đã được trồng vài ngày sau mỗi yêu cầu, bất kể bộ định tuyến nào gửi lời nhắc.
Người dùng có thể làm gì
Moore cho biết, cách bảo vệ hiệu quả nhất là lưu trữ các mô hình tại chỗ - một lựa chọn đắt tiền mà ít tổ chức có thể biện minh được. Biện pháp tốt nhất tiếp theo là mua trực tiếp từ nhà cung cấp cấp một, với "một hợp đồng và chính sách quyền riêng tư để đọc" và tránh nhóm nhà cung cấp hoặc đại lý mặc định bằng cách tự mình chọn nhà cung cấp ngược dòng. Ông cảnh báo ngay cả khi đó, không có gì đảm bảo dữ liệu sẽ không bị rò rỉ.
Thử nghiệm này là bản cáo trạng rõ ràng nhất về các biện pháp bảo mật trên thị trường suy luận đang phát triển nhanh chóng: chuỗi giữa ứng dụng và mô hình hiện có thể bao gồm các bộ định tuyến, đại lý và lớp lưu trữ trên nhiều châu lục, mỗi châu lục có chính sách ghi nhật ký riêng và các nhãn nhằm trấn an khách hàng — như Zero Data Retention — có thể bị phá vỡ hoặc bị xóa mà không cần thông báo. Đối với một ngành yêu cầu các doanh nghiệp dán tài liệu, mã và thông tin đăng nhập của họ vào lời nhắc, thông điệp của hai triệu con chim hoàng yến thật khó chịu: cho đến khi hệ thống ống nước thay đổi, hãy giả định rằng mọi bước nhảy đều có thể đọc được từng từ.
Đi trước AI
Bảo mật và quyền riêng tư hiện là mối quan tâm cốt lõi của bất kỳ ai xây dựng trên AI. Để biết tin tức nóng hổi về AI và đưa tin độc lập về những câu chuyện lớn nhất trong ngành, truy cập AI Buzz Wire.
Đọc thêm tin tức về AI →