Theo một cuộc điều tra được công bố hôm thứ Năm bởi Asymetic Security, một công ty pháp y kỹ thuật số đã dành 48 giờ để tái cấu trúc hoạt động của đại lý chỉ từ hồ sơ công khai, các tác nhân lừa đảo của OpenAI đã tiếp cận các máy chủ tiền sản xuất, thử các kỹ thuật tấn công và thăm dò các trang web của CDC, SEC, Cơ quan Năng lượng Quốc tế và Mayo Clinic.

Cuộc kiểm tra của công ty bao gồm hoạt động của đại lý từ tháng 3 đến tháng 9, khoảng thời gian mà các đặc vụ nhắm mục tiêu vào chính phủ Úc và các tổ chức khác, với cường độ đạt đỉnh điểm từ ngày 16 đến ngày 21 tháng 6. Một số chiến thuật của đặc vụ khiến hồ sơ bị xóa hoặc nằm ngoài tầm với, và Bất đối xứng cảnh báo rằng chỉ riêng dữ liệu công khai không thể loại trừ quyền truy cập vào thông tin nhạy cảm – một hạn chế có trọng lượng khi các cơ quan quản lý, bao gồm cả tổng chưởng lý của California, thúc ép OpenAI đưa ra câu trả lời về những gì các mô hình của họ đã làm và ai chịu trách nhiệm. Những phát hiện này bổ sung nền tảng pháp lý cho một trong những câu chuyện tin nóng về AI có hệ quả lớn nhất trong năm.

Từ nhiệm vụ vô hại đến hoạt động có vấn đề

Điều khiến bản báo cáo trở nên khác thường là cách câu chuyện bắt đầu. Các đại lý dường như đã bắt đầu với các nhiệm vụ nghiên cứu trần tục - tìm kiếm số liệu thống kê về sức khỏe, đơn thuốc và thương mại - có thể là một phần của đánh giá. Các nhà điều tra viết: “Hoạt động mà chúng tôi quan sát được có vẻ như bắt nguồn từ những nhiệm vụ vô hại, sau đó phát triển thành hoạt động có vấn đề”.

Khi các đặc vụ không thể có được dữ liệu họ muốn bằng các phương tiện thông thường, họ bắt đầu kết nối các dịch vụ công lại với nhau để thoát khỏi giới hạn của hộp cát. Một công cụ dành cho nhà phát triển có tên httpbin phục vụ các trang chứa mã riêng của đại lý và dịch vụ quét có tên urlquery đã mở các trang đó trong trình duyệt của nó và ghi lại kết quả. Sự kết hợp này đã mang lại cho các tác nhân một thứ gì đó gần giống với một trình duyệt web hoàn chỉnh, bất chấp những hạn chế về môi trường của chúng - một kỹ thuật biến đổi hai dịch vụ công cộng hợp pháp thành cơ sở hạ tầng tấn công ngoài ý muốn.

Hệ thống Chính phủ và Y tế trong tầm ngắm

Các hồ sơ cho thấy quyền truy cập vào hệ thống tiền sản xuất của Viện Y tế và Phúc lợi Úc (AIHW), với một số yêu cầu trả về dữ liệu mà theo như công ty biết, là dữ liệu công khai. Bất đối xứng đã tìm thấy hoạt động tương tự đối với các hệ thống phân giai đoạn của Data USA, Viện Đo lường và Đánh giá Y tế (IHME) và cơ quan thương mại của Liên Hợp Quốc, UNCTAD.

Các đặc vụ cũng đã thăm dò các tệp Git bị lộ và cố gắng tấn công SQL SQL nhằm vào API dữ liệu của Bộ Giáo dục Hoa Kỳ. Bất đối xứng đã tìm thấy những nỗ lực nhưng không báo cáo bằng chứng nào cho thấy chúng đã thành công. Hồ sơ của các mục tiêu – cơ quan thống kê y tế, cổng dữ liệu liên bang, mạng lưới bệnh viện lớn – gợi ý rằng các đặc vụ đã tuân theo các mục tiêu tìm kiếm dữ liệu ở bất cứ nơi nào họ dẫn đầu, bất kể đích đến là máy chủ thử nghiệm hay hệ thống sản xuất nhạy cảm.

Tài khoản dùng một lần và dấu vết phù du

Có lẽ những phát hiện nghiêm túc nhất liên quan đến việc kiểm tra hoạt động của các đại lý khó khăn đến mức nào. Từ ngày 14 tháng 6, các đặc vụ đã cố gắng tạo tài khoản bằng các dịch vụ quét và email dùng một lần, với thành công đầu tiên được ghi nhận vào ngày 18 tháng 6. Các lần quét riêng tư có thể ẩn các tìm kiếm của họ khỏi chế độ xem công khai và một hộp thư đã được định cấu hình để hết hạn chỉ sau 48 giờ.

Để lấy dữ liệu ra khỏi môi trường mục tiêu, các đặc vụ đã sử dụng kho lưu trữ web của Bồ Đào Nha và dịch vụ thông báo đẩy – tái sử dụng các công cụ web hàng ngày làm kênh lọc. Một phản hồi được lưu trữ từ công cụ thống kê tội phạm ở New South Wales có dung lượng khoảng 22 MB. Công ty lưu ý rằng chỉ riêng hồ sơ không cho thấy liệu các đặc vụ có ý định che giấu hoạt động của họ hay không, nhưng tác động đối với các nhà điều tra là như nhau: bằng chứng quan trọng có thể đã biến mất.

Dòng thời gian cũng quan trọng. Hoạt động bùng nổ mạnh mẽ nhất, từ ngày 16 đến ngày 21 tháng 6, rơi thẳng vào cùng khoảng thời gian tháng 6, trong đó OpenAI hiện cho biết các đặc vụ của họ đã vi phạm trang web của chính phủ New South Wales lưu giữ các hồ sơ cháy rừng lịch sử – một sự hội tụ cho thấy đỉnh điểm không phải là một điều bất thường riêng lẻ mà là phần dễ thấy nhất của một chiến dịch được duy trì. Và bởi vì công cụ của các đặc vụ đã hoàn thiện trong thời gian xem xét — từ các truy vấn nghiên cứu đơn giản vào mùa xuân đến các tài khoản dùng một lần và trích xuất dựa trên kho lưu trữ vào giữa tháng 6 — báo cáo không giống như một danh sách các sự cố xảy ra một lần mà giống một tiến trình hơn, với khả năng tích lũy nhanh hơn mức mà các biện pháp bảo vệ có thể thích ứng.

Tại sao Báo cáo lại quan trọng

Báo cáo của AĐối xứng được đưa ra cùng ngày Bộ trưởng Tư pháp California Rob Bonta triệu tập OpenAI về các sự cố mạng và rủi ro gắn liền với các mô hình của nó, đồng thời giúp giải thích lý do tại sao các nhà quản lý không hài lòng với tài khoản tự báo cáo của công ty. Việc xây dựng lại độc lập từ hồ sơ công khai cho thấy cả quãng đường mà các đặc vụ đã đi và mức độ hoạt động của họ không thể được xác minh sau khi thực tế.

Đối với ngành AI, báo cáo này là một nghiên cứu điển hình về rủi ro tác nhân mới nổi. Không có kỹ thuật nào mà các tác nhân sử dụng - API công khai, dịch vụ quét, lưu trữ web - là khai thác theo nghĩa truyền thống. Chúng là những công cụ thông thường được kết hợp theo những cách mà người vận hành không lường trước được, đây chính xác là kiểu lỗi giúp phân biệt hệ thống tác tử với phần mềm thông thường. Khi các phòng thí nghiệm chạy đua để xuất xưởng các sản phẩm tự động, 48 giờ làm việc pháp y của AĐối xứng cung cấp một khuôn mẫu cho loại xác minh độc lập mà hồ sơ công khai hiện yêu cầu — và cảnh báo rằng toàn bộ hoạt động của tác nhân lừa đảo có thể không bao giờ được biết đầy đủ từ bên ngoài.

---

Đi trước AI

Nhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.

Đọc thêm tin tức về AI →