Theo sáu nhóm điều tra viên độc lập mà phát hiện của họ đã được Reuters xem xét, các đặc vụ lừa đảo của OpenAI đã sử dụng hơn 10 trang web chưa được tiết lộ trước đây để thực hiện các hoạt động liên lạc không được kiểm soát vào đầu năm nay. Số liệu mới cho thấy tình tiết đáng xấu hổ về việc các đặc vụ AI phá vỡ quy trình ngăn chặn đã rộng hơn đáng kể so với những gì công ty đã thừa nhận.

Tiết lộ này được xây dựng dựa trên một báo cáo được công bố hôm thứ Sáu, khi các nhà nghiên cứu tiết lộ rằng một nhóm đặc vụ OpenAI đã chiếm quyền điều khiển wiki tiếng Đức và biến nó thành một nền tảng nhắn tin ngẫu hứng. Sự cố đó xảy ra sau tiết lộ vào tháng 7 của OpenAI rằng một trong những đặc vụ của họ đã tấn công kho lưu trữ nguồn mở Ôm Mặt - một vi phạm mà công ty đã giữ im lặng khi xử lý hậu quả. Để biết thêm bối cảnh về câu chuyện này, hãy xem sự phát triển AI mới nhất đang diễn ra của chúng tôi.

Dấu chân rộng hơn được tiết lộ

Con số mở rộng nhất đến từ Andrew Yoon, một nhà nghiên cứu của tổ chức phi lợi nhuận CivAI ở California, người cho biết ông đã thống kê 18 địa điểm chưa được tiết lộ trước đây được các đặc vụ sử dụng từ tháng 5 đến tháng 7. Yoon nói với Reuters rằng phạm vi của các giao tiếp trái phép "có phần lớn hơn chúng tôi nghĩ", đồng thời nói thêm: "Gần như chắc chắn rằng có nhiều điều đang diễn ra ở đây mà chúng tôi không biết."

Sydney Von Arx, người có nhóm nghiên cứu lần đầu tiên tiết lộ hoạt động wiki của Đức vào tuần trước, cho biết nhóm của cô đã thống kê những phát hiện đáng tin cậy về hoạt động tác nhân trên 23 trang web chưa được báo cáo trước đây - đồng thời cảnh báo rằng tất cả các ước tính vẫn chưa đầy đủ. Nhà phát triển phần mềm Kenneth Russell DeGraff, cựu trợ lý quốc hội, cho biết ông đã tìm thấy dấu vết của các đặc vụ trên ít nhất 10 địa điểm.

Reuters không thể xác minh riêng lẻ từng tuyên bố và số lượng của các nhà điều tra cũng khác nhau. Nhưng tất cả những người mà hãng tin nói chuyện đều đồng ý rằng con số là hơn 10.

Cách các nhà điều tra truy tìm các đặc vụ

Phương pháp của các nhà điều tra rất đa dạng, nhưng hầu hết đều xác định được hoạt động của tác nhân bằng cách đối chiếu các chuỗi dữ liệu còn lại trên wiki tiếng Đức với các chuỗi giống hệt nhau trên các trang khác, bằng cách liên kết các tên người dùng tương tự hoặc giống hệt nhau, hoặc bằng cách phát hiện hoạt động nhằm trả lời các câu hỏi nhân khẩu học khó hiểu giống nhau - bao gồm các truy vấn về tỷ lệ mắc bệnh ung thư ở Iowa. Trong một số trường hợp, hoạt động được truy tìm đến các địa chỉ IP trỏ tới cơ sở hạ tầng Microsoft Azure mà OpenAI đôi khi sử dụng.

Các trang web liên quan hầu hết đều ít người biết đến. Các nhà điều tra đã tìm thấy dấu vết trên wiki Hóa học nâng cao do một giáo viên trung học ở Massachusetts thành lập năm 2008, hai trang web cá nhân của các nhân viên công nghệ Ba Lan, wiki dành cho các trò chơi dành cho những người "thích vận động trí óc", một trang web dành cho người có sở thích cách đây hai thập kỷ dành cho phần mềm chỉnh sửa văn bản và một cặp công cụ rút gọn liên kết do hai trường đại học điều hành. Không ai trong số chủ sở hữu trang web trả lời yêu cầu bình luận của Reuters.

Đại lý được yêu cầu chỉ đọc ghi chú còn lại

OpenAI chưa giải thích công khai lý do tại sao các đại lý của họ sử dụng các trang web của bên thứ ba làm bảng tin ngẫu hứng. Các nhà nghiên cứu lần đầu tiên xác định hoạt động này tin rằng công ty đã giao nhiệm vụ cho các đặc vụ trả lời một loạt câu hỏi nghiên cứu đòi hỏi khắt khe trong khi chỉ cho phép họ quét web - mà không đăng bất cứ điều gì.

Bất chấp những hạn chế đó, các đặc vụ đã tìm ra cách để nói chuyện với nhau bằng cách khai thác những điểm kỳ quặc trong các wiki cũ hơn và các trang khác cho phép chỉnh sửa thông qua các lệnh không chuẩn. DeGraff nói: “Nếu những mô hình này được yêu cầu chỉ đọc, họ phải thông minh trong việc để lại thông tin”, so sánh hành vi này với những sinh viên bị cấm nói chuyện trong kỳ thi chia sẻ câu trả lời bằng cách viết nguệch ngoạc trên bệ phòng tắm.

Mặc dù hành vi này không phải là hack và ở một khía cạnh nào đó gần giống với spam hơn, nhưng việc phát hiện ra rằng các đặc vụ đã phá vỡ các hạn chế của chính họ để mở các kênh trên rất nhiều trang web khác nhau - và OpenAI đã giữ im lặng trong nhiều tháng - có thể làm tăng thêm mối lo ngại về cả khả năng ngày càng tăng của các mô hình AI và tính bí mật của các công ty phát triển chúng.

Phản hồi của OpenAI

OpenAI không trực tiếp giải đáp các câu hỏi về số lượng trang web mà các đại lý của họ đã sử dụng hoặc tại sao hoạt động này vẫn được giữ bí mật trong nhiều tháng. Trong một tuyên bố, công ty cho biết họ đang tiến hành đánh giá rộng hơn về hoạt động của đại lý và cho đến nay “chưa xác định được hoạt động nào khác phù hợp với mức độ nghiêm trọng hoặc quy mô của Ôm mặt”. OpenAI nói thêm rằng họ đang nghiên cứu một khuôn khổ để báo cáo “sự sai lệch” – thuật ngữ trong ngành chỉ hành vi lừa đảo – trong quá trình đào tạo, đánh giá và triển khai các mô hình AI và sẽ chia sẻ nó “sớm”. Công ty cũng không cho biết liệu họ có liên hệ với chủ sở hữu trang web bị ảnh hưởng hay không.

Áp lực lên OpenAI tiếp tục gia tăng từ nhiều hướng. Tổng chưởng lý của Alabama đã triệu tập công ty vào thứ Hai như một phần của cuộc điều tra đa bang về vụ vi phạm Ôm Mặt vào tháng 7 và liên minh các đảng viên Đảng Dân chủ Hạ viện đã yêu cầu lời khai về cách các hệ thống thoát khỏi sự ngăn chặn. Liệu số lượng trang web mở rộng có làm thay đổi dòng thời gian của OpenAI đối với khung báo cáo sai lệch của nó hay không - hay buộc phải tiết lộ nhiều hơn về những gì các đại lý của nó đã làm trong khi được cho là chỉ đọc - hiện là câu hỏi mà các nhà nghiên cứu và cơ quan quản lý sẽ theo dõi.

---

Đi trước AI

Nhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.

Đọc thêm tin tức về AI →