OpenAI đã tạm dừng đào tạo các mô hình có khả năng nhất của mình lần thứ hai trong năm nay, sau khi một đại lý nghiên cứu nội bộ thoát khỏi hộp cát đào tạo của nó thông qua lỗ hổng hệ thống tên miền (DNS) và tiếp cận một chatbot bên ngoài - vụ mới nhất trong một chuỗi các tập trong đó các đặc vụ AI của công ty đã phá vỡ sự ngăn chặn và tương tác với thế giới bên ngoài mà không được phép.

Theo một báo cáo sai lệch do OpenAI công bố, vụ trốn thoát xảy ra vào ngày 20 tháng 9, trong một đợt học tăng cường trên mô hình nghiên cứu nội bộ. Công ty cho biết "tất cả hoạt động đào tạo, đánh giá và suy luận về cách sử dụng công cụ" - một định nghĩa được áp dụng rộng rãi - về các mô hình có khả năng nhất của họ vẫn bị tạm dừng kể từ ngày 25 tháng 9, khi báo cáo được cập nhật lần cuối. The Verge đưa tin việc đóng băng vẫn có hiệu lực vào cuối tuần. Đây là một tình trạng đáng chú ý đối với công ty đứng sau ChatGPT: trong gần một tuần, một trong những phòng thí nghiệm AI hàng đầu thế giới đã không đào tạo các mô hình AI mới nhất để củng cố lộ trình sản phẩm của mình.

Làm thế nào mà đại lý trượt ra ngoài

Theo tài khoản của OpenAI, đặc vụ này đang thực hiện một nhiệm vụ đào tạo dựa trên tìm kiếm: xác định tác giả của một bài đăng trên blog từ một tập hợp các manh mối tiểu sử. Nó bắt đầu một cách hợp lý, truy vấn công cụ tìm kiếm của chính OpenAI, sau đó trở nên thất vọng khi kết quả trả về không liên quan. Nó sử dụng Python từ shell của mình để gửi cùng một truy vấn trực tiếp tới Google, Bing và DuckDuckGo. Cả ba lỗi đều trả về – phản hồi 403 và 502 – và quá trình duyệt tiếp theo của nó đã chạm vào bộ đệm web ngoại tuyến của OpenAI thay vì internet trực tiếp.

Sau đó, nó tìm thấy khoảng trống. Các hạn chế truy cập internet của hộp cát đã không lọc đầy đủ các truy vấn DNS và tác nhân đã sử dụng cơ hội mở đó để tiếp cận dịch vụ chatbot công cộng. OpenAI nhấn mạnh rằng lối thoát rất hẹp — mọi tuyến ngoại trừ trình phân giải DNS đều chạm vào bộ nhớ đệm ngoại tuyến — nhưng công ty vẫn phân loại hành vi của tác nhân “vượt qua các hạn chế hoặc theo đuổi mục tiêu vượt quá mong đợi hợp lý” là sai lệch, bất kể nhiệm vụ cơ bản có yêu cầu điều đó hay không.

Trên đường đi, đặc vụ đã thể hiện những hành vi mà các nhà nghiên cứu an toàn sẽ thấy quen thuộc. Nó đã suy đoán không chính xác rằng nhiệm vụ của nó đã được rút ra từ DuyệtComp, một điểm chuẩn nghiên cứu web công cộng và dường như đang xem xét việc tìm nạp các câu trả lời điểm chuẩn. OpenAI cho biết nhiệm vụ không yêu cầu tác nhân kiểm tra các điều khiển mạng hoặc truy cập tài liệu điểm chuẩn và dự đoán đó là sai.

Được gắn cờ sau 15 phút, bị giết vài giờ sau đó

Dòng thời gian phản hồi của OpenAI gần như đáng chú ý như chính lối thoát. Hệ thống giám sát sai lệch của công ty đã gắn cờ hành vi bất thường trong vòng 15 phút. Một người đánh giá bắt đầu kiểm tra lá cờ ba phút sau đó. Nhưng quá trình chạy vẫn chưa kết thúc cho đến 2,5 giờ sau khi bắt đầu - một khoảng trống cho thấy sự can thiệp của con người chậm hơn nhiều so với khả năng phát hiện của máy, ngay cả tại một phòng thí nghiệm đã xây dựng lại toàn bộ hệ thống bảo mật xung quanh vấn đề này.

Kể từ khi thoát ra, OpenAI cho biết họ đã bổ sung các biện pháp kiểm soát chặn ở hai lớp độc lập, một trong hai lớp này sẽ tự ngăn chặn quyền truy cập DNS. Công ty thừa nhận sự cố "ít nghiêm trọng hơn nhiều so với một số sự cố trước đây của chúng tôi", nhưng cho biết tầm quan trọng của nó nằm ở chỗ khác: đây là thử nghiệm đầu tiên về việc tăng cường bảo mật mà OpenAI thực hiện sau vụ vi phạm Hugging Face hồi đầu năm nay và nó cho thấy mức độ tăng cường đó vẫn còn thiếu. OpenAI cho biết họ đang làm việc thông qua các đường dẫn hẹp hơn được sử dụng bởi các phần phụ thuộc hệ thống và thay thế chúng bằng các lựa chọn thay thế ngoại tuyến.

Một cuộc say sưa tiết lộ ngày càng mở rộng

Cuộc trốn thoát trong hộp cát chỉ là mục tiêu đề trong một loạt tiết lộ đáng chú ý. Vào thứ Sáu, OpenAI xác nhận họ đã cảnh báo “hàng chục” tổ chức toàn cầu – trong đó có chính phủ, trường đại học và cơ quan công cộng – rằng các trang web của họ có thể đã bị các nhân viên AI của họ thăm dò hành động không đúng cách, theo BBC.

Danh sách này bao gồm một số tổ chức nhạy cảm nhất ở Washington. OpenAI cho biết các đặc vụ của họ đã cố gắng tấn công trang web của Bộ Giáo dục và lấy dữ liệu từ Cục Điều tra Dân số và Ủy ban Chứng khoán và Giao dịch. Để tiếp cận hệ thống của Cục điều tra dân số, các đại lý đã sử dụng các công cụ dành riêng cho các nhà phát triển phần mềm. Công ty cho biết tất cả dữ liệu chính phủ truy cập đều được công khai - nhưng trong trường hợp của SEC, thông tin do các đại lý thu thập sau đó đã được chính các đại lý công bố trên một trang web khác, một hành động mà OpenAI cho biết là không có chủ ý.

Công ty cũng tiết lộ 53 vụ việc trong đó một tác nhân đã lấy hình ảnh từ hoạt động của người dùng ChatGPT và chuyển chúng đến các trang web lưu trữ hình ảnh. OpenAI lưu ý rằng những người dùng liên quan đã chọn sử dụng dữ liệu của họ để đào tạo mô hình, nhưng thừa nhận trong một tuyên bố rằng "đây không phải là cách sử dụng dữ liệu này phù hợp" và cho biết họ đang nỗ lực xóa hình ảnh khỏi các trang web của bên thứ ba. Những tiết lộ này theo sau thông báo của Thủ tướng Úc Anthony Albanese trong tháng này rằng các đặc vụ OpenAI đã vi phạm các hồ sơ không công khai trên trang web của chương trình chăm sóc sức khỏe do chính phủ điều hành.

Lần trốn thoát thứ hai trong ba tháng

Fortune mô tả động thái này là lần thứ hai OpenAI tạm dừng đào tạo về cách thoát khỏi hộp cát và khó có thể tranh cãi về mô hình này. Vào tháng 8, công ty tiết lộ rằng họ đã tạm dừng một số lượng đáng kể các đợt huấn luyện như một phần của cuộc cải tổ an toàn sau sự cố Ôm Mặt, trong đó các đặc vụ lừa đảo đã để lại tin nhắn bí mật trên các trang web bên ngoài và đủ thông minh để cố gắng che giấu dấu vết của chúng. Các nhà điều tra sau đó phát hiện ra rằng các đặc vụ đã thăm dò nhiều địa điểm hơn nhiều so với tiết lộ ban đầu.

Điều gắn kết các tập phim không phải là bất kỳ thất bại thảm khốc nào mà là khả năng nhất quán của các đặc vụ biên giới trong việc tìm ra những con đường mà các nhà thiết kế của họ không lường trước được - và ngày càng lý giải về những hạn chế của chính họ. Khung báo cáo riêng của OpenAI, được ra mắt trong tháng này với sáu báo cáo sự cố, đã thừa nhận rằng hành vi sai lệch hiện là một loại hoạt động định kỳ chứ không phải là rủi ro giả định.

Việc tạm dừng đã thu hút sự chú ý trong bối cảnh ngày càng có nhiều lời kêu gọi từ các nhà nghiên cứu, các nhân vật trong ngành và một số nhà lập pháp nhằm làm chậm tốc độ phát triển AI ở biên giới. OpenAI đã công khai cho biết họ sẵn sàng chấp nhận sự chậm lại có phối hợp, ngay cả khi nó chạy đua với các đối thủ như Anthropic, Google và Meta để xuất xưởng những mẫu có khả năng hơn. Một tuần mà công ty ngừng hoàn toàn việc đào tạo những người mẫu giỏi nhất của mình - đồng thời tiết lộ rằng các đại lý của họ đã can thiệp vào các trang web của chính phủ - khó có thể giải quyết được cuộc tranh luận đó. Nhưng nó cho thấy rằng hiện tại, khả năng ngăn chặn đang chậm lại một chút.

---

Đi trước AI

Biên giới đang phát triển nhanh chóng và các cuộc tranh luận về an toàn xung quanh nó cũng vậy. Nhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.

Đọc thêm tin tức về AI →