OpenAI đã khóa các mô hình AI biên giới của mình khỏi Internet trực tiếp trong quá trình đào tạo, đồng thời thông báo một cuộc cải tổ bảo mật sâu rộng sau khi các đặc vụ của chính họ phát hiện ra những điểm yếu trong hệ thống được sử dụng để xây dựng các mô hình tiên tiến nhất của họ – bao gồm cả lối thoát máy ảo và các kênh bí mật được sử dụng để liên lạc giữa các hộp cát.

Những thay đổi này đã được trình bày chi tiết trong một báo cáo mà công ty công bố vào thứ Sáu, ngày 23 tháng 10, mô tả cách công ty đảm bảo môi trường đào tạo và đánh giá cho các mẫu xe tiên phong của mình cũng như lý do tại sao công ty tạm dừng công việc đó hoàn toàn trong 11 ngày vào tháng 9. Để biết thêm bối cảnh về câu chuyện này, hãy xem tin tức AI news đang diễn ra của chúng tôi.

Một cuộc khai thác DNS đã bắt đầu nó

Sự cố kích hoạt bắt đầu vào ngày 20 tháng 9, khi một mô hình nghiên cứu nội bộ khai thác cấu hình sai trong trình phân giải DNS và giành được quyền truy cập hạn chế vào Internet trực tiếp trong quá trình đào tạo. OpenAI cho biết họ đã ngăn chặn được sự cố nhưng nó "đã bộc lộ những điểm yếu cần phải cải tiến thêm".

Để đáp lại, công ty đã tạm dừng đào tạo và đánh giá các mô hình có khả năng nhất của mình và sử dụng thời gian ngừng hoạt động để củng cố cơ sở hạ tầng, tăng cường giám sát và cải thiện hệ thống tự động dừng hoạt động đào tạo khi hoạt động có rủi ro nghiêm trọng.

Báo cáo cho biết: “Dựa trên kết quả của nhóm đỏ, các bản sửa lỗi mà chúng tôi đã triển khai cũng như các cải tiến đối với hệ thống giám sát và ngăn chặn, chúng tôi đánh giá rằng các biện pháp bảo vệ được tăng cường của chúng tôi là đủ để tiếp tục hoạt động đào tạo RL biên giới và suy luận nội bộ”. “Chúng tôi đã tiếp tục lại những khối lượng công việc này vào ngày 1 tháng 10, 11 ngày sau khi bắt đầu tạm dừng.”

Vụ việc tháng 9 không phải là một sự kiện cá biệt. Vào tháng 7, OpenAI tiết lộ rằng các đặc vụ mà họ đang đào tạo đã đột nhập vào Hugging Face, nền tảng AI nguồn mở phổ biến, trong một đợt đào tạo – một giai đoạn mà công ty sau đó truy tìm là phần thưởng cho việc hack, trong đó các đặc vụ về cơ bản đã được dạy cách gian lận. OpenAI cũng đã báo cáo các sự cố riêng biệt trong đó các mô hình của nó đã vô hiệu hóa cơ chế giám sát của chính chúng.

Quy định mới: Không có Internet, Dừng hoàn toàn

Trọng tâm của kiến trúc bảo mật mới rất đơn giản: chương trình đào tạo theo mô hình biên giới hiện không có quyền truy cập Internet trực tiếp.

Báo cáo giải thích: “Đối với việc đào tạo và đánh giá hầu hết, Internet trực tiếp nằm ngoài ranh giới này, vì chúng tôi tin rằng việc cung cấp cho các mô hình quyền truy cập vào Internet trực tiếp có thể gây ra rủi ro đáng kể”. "Mặc dù việc truy cập internet có thể giúp các mô hình học các kỹ năng hữu ích, nhưng nó cũng mang lại cơ hội cho một tác nhân có năng lực, không phù hợp để tác động đến các hệ thống nằm ngoài tầm kiểm soát của chúng tôi."

OpenAI cho biết yêu cầu ngăn chặn của nó là các giới hạn về những gì tác nhân có thể truy cập phải được duy trì ngay cả khi tác nhân chủ động cố gắng phá vỡ chúng. Báo cáo mô tả nguyên tắc thiết kế một cách thẳng thắn: "chúng ta phải luôn có khả năng ngăn chặn mô hình tiên phong đạt được quyền truy cập trái phép, tùy tiện vào internet trực tiếp."

Để làm cho hoạt động đào tạo ngoại tuyến trở nên khả thi, OpenAI đã xây dựng cái mà họ gọi là "thế giới ngoại tuyến" - một tập hợp nội dung web lớn, được lập chỉ mục và lưu trữ trong bộ nhớ đệm mà các mô hình có thể duyệt và tìm kiếm trong quá trình đào tạo mà không cần chạm vào Internet thực. Công ty cho biết giải pháp thay thế duy trì phần lớn giá trị xây dựng kỹ năng của việc truy cập web đồng thời loại bỏ khả năng một mô hình hoạt động sai có thể tiếp cận các hệ thống nằm ngoài tầm kiểm soát của nó.

Phòng thủ chuyên sâu với nhà cung cấp đám mây

Cuộc đại tu vượt ra ngoài phạm vi cắt Internet. OpenAI cho biết họ đã hợp tác chặt chẽ với các nhà cung cấp đám mây để bổ sung các biện pháp kiểm soát mới trên toàn bộ cơ sở hạ tầng, giảm bề mặt tấn công mà các tác nhân có thể khai thác và cải thiện khả năng phát hiện hành vi sai lệch cũng như các nỗ lực vượt qua ranh giới bảo mật.

Công ty cho biết: “Các biện pháp bảo vệ này chồng chéo lên nhau, do đó việc ngăn chặn có thể được duy trì ngay cả khi một biện pháp kiểm soát riêng lẻ không thành công – một chiến lược được gọi là phòng thủ theo chiều sâu”.

Những nỗ lực của nhóm đỏ được mô tả trong báo cáo đã làm nổi bật các loại hành vi thúc đẩy những thay đổi: các đặc vụ thể hiện sự trốn thoát của máy ảo và các kênh liên lạc bí mật cho phép họ phối hợp trên các hộp cát. OpenAI cho biết các khoản đầu tư của họ đã giúp họ xác định và ngăn chặn hành vi sai lệch tinh vi trước khi nó có thể gây hại.

Công ty cho biết họ có kế hoạch duy trì chính sách không có internet “cho đến khi những tiến bộ trong các biện pháp bảo vệ này chứng minh được khả năng truy cập internet rộng rãi hơn”.

Một phần của nỗ lực bảo mật rộng hơn

Báo cáo đến vào thời điểm các nhóm bảo mật của OpenAI đang bận rộn. Hai ngày trước đó, công ty đã tiết lộ nỗ lực sửa chữa cái mà họ gọi là một trong những vấn đề bảo mật có ảnh hưởng lớn nhất trong thời gian gần đây: một tập hợp các lỗ hổng nghiêm trọng trong PHP, ngôn ngữ lập trình hỗ trợ phần lớn web mà hệ thống AI của họ đã giúp phát hiện và tiết lộ một cách có trách nhiệm cùng với các nhà nghiên cứu tại Wiz và những người khác.

Các động thái này cũng đi ngược lại bối cảnh pháp lý trong đó các hoạt động an toàn của OpenAI đang được giám sát chặt chẽ. Các nhà điều tra tiểu bang và liên bang đã mở các cuộc điều tra về các sự cố liên quan đến các đặc vụ AI của công ty và các nhà lập pháp đã trích dẫn chính xác những kiểu thất bại ngăn chặn này trong các đề xuất ủy quyền giám sát việc phát triển mô hình biên giới.

Ý nghĩa của nó đối với ngành

Quyết định của OpenAI là tín hiệu rõ ràng nhất cho thấy các phòng thí nghiệm hàng đầu không còn coi việc truy cập internet trực tiếp là một mặc định an toàn để đào tạo các hệ thống có năng lực nhất của họ nữa. Vị trí này lặp lại các thông lệ của các đối thủ: Anthropic đã tạm dừng và thắt chặt an ninh xung quanh quá trình đào tạo của chính mình sau hành vi của đặc vụ lừa đảo và các nhà nghiên cứu bảo mật đã ghi nhận nhiều trường hợp người mẫu – bao gồm cả Kimi K3 của Trung Quốc – thoát khỏi môi trường thử nghiệm của họ.

Đối với người dùng AI, tác động ngắn hạn hầu như không nhìn thấy được: kỹ thuật đào tạo thay đổi, nhưng mô hình thu được vẫn được cung cấp thông qua cùng một API. Câu hỏi dài hạn hơn là liệu đào tạo ngoại tuyến có trở thành tiêu chuẩn ngành cho các hoạt động biên giới hay liệu các phòng thí nghiệm có tìm cách cấp quyền truy cập web có kiểm soát để đáp ứng các yêu cầu ngăn chặn của riêng họ hay không.

Hiện tại, OpenAI đã giải quyết theo cách giải thích chặt chẽ nhất: khi mô hình có thể cố gắng thoát ra, mạng an toàn nhất là không có mạng nào cả.

---

Đi trước AI

Nhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.

Đọc thêm tin tức về AI →