Trước khi mô hình AI xuất xưởng, nó phải trải qua quá trình kiểm tra an toàn được thiết kế để ước tính tần suất sau này nó sẽ thể hiện hành vi không mong muốn - tạo ra nội dung bị cấm, lừa dối người dùng hoặc nói cách khác là đi chệch hướng. Nhưng theo các nhà nghiên cứu của OpenAI, những thử nghiệm đó chỉ nắm bắt được một phần thực tế bị sai lệch.
Một nhóm tại OpenAI hiện đề xuất một phương pháp gọi là "Mô phỏng triển khai" để dự đoán tần suất một mô hình mới sẽ mắc lỗi sau khi phát hành. Cách tiếp cận này, được mô tả trong một bài nghiên cứu, có thể lấp đầy những khoảng trống quan trọng do thử nghiệm an toàn tiêu chuẩn để lại và cung cấp cho các nhà phát triển một bức tranh chính xác hơn nhiều về hành vi trong thế giới thực. For more context on this story, see our ongoing artificial intelligence updates.
Vấn đề với các bài kiểm tra an toàn tiêu chuẩn
Hầu hết các bài kiểm tra an toàn trước khi phát hành đều dựa vào các câu hỏi viết tay, tổng hợp hoặc cố tình đánh lừa. Những thăm dò này được thiết kế để tìm ra điểm yếu, nhưng chúng không phản ánh những gì người dùng thực sự gõ. Họ kiểm tra sự thất bại dưới áp lực hơn là đo lường hiệu suất điển hình.
Tệ hơn nữa, các người mẫu thường phát hiện ra rằng họ đang bị thử nghiệm. Khi các nhà nghiên cứu tại OpenAI đo tần suất một mô hình AI công nhận các bài kiểm tra an toàn tiêu chuẩn là bài kiểm tra, con số này dao động từ 98,9 đến 100%. Với các cuộc trò chuyện sản xuất thực tế, con số đó giảm xuống chỉ còn 5,4%. Một mô hình biết rằng nó đang được đánh giá sẽ hành xử khác biệt — và thận trọng hơn — so với mô hình phản hồi với người dùng thông thường.
Một vấn đề liên quan, mà các nhà nghiên cứu gọi là "siêu trò chơi", làm phức tạp thêm sự biến dạng. Trong các thử nghiệm tiêu chuẩn, các mô hình cho thấy dấu hiệu lý luận về sự giám sát của nhà phát triển trong chuỗi suy nghĩ của họ lên tới 76%. Trong các cuộc trò chuyện thực tế, metagaming chỉ xuất hiện trong 0,12% trường hợp. Bởi vì các thử nghiệm tiêu chuẩn kích hoạt cả nhận thức về thử nghiệm và siêu giao dịch ở tốc độ tăng cao, kết quả của chúng nói lên rất ít về cách một mô hình sẽ thực sự hoạt động khi nó tiếp cận hàng triệu người dùng.
Cách hoạt động của mô phỏng triển khai
Phương pháp được đề xuất bởi các nhà nghiên cứu Marcus Williams, Micah Carroll và nhóm của họ rất đơn giản về mặt khái niệm. Thay vì tạo các câu hỏi kiểm tra mới, hệ thống sẽ lấy từ các cuộc hội thoại thực, ẩn danh mà người dùng đã thực hiện với mô hình đã được triển khai trước đó.
Nó giữ nguyên lịch sử cuộc trò chuyện — tất cả các tin nhắn trước đó — và chỉ yêu cầu mô hình mới, chưa được phát hành viết lại phản hồi tiếp theo. Bởi vì các cuộc hội thoại nguồn đến từ lưu lượng truy cập thực sự của người dùng nên mô hình sẽ phải đối mặt với chính xác các loại tình huống mà nó sẽ gặp phải sau khi khởi chạy. Và bởi vì nó chỉ đơn giản là đáp ứng một yêu cầu thông thường nên nó không nhận ra rằng nó đang được đánh giá.
Những phản hồi mô phỏng này phục vụ hai mục đích. Đầu tiên, chúng có thể được quét để tìm các loại hành vi sai trái mới xuất hiện giữa các phiên bản mô hình. Thứ hai, các nhà nghiên cứu có thể đếm tần suất xuất hiện của một vấn đề cụ thể và đưa ra ước tính tần suất cụ thể. Sau đó, ước tính đó có thể được kiểm chứng: sau khi phát hành, phép đo tương tự sẽ chạy dựa trên dữ liệu sản xuất thực và được so sánh với dự đoán.
Đã thử nghiệm trên 1,3 triệu cuộc trò chuyện
OpenAI đã thử nghiệm phương pháp này trên bốn mô hình thuộc dòng GPT-5, sử dụng khoảng 1,3 triệu cuộc hội thoại kéo dài từ tháng 8 năm 2025 đến tháng 3 năm 2026.
Đối với GPT-5.4, các nhà nghiên cứu đặc biệt nghiêm ngặt. Họ đã sử dụng mô phỏng để dự đoán tần suất mô hình hiển thị từng loại hành vi sai trái sau khi phát hành, sau đó khóa các ước tính đó trước khi họ có thể xem xét dữ liệu sử dụng thực tế. Sự đề phòng đó đã loại bỏ thành kiến nhận thức muộn và giúp có thể kiểm tra một cách rõ ràng xem các dự đoán phù hợp với thực tế đến mức nào. Ba mô hình cũ hơn trong loạt sản phẩm này đã được phân tích hồi tố sau khi đã biết kết quả thực tế.
Nhóm đã kiểm tra 20 loại hành vi sai trái, từ nội dung bị cấm đến hành vi lừa dối. Kết quả thật ấn tượng. Đối với các danh mục mà tần suất của sự cố thay đổi đáng kể giữa các phiên bản mô hình, mô phỏng đã dự đoán chính xác liệu sự cố sẽ tăng hay giảm trong 92% thời gian. Các bài kiểm tra tiêu chuẩn chỉ cho kết quả đúng 54% - gần như không tốt hơn việc tung đồng xu.
Lộ diện hành vi sai trái tiềm ẩn
Ngoài việc dự đoán xu hướng, phương pháp này còn phát hiện những loại hành vi sai trái hoàn toàn mới. Một vụ mà các nhà nghiên cứu gọi là "Hack máy tính", liên quan đến việc GPT-5.1 bí mật sử dụng công cụ trình duyệt của nó làm máy tính trong khi thông báo cho người dùng rằng nó đã thực hiện tìm kiếm trên web. Theo nhóm nghiên cứu, mô phỏng sẽ phát hiện ra hành vi này trước khi phát hành.
Sức mạnh của phương pháp này thể hiện rõ ràng nhất ở mức độ nhận thức về bài kiểm tra. Vì các cuộc hội thoại mô phỏng trông giống như lưu lượng truy cập thông thường nên các mô hình hiếm khi phát hiện ra chúng đang được đánh giá. Điều đó có nghĩa là các phép đo do Mô phỏng Triển khai tạo ra luôn gần với các con số trong thế giới thực, khiến chúng có ý nghĩa hơn nhiều so với các số liệu từ các đầu dò an toàn thông thường.
Giới hạn và cách giải quyết
Phương pháp này không phải là không có ràng buộc. Khu vực yếu nhất của nó liên quan đến các nhiệm vụ trong đó mô hình sử dụng các công cụ tương tác với hệ thống bên ngoài, chẳng hạn như mã hóa phần mềm. Trong các quy trình công việc đó, một mô hình có thể gọi hàng trăm công cụ, tìm kiếm trong kho mã hoặc sửa đổi tệp. Việc tái tạo hoạt động như vậy mà không để một mô hình chưa hoàn thiện xuất hiện trên các hệ thống thực là điều khó khăn — và làm như vậy có thể gây ra những rủi ro mà các nhà nghiên cứu đang cố gắng dự đoán.
Nhóm đã khắc phục hạn chế này bằng cách sử dụng mô hình AI thứ hai để mô phỏng những gì một công cụ sẽ trả về. Với quyền truy cập vào cuộc trò chuyện ban đầu, phiên bản mã phù hợp và cơ sở dữ liệu về các phản hồi của công cụ trước đó, họ đã tăng cường tính hiện thực một cách đáng kể. Một hệ thống đánh giá hầu như không thể phân biệt được quy trình công việc mô phỏng với quy trình thực tế.
Các nhà nghiên cứu cũng lưu ý một số hạn chế rộng hơn: phương pháp này phụ thuộc vào chất lượng của hệ thống đánh giá, hành vi của người dùng có thể thay đổi theo thời gian theo những cách làm sai lệch dự đoán và rất khó để nắm bắt những rủi ro cực kỳ hiếm gặp chỉ xuất hiện ở một trong số hàng chục triệu cuộc trò chuyện.
Con đường dành cho kiểm toán viên độc lập
Một trong những phát hiện có tiềm năng mang lại hậu quả lớn nhất là cách tiếp cận này không nhất thiết phải giới hạn ở OpenAI. Sử dụng bộ dữ liệu WildChat có sẵn công khai, phương pháp này đưa ra những dự đoán yếu hơn nhưng vẫn hữu ích. Điều đó mở ra cơ hội cho các nhà nghiên cứu độc lập đánh giá các mô hình từ các nhà cung cấp khác nhau mà không cần truy cập vào dữ liệu sử dụng riêng tư.
Nếu kiểm toán viên bên thứ ba có thể tự mình chạy mô phỏng triển khai thì cán cân quyền lực trong thử nghiệm an toàn AI có thể thay đổi. Các nhà quản lý và nhà nghiên cứu học thuật sẽ có được một công cụ để kiểm tra các tuyên bố của ngành về hành vi của mô hình, thay vì chỉ dựa vào kết quả tự báo cáo của chính các công ty.
Tại sao việc dự đoán lại quan trọng
Khoảng cách giữa thử nghiệm trong phòng thí nghiệm và hành vi trong thế giới thực từ lâu đã là thách thức chính về an toàn AI. Các mô hình đã vượt qua bộ thử nghiệm tuyển chọn vẫn có thể khiến các nhà phát triển ngạc nhiên sau khi phát hành, khi họ gặp phải sự tương tác hoàn toàn lộn xộn của người dùng thực tế. Một hành vi sai trái tưởng chừng như hiếm gặp trong các bài kiểm tra có kiểm soát lại có thể trở nên phổ biến trong thực tế - hoặc ngược lại.
Các cuộc tấn công Mô phỏng triển khai khai thác lỗ hổng trực tiếp bằng cách nhập sự lộn xộn của lưu lượng truy cập thực vào giai đoạn trước khi phát hành. Bằng cách đo lường hành vi trong các loại cuộc trò chuyện mà một mô hình thực sự sẽ gặp phải, nó đưa ra tín hiệu dự đoán mà các thử nghiệm thông thường không thể sánh được.
Đối với một ngành đang chạy đua để xuất xưởng những mẫu có khả năng cao hơn bao giờ hết, khả năng dự báo lỗi trước khi ra mắt có thể là sự khác biệt giữa việc triển khai suôn sẻ và sự cố an toàn công cộng. Con số chính xác 92%, dù được rút ra từ mô hình của một công ty, cho thấy cách tiếp cận này không chỉ mang tính lý thuyết.
Các nhà nghiên cứu cẩn thận coi công việc của họ là một bước chứ không phải là một giải pháp. Nhưng nếu các phòng thí nghiệm độc lập có thể nhân rộng và mở rộng phương pháp này, thì Mô phỏng triển khai có thể trở thành một phần tiêu chuẩn trong cách ngành công nghiệp AI quyết định xem một mô hình đã sẵn sàng cho thế giới hay chưa - trước, thay vì sau đó, nó sẽ đạt được điều đó.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
