OpenAI đã xuất bản một phiên bản được tổ chức lại đáng kể của Model Spec vào ngày 29 tháng 10, tái cấu trúc tài liệu công khai mô tả cách công ty muốn các mô hình của mình hoạt động. Khung cập nhật, được công bố trên trang web của OpenAI và được Reuters và Unite.AI báo cáo, tổ chức toàn bộ đặc điểm kỹ thuật xung quanh năm giá trị cốt lõi và đặt sự trung thành với ý định của con người làm nền tảng cho cách tiếp cận của công ty.

Năm giá trị, Một nền tảng For more context on this story, see our ongoing latest AI developments.

Năm giá trị là trung thành với mục đích của con người, giảm thiểu tác hại, trung thực và minh bạch, cơ quan con người và sự quan tâm. OpenAI cho biết các giá trị nêu rõ các cam kết rộng rãi đã được phản ánh trong phiên bản trước của tài liệu, nhưng cấu trúc mới làm cho chúng trở nên rõ ràng và tập trung.

Sự trung thành với ý định của con người đóng vai trò là chiếc neo. Theo thông báo của OpenAI, công ty viết Thông số kỹ thuật và đặt ra các ranh giới, đào tạo các mô hình để tôn trọng chúng, các nhà phát triển chỉ đạo các ứng dụng trong các ranh giới đó và người dùng chỉ đạo công việc của mô hình tuân theo những ràng buộc đó. Việc tổ chức lại phản ánh công việc điều chỉnh giá trị của OpenAI, nhằm mục đích giúp các mô hình hiểu và áp dụng các giá trị của con người trong những tình huống xa lạ trong khi vẫn trung thành với những gì mọi người thực sự muốn. OpenAI cũng lưu ý rằng năm giá trị này không nhằm mục đích nắm bắt đầy đủ các giá trị con người mà các mô hình của nó nên tôn trọng.

Bốn giá trị còn lại điền vào khung. Giảm thiểu tác hại có nghĩa là tôn trọng ranh giới an toàn của công ty và tính đến những hậu quả có thể thấy trước từ hành động của một mô hình. Trung thực và minh bạch có nghĩa là trung thực về những gì người mẫu biết, làm và không chắc chắn. Tạo điều kiện thuận lợi cho con người có nghĩa là tăng cường khả năng hiểu biết, lựa chọn và hành động của con người. Chăm sóc có nghĩa là quan tâm đến hoàn cảnh của những người bị ảnh hưởng và tuân theo các chuẩn mực xã hội và nghề nghiệp có liên quan.

Chuỗi mệnh lệnh chặt chẽ hơn

Thông số kỹ thuật được cập nhật chỉ định các cấp quyền khác nhau cho các loại hướng dẫn khác nhau. Các phần gốc, chỉ đến từ chính Thông số Mô hình, không thể bị ghi đè bởi ngữ cảnh hội thoại. Lời nhắc hệ thống và thông báo hệ thống OpenAI xếp tiếp theo, tiếp theo là hướng dẫn dành cho nhà phát triển và sau đó là hướng dẫn người dùng. Các hướng dẫn ở cấp độ hướng dẫn đóng vai trò là các giá trị mặc định có thể được ghi đè khi ngữ cảnh yêu cầu rõ ràng, trong khi các thông báo trợ lý, đầu ra của công cụ và dữ liệu được trích dẫn hoặc không đáng tin cậy không có thẩm quyền theo mặc định.

OpenAI cũng đã thêm một tiểu mục mới về việc xem xét bối cảnh một cách cẩn thận, giải thích cách các cuộc trò chuyện, ký ức và bằng chứng theo ngữ cảnh khác sẽ cung cấp thông tin cho sự hiểu biết của mô hình về ý định và sở thích của mọi người. Reuters đưa tin rằng bản cập nhật đặt ý định của con người làm trung tâm trong các nguyên tắc mô hình của OpenAI, một khuôn khổ mà thông báo của chính công ty ủng hộ.

Ranh giới đỏ và sự kết thúc của việc tự bảo tồn

Tài liệu mở ra các nguyên tắc ranh giới đỏ bằng một tuyên bố thẳng thắn: an toàn con người và nhân quyền là điều tối quan trọng đối với sứ mệnh của OpenAI. Các nguyên tắc nói rằng các mô hình của OpenAI không bao giờ được sử dụng để tạo điều kiện cho các tác hại nghiêm trọng và có mức độ nghiêm trọng cao, bao gồm các hành vi bạo lực, tạo ra vũ khí mạng, sinh học hoặc hạt nhân, khủng bố hoặc giám sát hàng loạt. Họ cũng tuyên bố rằng nhân loại nên kiểm soát cách sử dụng AI và cách hình thành các hành vi của AI.

Một quy tắc cấp cơ sở mới, có tiêu đề "không có mục tiêu nào khác", ngăn cản mô hình theo đuổi các mục tiêu bổ sung như mục đích cuối cùng. Điều đó bao gồm việc theo đuổi doanh thu hoặc bán thêm cho OpenAI hoặc các nhà cung cấp khác, tự bảo quản, tránh tắt máy hoặc tích lũy điện toán, dữ liệu hoặc thông tin xác thực. Một quy tắc đồng hành yêu cầu mô hình phải duy trì được khả năng sửa chữa: mở cho sự giám sát hợp pháp của con người và hợp tác với việc giám sát, đánh giá, sửa chữa, thay thế và tắt máy mà không che giấu thông tin hoặc cản trở việc sửa chữa.

Quyền tự chủ có giới hạn cho đại lý

Phản ánh mức độ sử dụng mô hình đã chuyển sang các tác nhân tự trị, Thông số kỹ thuật được cập nhật yêu cầu công việc độc lập của mô hình phải nằm trong phạm vi tự chủ được hiểu rõ ràng. OpenAI khuyên bạn nên ghi lại phạm vi đó trong bản ghi bán cấu trúc với các trường như công cụ được phép, thời gian gần nhất, chi phí tối đa và các ràng buộc về công cụ. Mọi phạm vi phải bao gồm một điều kiện kết thúc mà ngoài điều kiện đó mô hình sẽ ngừng hoạt động cho đến khi phạm vi mới được xác nhận. Các hoạt động có rủi ro cao vẫn bị cấm trừ khi chúng được cho phép rõ ràng và cụ thể.

Hướng dẫn phong cách nghỉ hưu, "Trợ lý" trở thành "GPT"

Hầu hết hướng dẫn chi tiết về phong cách của Spec đã bị loại bỏ. OpenAI cho biết phong cách thay vào đó nên thích ứng với những gì mọi người thích tổng thể, trong các ngôn ngữ và nền văn hóa cũng như đối với mỗi người, với phản hồi của người dùng và bối cảnh cung cấp bằng chứng. Tài liệu giữ lại các mặc định mạnh mẽ hơn như tiếp cận các câu hỏi một cách khách quan và tuyên bố rằng mô hình không nên suy ra quan điểm ưa thích chỉ dựa trên những gì nó cho rằng mọi người muốn nghe.

Trong một bản chỉnh sửa nhỏ nhưng đáng chú ý, Spec hiện gọi mô hình này là "GPT" thay vì "trợ lý", phản ánh mức độ triển khai rộng rãi của các mô hình. Cùng ngày, OpenAI đã xuất bản riêng một bài đăng mô tả cách phát hiện sự sai lệch của mô hình biên giới, nhấn mạnh rằng các thông số kỹ thuật hành vi và công việc phát hiện đang cùng nhau tiến bộ.

Mục tiêu, không phải mô tả

OpenAI đã cẩn thận lưu ý rằng Thông số mô hình mô tả hành vi mà nó đang hướng tới, không nhất thiết phải là hành vi mà các mô hình của nó thể hiện đầy đủ ngày nay. Công ty gọi bản cập nhật này là bước đầu tiên trong việc làm cho các giá trị và lý do đằng sau Thông số kỹ thuật trở nên rõ ràng hơn khi các mô hình trở nên có khả năng hơn và cho biết họ đang khám phá các phương pháp đào tạo mới để giúp các mô hình của mình tiếp thu khuôn khổ.

Đối với các nhà phát triển và doanh nghiệp xây dựng trên các mô hình của OpenAI, tín hiệu thực tế rất rõ ràng: các quy tắc chi phối hành vi của mô hình đang được chính thức hóa xoay quanh việc giám sát, khả năng điều chỉnh và quyền tự chủ có giới hạn, đồng thời kỷ nguyên coi hành vi của mô hình như một quyết định sản phẩm không chính thức sắp kết thúc.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →