OpenAI tung ra văn bản vô hình Hình mờ hạt trên văn bản ChatGPT và Codex ở EU

OpenAI đã thông báo vào ngày 5 tháng 10 rằng họ sẽ bắt đầu thêm hình mờ vô hình vào văn bản do ChatGPT và Codex tạo ra cho người dùng ở Liên minh Châu Âu, phản ứng cụ thể của họ đối với các quy tắc xuất xứ văn bản của Đạo luật AI của EU. Trong một bài đăng trên blog có tiêu đề "Cách tiếp cận của chúng tôi đối với các quy tắc xuất xứ văn bản của EU", công ty cho biết hình mờ sẽ được triển khai "trong vài tuần tới" đối với đầu ra đủ điều kiện trong khối, một kế hoạch được báo cáo cùng ngày bởi TechCrunch, The Verge, BleepingComputer, Engadget và các cửa hàng khác.

Công nghệ đằng sau sự thay đổi này được gọi là textGrain. Thay vì nhúng một dấu hiệu có thể nhìn thấy, textGrain hoạt động bằng cách điều khiển một cách tinh tế các lựa chọn từ của mô hình để văn bản kết quả mang một mẫu thống kê có thể được phát hiện sau này. Người đọc sẽ không nhận thấy gì khi sử dụng hoặc sao chép văn bản do AI tạo ra; việc phát hiện yêu cầu quyền truy cập vào trình phát hiện của OpenAI, công cụ này không có sẵn cho công chúng. Để có cái nhìn rộng hơn về cách các cơ quan quản lý và phòng thí nghiệm xung đột về các quy tắc AI, hãy theo dõi chính sách AI hiện hành của chúng tôi.

Cách hoạt động của hình mờ textGrain

Cách tiếp cận của OpenAI sửa đổi quy trình lựa chọn mã thông báo trong quá trình tạo. Công ty cho biết textGrain "thay đổi một chút các lựa chọn từ của mô hình để tạo ra một mẫu thống kê mà sau này có thể được phát hiện", theo báo cáo của BleepingComputer. Hình mờ không thể nhìn thấy khi văn bản được đọc hoặc sao chép và OpenAI tuyên bố nó không làm giảm chất lượng đầu ra.

Bên phát hiện bị hạn chế có chủ ý. Bên cạnh việc ra mắt hình mờ, OpenAI đang mở các ứng dụng cho trình phát hiện hình mờ, nhưng quyền truy cập ban đầu sẽ bị giới hạn đối với các nhà nghiên cứu và tổ chức chuyên gia đã được phê duyệt. Thiết kế đó ngăn chặn khả năng phát hiện của bất kỳ ai muốn vũ khí hóa nó, nhưng điều đó cũng có nghĩa là các nhà xuất bản, giáo viên và người sử dụng lao động không thể xác minh độc lập liệu một đoạn văn bản có được gắn hình mờ hay không.

Quyền truy cập API được chọn tham gia trên toàn thế giới

Lệnh của EU áp dụng cho đầu ra ChatGPT và Codex trong khối, nhưng OpenAI đồng thời cung cấp cho các nhà phát triển ở mọi nơi sự lựa chọn. Bắt đầu từ ngày 5 tháng 10, các nhà phát triển API trên toàn thế giới có thể chọn tham gia hình mờ văn bản cho các kiểu máy được hỗ trợ. Tính năng này vẫn bị tắt theo mặc định trên API, một quyết định mà The New Stack nhấn mạnh là tương phản với cách tiếp cận của Anthropic, vốn đã bật tính năng đánh dấu xuất xứ cho lưu lượng truy cập ở EU vào đầu năm nay để đáp ứng các quy tắc tương tự.

Tư thế chọn tham gia đó sẽ trấn an các nhà phát triển đang lo lắng về những tác dụng phụ không lường trước được. Hình mờ thống kê thay đổi cách lấy mẫu mã thông báo và bất kỳ sửa đổi nào đối với việc tạo ít nhất đều có rủi ro về mặt lý thuyết về việc thay đổi hành vi trong các trường hợp cạnh. Bằng cách đặt hình mờ làm cờ thay vì mặc định, OpenAI chuyển quyết định tuân thủ cho các công ty xây dựng trên mô hình của mình.

Tại sao Đạo luật AI của EU lại buộc phải làm điều này

Các điều khoản minh bạch của Đạo luật AI của EU yêu cầu văn bản do AI tạo ra phải được xác định là do máy tạo ra, một nghĩa vụ đã thúc đẩy cả OpenAI và Anthropic hướng tới các sơ đồ đánh dấu mờ thống kê. Bài đăng trên blog của OpenAI coi textGrain là việc triển khai các yêu cầu về xuất xứ đó và PYMNTS đã báo cáo việc triển khai dưới dạng cuộc họp OpenAI trực tiếp "các yêu cầu của Đạo luật AI của EU".

Thời điểm là đáng chú ý. Thông báo về hình mờ được đưa ra trong bối cảnh tình hình công khai của OpenAI đang có một giai đoạn hỗn loạn bất thường: cùng một chu kỳ tin tức đã dẫn đến sự ra đi của người đứng đầu bộ phận an toàn David Robinson, một cuộc điều tra của FTC về rủi ro của người tiêu dùng tại các phòng thí nghiệm AI lớn và bầu không khí kiện tụng của cổ đông khiến công ty bị giám sát chặt chẽ. Hình mờ là một trong số ít các yêu cầu pháp lý mà OpenAI có thể đáp ứng đầy đủ với cơ sở hạ tầng thay vì thay đổi sản phẩm, điều này có thể giải thích tại sao nó được xuất xưởng trước tiên.

Điều đáng chú ý: Hình mờ bị vỡ khi chỉnh sửa

Bản thân OpenAI cũng thừa nhận hạn chế cơ bản. Công ty thừa nhận hình mờ của nó có thể biến mất khi văn bản được chỉnh sửa và hàng thập kỷ nghiên cứu về kỹ thuật giấu tin ngôn ngữ đã chứng minh mối lo ngại đó: diễn giải, dịch thuật hoặc thậm chí viết lại một cách khiêm tốn có thể phá hủy hình mờ thống kê. Bất kỳ ai quyết tâm rửa văn bản AI thông qua công cụ "nhân bản hóa" đều có khả năng thành công.

Điểm yếu đó đã không ngăn được các cơ quan quản lý yêu cầu đóng dấu chìm và cũng không ngăn được các phòng thí nghiệm vận chuyển nó. Mục tiêu thực tế không phải là xuất xứ chống giả mạo mà là tăng chi phí cho hành vi lừa dối thông thường trên quy mô lớn, logic tương tự chi phối các hình mờ tiền tệ. Các nhà phê bình, bao gồm cả một số nhóm an toàn AI vốn hoài nghi về các biện pháp tự nguyện của ngành, cho rằng các máy dò mà chỉ các tổ chức được phê duyệt mới có thể truy cập được sẽ không tác động nhiều đến giáo viên, biên tập viên hoặc nền tảng đang cố gắng thực thi các chính sách nội dung AI của riêng họ.

Ý nghĩa của nó đối với Người dùng và Nhà phát triển

Đối với người dùng ChatGPT và Codex trong EU, sẽ không có gì thay đổi rõ ràng. Văn bản sẽ trông giống nhau và không có nhãn nào xuất hiện trên đầu ra. Hình mờ sẽ chỉ ở đó và về nguyên tắc các đối tác được phê duyệt của OpenAI có thể phát hiện được.

Đối với các nhà phát triển, cờ API sẽ xuất hiện ngay lập tức và đáng được đánh giá cẩn thận: bật cờ này có nghĩa là chấp nhận những thay đổi nhỏ đối với việc lấy mẫu mã thông báo trong mỗi lần hoàn thành, ngay cả đối với người dùng không thuộc EU, vì cài đặt API là toàn cầu. Các nhóm có ngân sách chất lượng hoặc độ trễ nghiêm ngặt có thể muốn so sánh việc tạo hình mờ với thiết lập hiện tại của họ trước khi chuyển đổi.

OpenAI cho biết thêm thông tin chi tiết về các mô hình đủ điều kiện và quy trình đăng ký máy dò sẽ đến trong vài tuần tới. Vì các phòng thí nghiệm khác phải đối mặt với các nghĩa vụ tương tự của EU nên textGrain khó có thể là kế hoạch tạo hình mờ cuối cùng mà ngành triển khai trong năm nay.

Đi trước AI

Quy định đang định hình lại cách thức hoạt động của các sản phẩm AI. Nhận thông tin phát triển AI mới nhất trên AI Buzz Wire, với các tin tức mô hình và phân tích chính sách được cập nhật suốt cả ngày.

Đọc thêm tin tức về AI tại đây.