OpenAI đã rút lại ba trong số 722 bản in trước nghiên cứu mà nó đã xuất bản trên GitHub vào ngày 6 tháng 10, Retraction Watch đưa tin vào ngày 8 tháng 10, sau khi một lỗi ký hiệu làm vô hiệu một đối số trung tâm và cùng với đó là hai kết quả phụ thuộc vào cách xây dựng đó. Việc rút tiền diễn ra chưa đầy 24 giờ sau khi phát hành hàng loạt, điều mà OpenAI đã quảng cáo là một nỗ lực "nhằm nâng cao giới hạn kiến thức của con người và tạo điều kiện cho sự tiến bộ hơn nữa trong toán học".
Các bản in trước mô tả tiến trình dự kiến của mô hình AI nội bộ đối với 372 vấn đề chưa được giải quyết trong các lĩnh vực hình học, khoa học máy tính, đại số và các lĩnh vực khác. Động thái này đã thu hút sự giám sát ngay lập tức từ các cộng đồng nghiên cứu — và, như chúng tôi đã đề cập vào đầu tuần này trong báo cáo về lần phát hành đầu tiên của 722 bản thảo toán học, công ty coi sự sụt giảm này là một minh chứng chưa từng có về những gì mà mô hình biên giới chưa được phát hành của họ có thể tạo ra. Hãy theo dõi tin tức mới nhất về câu chuyện này trong bài viết những phát triển AI mới nhất của chúng tôi.
Lỗi ký hiệu xảy ra thông qua các bằng chứng phụ thuộc
Ngày 7/10, OpenAI thông báo rút 3 bản thảo vì lỗi ký hiệu. Theo thông báo, lỗi này đã vô hiệu hóa một lập luận trong một bản thảo và cách xây dựng được hai tờ báo phụ thuộc sử dụng. Mỗi tờ giấy bị rút hiện đều có thông báo giải thích về “khoảng trống”.
Công ty cũng cho biết họ đã sửa đổi 14 bản thảo khác với các sửa chữa bằng chứng, các tuyên bố đã được sửa chữa, các giả thuyết và sự phụ thuộc rõ ràng hơn, cùng một bản sửa lỗi đối với một trích dẫn lỗi thời. Dan Roberts, trưởng nhóm nghiên cứu tại OpenAI, đã thông báo về việc rút tiền trên X và viết rằng công ty sẽ “tiếp tục cập nhật repo với các chính thức hóa mới và bất kỳ sai sót nào mà chúng tôi nhận thấy”.
Người phát ngôn của OpenAI nói với Retraction Watch rằng công ty đã xác định được các lỗi trong quá trình kiểm tra, mô tả quy trình này là lặp đi lặp lại "giống như các bản thảo nghiên cứu khác". Người phát ngôn nói thêm rằng OpenAI hoan nghênh sự xem xét kỹ lưỡng và sẽ “làm việc để sửa [lỗi] kịp thời và rút lại các giấy tờ nếu không tìm thấy cách khắc phục nào”.
Đáng chú ý, người phát ngôn của OpenAI cho biết các cộng tác viên của công ty tại Nhóm tư vấn về Toán học và Trí tuệ nhân tạo (AGMAI) đã khuyến nghị công bố kết quả mà không cần chờ "chính thức hóa đầy đủ" – và khoảng 50% kết quả được công bố chưa được xác nhận.
Nhà toán học: Sửa nhanh, mất niềm tin
Phản ứng từ các nhà toán học nghiên cứu đã được đo lường nhưng chỉ ra. Alex Townsend, phó giáo sư toán học tại Đại học Cornell, nói với Retraction Watch rằng lỗi xảy ra trong ba bản thảo không có gì đáng ngạc nhiên và ông nghi ngờ sẽ có nhiều lỗi hơn được tìm thấy. “Trước sự hoài nghi về AI trong cộng đồng toán học, tôi nghĩ rằng OpenAI lẽ ra nên công bố các bản thảo đã được xác minh Lean trước tiên,” ông nói, đề cập đến ngôn ngữ lập trình nguồn mở kiểm tra các bằng chứng toán học một cách máy móc. Ông lập luận rằng một thông báo riêng biệt sau đó có thể mời cộng đồng trợ giúp để xác minh phần còn lại.
Andrew Sutherland, nhà khoa học nghiên cứu cấp cao tại khoa toán học của MIT, cho biết ông đánh giá cao hành động nhanh chóng của OpenAI sau khi tìm ra lỗi và gọi đó là “việc làm có trách nhiệm”. Nhưng ông nhấn mạnh rằng nhiều nhà toán học vẫn "không hài lòng với cách OpenAI hoạt động cho đến thời điểm này", đặc biệt là thông báo ngày 8 tháng 9 của công ty rằng hệ thống AI đã giải quyết được vấn đề Navier-Stokes - một tuyên bố mà một nhóm các nhà nghiên cứu hàng đầu chỉ trích là vội vàng, "không có thời gian để viết bài phù hợp, tách biệt các phương pháp và ý tưởng mới cũng như trích dẫn công việc trước đây có liên quan của những người khác." Hơn 8.000 nhà nghiên cứu đã tán thành những lo ngại đó.
Hiệp hội Toán học Con người còn đi xa hơn trong một tuyên bố đưa ra ngày 7 tháng 10: "Các nhà toán học không yêu cầu thực hiện công việc này. Việc phát hành hơn 700 tệp cùng một lúc không phải là sự thể hiện học thuật mà là sự thể hiện quyền lực. Chúng tôi kêu gọi các nhà toán học ngừng làm việc với OpenAI và quay trở lại với tầm nhìn khoa học lấy sự hiểu biết của con người làm trung tâm."
Điều này có ý nghĩa gì đối với khoa học do AI tạo ra
Tập phim này được coi là một trường hợp thử nghiệm ban đầu về cách các phòng thí nghiệm AI nên xử lý nghiên cứu do máy tạo ra trên quy mô lớn. Cách tiếp cận của OpenAI — phát hành nhanh, kiểm tra công khai, rút lại những gì không thành công — trái ngược với cách tiếp cận xác minh chính thức trước tiên mà nhiều nhà toán học ưa thích, trong đó kết quả được kiểm tra trong một trợ lý chứng minh như Lean trước bất kỳ thông báo nào.
Có những lập luận hợp lý từ cả hai phía. Việc chờ đợi chính thức hóa hoàn toàn có thể trì hoãn các kết quả hữu ích trong nhiều tháng và OpenAI cho biết nó đã được phát hành với sự ủng hộ của AGMAI. Nhưng hiệu ứng xếp tầng - một lỗi ký hiệu ghi xuống hai bài báo phụ thuộc - minh họa tại sao việc xác minh trước khi xuất bản lại là tiêu chuẩn trong toán học và tại sao nhiều lỗi hơn có thể xuất hiện khi cộng đồng xử lý khoảng 700 bản thảo còn lại.
Hiện tại, OpenAI cho biết họ muốn học hỏi từ phản hồi và sẽ tuân theo giao thức của AGMAI “tốt nhất có thể” trong tương lai. Liệu điều đó có đủ để xây dựng lại uy tín với cộng đồng toán học hay không lại là một câu hỏi khác. Như Sutherland đã nói: "Tôi nghĩ việc rút lại và sửa chữa sẽ được cộng đồng toán học nhìn nhận một cách tích cực, nhưng sẽ phải mất nhiều thời gian hơn thế để lấy lại niềm tin mà họ đã đánh mất."
---
Đi trước AINhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.
Đọc thêm tin tức về AI →
