Một nhóm gồm 25 người đoạt Huy chương Fields — mỗi người ký tên ban đầu đều là người giành được vinh dự cao nhất của toán học — đã công bố một tuyên bố chính thức cảnh báo rằng cuộc đua thể hiện trí tuệ nhân tạo trên các tiêu chuẩn toán học đang gây tổn hại cho cả khoa học toán học và cộng đồng duy trì nó. Tuyên bố có tiêu đề "Sự sai lệch nghiêm trọng của AI trong Toán học" đã được đưa ra vào thứ Sáu và trong số những người ký ban đầu có Terence Tao, một trong những nhà toán học có ảnh hưởng nhất trong thế hệ của ông.
Tuyên bố này được công bố tại mathandai.org và chỉ trong vòng một ngày, nó đã thu thập thêm hơn 1.300 người ủng hộ từ các trường đại học và viện nghiên cứu trên khắp thế giới, theo danh sách người ký công khai của trang web. Tao xác nhận việc tham gia vào một bài đăng trên blog cá nhân của mình, viết rằng anh ấy "tự hào nằm trong danh sách 25 người ký ban đầu - tất cả đều là người đoạt Huy chương Fields." Đối với bất kỳ ai theo dõi những phát triển AI mới nhất, sự can thiệp này đánh dấu một trong những lời phê bình gay gắt nhất từ trong giới toán học ưu tú về cách các phòng thí nghiệm AI đo lường — và công khai — khả năng của các mô hình của họ. Nó thống trị cuộc thảo luận trên Hacker News vào thứ Sáu, thu hút hàng trăm bình luận.
Tuyên ngôn nói gì
Các bên ký kết không tranh cãi rằng các hệ thống AI đã trở nên có khả năng vượt trội. Tuyên bố nêu rõ: “Trong vài tháng qua, khả năng toán học của LLM đã được cải thiện đáng kể, đến mức chúng có thể giải quyết các vấn đề còn tồn tại trong nhiều lĩnh vực toán học”. Phản đối là điều gì sẽ xảy ra tiếp theo: Các công ty AI sử dụng các giải pháp đó làm tiêu chuẩn cạnh tranh, điều mà các tác giả cho rằng là "có hại cho khoa học toán học và cộng đồng toán học".
Tuyên bố cốt lõi rất rõ ràng: “Mục tiêu của các công ty AI và mục tiêu của cộng đồng toán học đang bị sai lệch nghiêm trọng”.
Tuyên bố lập luận rằng việc giải quyết các vấn đề nổi tiếng theo truyền thống được coi là dấu hiệu của sự hiểu biết sâu sắc mới - sự khởi đầu của một quá trình chung lâu dài gồm các cuộc đàm phán, thảo luận, đơn giản hóa và cuối cùng là viết sách giáo khoa - chứ không phải là sự kết thúc tự thân. Các tác giả viết: “Giải quyết vấn đề chỉ là một công cụ và đại diện để đạt được mục tiêu chính là hiểu biết về khái niệm và hiểu biết sâu sắc”. "Việc quên điều này trong thế giới AI có thể khiến công cụ này đi ngược lại mục tiêu chính."
Dòng được trích dẫn nhiều nhất thể hiện sự lo lắng: "việc sản xuất hàng loạt với tốc độ ngày càng nhanh hơn các tuyên bố 'đúng/sai' có thể phá hủy mảnh đất màu mỡ thay vì thổi sức sống vào những ý tưởng mới."
Ghi công, đạo văn và thông báo vội vàng
Các bên ký kết cũng đưa ra khiếu nại thực tế. Tuyên bố nêu rõ: “Thường thì những giải pháp này được công bố một cách vội vàng, không có thời gian để viết một cách thích hợp, tách biệt các phương pháp và ý tưởng mới cũng như trích dẫn công việc trước đây có liên quan của những người khác”. “Như trong tất cả các ngành nghề sáng tạo, điều này đặt ra những vấn đề nghiêm trọng về ghi công và đạo văn.”
Các tác giả cảnh báo về hiệu ứng bậc hai: nếu không có “các nhà toán học sẵn sàng quan tâm đến sự phát triển và tích hợp của họ vào quy chuẩn toán học”, các ý tưởng do AI hình thành sẽ không bao giờ được phát triển đầy đủ và “chuỗi truyền tải quan trọng của con người giữa các nhà toán học sẽ bị mất”.
Một biểu hiện khẩn cấp bất thường
Bản thân quá trình này thật bất thường. Tao thừa nhận trên blog của mình rằng tuyên bố này được đưa ra sau các cuộc thảo luận giữa các bên ký kết “trong tuần qua” và xin lỗi vì đã không tiến hành một quy trình tham vấn kỹ hơn. Ông viết: “Chúng tôi quyết định rằng tình hình cấp bách đến mức chúng tôi cần đưa ra một tuyên bố sớm hơn là muộn hơn”.
Tuyên bố tuân theo mô hình của tuyên bố Leiden trước đó và ban tổ chức mời thêm chữ ký một cách rõ ràng. Tao cũng chỉ cho độc giả những thông tin gần đây về tuyên bố của The Economist. 25 người ký ban đầu đều là những người đoạt Huy chương Fields, một tín hiệu có chủ ý - các nhà nghiên cứu được vinh danh nhất trong toán học đều nói bằng một giọng nói. Danh sách chứng thực rộng hơn đã bao gồm các nhà toán học từ MIT, ETH Zurich, Viện Max Planck, Northwestern, NYU và hàng chục tổ chức khác.
Lời cảnh báo ngoài toán học
Mặc dù tuyên bố này bắt nguồn từ toán học nhưng các tác giả coi nó như một khuôn mẫu cho một vấn đề rộng lớn hơn nhiều. Tuyên bố viết: “Chúng ta đang chứng kiến một mối đe dọa chung đối với hoạt động trí tuệ, với sự sai lệch giữa kết quả của việc sử dụng AI và mục đích ban đầu của nó”.
Cuộc tranh luận sẽ gây tiếng vang vượt xa các khoa toán học. Trong nhiều ngành nghề, các tác giả lưu ý, nhiều năm đào tạo theo truyền thống không chỉ giúp đưa ra câu trả lời cuối cùng mà còn để phát triển sự hiểu biết và khả năng hình thành các câu hỏi mới. Khi các hệ thống AI có khả năng tạo ra kết quả của công việc đó một cách trực tiếp, “các mục tiêu này sẽ không còn phù hợp nữa”. Tuyên bố mô tả các vấn đề mà các nhà toán học đang phải đối mặt là "tương tự như các vấn đề mà các ngành khoa học và sáng tạo khác đang phải đối mặt và chỉ ra những vấn đề mà toàn nhân loại có thể gặp phải".
Không phải là sự từ chối của AI
Đáng chú ý, tuyên bố này không phải là lời kêu gọi ngừng phát triển AI. Các tác giả viết: “AI mang lại tiềm năng tăng cường và thúc đẩy nghiên cứu và hiểu biết toán học thực sự”, đồng thời thừa nhận rằng “toán học với tư cách là một nghề sẽ cần phải thích nghi”.
Sự can thiệp diễn ra vào thời điểm tích điện. Các tuyên bố rằng hệ thống AI đã giải quyết hoặc đạt được tiến bộ lớn đối với các vấn đề mở nổi tiếng đã nhiều lần gây chú ý và đầu năm nay, một tranh chấp riêng về tuyên bố của OpenAI liên quan đến vấn đề Navier–Stokes đã cho thấy những thông báo như vậy có thể gây tranh cãi như thế nào. Tuyên bố của Người đoạt Huy chương Fields thực sự là phản hồi cấp cao nhất của cộng đồng toán học đối với động thái đó: yêu cầu các phòng thí nghiệm AI ngừng coi các vấn đề mở hàng thế kỷ như mục nhập bảng xếp hạng.
Liệu các công ty AI có phản hồi hay không - bằng cách tham khảo ý kiến các nhà toán học trước khi công bố, ghi nhận công việc trước đó hoặc xem xét lại các điểm chuẩn - vẫn còn phải xem. Điều đã rõ ràng là những người hiểu rõ nhất những vấn đề này không còn đứng ngoài quan sát nữa.
