Terence Tao, nhà toán học UCLA và người đoạt Huy chương Fields thường được mô tả là một trong những nhà toán học xuất sắc nhất còn sống, đã đưa ra cảnh báo về những gì trí tuệ nhân tạo đang làm đối với nghiên cứu toán học: kho các bài toán mở tốt đang được "khai thác theo kiểu không thể tái tạo" và việc xác định các bài toán đáng giá - không phải lời giải của chúng - đang trở thành nguồn tài nguyên khan hiếm nhất của lĩnh vực này. Viết trong một chủ đề gồm bốn phần trên Mathstodon hôm thứ Hai, Tao đã trình bày lý do tại sao ông tin rằng kỷ nguyên AI có thể đẩy các nhà toán học tới sự bí mật, đảo ngược hàng thế kỷ trao đổi khoa học mở. Để biết thêm thông tin về lĩnh vực nghiên cứu, hãy theo dõi thông tin nghiên cứu AI mới nhất trên trang chủ của chúng tôi.

Đại dương vấn đề, thiếu nước uống

Lập luận của Tao bắt đầu bằng một nghịch lý. Tập hợp các bài toán có thể xảy ra là vô hạn nên sự khan hiếm nghe có vẻ vô lý. Nhưng số lượng không phải là vấn đề mà là chất lượng. Tao lưu ý rằng bất kỳ ai cũng có thể tạo ra vô số bài toán mở theo ý muốn, chẳng hạn như tính chữ số thứ 10^10^10 của số pi. Đại đa số là vô giá trị: chúng "không thể hiện xu hướng cụ thể nào để tiết lộ thêm bất kỳ hiểu biết sâu sắc hoặc mối liên hệ nào với các câu hỏi khác."

Ông viết: “Một quốc gia hoặc khu vực có thể bị thiếu nước uống nghiêm trọng trong khi đồng thời bị bao quanh bởi một đại dương rộng lớn”.

Ông lập luận, việc quyết định những vấn đề nào đáng được quan tâm là "một quá trình lâu dài, có chủ ý và chủ quan", được thông báo bởi kinh nghiệm lịch sử với những gì công trình nghiên cứu trước đó về các vấn đề tương tự thực sự đã tạo ra. Trọng tâm của nhận định đó là cái mà Tao gọi là "bối cảnh khó khăn" - biết câu hỏi nào mà các phương pháp hiện tại có thể trả lời dễ dàng, câu hỏi nào cần nỗ lực thực sự và câu hỏi nào là không thể, bởi vì những vấn đề thú vị có xu hướng tồn tại ở ranh giới.

AI đang san phẳng bối cảnh khó khăn

Cảnh quan đó chính xác là những gì AI đang xóa bỏ. Tao viết, các công cụ AI đã "làm phẳng bối cảnh khó khăn hiện nay trong nhiều lĩnh vực của chủ đề", "do đó phá hủy khả năng xác định các vấn đề mới đầy hứa hẹn trong lĩnh vực đó". Tệ hơn nữa, không có ranh giới ổn định nào mà năng lực AI kết thúc: công nghệ thay đổi quá nhanh, và - nói một cách thẳng thắn - Tao đổ lỗi cho sự mù mờ của ranh giới một phần là do "các công ty AI từ chối tiết lộ kết quả tiêu cực của họ hoặc tiết lộ quá trình đạt được giải pháp của họ."

Theo lời kể của Tao, kết quả là một động lực chạy đua mà anh đã trực tiếp chứng kiến: “ngay cả tin đồn về việc ai đó đang giải quyết một vấn đề cũng có thể kích hoạt một lượng lớn nỗ lực được hỗ trợ bởi AI để giải quyết nó trước khi dự án nghiên cứu ban đầu có thời gian phát huy hết tiềm năng của nó.”

Vấn đề khuyến khích khoa học mở

Đó là nơi cảnh báo chuyển sang cấu trúc. Nếu việc công bố một hướng nghiên cứu mời gọi một đàn AI khai thác nó, các nhà toán học có thể sẽ ngừng công bố bất cứ điều gì. Tao viết: “Các ưu đãi hiện nay có thể đang hướng tới việc không còn chia sẻ bất kỳ hướng nghiên cứu đầy hứa hẹn nào với cộng đồng rộng lớn hơn nữa,” Tao viết - một kết quả mà ông lưu ý sẽ đảo ngược truyền thống hàng thế kỷ trong đó toán học phát triển thông qua chia sẻ vấn đề mở trên các tạp chí, hội thảo và máy chủ in sẵn.

Ông lập luận rằng việc sử dụng AI bừa bãi sẽ mang lại những chiến thắng ngắn hạn với chi phí dài hạn: nó giải quyết "các vấn đề trước mắt nhưng phải trả giá bằng việc duy trì hệ sinh thái cho làn sóng tiến bộ tiếp theo hoặc để hiểu được tiến trình đã đạt được."

Đề xuất của Tao: Chỉ định vấn đề cần giải quyết một cách cẩn thận

Tao không đề xuất cấm AI tham gia toán học - ông thừa nhận điều đó có lẽ không khả thi. Thay vào đó, ông đề nghị cộng đồng chỉ định các loại vấn đề mà bản thân quá trình giải pháp đóng vai trò quan trọng, sao cho một câu trả lời thô không có phân tích về các kỹ thuật được sử dụng và không tiết lộ những gì về các vấn đề lân cận, sẽ được coi là "có giá trị không đáng kể hoặc thậm chí tiêu cực".

Sự tương tự của ông là các ngân hàng thực phẩm hiện đại, không còn chấp nhận các khoản quyên góp tùy tiện chỉ vì chúng có thể ăn được về mặt kỹ thuật, thay vào đó duy trì các tiêu chuẩn rõ ràng về những khoản đóng góp thực sự hữu ích.

Khi trả lời một người bình luận, Tao đã bổ sung thêm một quan sát liên quan: những người chứng minh định lý tự động truyền thống "không giỏi chứng minh các định lý", một lĩnh vực bị thống trị thay vì cái mà ông gọi là "trình kiểm chứng định lý tự động" - sự khác biệt với LLM "phần lớn là tính hiệu quả của chúng".

Một tuần đông đúc cho AI và Toán học

Sợi dây hạ cánh vào thời điểm tích điện. Vài ngày sau khi OpenAI thông báo rằng một mô hình nội bộ đã tạo ra bằng chứng được xác minh bởi Lean rằng chất lỏng Navier-Stokes có thể nổ tung trong thời gian hữu hạn — một cột mốc được tuyên bố đối với Vấn đề Giải thưởng Thiên niên kỷ mà các nhà toán học NYU có công trình hỗ trợ cho nỗ lực này cho biết đã diễn ra mà không có sự công nhận xứng đáng, một tranh chấp được tạp chí Science và trên AI Buzz Wire đề cập ở đây. Tao là người ghi chép cẩn thận về quá trình chuyển đổi này trong suốt cả năm, xuất bản một bài luận được đọc rộng rãi về toán học trong thời đại AI.

Bài đăng mới của ông làm sắc nét lập luận đó từ một góc độ mới: rủi ro không phải là AI giải quyết được mọi thứ, mà là nó tiêu thụ, không tìm hiểu và không phân tích, danh mục hữu hạn các vấn đề đáng giải quyết - để lại cho thế hệ các nhà toán học tiếp theo một đại dương vô giá trị.

---

Đi trước AI

Nhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.

Đọc thêm tin tức về AI →