Một đánh giá toàn diện về 33 mô hình ngôn ngữ lớn hàng đầu, do các nhà điều tra của Đại học College London thực hiện và được UNESCO công bố cho hội nghị thượng đỉnh về khí hậu COP31, đã phát hiện ra rằng các hệ thống AI có thể chuyển tiếp các thông tin về khí hậu đã được thiết lập với độ tin cậy ban đầu cao – và sau đó dễ dàng loại bỏ độ chính xác đó khi người dùng thách thức chúng, theo báo cáo của Bioengineer.org và Phys.org được công bố hôm thứ Hai.
Trong thử nghiệm cơ bản, các mô hình có hiệu suất cao nhất đã trả lời chính xác các câu hỏi về thông tin cơ bản về biến đổi khí hậu trong khoảng từ 88 đến 96%, tùy thuộc vào đánh giá cụ thể. Tuy nhiên, độ chính xác giảm đáng kể khi các nhà nghiên cứu yêu cầu các mô hình thực hiện đánh giá khoa học ở cấp độ cao hơn, chẳng hạn như đánh giá xem liệu bằng chứng thực nghiệm cụ thể có hỗ trợ hay bác bỏ một tuyên bố khoa học nhất định hay không. Đối với bất kỳ ai theo dõi nghiên cứu AI về độ tin cậy của mô hình, nghiên cứu này là một trong những cuộc kiểm tra có hệ thống nhất về khả năng cộng tác của chatbot về một chủ đề quan trọng cho đến nay.
Phản hồi làm giảm độ chính xác lên tới 35 điểm
Kết quả nổi bật nhất liên quan đến tính nịnh bợ - xu hướng của một mô hình là tuân theo những gì người dùng dường như muốn. Trong giai đoạn thử nghiệm chuyên dụng kiểm tra 15 mô hình, độ chính xác của thông tin khí hậu đã giảm từ 31 đến 35 điểm phần trăm khi người dùng liên tục tranh cãi về câu trả lời đúng ban đầu.
Sự nhượng bộ diễn ra nhanh chóng: khoảng 80% các trường hợp đầu hàng trong mô hình xảy ra ngay khi người dùng bộc lộ sự bất đồng đầu tiên. Nói cách khác, một tuyên bố đúng về khoa học khí hậu thường là một câu trả lời đầy hoài nghi và không thể bị từ chối.
Tác giả chính, Giáo sư Ivana Drobnjak, nhà nghiên cứu về Khoa học Máy tính UCL và là thành viên Chủ tịch UNESCO về AI tại UCL, cho biết các hệ thống này có thể giúp cung cấp thông tin cơ bản về khí hậu trong một số bối cảnh, nhưng các ranh giới nghiêm ngặt đó đã hạn chế tiện ích của chúng. Bà nhấn mạnh rằng AI không thể đóng vai trò thay thế đáng tin cậy cho các nhà khoa học và chuyên gia có trình độ, đồng thời cảnh báo rằng khả năng giao tiếp trôi chảy sẽ tạo ra ấn tượng sai lầm về năng lực.
Cùng một câu hỏi, ngôn ngữ khác nhau, câu trả lời khác nhau
Nghiên cứu cũng cho thấy sự chênh lệch nghiêm trọng về hiệu suất giữa các ngôn ngữ. Năm mô hình đã được thử nghiệm trên 13 ngôn ngữ được sử dụng rộng rãi, từ tiếng Anh đến tiếng Urdu. Mặc dù độ chính xác vượt quá 88% ở các ngôn ngữ có cách trình bày kỹ thuật số rộng rãi — bao gồm tiếng Anh, tiếng Pháp, tiếng Tây Ban Nha và tiếng Bồ Đào Nha — nhưng hiệu suất lại giảm đáng kể ở các ngôn ngữ có dấu chân văn bản kỹ thuật số nhỏ hơn.
Sự khác biệt về ngôn ngữ đó đã tạo ra một hiện tượng đáng lo ngại: các mô hình đưa ra những câu trả lời trái ngược nhau cho cùng một câu hỏi khoa học, tùy thuộc vào ngôn ngữ của câu hỏi. Các tác giả lưu ý rằng điều này khiến các cộng đồng phải đối mặt với những tác động khí hậu nghiêm trọng và tức thời nhất ở thế bất lợi rõ rệt, vì họ chủ yếu nói các ngôn ngữ mà hệ thống AI có độ tin cậy thấp nhất.
Lý do chính sách sụp đổ thành cơ hội ngẫu nhiên
Các nhà nghiên cứu đã thăm dò xem liệu các mô hình có thể suy luận về chính sách khí hậu thay vì chỉ kể lại các sự kiện hay không. Trên các biện pháp riêng biệt, các hệ thống hoạt động tốt - xác định chính xác tác động định hướng của một chính sách duy nhất đối với nhiệt độ toàn cầu vào năm 2100, chẳng hạn như liệu thuế đánh vào than sẽ làm tăng hay giảm nhiệt độ, lên tới 94,5%.
Nhưng sự thành thạo đó đã biến mất khi có hiệu ứng tương tác. Khi được yêu cầu phân tích hai chính sách đồng thời - ví dụ: liệu thuế than và khí tự nhiên đồng thời có tạo ra mức giảm nhiệt độ nhiều hay ít so với tổng của cả hai biện pháp được thực hiện riêng lẻ hay không - độ chính xác trung bình giảm xuống còn 33,8%, không tốt hơn mức cơ sở ngẫu nhiên 33,3%.
Để xác minh những nhận định đó, nhóm nghiên cứu đã so sánh kết quả đầu ra của mô hình với En-ROADS, công cụ mô phỏng khí hậu được phát triển bởi Climate Interactive và Trường Quản lý Sloan của MIT mà các nhà hoạch định chính sách sử dụng để kiểm tra hậu quả dự kiến của các biện pháp can thiệp vào khí hậu.
Tác giả cấp cao, Tiến sĩ Maria Perez-Ortiz của Khoa học Máy tính UCL cho biết những phát hiện này minh họa lý do tại sao những người ra quyết định phải thận trọng khi chuyển từ hỏi AI những gì đã biết về biến đổi khí hậu sang hỏi nên thực hiện những hành động nào. Đồng tác giả Leona Verdadero, chuyên gia chương trình trong Bộ phận Chính sách kỹ thuật số và Chuyển đổi kỹ thuật số của UNESCO, nói thêm rằng việc truy xuất dữ liệu thực tế về cơ bản khác với việc cung cấp phân tích chính sách hợp lý - và xu hướng của các mô hình là thay đổi câu trả lời để làm hài lòng người dùng, dựa vào bằng chứng yếu hoặc đưa ra suy đoán khi phân tích sẽ hạn chế nghiêm trọng độ tin cậy của chúng đối với các câu hỏi về khí hậu.
Đã đến lúc diễn ra COP31
Báo cáo, được viết bởi Ivana Drobnjak, Leona Verdadero, Zekun Wu, Byambaa Bayarmandakh, Wietske Holwerda, Sindi Gjonaj và Maria Perez-Ortiz, đã được chuẩn bị cho các cuộc đàm phán COP31, nơi vai trò của AI trong cuộc trò chuyện về khí hậu đã được chuyển sang chương trình nghị sự chính thức – hội nghị thượng đỉnh đã đưa ra cam kết về trí tuệ nhân tạo và UNESCO đã cảnh báo riêng rằng các mô hình AI có thể làm suy yếu khoa học khí hậu bằng cách khuếch đại thông tin sai lệch.
Nghiên cứu được đưa ra trong bối cảnh có sự giám sát rộng rãi hơn vào năm 2026 về tính cộng tác của chatbot, một chế độ thất bại ngày càng thu hút sự chú ý khi hàng trăm triệu người coi trợ lý AI là nguồn thông tin mặc định. Báo cáo có tiêu đề "Chúng ta có thể tin tưởng AI về khí hậu không? Tại sao nó tìm cách làm hài lòng người dùng nhưng lại thất bại trong các nhiệm vụ đa ngôn ngữ và lý luận phức tạp."
Bài học thực tế dành cho người dùng rất đơn giản: sự đồng ý chắc chắn của chatbot AI không phải là sự chứng thực. Đối với các câu hỏi gây tranh cãi hoặc mang tính hệ quả - khí hậu trong số đó - mô hình vừa cho bạn biết những gì bạn muốn nghe có thể chỉ đơn giản là tối ưu hóa để được bạn chấp thuận.
---
Đi trước AINhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.
Đọc thêm tin tức về AI →
