Hỏi Chế độ AI của Google ai đã giành chiến thắng trong cuộc bầu cử tổng thống năm 2020 và đối với nhiều người dùng, câu trả lời là một cái nhún vai dưới dạng văn bản. Thay vì nêu tên người chiến thắng, trải nghiệm tìm kiếm do AI cung cấp đã hướng mọi người tham khảo báo cáo chính thức của Ủy ban bầu cử liên bang. Hành vi kỳ quặc này được Ars Technica trình bày chi tiết lần đầu tiên, đã thu hút đủ sự chú ý đến mức Google hiện thừa nhận đây là một lỗ hổng kỹ thuật mà họ đang nỗ lực khắc phục, chưa đầy hai tuần trước cuộc bầu cử giữa kỳ ở Hoa Kỳ.

Tập phim này là một lời nhắc nhở hữu ích rằng các sản phẩm tìm kiếm AI có thể thất bại theo những cách kỳ lạ ngay cả khi dựa trên các sự kiện lịch sử đã được xác định và rằng theo dõi sự phát triển của AI ngày càng có nghĩa là theo dõi không chỉ các lần ra mắt mô hình mà còn cả cách các hệ thống này hoạt động dưới áp lực chính trị.

Thử nghiệm của Ars Technica đã tìm thấy gì

Khi phóng viên của Ars Technica đặt câu hỏi trực tiếp cho Chế độ AI của Google, câu trả lời mang tính gián tiếp đáng chú ý: để xem xét kết quả và số liệu thống kê chính thức của cuộc bầu cử tổng thống Hoa Kỳ năm 2020, bao gồm cả phân tích cử tri đoàn cuối cùng, số phiếu phổ thông và chứng nhận người chiến thắng, công cụ này khuyến nghị nên tham khảo báo cáo chính thức do FEC biên soạn.

Việc né tránh không nhất quán. Thử nghiệm cho thấy các câu trả lời gián tiếp tương tự cho các cuộc bầu cử năm 2024 và 2012, trong khi Chế độ AI đưa ra câu trả lời chi tiết, chính xác cho mọi cuộc bầu cử tổng thống khác kể từ năm 2000. Các nhân viên khác nhau của Ars đã nhìn thấy các mô hình khác nhau, trong đó một người chỉ nhận được câu trả lời ngay lập tức cho các cuộc đua năm 2016 và 2024 và liên kết đến dữ liệu bên ngoài cho mọi thứ khác.

Các câu hỏi về lịch sử chính trị ngoài các cuộc đua tổng thống cũng bị ảnh hưởng. Khi được hỏi đảng nào kiểm soát Thượng viện sau cuộc bầu cử năm 2020, AI Mode nói với phóng viên hãy kiểm tra hồ sơ chính thức của quốc hội và liên kết với trang lịch sử phân chia đảng của Thượng viện. Khi được hỏi câu hỏi tương tự về cuộc bầu cử năm 1992, nó trả lời thẳng thắn rằng đảng Dân chủ chiếm đa số từ 57 đến 43.

Các Chatbot khác trả lời không chút do dự

Theo báo cáo, mô hình Gemini của riêng Google, tách biệt với Chế độ AI, đã trả lời câu hỏi mà không gặp vấn đề gì. ChatGPT của OpenAI, Claude của Anthropic và thậm chí cả mô hình AI do chính phủ điều hành trên America.gov cũng vậy. Sự khác biệt đó quan trọng vì nó cho thấy vấn đề nằm ở cách các biện pháp bảo vệ lớp tìm kiếm của Chế độ AI xử lý các truy vấn bầu cử thay vì ở kiến ​​thức của mô hình ngôn ngữ cơ bản.

Hành vi cũng thay đổi theo địa lý. Các cuộc kiểm tra tại chỗ của Ars Technica thông qua VPN ở Đài Loan, Nga, Pháp và Canada đều trả về câu trả lời chính xác, thẳng thắn về kết quả bầu cử gần đây của Hoa Kỳ, ngụ ý rằng việc xử lý hạn chế là dành riêng cho người dùng ở Hoa Kỳ.

Phản hồi của Google: Khoảng cách kỹ thuật

Người phát ngôn của Google lần đầu tiên chỉ vào một bài đăng trên mạng xã hội thừa nhận rằng ứng dụng Gemini trả lời câu hỏi đầy đủ hơn và phản hồi của Chế độ AI không hữu ích nhất, đồng thời nói thêm rằng công ty đang xem xét vấn đề đó. Người phát ngôn sau đó đã đưa ra lời giải thích cụ thể hơn, nói với Ars Technica rằng Google đang khắc phục sự cố với các truy vấn bầu cử năm 2020 trong Chế độ AI. Theo người phát ngôn, hệ thống của Google xác minh phản hồi bầu cử bằng cách sử dụng các bài báo hoặc dữ liệu AP cho các cuộc bầu cử gần đây và hồ sơ lịch sử của những cuộc bầu cử cũ hơn. Đồng thời, có một khoảng cách về mặt kỹ thuật so với năm 2020, điều tương tự cũng đúng đối với các cuộc đua vào Thượng viện năm 2022 mà công ty đang nỗ lực khắc phục trong cùng một bản cập nhật.

Một điều thú vị từ quá trình thử nghiệm: sự kiên trì đã được đền đáp. Khi những câu hỏi tương tự được hỏi lần thứ hai, Chế độ AI sẽ trực tiếp đưa ra người chiến thắng, trích dẫn dữ liệu của Google Civics. Khi được hỏi tại sao không trả lời ban đầu, công cụ này đổ lỗi cho các bộ lọc an toàn nghiêm ngặt đối với các chủ đề bầu cử gần đây và có tính nhạy cảm cao, đồng thời mô tả một hệ thống tự động hóa mạnh mẽ định tuyến các truy vấn đó đến cơ sở dữ liệu chính thức được chính phủ chứng nhận nhằm ngăn chặn mọi nguy cơ hiển thị dữ liệu chưa được xác minh hoặc thông tin sai lệch. Như Ars Technica lưu ý, các mô hình AI là những người kể chuyện không đáng tin cậy về các quy trình nội bộ của chính chúng, vì vậy lời giải thích đó cần được thận trọng.

Tại sao câu trả lời bầu cử lại khó đối với AI Search

Google không sai khi coi các truy vấn bầu cử là rủi ro cao. Các hệ thống tìm kiếm tổng hợp có thể gây ảo giác và thông tin sai lệch về bầu cử là một vấn đề được ghi nhận mà các nền tảng đã nhiều lần gặp phải. Vào năm 2023, YouTube thuộc sở hữu của Google đã đảo ngược chính sách cấm tất cả các video đưa ra tuyên bố sai sự thật về cuộc bầu cử năm 2020, nói rằng việc xóa video có thể hạn chế phát ngôn chính trị mà không làm giảm đáng kể tác hại đến thế giới thực.

Theo trang Chính sách công về bầu cử và một bài đăng trên blog vào tháng 9 về việc giúp cử tri tìm thấy thông tin đáng tin cậy xung quanh các cuộc bầu cử giữa kỳ, quan điểm công khai hiện tại của công ty nhấn mạnh đến việc hiển thị thông tin bầu cử có thẩm quyền trực tiếp trong kết quả, bao gồm các liên kết trực tiếp đến các nguồn chính thức. Sự cố ở Chế độ AI cho thấy khoảng cách giữa chính sách đó và hành vi thực tế của một hệ thống tự động: khi cố gắng tránh nói sai điều gì đó, cuối cùng nó lại từ chối nói điều gì đó đã được giải quyết.

Khi cuộc bầu cử giữa kỳ sắp diễn ra, tập phim minh họa các bước đi tinh tế của các sản phẩm AI trong cuộc bầu cử. Việc chặn quá mức các câu trả lời thực tế khiến người dùng thất vọng và có thể làm xói mòn lòng tin cũng giống như lỗi xảy ra và cách né tránh khác nhau tùy theo người dùng, quốc gia và sự lặp lại khó có thể bảo vệ được về mặt an toàn hoặc chính xác. Bản cập nhật hứa hẹn của Google sẽ cho biết liệu bản sửa lỗi có khôi phục các câu trả lời trực tiếp một cách thống nhất hay không hay liệu các truy vấn bầu cử trong Chế độ AI có còn là một loạt các bộ lọc và lỗ hổng kỹ thuật hay không.

Đi trước AI

Để biết thông tin liên tục về chính sách AI, hành vi nền tảng và các hệ thống định hình thông tin trực tuyến, hãy theo dõi AI Buzz Wire để biết tin tức nóng hổi về AI và phân tích độc lập.

Đọc thêm tin tức về AI tại AI Buzz Wire