Khi người Mỹ tham gia các cuộc bỏ phiếu cho cuộc bầu cử giữa nhiệm kỳ vào thứ Ba, cả OpenAI và Anthropic đều đang điều hành các "phòng chiến tranh" chuyên dụng để đảm bảo nền tảng AI của họ cung cấp thông tin bầu cử chính xác - lần đầu tiên đối với một trong hai công ty, Semafor đưa tin. Các động thái này thừa nhận một thực tế khó chịu: đối với số lượng cử tri ngày càng tăng, chatbot và các công cụ tìm kiếm AI hiện là cách chính để đặt câu hỏi cơ bản về cách thức, địa điểm và thời điểm bỏ phiếu.

Khái niệm phòng chiến tranh được mượn từ kỷ nguyên chính trị nền tảng trước đó. Nó bắt đầu từ năm 2018, khi Meta thành lập nhóm đầu tiên như vậy trong bối cảnh lo ngại về sự gia tăng của thông tin sai lệch liên quan đến bầu cử. Điều đã thay đổi kể từ đó là mô hình mối đe dọa: thời đại AI đã làm tăng thêm những rủi ro đó, hiện bao gồm các video deepfake và kết quả tìm kiếm do AI cung cấp tự tin phát tán thông tin sai lệch. Chúng tôi đang theo dõi sự giao thoa giữa AI và các cuộc bầu cử giữa kỳ suốt cả ngày trong tin tức AI về mùa bầu cử.

Lần đầu tiên cho cả hai phòng thí nghiệm AI

Anthropic đã xác nhận thiết lập của mình với Semafor. Người phát ngôn của Anthropic cho biết: “Các nhóm trong công ty làm việc quanh năm để tăng cường các biện pháp bảo vệ liên quan đến bầu cử và thực thi các chính sách của chúng tôi”. "Trước cuộc bầu cử, chúng tôi có một phòng chiến tranh chuyên dụng giám sát nền tảng của chúng tôi về việc sử dụng sai mục đích và sẵn sàng ứng phó nhanh chóng với bất kỳ sự cố nào."

Cấu trúc đơn giản nhưng đòi hỏi khắt khe: nhân viên giám sát cách Claude và các công cụ khác phản hồi các truy vấn bầu cử, theo dõi các kiểu sử dụng sai mục đích như thông tin sai lệch được tạo ra và duy trì quy trình phản hồi nhanh đối với các sự cố cần khắc phục trong vòng vài giờ chứ không phải vài ngày. Trong khi đó, NBC News đã đưa độc giả vào phòng chiến tranh bầu cử song song của OpenAI, xem xét cách công ty đang chuẩn bị cho tác động của AI đối với cuộc bầu cử giữa kỳ.

Việc cả hai công ty đều cảm thấy cần phải xây dựng khả năng này từ đầu đã nói lên điều gì đó về mức độ mới của vấn đề. Năm 2018, các nền tảng chủ yếu lo lắng về nội dung người dùng đăng. Vào năm 2026, họ cũng phải lo lắng về những gì mô hình của chính họ nói.

Khi câu trả lời của AI bị sai vào thời điểm tồi tệ nhất

Các cổ phần không phải là giả thuyết. Semafor đã chỉ ra một trường hợp từ tuần trước: Chế độ AI của Google sẽ không trả lời câu hỏi về ai đã thắng trong cuộc bầu cử năm 2020 - một trong những câu hỏi được hỏi nhiều nhất và được giải quyết nhiều nhất trong lịch sử chính trị gần đây của Hoa Kỳ. Google cho biết họ đang nỗ lực khắc phục sự cố.

Chế độ thất bại mang tính hướng dẫn. Hệ thống AI đôi khi từ chối những câu hỏi mà họ nên trả lời và đôi khi trả lời những câu hỏi mà họ nên từ chối, và cả hai lỗi đều tăng đột biến chính xác khi sự chú ý của công chúng - và lượng truy vấn - cao nhất. Một trợ lý AI ngăn chặn một câu hỏi thực tế về một cuộc bầu cử trong quá khứ sẽ làm suy yếu niềm tin giống như cách nó cố gắng thiết lập nó.

Mối quan tâm rộng hơn vượt ra ngoài những câu trả lời sai lầm duy nhất. Một phân tích của Hội đồng Quan hệ Đối ngoại được công bố trong tuần này đã cảnh báo rằng các chatbot AI có thể mang lại uy tín mới cho các chiến dịch gây ảnh hưởng - bởi vì thông tin sai lệch được truyền tải bằng giọng nói bình tĩnh, tự tin, giống như trợ lý sẽ mang lại bầu không khí trung lập mà một trang web đảng phái không bao giờ có được.

'Được xây dựng để giải quyết những điều chúng ta không thể đoán trước'

Tại sao phải duy trì phòng chiến tranh trực tiếp thay vì dựa vào thử nghiệm trước bầu cử? Katie Harbath, cựu giám đốc chính sách công của Meta, hiện đang làm việc về các vấn đề công nghệ và dân chủ, đã giải thích logic cho Semafor. Cô nói, “Các phòng chiến tranh được xây dựng để giải quyết những vấn đề mà chúng tôi không nhất thiết phải dự đoán sẽ xảy ra sai sót và bạn cần một quy trình nhanh chóng, được thiết lập về mặt phân loại.”

Semafor lưu ý rằng tính chất khó đoán đó càng trở nên phức tạp bởi tính chất không ổn định của AI, các vấn đề an ninh mạng gần đây ảnh hưởng đến ngành và xu hướng các công cụ tìm kiếm AI phản ánh lại câu trả lời mà người dùng muốn xem - một vấn đề về tính đồng bộ có thể âm thầm bóp méo cách mọi người hiểu các chủ đề đang tranh cãi.

Ngày bầu cử là một bài kiểm tra căng thẳng. Lượng truy vấn về địa điểm bỏ phiếu, vị trí ứng cử viên và kết quả sẽ tăng vọt đến mức không có đánh giá trước bầu cử nào mô phỏng đầy đủ. Các phòng chiến tranh tồn tại vì cách duy nhất để tìm hiểu xem các hệ thống này hoạt động như thế nào dưới tải trọng đó là theo dõi chúng trong thời gian thực, với thẩm quyền khắc phục mọi thứ nhanh chóng.

Xem gì khi có kết quả

Qua đêm bầu cử, các điểm áp lực có thể dự đoán được theo từng hạng mục ngay cả khi không đúng thời điểm: câu trả lời của AI về kết quả và tỷ suất lợi nhuận trước khi cuộc đua chính thức được gọi, các tác phẩm sâu được tính thời gian để gây nhầm lẫn tối đa và ảnh chụp màn hình các câu trả lời xấu của chatbot lan truyền nhanh hơn các bản sửa lỗi. Tốc độ thích ứng của các hệ thống OpenAI, Anthropic và Google sẽ định hình không chỉ môi trường thông tin của cuộc bầu cử này mà còn cả cách quản lý môi trường tiếp theo.

Đối với ngành AI, thử nghiệm sâu hơn mới mang lại danh tiếng. Hàng triệu cử tri sẽ tương tác với các hệ thống này lần đầu tiên trong tuần này trong bối cảnh dân sự có tính rủi ro cao. Những công ty nhận được câu trả lời đúng về cuộc bầu cử - hoặc khắc phục chúng một cách nhanh chóng - sẽ có được sự tin tưởng mà không chiến dịch tiếp thị nào có thể mua được.

---

Đi trước AI

Nhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.

Đọc thêm tin tức về AI →