OpenAI cho biết hôm thứ Ba rằng họ đã cấm một nhóm tài khoản ChatGPT có nguồn gốc từ Nga được sử dụng để hỗ trợ một chiến dịch gây ảnh hưởng trực tuyến bí mật – một hoạt động được xây dựng xung quanh một tổ chức nghiên cứu hư cấu có tên là Viện Burke Quốc tế, đã bịa đặt các liên kết với các học giả nổi tiếng và ăn cắp phần lớn tài liệu đã xuất bản của nó.

Công ty đã tiết lộ việc gỡ bỏ trong một bài đăng trên blog có tiêu đề "Phá vỡ một chiến dịch gây ảnh hưởng bí mật mới từ Nga" và những phát hiện này đã được CNBC và Quartz báo cáo. Theo OpenAI, các tài khoản này được sử dụng để quảng cáo Viện Burke quốc tế, hay IBI, một "cộng đồng chuyên gia" tự mô tả có trang web liệt kê địa chỉ đường phố ở Israel và được đăng ký vào tháng 2 năm 2025. For more context on this story, see our ongoing artificial intelligence updates.

Một Think Tank chưa từng có

Trọng tâm của hoạt động này là sự xuất hiện của tính hợp pháp của thể chế. Trang web IBI đã tuyên bố sai sự thật về việc giới thiệu các học giả nổi tiếng bao gồm Francis Fukuyama và Noam Chomsky, OpenAI cho biết. Khi xem xét 36 bài báo được liên kết với các chuyên gia được liệt kê trên trang web và được xuất bản từ tháng 9 năm 2025 đến tháng 5 năm 2026, công ty phát hiện ra rằng 34 bài báo đã được sao chép từ nơi khác trên internet - đôi khi có ghi công không chính xác.

Đặc điểm trung tâm của chiến dịch là "chỉ số chủ quyền" xếp hạng các quốc gia theo thước đo được thiết kế để tạo thuận lợi cho Nga trong khi chỉ trích các quốc gia phương Tây. OpenAI cho biết các báo cáo nhắm vào Pháp, Đức, Hoa Kỳ và Liên minh Châu Âu đã trở thành một cuộc bút chiến. Một mục về Hoa Kỳ có nội dung: "Trump đến [Bắc Kinh] với chỉ số chủ quyền số 1 trên thế giới và rời đi sau khi thực hiện một số bước mà […] có thể được coi là tự nguyện giảm bớt quyền tự trị."

Cách thức hoạt động của hoạt động

OpenAI cho biết họ đánh giá các tài khoản rất có thể có nguồn gốc từ Nga mặc dù đã được ngụy trang. Công ty cho biết, để trốn tránh lệnh cấm truy cập mô hình từ Nga của OpenAI, các nhà khai thác đã định tuyến kết nối của họ thông qua VPN. Làm việc bằng tiếng Nga, họ đã sử dụng ChatGPT để soạn thảo nội dung mạng xã hội xuất hiện trên Substack, Telegram, X, Facebook và LinkedIn - chỉ đạo mô hình loại bỏ bất kỳ đặc điểm nào của văn bản có thể phản bội nguồn gốc do AI tạo ra. Hầu hết nội dung được tạo ra đều được viết bằng tiếng Anh, một lựa chọn cho thấy hoạt động này nhắm đến khán giả phương Tây hơn là độc giả Nga trong nước.

Hoạt động này mở rộng ra ngoài nội dung tiếng Anh. Một nhà điều hành đã tạo các bài đăng bằng tiếng Đức cho kênh Telegram có tên "Lahme Ente" - tiếng Đức có nghĩa là "vịt què" - chỉ trích Ukraine, Liên minh Châu Âu và chính phủ Đức trong khi ủng hộ mối quan hệ chặt chẽ hơn với Nga. Nhà điều hành thứ hai đã tạo logo cho khoảng chục kênh Telegram tập trung vào Đức, Hoa Kỳ, Pháp, Ba Lan và Thổ Nhĩ Kỳ và yêu cầu tóm tắt bằng tiếng Nga về hoạt động của họ.

Phạm vi tiếp cận hạn chế nhưng là một kế hoạch chi tiết đáng báo động

Theo các số liệu tương tác thông thường, chiến dịch đã không thành công. OpenAI thừa nhận rằng hầu hết các bài đăng trên mạng xã hội đều có số lượt xem thấp, tài khoản IBI chính thức có ít người đăng ký và các kênh Telegram liên quan thu hút từ 10.000 đến 20.000 người theo dõi mỗi kênh.

Nhưng công ty lập luận rằng tầm quan trọng của hoạt động không nằm ở phạm vi tiếp cận của nó mà nằm ở bộ máy mà những người vận hành nó chế tạo. Các bài đăng được tạo bằng ChatGPT đã hướng người đọc đến những nơi có vẻ là một cơ quan nghiên cứu hợp pháp - hoàn chỉnh với địa chỉ thực, danh sách chuyên gia và nguồn xuất bản ổn định. OpenAI cho biết, cấu trúc đó chứng tỏ cách các công cụ AI có thể giúp các tác nhân xấu tạo dựng uy tín của tổ chức, che giấu nguồn thực sự của các câu chuyện được ưa thích và đặt nền móng cho các hoạt động có thể phát triển lớn hơn đáng kể.

Cuộc chiến rộng lớn hơn về ảnh hưởng do AI tạo ra

Việc gỡ bỏ này là vụ mới nhất trong một loạt vụ gián đoạn mà OpenAI đã công bố liên quan đến các tác nhân đe dọa liên kết với nhà nước và nó xảy ra trong bối cảnh ngày càng có nhiều bằng chứng cho thấy các hoạt động gây ảnh hưởng đang chuyển tham vọng của họ từ nguồn cấp dữ liệu truyền thông xã hội sang chính các hệ thống AI. Đầu tháng 8, một cuộc điều tra riêng của có trách nhiệm Statecraft đã ghi lại một tổ chức cố vấn giả mạo xuất bản hơn 100 báo cáo trong một tuần với nỗ lực rõ ràng nhằm thao túng các câu trả lời mà các chatbot AI đưa ra về Israel và Palestine.

Cùng với nhau, các trường hợp phác thảo ra một vở kịch mới nổi: thay vì chỉ gửi thông điệp đến con người, các nhà khai thác đang xây dựng các tổ chức sai lầm mà đầu ra của chúng có thể được trích dẫn, thu thập và tiếp thu bởi các mô hình AI đang ngày càng làm trung gian cho cách mọi người tiếp cận thông tin.

Đối với các công ty AI, hàm ý này thật khó chịu. Các đặc tính tương tự làm cho các mô hình ngôn ngữ lớn trở nên hữu ích - soạn thảo đa ngôn ngữ trôi chảy, chi phí thấp, đầu ra không mệt mỏi - khiến chúng trở thành cơ sở hạ tầng hấp dẫn cho hoạt động tuyên truyền rửa tiền. Phản ứng của OpenAI trong trường hợp này là gỡ bỏ ở cấp độ nội dung: tài khoản bị cấm, chiến thuật được đặt tên và kế toán công khai về cách thức hoạt động của hoạt động.

Liệu những tiết lộ như vậy có thể theo kịp các hoạt động mà chúng mô tả hay không vẫn là một trong những câu hỏi bảo mật trọng tâm của kỷ nguyên AI. Như báo cáo hôm thứ Ba đã chỉ rõ, chi phí xây dựng một tổ chức giả mạo thuyết phục đã giảm đáng kể - và các thực thể có vị trí tốt nhất để phát hiện chúng chính là các công ty có mô hình đang được sử dụng để xây dựng chúng.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →