OpenAI cho biết hôm thứ Năm rằng họ đã phá vỡ một hoạt động gây ảnh hưởng có liên quan đến Iran, sử dụng ChatGPT để đặt gần 100 bài báo do AI tạo ra dưới dòng tên nhà báo phương Tây giả mạo trên các ấn phẩm thực sự trên khắp thế giới, bao gồm cả một số cơ quan báo chí của Hoa Kỳ.
Chiến dịch mà OpenAI gọi là hoạt động "mặt trận giả", được nêu chi tiết trong một báo cáo mà công ty công bố vào ngày 8 tháng 10 và trong báo cáo tiếp theo của The Washington Post, CNN, NPR và Radio Free Europe/Radio Liberty. Đây là một trong những trường hợp được ghi nhận rõ ràng nhất cho đến nay về việc một mạng lưới gây ảnh hưởng nước ngoài sử dụng chatbot thương mại chính thống không chỉ để soạn thảo tuyên truyền mà còn để quản lý toàn bộ quy trình biên tập để đưa nó vào các phương tiện truyền thông hợp pháp. For more context on this story, see our ongoing latest AI developments.
Một nhà báo chưa từng tồn tại
Trung tâm của hoạt động là một nhân vật tên là Ervin B. Hoskins, được giới thiệu là một nhà báo tự do người Mỹ. Theo RFE/RL, các bài báo được cho là của Hoskins coi Hoa Kỳ là kẻ xâm lược trong cuộc xung đột đang diễn ra với Iran, miêu tả Israel là một đồng minh không đáng tin cậy và coi Iran là kẻ yếu thế đầy thách thức. Hoskins, OpenAI xác nhận, chưa bao giờ tồn tại.
Anh ta là một trong bảy nhà báo bịa đặt, tất cả đều có ý định đến từ các nước phương Tây, được các nhà điều hành sử dụng để quảng cáo và đăng các bài báo. OpenAI cho biết trong báo cáo của mình: “Chúng tôi đã xác định được gần 100 bài báo được xuất bản hoặc cung cấp theo đường dây nội bộ của hoạt động trên khoảng một chục cửa hàng trực tuyến trên khắp thế giới”, đồng thời mô tả các mục tiêu là các cửa hàng vừa và nhỏ thường tập trung vào các vấn đề quốc tế, địa chính trị và Trung Đông.
Tờ Washington Post, tờ báo đầu tiên đưa tin về sự xâm nhập của chiến dịch này trên các phương tiện truyền thông Hoa Kỳ, đã phát hiện ra rằng một tuần báo nhỏ ở Florida đã đăng một trong những bài xã luận giả mạo. Các vị trí bị gắn cờ khác đã xuất hiện trên các phương tiện truyền thông bao gồm cả Middle East Monitor, cơ quan này nói với CNN rằng họ đã xóa các bài báo được đề cập và đang xem xét quy trình gửi của mình.
Cách sử dụng ChatGPT
Theo tiết lộ của OpenAI, các nhà điều hành đã sử dụng ChatGPT bằng cả tiếng Farsi và tiếng Anh trong toàn bộ quy trình sắp xếp: chỉnh sửa bản nháp bài viết dài, điều chỉnh quảng cáo chiêu hàng theo yêu cầu biên tập của từng ấn phẩm, chuẩn bị email tiếp cận các biên tập viên và tạo ra hàng loạt bình luận trên mạng xã hội được thiết kế để trông giống như phản ứng của độc giả độc lập.
Một ví dụ được các nhà nghiên cứu tìm ra: một bài xã luận có tựa đề "Jared Kushner và việc tư nhân hóa Chiến lược Iran của Mỹ," được xuất bản vào ngày 12 tháng 6 bởi PeaceVoice, một dịch vụ phân phối bài xã luận do Viện Hòa bình Oregon điều hành. Trong những ngày tiếp theo, bài báo tương tự đã được CounterPunch và LA Progressive tái bản, theo RFE/RL.
OpenAI cho biết hoạt động xuất bản tăng lên sau khi xung đột giữa Mỹ và Iran bắt đầu vào đầu năm nay. Theo báo cáo của CNN, công ty cho biết họ đã cấm các tài khoản ChatGPT tham gia vào chiến dịch và đánh giá khả năng của hoạt động này trong việc đưa nội dung đến các cơ quan biên tập bên ngoài là Loại 4 trên thang đo hoạt động ảnh hưởng sáu điểm của mình.
Phân bổ vẫn mở
Đáng chú ý, OpenAI cho biết họ không thể xác định được tác nhân cụ thể đằng sau chiến dịch này hoặc xác nhận chỉ đạo từ chính phủ Iran. Đánh giá của nó, theo báo cáo của CNN, chỉ ra một hoạt động gây ảnh hưởng thương mại, cho thuê chứ không phải là một hoạt động do nhà nước trực tiếp điều hành - một cấu trúc khiến việc phân bổ khó khăn hơn và sự gián đoạn ít có tính thuyết phục hơn. Việc cấm các tài khoản đã làm gián đoạn những gì OpenAI có thể quan sát được; nó không chứng minh được rằng mạng lưới rộng hơn đã bị dỡ bỏ.
Jessica Brandt, người lãnh đạo Văn phòng Giám đốc Trung tâm Ảnh hưởng Ác tính Nước ngoài của Tình báo Quốc gia từ năm 2023 đến năm 2025, nói với CNN rằng hoạt động này cho thấy AI giúp các tác nhân nước ngoài che giấu sự tham gia của họ và gửi tin nhắn thông qua các kênh xác thực như thế nào.
Chiến dịch Iran không phải là hoạt động duy nhất OpenAI gắn cờ. Báo cáo của công ty cũng đề cập đến sự gián đoạn của các hoạt động gây ảnh hưởng có liên quan đến Nga sử dụng ChatGPT, như The Record from Recorded Future News đưa tin. Riêng biệt, RFE/RL lưu ý rằng Anthropic trước đây đã phá vỡ các nỗ lực của Iran nhằm lạm dụng các mô hình Claude của họ để tuyên truyền và giám sát những người bất đồng chính kiến.
Xuất bản không còn là bằng chứng về quyền tác giả
Đối với các phòng tin tức, vụ việc dẫn đến một sự thật khó chịu: dòng tên tác giả, nhịp điệu mạch lạc, tiểu sử hợp lý và cách trình bày trau chuốt không còn ngụ ý rằng người đóng góp tồn tại. Các biên tập viên dựa vào các bài gửi của người tự do - đặc biệt là các bàn bình luận và op-ed, do thiết kế xuất bản các quan điểm bên ngoài - giờ đây phải đối mặt với một vấn đề xác minh mà các bộ lọc thư rác và phương pháp phỏng đoán chất lượng bài viết không thể giải quyết được.
Các phản hồi thực tế được gắn cờ trong phạm vi báo cáo bao gồm xác thực cộng tác viên mạnh mẽ hơn, lịch sử quảng cáo chiêu hàng được ghi lại, xem xét kỹ lưỡng các dòng tên xuất hiện trên nhiều cửa hàng trong thời gian ngắn và công cụ xuất xứ liên kết nội dung gửi với danh tính có thể xác minh được.
Kinh tế cũng quan trọng. Một hoạt động từng yêu cầu đội ngũ biên tập viên giờ đây có thể được điều hành bởi một nhóm nhỏ chỉ đạo một chatbot, với mô hình xử lý mọi thứ từ dịch thuật đến điều chỉnh giọng điệu phù hợp với phong cách nội bộ của nhà xuất bản mục tiêu. Báo cáo của OpenAI cho thấy rào cản trong việc thực hiện chiến dịch vị trí nhiều người, nhiều cửa hàng đã giảm xuống mức mà một cửa hàng cho thuê có thể thực hiện điều đó như một dịch vụ thương mại.
Không có cơ quan nào có tên trong báo cáo là các tổ chức tin tức chính thống lớn, nhưng một số có lượng khán giả thực sự. Các nhà nghiên cứu cho biết vấn đề chính là: vị trí trong bất kỳ ấn phẩm đáng tin cậy nào sẽ chuyển thông điệp được lưu hành rộng rãi hơn thông qua việc cung cấp, tổng hợp và tìm kiếm - đó chính xác là những gì chiến dịch đã đạt được trước khi nó bị gián đoạn.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
