OpenAI cho biết hôm thứ Năm rằng họ đã cấm hai hoạt động gây ảnh hưởng bí mật – một bắt nguồn từ Nga và một ở Iran – sử dụng ChatGPT để điều hành các thực thể “mặt trận giả” tinh vi được thiết kế nhằm rửa tuyên truyền địa chính trị cho các phương tiện truyền thông thực sự. Công ty cho biết chiến dịch có nguồn gốc từ Nga là hoạt động gây ảnh hưởng sâu rộng nhất mà họ từng phá vỡ kể từ khi bắt đầu công bố các báo cáo về mối đe dọa cách đây hai năm rưỡi.
Tiết lộ này được công bố trên trang web của OpenAI, là mục mới nhất trong chuỗi báo cáo về cách các chủ thể liên kết với nhà nước lạm dụng các mô hình AI thương mại. Nó cũng nhấn mạnh, như chúng tôi đã lưu ý trong bản tổng hợp tin tức AI mới nhất, một mô hình mà OpenAI đã quan sát thấy trong 30 hoạt động bí mật mà nó đã vạch trần kể từ đầu năm 2024: các chiến dịch thành công trong việc đưa nội dung của họ vào các ấn phẩm chân thực sẽ tiếp cận lượng khán giả lớn hơn nhiều so với những chiến dịch dựa vào các tài khoản mạng xã hội giả mạo.
Loại 5 đầu tiên: Chiến dịch "Dark Clark"
Hoạt động của Nga, được OpenAI đặt biệt danh là "Dark Clark", tập trung vào một tổ chức nghiên cứu tự phong ở Mỹ Latinh có tên là Trung tâm Nghiên cứu Xã hội (SRC). Theo OpenAI, những người điều hành đã kiểm soát tổ chức tư vấn thông qua một nhân vật bịa đặt tên là "Mia Clark", trong khi các nhân viên địa phương ở Mỹ Latinh tiến hành các cuộc phỏng vấn và soạn thảo tài liệu nghiên cứu mà không biết rằng họ đang làm việc cho một nhóm người Nga.
Sử dụng Thang đo đột phá - thước đo từ 1 đến 6 về phạm vi tiếp cận tiềm năng của hoạt động gây ảnh hưởng được phát triển tại Brookings - OpenAI đã đánh giá Dark Clark ở Hạng 5, xếp hạng cao nhất mà nó đã chỉ định cho bất kỳ hoạt động nào kể từ khi báo cáo bắt đầu. Chiến dịch có nguồn gốc từ Iran đã đạt đến Loại 4.
OpenAI cho biết phần lớn việc sử dụng ChatGPT của các nhà khai thác đã được đưa vào báo cáo nội bộ cho một người xử lý không rõ danh tính, mô tả các chiến dịch bôi nhọ Ukraine, phá hoại việc tuyển dụng cho lực lượng vũ trang Ukraine và can thiệp vào chính trị trong nước ở Argentina và Bolivia. Các nhà khai thác chủ yếu nhắc nhở bằng tiếng Nga và dựa vào VPN để truy cập dịch vụ, dịch vụ này chặn lưu lượng truy cập từ Nga.
Các nhà nghiên cứu của OpenAI đã chứng thực một số chiến dịch được xác nhận của hoạt động này thông qua các nguồn mở. Một liên quan đến các email giả mạo có nội dung đến từ ban giám đốc giáo dục khu vực Lima, hướng dẫn các trường học ở thủ đô Peru tổ chức các sự kiện tôn vinh Stepan Bandera - nhân vật theo chủ nghĩa dân tộc Ukraine gây tranh cãi - vào ngày đa dạng quốc gia. Các tờ báo Peru và Ba Lan đã đưa tin về cuộc tranh cãi sau đó, và một thành viên Ba Lan của Nghị viện Châu Âu đã được trích dẫn để đưa tin về nó. Ở Ecuador, các nhà điều hành đã sử dụng địa chỉ email giả để lừa các trường học cam kết trung thành với Tổng thống Daniel Noboa và cựu giám đốc Blackwater Erik Prince; màn đóng thế đã thu hút sự đưa tin của giới truyền thông và sự phản bác công khai từ Bộ trưởng giáo dục Ecuador.
Hoạt động này cũng lan truyền các bản ghi âm bịa đặt, trong đó có một bản được cho là của một công nhân tại công ty nước nhà nước EPSAS của Bolivia tuyên bố rằng chính phủ sẽ cắt nguồn cung cấp cho La Paz, và một bản khác được cho là của lãnh sự Ukraine ở Ecuador. Những người xác minh sự thật ở cả hai quốc gia đã bác bỏ những tuyên bố này. Các nhà nghiên cứu nguồn mở trước đây đã liên kết hoạt động tương tự với "Chính trị học" hoặc "La Compania", các thực thể được mô tả là kế thừa hoạt động của Yevgeniy Prigozhin quá cố và báo cáo của chính các nhà điều hành đã tuyên bố các chiến dịch nhắm vào Tổng thống Argentina Javier Milei khớp với báo cáo công khai đó.
Bảy nhà báo giả mạo: Chiến dịch "Bogus Bylines"
Hoạt động của Iran đã đi theo một con đường khác vào hệ sinh thái truyền thông. Các nhà điều hành của nó, người đã thúc đẩy ChatGPT bằng tiếng Ba Tư, đã sử dụng mô hình này để tinh chỉnh các bài báo dài bằng tiếng Anh về cuộc xung đột Mỹ-Iran, sau đó giới thiệu chúng cho các biên tập viên tại các cơ quan truyền thông trực tuyến vừa và nhỏ bằng cách sử dụng bảy nhân vật nhà báo bịa đặt: Ervin B. Hoskins, Noah Lamington, Sophia Gonzalez, Michael Harrison, Ericka Feusier, Jenny Williams và Alice Johnson.
OpenAI đã xác định được gần 100 bài báo được xuất bản hoặc cung cấp theo các dòng tên đó trên khoảng một chục tờ báo trên toàn thế giới, hầu hết tập trung vào các vấn đề quốc tế và Trung Đông. Hoạt động này cũng tạo ra hàng loạt bình luận trên mạng xã hội, mặc dù OpenAI cho biết những bình luận này thu hút rất ít sự tham gia thực sự – và lưu ý rằng các nhà điều hành đã sử dụng tính toán lừa đảo trong báo cáo nội bộ của họ để thổi phồng tác động rõ ràng trên mạng xã hội của họ. Công ty cho biết hoạt động này có vẻ phù hợp với việc một tác nhân thương mại đang thực hiện chiến dịch cho thuê gây ảnh hưởng và họ đã chia sẻ thông tin với các cơ quan hữu quan.
Nghề cũ, dụng cụ mới
Điều gây ấn tượng nhất với các nhà nghiên cứu, OpenAI viết, là cả hai hoạt động này giống nhau đến mức nào đối với các chiến dịch gây ảnh hưởng từ thời kỳ tiền AI. Tính cách nhà báo giả có nét giống gia đình với "Alice Donovan", một phóng viên hư cấu làm việc cho tình báo quân đội Nga, người có các bài bình luận xuất hiện trên các tờ báo phương Tây vào năm 2016 và 2017. Các nhân viên địa phương vô tình của SRC lặp lại "PeaceData", trang tin giả đã thu hút các nhà báo thật vào năm 2020.
AI không phát minh ra những kỹ thuật này - nó làm cho chúng rẻ hơn, nhanh hơn và trôi chảy hơn. Các nhà điều hành đã sử dụng các mô hình để điều chỉnh các nội dung giả mạo cho phù hợp với từ vựng địa phương và phong cách thể chế, dịch các chữ viết sang các biến thể tiếng Tây Ban Nha trong khu vực và tạo ra các email chào hàng bóng bẩy cho các biên tập viên. Nhưng OpenAI lập luận rằng bản chất bí mật, giữa người với người của các hoạt động giả mạo cũng khiến chúng dễ bị lộ: cả Alice Donovan và PeaceData đều ngừng hoạt động sau khi được nêu tên công khai.
Đọc bằng chứng cẩn thận
OpenAI đã cẩn thận báo trước những phát hiện của riêng mình. Các nhà điều hành thường xuyên tuyên bố ghi công cho các sự kiện mà họ không liên quan gì và một số hàng giả mà họ báo cáo là việc trồng trọt không thể tìm thấy trong các nguồn mở. Những gì OpenAI có thể xác minh - thông qua xác minh tính xác thực, phủ nhận chính thức và các bài báo được xuất bản phù hợp với mô tả của nhà điều hành - cho thấy sự thâm nhập thực sự của truyền thông và diễn ngôn chính trị ở ít nhất bốn quốc gia.
Đối với ngành AI, báo cáo là một lời nhắc nhở rằng những cách sử dụng hiệu quả nhất của các mô hình trong thông tin sai lệch thường là những cách ít được nhìn thấy nhất: soạn thảo báo cáo nội bộ, cải tiến các quảng cáo chiêu hàng, đánh bóng các bản dịch. Các thực thể có vị trí tốt nhất để phát hiện các chiến dịch này, như các trường hợp trước đây của OpenAI đã chỉ ra, thường là các nền tảng có công cụ riêng đang được sử dụng để chạy chúng.
---
Đi trước AINhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.
Đọc thêm tin tức về AI →
