Theo một phân tích của Reuters được công bố vào ngày 10 tháng 7 năm 2026, hệ thống phát hiện hình ảnh AI của Meta không xác định được hơn một nửa số hình ảnh do AI tạo ra khi chúng bị cắt xén cơ bản. Các phát hiện này cho thấy một lỗ hổng đáng kể trong các công cụ xác thực nội dung do AI cung cấp tại thời điểm mà sự phổ biến của phương tiện tổng hợp đang tăng tốc nhanh chóng. Để biết thông tin toàn diện về công nghệ AI và tác động xã hội của nó, hãy truy cập AI Buzz Wire.

Reuters đưa máy dò của Meta vào thử nghiệm

Reuters đã tiến hành đánh giá một cách có hệ thống công cụ phát hiện hình ảnh AI của Meta, được thiết kế để xác định hình ảnh do trí tuệ nhân tạo tạo ra. Kết quả thật đáng kinh ngạc: khi hình ảnh do AI tạo ra bị cắt – một sửa đổi không yêu cầu chuyên môn kỹ thuật và có thể được thực hiện trong bất kỳ ứng dụng chỉnh sửa ảnh cơ bản nào – máy dò không thể gắn cờ khoảng 55% trong số chúng là tổng hợp.

Phân tích đặc biệt tập trung vào các hình ảnh được tạo bởi các công cụ tạo hình ảnh AI của Meta, khiến tỷ lệ thất bại trở nên đặc biệt đáng chú ý. Nếu hệ thống phát hiện của công ty không thể xác định một cách đáng tin cậy nội dung do các mô hình tạo ra của chính công ty đó tạo ra thì triển vọng phát hiện hình ảnh do hệ thống bên ngoài tạo ra thậm chí còn không chắc chắn hơn.

Những phát hiện này đã được chứng thực bởi nhiều ấn phẩm công nghệ, bao gồm Crypto Briefing và Gizmodo, cũng đưa ra những kết luận tương tự. Brand Icon Image lưu ý rằng cuộc đấu tranh của máy dò với hình ảnh bị cắt làm tăng mối lo ngại cấp bách về cuộc chiến rộng lớn hơn chống lại các tác phẩm giả mạo sâu và phương tiện truyền thông bị thao túng.

Tại sao việc cắt xén lại đánh bại khả năng phát hiện của AI

Trình phát hiện hình ảnh AI thường phân tích hình ảnh bằng cách kiểm tra các mẫu thống kê trong dữ liệu pixel đặc trưng của mô hình tổng quát. Các mẫu này có thể bao gồm các tạo tác tinh tế trong kết cấu, tính nhất quán của ánh sáng, chữ ký miền tần số và các dấu hiệu nhận biết khác để phân biệt nội dung do AI tạo ra với các bức ảnh được chụp bằng máy ảnh.

Tuy nhiên, việc cắt xén về cơ bản sẽ làm thay đổi bố cục của hình ảnh, loại bỏ thông tin theo ngữ cảnh mà thuật toán phát hiện dựa vào. Khi một hình ảnh được tạo ra được cắt để tập trung vào một vùng cụ thể - một khuôn mặt, một vật thể hoặc một cảnh cụ thể - nhiều dấu hiệu thống kê có thể xác định đó là hình ảnh tổng hợp sẽ bị loại bỏ hoặc bị suy giảm đáng kể.

Lỗ hổng này không phải chỉ có ở hệ thống của Meta. Các nhà nghiên cứu bảo mật đã chứng minh rằng các công cụ phát hiện tương tự từ các nhà cung cấp khác có thể bị đánh bại thông qua nhiều thao tác hình ảnh khác nhau, bao gồm thay đổi kích thước, nén, điều chỉnh màu sắc và thêm nhiễu. Phân tích của Reuters cho thấy ngay cả những chuyển đổi cơ bản nhất cũng đặt ra thách thức đáng kể.

Tuần rắc rối của Meta với hình ảnh AI

Những thiếu sót của máy dò xuất hiện trong giai đoạn vốn đã khó khăn đối với các sáng kiến hình ảnh AI của Meta. Công ty gần đây đã ra mắt tính năng hình ảnh AI cho Instagram, tính năng tự động truy cập ảnh công khai của người dùng, ngay lập tức thu hút sự chỉ trích từ những người ủng hộ quyền riêng tư và các chuyên gia sáng tạo.

Đối mặt với phản ứng dữ dội từ các tổ chức bao gồm SAG-AFTRA, Meta đã tạm dừng tính năng này chỉ ba ngày sau khi được giới thiệu, theo báo cáo từ Inc.com và Associated Press. Cuối cùng, công ty đã ngừng cung cấp tính năng này, đánh dấu sự đảo ngược nhanh chóng đối với một sản phẩm được định vị là một cải tiến đáng kể đối với trải nghiệm Instagram.

Sự kết hợp giữa việc ngừng tính năng và các lỗi được ghi lại của máy dò đã vẽ nên bức tranh về một ngành vẫn đang gặp khó khăn trong việc cân bằng việc triển khai nhanh chóng các công cụ AI tổng hợp với nhu cầu về các cơ chế phát hiện và bảo vệ đáng tin cậy.

Ý nghĩa rộng hơn về tính xác thực của nội dung

Các phát hiện của Reuters mang ý nghĩa vượt xa hệ sinh thái của Meta. Khi hình ảnh do AI tạo ra ngày càng không thể phân biệt được với ảnh chụp, khả năng phát hiện nội dung tổng hợp một cách đáng tin cậy đã trở thành một thách thức quan trọng đối với các nền tảng, nhà xuất bản và nhà hoạch định chính sách.

Các nền tảng truyền thông xã hội bao gồm Facebook, Instagram, X (trước đây là Twitter) và TikTok đều đã triển khai một số hình thức gắn nhãn nội dung AI, nhưng độ tin cậy của các hệ thống này khác nhau đáng kể. Phân tích của Reuters cho thấy công nghệ phát hiện hiện tại có thể mang lại cảm giác an toàn sai lầm, có khả năng cho phép một lượng lớn nội dung tổng hợp được lưu hành mà không bị phát hiện.

Thách thức này càng trở nên phức tạp hơn bởi sự cải tiến nhanh chóng của trình tạo hình ảnh AI. Khi các mô hình từ OpenAI, Google, Adobe và các mô hình khác tạo ra kết quả ngày càng giống ảnh chân thực, các tạo phẩm mà hệ thống phát hiện dựa vào sẽ trở nên tinh vi hơn và khó xác định hơn. Cuộc chạy đua vũ trang giữa khả năng tạo và phát hiện dường như đang nghiêng về thế hệ.

Tiêu chuẩn C2PA và phản hồi của ngành

Để đối phó với thách thức ngày càng tăng của việc xác thực nội dung, các công ty công nghệ lớn bao gồm Adobe, Microsoft và BBC đã ủng hộ tiêu chuẩn của Liên minh về Chứng minh và Xác thực Nội dung (C2PA). Cách tiếp cận này nhúng trực tiếp chữ ký mật mã và siêu dữ liệu vào tệp hình ảnh tại thời điểm tạo, cho phép các nền tảng hạ nguồn xác minh nguồn gốc của tệp phương tiện.

Tuy nhiên, C2PA dựa vào việc áp dụng tự nguyện và có thể bị loại bỏ khỏi hình ảnh thông qua quá trình xử lý tiêu chuẩn. Các nhà phê bình cho rằng mặc dù việc theo dõi xuất xứ cung cấp một lớp bảo vệ có giá trị nhưng nó không thể thay thế khả năng phát hiện mạnh mẽ đối với nội dung chưa bao giờ được ký hoặc có chữ ký đã bị xóa.

Phân tích của Reuters nhấn mạnh sự khó khăn của thách thức mà ngành phải đối mặt. Ngay cả khi thao tác hình ảnh cơ bản nhất cũng đánh bại các công cụ phát hiện hàng đầu, việc đảm bảo tính xác thực của nội dung hình ảnh trong kỷ nguyên AI vẫn là một vấn đề chưa được giải quyết.

Khi khối lượng nội dung do AI tạo ra tiếp tục tăng theo cấp số nhân, áp lực lên các công ty công nghệ trong việc phát triển các hệ thống phát hiện mạnh mẽ hơn sẽ chỉ ngày càng tăng lên. Hiện tại, khoảng cách giữa những gì các công cụ này hứa hẹn và những gì chúng có thể cung cấp một cách đáng tin cậy vẫn là một lỗ hổng nghiêm trọng trong cuộc chiến chống lại thông tin sai lệch và phương tiện truyền thông tổng hợp.

Đi trước AI

Để biết thêm thông tin về công nghệ AI, nội dung giả mạo sâu và tính xác thực của nội dung, hãy truy cập AI Buzz Wire.

Đọc thêm tin tức về AI →