Khi các phương tiện truyền thông do AI tạo ra tràn ngập internet, công nghệ tạo hình mờ SynthID của Google đã nổi lên như một trong những công cụ nổi bật nhất để phân biệt nội dung xác thực với hình ảnh tổng hợp. Một bài kiểm tra căng thẳng mới nghiêm ngặt xác nhận hình mờ vô hình có độ bền đáng kể, tồn tại hàng trăm lần nén, thay đổi kích thước và thậm chí cả ảnh chụp màn hình, nhưng kết quả cũng nhấn mạnh một sự thật khó hơn: chỉ riêng nhãn kỹ thuật không có khả năng giải quyết cuộc khủng hoảng ngày càng tăng về thông tin sai lệch về AI. Để đưa tin liên tục về những phát triển AI mới nhất, những phát hiện này đánh dấu một điểm kiểm tra quan trọng trong cuộc tranh luận về nguồn gốc nội dung.

Quy mô của vấn đề rất khó để phóng đại. Starling Lab, một cơ quan hợp tác nghiên cứu giữa Đại học Stanford và Đại học Nam California, ước tính rằng phải đến năm 1975, 149 năm sau khi phát minh ra máy ảnh, nhân loại mới tạo ra được 1,5 tỷ hình ảnh. AI sáng tạo đã đạt được sản lượng đó chỉ trong 18 tháng. Tại hội nghị I/O năm nay, Google đã thông báo rằng chỉ riêng các công cụ của họ đã được sử dụng để tạo ra hơn 100 tỷ hình ảnh và video AI trong vài năm.

Cách hoạt động của SynthID

Hiện tại có hai cách tiếp cận chính để gắn nhãn cho nội dung do AI tạo ra: hình mờ vô hình như SynthID và các lược đồ siêu dữ liệu như tiêu chuẩn Liên minh chứng minh và xác thực nội dung (C2PA). Google sử dụng cả hai. C2PA được bảo mật bằng mật mã và không thể bị làm giả, nhưng nó rất dễ bị tước bỏ. Chỉ cần chỉnh sửa và lưu hình ảnh hoặc chụp ảnh màn hình là có thể xóa hoàn toàn siêu dữ liệu C2PA.

SynthID có cách tiếp cận khác. Thay vì dựa vào siêu dữ liệu nằm dọc theo tệp, hình mờ được mã hóa trực tiếp thành pixel của hình ảnh hoặc video hoặc thành dạng sóng của clip âm thanh. Vì tín hiệu được đan xen vào chính nội dung nên Google lập luận rằng nó sẽ tồn tại trong quá trình chuyển đổi, nén, cắt xén và mã hóa lại diễn ra một cách tự nhiên khi phương tiện truyền thông được truyền qua internet.

Kiểm tra mức độ căng thẳng đối với tín hiệu cấp pixel

Ars Technica đã thử nghiệm những tuyên bố đó bằng cách sử dụng tập lệnh Python được xây dựng trên thư viện hình ảnh Gối. Tập lệnh mô phỏng tình trạng mất dữ liệu do chia sẻ và tải xuống nhiều lần với tốc độ cực nhanh, áp dụng các giá trị nén và thay đổi kích thước ngẫu nhiên cho hình ảnh thử nghiệm và đưa từng đầu ra trở lại làm cơ sở cho lần lặp tiếp theo. Hai hình ảnh do AI tạo ra từ mẫu Nano Banana Pro của Google, một hình ảnh được tạo hoàn toàn từ đầu và một hình ảnh gốc do AI chỉnh sửa, được dùng làm đối tượng thử nghiệm.

Sau 300 thế hệ chia sẻ mô phỏng, trong đó các bản gốc sắc nét bị biến chất thành các đốm màu khó nhận biết, hình mờ SynthID vẫn được ghi trên cả hai hình ảnh. Hình mờ thậm chí còn tồn tại trong toàn bộ ảnh chụp màn hình vì các pixel đánh dấu đặc biệt sẽ chuyển sang tệp mới. Cứ sau 50 thế hệ, người thử nghiệm cũng tạo ra các phiên bản bị cắt xén để làm suy yếu khả năng phát hiện hơn nữa.

Nơi SynthID cuối cùng bị hỏng

Giới hạn của công nghệ chỉ xuất hiện trong những điều kiện khắc nghiệt. Sau 300 chu kỳ nén, việc loại bỏ một số pixel khỏi viền của hình ảnh thử nghiệm bị xuống cấp cuối cùng đã phá vỡ SynthID trên cả hình ảnh được tạo hoàn chỉnh và hình ảnh được chỉnh sửa bằng AI. Bởi vì tín hiệu hình mờ được phân phối khắp các pixel nên nó chống lại việc cắt xén thông thường, nhưng một khi sự suy giảm đủ tích lũy, bộ dò có thể bị đánh bại.

Nhà khoa học Google DeepMind Pushmeet Kohli nói với Ars rằng nhóm đã thiết kế hệ thống với hy vọng nó sẽ bị tấn công. Kohli nói: “Trong toàn bộ quá trình phát triển, chúng tôi giả định rằng một công nghệ như thế này sẽ bị tấn công”. "Vì vậy, chúng tôi đã thực hiện rất nhiều nghiên cứu để làm cho SynthID trở nên mạnh mẽ trước các loại biến đổi khác nhau. Cho dù mọi người đang thêm một số loại bộ lọc hay cắt xén hình ảnh, chúng tôi đều sử dụng những biến đổi này và đảm bảo rằng trình phát hiện có khả năng chống lại chúng."

Hình mờ mở rộng trên toàn ngành

Cuộc thử nghiệm diễn ra khi việc áp dụng SynthID đang mở rộng ra ngoài các sản phẩm của chính Google. Công ty đã đạt được quan hệ đối tác để mở rộng việc sử dụng hình mờ, với OpenAI, Runway và Nvidia trong số những công ty bắt đầu tích hợp công nghệ này vào các công cụ tổng hợp của họ. Google đã miễn cưỡng tiết lộ nhiều chi tiết kỹ thuật ngoài tài liệu nghiên cứu ban đầu, đó là lý do tại sao thử nghiệm độc lập thuộc loại Ars đã tiến hành các vấn đề khi hình mờ ngày càng phổ biến trong bối cảnh AI.

Chỉ nhãn thôi là chưa đủ

Điểm căng thẳng mà thí nghiệm bộc lộ là ngay cả một hình mờ mạnh mẽ cũng chỉ hữu ích khi các nền tảng và mọi người sẵn sàng kiểm tra nó. Tính năng phát hiện SynthID vẫn chưa được tích hợp rộng rãi vào các mạng xã hội và ứng dụng nhắn tin nơi hầu hết các phương tiện bị thao túng đều thực sự lan truyền. Một hình mờ tồn tại sau 300 chu kỳ nén sẽ có rất ít khả năng bảo vệ nếu không có ai ở đầu nhận quét nó.

Kết quả về độ bền thực sự đáng khích lệ đối với lĩnh vực xác thực nội dung. Họ cho rằng hình mờ ở cấp độ pixel, vô hình có thể đóng vai trò là xương sống kỹ thuật đáng tin cậy cho nguồn gốc. Nhưng câu hỏi rộng hơn là liệu xã hội có thể xây dựng các chuẩn mực, cơ sở hạ tầng và khuyến khích để thực sự hành động theo những tín hiệu đó hay không vẫn chưa được giải quyết. Khi khối lượng phương tiện tổng hợp tiếp tục vượt qua cột mốc 100 tỷ hình ảnh, khoảng cách giữa những gì công nghệ có thể đánh dấu và những gì nền tảng sẽ kiểm duyệt đang trở thành thách thức rõ ràng.

Đi trước AI

Cập nhật tin tức nóng hổi về AI về chính sách định hình, nghiên cứu và các nền tảng đang định hình lại Internet.

Đọc thêm tin tức về AI