همانطور که رسانه های تولید شده توسط هوش مصنوعی سیل اینترنت را فرا گرفته است، فناوری واترمارک SynthID گوگل به عنوان یکی از برجسته ترین ابزارها برای تشخیص محتوای معتبر از تصاویر مصنوعی ظاهر شده است. یک تست استرس جدید و دقیق تایید می‌کند که واترمارک نامرئی به‌طور قابل‌توجهی بادوام است و صدها دور فشرده‌سازی، تغییر اندازه، و حتی عکس‌های تصویری را پشت سر می‌گذارد، اما نتایج همچنین بر حقیقت سخت‌تری تأکید می‌کند: برچسب‌های فنی به تنهایی بعید است که بحران فزاینده اطلاعات نادرست هوش مصنوعی را حل کند. برای گزارش‌های مداوم در مورد [آخرین پیشرفت‌های هوش مصنوعی] (https://aibuzzwire.news)، یافته‌ها نقطه بازرسی مهمی در بحث منشأ محتوا هستند.

بزرگنمایی مشکل دشوار است. آزمایشگاه استارلینگ، یک همکاری تحقیقاتی بین دانشگاه استنفورد و دانشگاه کالیفرنیای جنوبی، تخمین می‌زند که تا سال 1975، 149 سال پس از اختراع دوربین، طول کشید تا بشریت 1.5 میلیارد تصویر تولید کند. هوش مصنوعی مولد تنها در 18 ماه با آن خروجی مطابقت داشت. در کنفرانس I/O خود در سال جاری، گوگل اعلام کرد که ابزارهای آن به تنهایی برای ایجاد بیش از 100 میلیارد تصویر و ویدیو با هوش مصنوعی در چند سال گذشته استفاده شده است.

چگونه SynthID کار می کند

در حال حاضر دو رویکرد اصلی برای برچسب‌گذاری محتوای تولید شده توسط هوش مصنوعی وجود دارد: واترمارک‌های نامرئی مانند SynthID و طرح‌واره‌های ابرداده مانند استاندارد Coalition for Content Provenance and Authenticity (C2PA). گوگل از هر دو استفاده می کند. C2PA از نظر رمزنگاری ایمن است و نمی توان آن را جعل کرد، اما حذف آن بسیار ساده است. به سادگی ویرایش و ذخیره یک تصویر، یا گرفتن اسکرین شات، می تواند ابرداده C2PA را به طور کامل حذف کند.

SynthID رویکرد متفاوتی دارد. به جای تکیه بر ابرداده که در کنار یک فایل قرار می گیرد، واترمارک مستقیماً در پیکسل های یک تصویر یا ویدیو یا در شکل موج یک کلیپ صوتی کدگذاری می شود. از آنجا که سیگنال در خود محتوا بافته می شود، گوگل استدلال کرده است که باید از تغییرات، فشرده سازی، برش و رمزگذاری مجدد که به طور طبیعی با انتشار رسانه در اینترنت رخ می دهد، جان سالم به در ببرد.

یک تست استرس برای سیگنال سطح پیکسل

Ars Technica این ادعاها را با استفاده از یک اسکریپت پایتون ساخته شده بر روی کتابخانه تصویربرداری Pillow آزمایش کرد. این اسکریپت از دست دادن داده‌ها را از اشتراک‌گذاری و دانلود مکرر با سرعت بسیار زیاد شبیه‌سازی می‌کند، فشرده‌سازی تصادفی و تغییر اندازه مقادیر را روی یک تصویر آزمایشی اعمال می‌کند و هر خروجی را به عنوان مبنایی برای تکرار بعدی باز می‌گرداند. دو تصویر تولید شده توسط هوش مصنوعی از مدل Nano Banana Pro گوگل، یکی کاملاً از ابتدا و دیگری عکس اصلی ویرایش شده توسط هوش مصنوعی، به عنوان سوژه مورد آزمایش قرار گرفتند.

پس از 300 نسل اشتراک‌گذاری شبیه‌سازی‌شده، که طی آن نسخه‌های اصلی واضح به حباب‌هایی به سختی قابل تشخیص تبدیل شدند، واترمارک SynthID همچنان در هر دو تصویر ثبت شد. واترمارک حتی از تصاویر کامل صفحه نیز جان سالم به در برد، زیرا پیکسل های نشانگر ویژه به فایل جدید منتقل می شوند. هر 50 نسل، تستر نسخه های برش خورده را نیز تولید می کرد تا تشخیص را بیشتر تضعیف کند.

جایی که SynthID سرانجام می شکند

محدودیت های این فناوری تنها در شرایط سخت پدیدار شد. پس از 300 چرخه فشرده سازی، حذف تعداد انگشت شماری از پیکسل ها از مرز تصاویر تست تخریب شده، سرانجام SynthID را هم در تصاویر کاملا تولید شده و هم در تصاویر ویرایش شده با هوش مصنوعی شکست. از آنجایی که سیگنال واترمارک در سراسر پیکسل ها توزیع می شود، در برابر برش تصادفی مقاومت می کند، اما هنگامی که تخریب کافی جمع می شود، آشکارساز را می توان شکست داد.

Pushmeet Kohli، دانشمند Google DeepMind، به Ars گفت که این تیم سیستم را طراحی کرده است که انتظار دارد مورد حمله قرار گیرد. کوهلی گفت: «در طول کل فرآیند توسعه، ما به نوعی تصور می‌کردیم که فناوری مانند این مورد حمله قرار می‌گیرد. "بنابراین ما تحقیقات زیادی را برای مقاوم سازی SynthID برای انواع مختلف تبدیل انجام دادیم. چه مردم نوعی فیلتر اضافه کنند یا تصویر را برش دهند، ما از این تبدیل ها استفاده کردیم و مطمئن شدیم که آشکارساز در برابر آنها مقاوم است."

واترمارک ها در سراسر صنعت گسترش می یابند

این آزمایش زمانی انجام می‌شود که پذیرش SynthID فراتر از محصولات خود گوگل است. این شرکت برای گسترش استفاده از واترمارک، با OpenAI، Runway و Nvidia در میان کسانی که شروع به ادغام این فناوری در ابزارهای تولیدی خود کرده‌اند، شراکت‌هایی را ایجاد کرده است. گوگل تمایلی به انتشار جزئیات فنی بسیار فراتر از مقاله تحقیقاتی اصلی نداشته است، به همین دلیل است که آزمایش مستقل از نوع Ars با تکثیر واترمارک در چشم انداز هوش مصنوعی انجام شد.

برچسب ها به تنهایی کافی نیستند

تنش مرکزی که آزمایش نشان می دهد این است که حتی یک واترمارک قوی فقط به اندازه تمایل پلتفرم ها و افراد برای بررسی آن مفید است. تشخیص SynthID هنوز به طور گسترده در شبکه‌های اجتماعی و برنامه‌های پیام‌رسانی که اکثر رسانه‌های دستکاری شده در آن پخش می‌شوند، ساخته نشده است. واترمارکی که در 300 چرخه فشرده‌سازی زنده می‌ماند، اگر کسی در انتهای گیرنده آن را اسکن نکند، حفاظت کمی را ارائه می‌کند.

نتایج دوام واقعاً برای زمینه اصالت محتوا دلگرم کننده است. آنها پیشنهاد می کنند که واترمارکینگ نامرئی در سطح پیکسل می تواند به عنوان یک ستون فقرات فنی قابل اعتماد برای منشأ عمل کند. اما سؤال گسترده‌تر، اینکه آیا جامعه می‌تواند هنجارها، زیرساخت‌ها و انگیزه‌هایی را برای عمل بر اساس این سیگنال‌ها ایجاد کند، حل نشده باقی می‌ماند. از آنجایی که حجم رسانه های مصنوعی همچنان از نقطه عطف 100 میلیارد تصویری عبور می کند، شکاف بین آنچه که این فناوری می تواند مشخص کند و پلتفرم هایی که تعدیل می کنند در حال تبدیل شدن به یک چالش تعیین کننده است.

از هوش مصنوعی جلوتر بمانید

با [اخبار جدید هوش مصنوعی] (https://aibuzzwire.news) در شکل‌دهی خط‌مشی، تحقیقات و پلتفرم‌هایی که اینترنت را تغییر می‌دهند، همراه باشید.

اخبار هوش مصنوعی را بیشتر بخوانید