آنتروپیک این هفته تأیید کرد که آنتروپیک اعمال واترمارک های نامرئی را بر روی متن تولید شده توسط مدل های کلود خود آغاز می کند و به آخرین ارائه دهنده هوش مصنوعی تبدیل می شود که سیگنال های منشأ قابل خواندن توسط ماشین را در پاسخ به قوانین شفافیت جدید اروپایی اضافه می کند.
این تغییر که در یک صفحه پشتیبانی به روز شده توضیح داده شده است، به این معنی است که محتوای تولید شده توسط کلود دارای یک امضای مخفی است که برای زنده ماندن از کپی و چسباندن در جای دیگر طراحی شده است. این یک پاسخ مستقیم به قانون شفافیت قانون هوش مصنوعی اتحادیه اروپا است که در 2 آگوست اجرایی شد و شرکتهای هوش مصنوعی را ملزم میکند محتوای تولید شده یا ویرایش شده را به گونهای علامتگذاری کنند که سایر سیستمها بتوانند آن را تشخیص دهند.
واترمارک چگونه کار می کند
آنتروپیک گفت همه مدلهایی که بعد از 2 آگوست منتشر میشوند، بهطور خودکار دارای فناوری برای علامتگذاری متن و فایلهای تولید شده توسط رایانه خواهند بود. برای فایلها، این شرکت استاندارد باز C2PA را اتخاذ کرده است، یک چارچوب اعتبار محتوا که قبلاً توسط برخی سازندگان دوربین و ابزارهای ویرایش تصویر برای ضبط نحوه ایجاد یک قطعه رسانه استفاده شده است.
واترمارک متن در سطح مدل تعبیه شده است تا اینکه به عنوان یک فکر بعدی استفاده شود. بر اساس اسناد پشتیبانی آنتروپیک، "از آنجایی که واترمارک بخشی از متن است، هنگامی که متن را در جای دیگری کپی و جایگذاری می کند، همراه با متن خواهد رفت و ممکن است در برخی از ویرایش ها ادامه یابد. واترمارک در سطح مدل اعمال می شود، به این معنی که صرف نظر از اینکه متن از کدام محصول کلود یا سطحی باشد، وجود خواهد داشت."
این شرکت اضافه کرد که قصد دارد پشتیبانی از واترمارکینگ را به مدلهای قدیمیتر نیز گسترش دهد. این ویژگی در خط تولید آنتروپیک، از جمله API پلتفرم کلود، برنامه چت کلود، کلود کد، کلود کوورک و کلود تگ اعمال خواهد شد.
اینکه یک کاربر دقیقاً چه مقدار ویرایش باید انجام دهد تا علامت را از بین ببرد کاملاً مشخص نیست و Anthropic به طور عمومی جزئیات این تکنیک را ارائه نکرده است. واترمارک کردن متن از نظر فنی دشوار است، زیرا تغییرات کوچک در جملهبندی میتواند الگوهای آماری شکننده را بشکند، چالشی دیرینه برای محققان در این زمینه.
هیچ انصرافی برای کاربران وجود ندارد
قابل ذکر است که کاربران کلود نمی توانند واترمارک را غیرفعال کنند. این تنظیمات به جای تغییر در هر درخواست، توسط خود مدل اعمال میشود، به این معنی که هر کسی که متنی را از طریق سطح کلود تولید میکند، چه بخواهد یا نه، آن را علامتگذاری میکند.
این موضع احتمالاً با واکنش برخی از کاربران حرفه ای روبرو خواهد شد. نویسندگان، توسعهدهندگان و کسبوکارهایی که از Claude برای پیشنویس محتوا استفاده میکنند، به خروجی تمیز و بدون علامت عادت کردهاند، و برخی ممکن است با امضای نامرئی که متنشان را در اینترنت دنبال میکند، احساس ناراحتی کنند. به نظر می رسد آنتروپیک به این نتیجه رسیده است که انطباق با مقررات بیشتر از آن اولویت است.
بخشی از یک تقلا صنعتی گسترده تر
آنتروپیک به تنهایی عمل نمی کند. الزامات شفافیت اتحادیه اروپا رقابتی را در بین پلتفرمهای هوش مصنوعی و محتوا برای اضافه کردن سیگنالهای منشأ قبل از ضربه زدن توسط قانونگذاران به راه انداخته است.
همین هفته گذشته، پلتفرم موسیقی هوش مصنوعی سونو اعلام کرد که پس از موجی از چالشهای قانونی در مورد صدای تولید شده توسط هوش مصنوعی، علامتگذاری آهنگهای ایجاد شده در سرویس خود را آغاز خواهد کرد. ماه گذشته، پلتفرم خبرنامه Substack با شرکت تشخیص Pangram همکاری کرد تا محتوای تولید شده توسط هوش مصنوعی را پرچمگذاری کند، و کریس بست، مدیر عامل Substack، علناً "Claudefishing" را نامید، اصطلاح او برای افرادی که از هوش مصنوعی استفاده میکنند تا پلتفرمها را با مواد با کیفیت پایین پر کنند.
فشار بسیار فراتر از رقبای مستقیم آنتروپیک است. طبق گزارش TechCrunch، آزمایشگاههای جنگل سیاه، گوگل، متا، مایکروسافت، OpenAI و Synthesia همگی متعهد شدهاند که به کد شفافیت اتحادیه اروپا پایبند باشند، که نشاندهنده این است که واترمارکینگ بهسرعت به یک انتظار اولیه صنعت تبدیل میشود تا یک تمایز.
چرا منشأ به طور ناگهانی فوری است
فشار برای واترمارک منعکس کننده دو اضطراب همگرا است. اولین مورد نظارتی است: قانون هوش مصنوعی اتحادیه اروپا در حال حاضر لازم الاجرا است و شرکت هایی که از این قانون پیروی نمی کنند با احتمال جریمه های قابل توجهی روبرو می شوند. راهاندازی زودهنگام زیرساختهای منشأ ارزانتر از مقاومسازی آن تحت فشار اجرایی است.
دومی شهرت است. از آنجایی که متن، تصاویر، صدا و ویدیوی تولید شده توسط هوش مصنوعی به پلتفرمهای اجتماعی سرازیر شدهاند، ناشران و پلتفرمها با واکنشهای فزایندهای به دلیل «شیب هوش مصنوعی»، محتوای مصنوعی با کیفیت پایین که کار انسان را از بین میبرد و اعتماد را از بین میبرد، مواجه میشوند. واترمارک های نامرئی پاسخی فنی به سوالی ارائه می دهند که اعتدال به تنهایی نمی تواند آن را حل کند: آیا این توسط یک ماشین نوشته شده است؟
برای آنتروپیک، که برند خود را حول محور ایمنی هوش مصنوعی ساخته است، اتخاذ واترمارک نیز یک حرکت اعتباری است. شرکتی که خود را بهعنوان جایگزین مسئول معرفی میکند، انگیزههای قوی برای رهبری شفافیت دارد، نه اینکه دیده شود که پای خود را میکشد.
سوالات سخت تر حل نشده باقی می مانند. واترمارکها تنها در صورتی کمک میکنند که ابزارهای تشخیص واقعاً به دنبال آنها بگردند، و اگر علامتها به اندازه کافی قوی باشند تا از ویرایش، قالببندی مجدد، و شستشو که با حرکت محتوا در وب باز اتفاق میافتد، زنده بمانند. شرط Anthropic این است که جاسازی سیگنال در سطح مدل بادوام ترین رویکرد است. این که آیا در عمل پایدار می ماند یا نه، به سرعت و به طور عمومی در ماه های آینده آزمایش خواهد شد.
برای پوشش مداوم خط مشی هوش مصنوعی و ابزارهای تغییر شکل صنعت، [پوشش خبری جدید هوش مصنوعی AI Buzz Wire] (https://aibuzzwire.news) را نشانه گذاری کنید.
