Pangram، شرکت تشخیص هوش مصنوعی که بیشتر به خاطر پرچم‌گذاری متون تولید شده توسط ماشین شناخته می‌شود، به طور رسمی Pangram Image 1.0 و Pangram Image Flash 1.0 را راه‌اندازی کرده است، دو مدلی که شرکت می‌گوید که وضعیت جدیدی را برای تشخیص تصاویر و ویدیوهای تولید شده و ویرایش‌شده با هوش مصنوعی ایجاد کرده‌اند. این اطلاعیه که در 4 نوامبر در وبلاگ خود پانگرام منتشر شد و توسط Engadget، Unite.AI و Yahoo Tech انتخاب شد، پیش‌نمایش تحقیقاتی را که این شرکت چند ماه پیش منتشر کرد، به یک محصول عمومی با پشتیبانی API تبدیل می‌کند.

این راه‌اندازی در زمانی انجام می‌شود که تشخیص رسانه‌های مصنوعی از محتوای معتبر واقعاً دشوار شده است، هم برای اسکرولرهای معمولی و هم برای سیستم‌های تعدیل که پلتفرم‌ها به آن‌ها تکیه می‌کنند. شرط پانگرام این است که مدل‌های تشخیص اختصاصی که به طور خاص در برابر خروجی‌های ژنراتورهای مرزی امروزی آموزش داده شده‌اند، می‌توانند بخشی از سیگنال گمشده را بازیابی کنند.

تشخیص تصویر مرزی با دقت 99.96٪

مدل پرچمدار Pangram Image 1.0 بر اساس معیاری که خود شرکت ساخته بود ارزیابی شد: 100 عکس واقعی که هر کدام با نسخه های مصنوعی تولید شده توسط 12 مولد تصویر مرزی هوش مصنوعی با استفاده از اعلان های مشابه با عکس اصلی، در مجموع 1200 عکس مصنوعی منعکس شده است. در آن مجموعه ارزیابی، پانگرام دقت 99.96 درصدی را گزارش می‌کند - رقمی که اگر تحت بررسی مستقل باشد، مدل را به خوبی از آشکارسازهای تجاری و دانشگاهی که شرکت با آن مقایسه کرده است، جلوتر خواهد داشت.

فراتر از یک حکم ساده واقعی یا جعلی، این مدل نقشه‌های حرارتی تولید می‌کند که دقیقاً محل ظاهر شدن محتوای هوش مصنوعی در یک تصویر را مشخص می‌کند. این موضوع برای وسط رایج‌تر بین تصاویر کاملا مصنوعی و عکس‌های دست‌نخورده مهم است: تصاویر بازاریابی با پس‌زمینه تولید شده توسط هوش مصنوعی، عکس‌های روتوش شده با ابزارهای تولیدی، یا ترکیب‌هایی که سوژه‌های واقعی را با عناصر تولید شده ترکیب می‌کنند.

پانگرام همچنین ادعا می‌کند که مدل جدید در برابر انواع دگرگونی‌هایی که آشکارسازهای ساده لوح را شکست می‌دهند قوی است - فشرده‌سازی رسانه‌های اجتماعی، تاری و نویز عمدی، و وضوح آپلود پایین. این شرکت می‌گوید پیش‌نمایش تحقیقات قبلی‌اش به تصاویر حداقل 512x512 پیکسل نیاز داشت، در حالی که Image 1.0 ورودی‌ها را تا 256x256 می‌پذیرد، با یک سلب مسئولیت کاهش اطمینان نشان داده شده در زیر آستانه قدیمی.

تشخیص ویدیو و جهش 29 نقطه ای در DF26

مدل همراه، Pangram Image Flash 1.0، ویدیو را هدف قرار داده است، و اینجاست که ادعاهای این شرکت بسیار چشمگیر است. پانگرام به یک مطالعه آکادمیک اخیر به نام DF26 اشاره می‌کند که نشان می‌دهد انسان‌ها هنگام تشخیص ویدیوهای واقعی افراد که صحبت می‌کنند از ویدیوهای تولید شده توسط هوش مصنوعی به سختی بهتر از تصادفی هستند - و آشکارسازهای خودکار موجود خیلی بهتر نیستند. در همان معیار DF26، پانگرام امتیاز 98.7٪ را گزارش می‌کند که آن را به عنوان یک جهش 29 امتیازی نسبت به بهترین آشکارساز بعدی توصیف می‌کند.

برای معیار مقایسه با بازار تجاری به جای دانشگاه، پانگرام یک مجموعه مقایسه دشوار از 129 ویدیوی رسانه اجتماعی واقعی ایجاد کرد، که آینه های مصنوعی هر کدام را با استفاده از 14 تولیدکننده ویدیوی مرزی مختلف ایجاد کرد - 100 ویدیو در هر ژنراتور، با اولین فریم واقعی هر ویدیوی منبع و بر اساس توضیحات تولید شده از اقدام. در میان 1529 ویدیوی به دست آمده، این شرکت Flash 1.0 را با چندین سرویس اصلی تشخیص ویدیوی هوش مصنوعی مقایسه کرد. روش آینه ای برای حذف سوگیری محتوا طراحی شده است: هر ویدیوی واقعی و دوقلوی مصنوعی آن صحنه و موضوع یکسانی را به اشتراک می گذارند، بنابراین یک آشکارساز نمی تواند با یادگیری اینکه کدام موضوعات یا زیبایی شناسی با محتوای هوش مصنوعی مرتبط است، آزمایش را انجام دهد.

مدل فلش همچنین تجزیه و تحلیل فریم به فریم را انجام می دهد که به آن اجازه می دهد بخش های ویرایش شده با هوش مصنوعی را در داخل فیلم های معتبر دیگر پرچم گذاری کند - قابلیتی که هدف آن مشکل رو به رشد ویدیوهای نیمه دستکاری شده به جای کلیپ های کاملا مصنوعی است.

از تشخیص متن تا یک پشته رسانه مصنوعی کامل

پانگرام شهرت خود را بر اساس تشخیص متن با هوش مصنوعی ایجاد کرد، جایی که طبقه‌بندی‌کننده‌های آن به طور گسترده در آموزش و انتشار مورد استفاده قرار می‌گیرند، و پوشش یاهو فناوری از راه‌اندازی این شرکت، این شرکت را به عنوان استاندارد طلایی در آن دسته توصیف کرد. گسترش تصاویر و ویدیوها یک گسترش طبیعی است و Pangram را به عنوان فروشگاهی یکپارچه برای پلتفرم‌ها، اتاق‌های خبر و شرکت‌هایی که تلاش می‌کنند رسانه‌های مصنوعی را در قالب‌ها کنترل کنند، قرار می‌دهد.

مدل‌های جدید با پشتیبانی API برای تشخیص تصویر و ویدیو، و یک برنامه افزودنی کروم ارائه می‌شوند که تشخیص را در تصاویر و ویدیوها در حین پیمایش کاربران در فیدهایشان اعمال می‌کند - انتقال تشخیص از ابزار تعدیل دفتر پشتی به چیزی نزدیک‌تر به حفاظت از درجه مصرف‌کننده. Pangram می‌گوید همچنین مدل‌ها را با مجموعه داده‌های دانشگاهی از جمله X-AIGD، Mirage-Test، AIGenImages2026، Synthbuster جفت‌شده با RAISE و Community Forensics محک زده است.

مسابقه تسلیحاتی کشف ادامه دارد

یک اخطار شایسته تاکید است: هر عدد در اعلامیه پانگرام از ارزیابی های خود پانگرام می آید که بر اساس معیارهای مبتنی بر آینه خودش انجام شده است. اعتبار سنجی مستقل این است که چگونه ابزارهای تشخیص در نهایت اعتماد را به دست می آورند، و تاریخچه تشخیص هوش مصنوعی مملو از ابزارهایی است که دقت آنها در برابر ژنراتورهایی که هرگز ندیده بودند کاهش یافته است. خود پانگرام نیز در پست خود به این موضوع اعتراف کرد و از جامعه برای آزمایش پیش نمایش تحقیق و یافتن نقاط ضعف آن تشکر کرد.

با این حال، پرتاب یک نشانگر معنادار از پیشرفت فناوری تشخیص در پاسخ به بهبود سریع ویدیوهای مولد است. اگر نتیجه گزارش شده DF26 از آزمایش شخص ثالث جان سالم به در ببرد، شکاف بین آنچه که انسان ها می توانند درک کنند و آنچه ماشین ها می توانند تأیید کنند بیشتر خواهد شد - دقیقاً همان بازاری که Pangram روی آن شرط بندی کرده است.

برای پلتفرم‌ها و ناشران، نکته مهم این است که تشخیص با دقت بالا در رزولوشن‌های پایین، از جمله تجزیه و تحلیل ویدیو در سطح فریم، به عنوان یک API کالا در دسترس است. مرحله بعدی مشکل رسانه مصنوعی ممکن است کمتر به این باشد که آیا امکان تشخیص وجود دارد یا خیر و بیشتر در مورد اینکه چه کسی آن را مستقر می کند و در کدام لایه از لوله کشی اینترنت است.

از هوش مصنوعی جلوتر بمانید

رسانه های مصنوعی، ابزارهای تشخیص و پلتفرم هایی که آنها را اتخاذ می کنند، اهداف متحرک هستند - در همه موارد به روز بمانید.

اخبار هوش مصنوعی را بیشتر بخوانید →