وقتی با یک دوست شخصا صحبت می کنید، می توانید آنها را ببینید، بشنوید، با آنها دست بدهید. وقتی با یک مدل هوش مصنوعی صحبت می کنید، تقریباً هیچ یک از این اطمینان را ندارید. هدف تحقیق جدید Anthropic دقیقاً همین شکاف است: این شرکت پیشرفت‌هایی را در زمینه اثبات رمزنگاری استنباط منتشر کرده است، از جمله سیستمی به نام FlashProve که می‌تواند ثابت کند - از نظر ریاضی و نه قراردادی - که یک پاسخ واقعاً از مدلی که ادعا می‌کند آمده است.

مشکلی که FlashProve آدرس می دهد بی سر و صدا ساختاری است. کاربری که امروز یک مدل را جستجو می‌کند نمی‌تواند بررسی کند که پاسخ‌ها از مدل خاصی است که توسعه‌دهنده ادعا می‌کند پاسخ می‌دهد، برخلاف پاسخی که مخفیانه توسط یک سرویس مسیریابی به دلایل هزینه جایگزین شده است یا حتی توسط مهاجمی که جریان توکن را دستکاری کرده است. قضاوت از روی خروجی به تنهایی قابل اعتماد نیست، حتی اگر پاسخ ها عالی به نظر برسند. در صنعتی که همان پنجره چت می‌تواند بی‌صدا به یک مدل ارزان‌تر و تحت بارگذاری هدایت شود، این یک نگرانی فرضی نیست - این مدل اعتماد پیش‌فرض است. برای پوشش بیشتر کارهایی مانند این، به [اخبار تحقیقات هوش مصنوعی] (https://aibuzzwire.news) ما مراجعه کنید.

چرا استنتاج قابل اثبات سخت است

هدف استنتاج قابل اثبات این است که به کاربر با منابع محاسباتی محدود - و بدون دسترسی به وزن خصوصی یک مدل - اجازه دهیم تا تأیید کند که یک پاسخ داده شده واقعاً توسط آن مدل تولید شده است. رویکرد واضح، اجرای مجدد مدل توسط خودتان، راه‌اندازی نیست: وزن‌های مدل‌های مرزی خصوصی نگه داشته می‌شوند و بررسی پاسخ در برابر آنها مستلزم محاسبه بسیار فراتر از آن چیزی است که یک کاربر معمولی، یا حتی یک ارزیاب با بودجه خوب می‌تواند بپردازد.

رویکرد Anthropic بر zkSNARK ها تکیه دارد، خانواده ای از اثبات های دانش صفر با ویژگی های پنهان و کارایی قوی که آنها را به طور منحصر به فردی برای این کار مناسب می کند. یک ارائه‌دهنده یک‌بار به یک مدل متعهد می‌شود، سپس برای هر پاسخ یک اثبات فشرده ایجاد می‌کند که پاسخ توسط مدل متعهد محاسبه شده است - در حالی که خود اثبات‌ها وزن مدل را پنهان می‌کنند. پنهان کردن معماری هدف سیستم نیست. پنهان کردن وزنه ها است.

اعداد

ارقام کارآیی در این پست هسته فنی داستان هستند، زیرا تولید اثبات برای مدل‌های بزرگ از لحاظ تاریخی بسیار کند بوده است. برای Llama 4 Maverick، یک مدل ترکیبی از متخصصان با 400 میلیارد پارامتر، یک واحد پردازشگر گرافیکی NVIDIA H100 با استفاده از وزن‌های کوانتیزه‌شده 4 بیتی و وزن‌های کوانتیزه‌شده 4 بیتی در حدود 110 توکن در ثانیه، با اندازه اثبات تقریباً 19 مگابایت در هر درخواست 1024 توکن، اثبات می‌کند.

این سرعت هزینه دارد: تولید اثبات تقریباً 70 تا 95 برابر زمان GPU اجرای ساده خود مدل در vLLM، یک کتابخانه استنتاج منبع باز پرکاربرد، طول می کشد. به عبارت دیگر گران است - اما برای اولین بار به همان ترتیب بزرگی چیزی که اثبات می شود، و به گفته آنتروپیک، به طور قابل توجهی سریعتر از سیستم های منبع باز قبلی، که با مرتبه های بزرگی عقب هستند.

کلود آن را ساخت - و ناب ادعاها را ممیزی می کند

یک داستان دوم در داخل داستان اول قرار دارد. طبق این پست، کلود خود بهبودهایی را در zkSNARK ها برای استنتاج ایجاد کرد و راه های جدیدی را برای استفاده از ابزارهای پیشرفته از متون رمزنگاری و امنیتی پیدا کرد و در عین حال بر اصول طراحی تثبیت شده برای سیستم های اثبات رمزنگاری تکیه کرد.

Anthropic در مورد ریسک ناشی از آن گردش کار صادق است: کلود در بهینه سازی خوب است، اما اغلب تصمیماتی می گیرد که ارزیابی آنها سخت است، به خصوص در سیستم های پیچیده بزرگ. اقدام متقابل تأیید رسمی است. این شرکت بیانیه‌های قابل ممیزی سطح بالایی را به زبان Lean، یک زبان تأیید رسمی، برای تضمین‌های امنیتی ادعا شده ارائه می‌کند - ریاضیات ماشینی بررسی‌شده بین بهینه‌سازی‌های هوشمندانه هوش مصنوعی و کاربرانی که باید به آنها اعتماد کنند.

پشته کامل تحت مجوز Apache 2.0 منتشر می شود: پست وبلاگ، یک گزارش فنی که جزئیات سیستم را توضیح می دهد، یک شرح پروتکل، کد اجرایی شامل یک اثبات کننده و دو تایید کننده - یک تایید کننده سریع در C++ و یک تایید کننده قابل اثبات صحیح در Lean - به علاوه خود اثبات های Lean و یک بصری ساز تعاملی برای کمک به ممیزی.

از انطباق تا معاهدات سرعت هوش مصنوعی

اسکیس های آنتروپیک از مواردی استفاده می کنند که از معمول تا ژئوپلیتیک را شامل می شود. ارزیاب‌های مستقلی که مدل‌های هوش مصنوعی را قبل و بعد از انتشار آزمایش می‌کنند، باید بدانند مدلی که ارزیابی می‌کنند مدلی است که ارائه می‌شود. مشتریانی که از طریق یک سرویس مسیریابی شخص ثالث به یک مدل دسترسی دارند، می‌خواهند این اطمینان را داشته باشند که توکن‌ها از مدلی که برای آن پول پرداخت کرده‌اند، آمده‌اند. و در سناریوی امنیتی، یک مهاجم سایبری که جریان توکن را تغییر می‌دهد در حالی که جعل مدل مشخصی را جعل می‌کند، به گونه‌ای قابل شناسایی می‌شود که بازرسی خروجی به تنهایی هرگز نمی‌تواند به آن دست یابد.

بلندپروازانه‌ترین برنامه‌ای که در این پست نام‌گذاری شده است، تأیید انطباق با الزامات سرعت هوش مصنوعی است - طبقه نوظهور توافق‌نامه‌ها، داوطلبانه و دولتی، که تلاش می‌کنند بر سرعت پیشرفت قابلیت‌های مرزی نظارت کنند. امروزه چنین تعهداتی مبتنی بر اعتماد و کاغذبازی است. شواهد رمزنگاری استنتاج چیزی نزدیک‌تر به بازرسی ارائه می‌کند: راهی برای نشان دادن، به جای ادعا کردن، اینکه کدام مدل به حجم کاری معین خدمت می‌کند.

محققین صریحاً می گویند که این پیشرفت میانی است نه یک دستور کار تحقیقاتی تکمیل شده و با این هدف منتشر می کنند که دیگران کار را بگیرند و آن را بهبود بخشند. این قاب بندی خود یک سیگنال است: استنتاج قابل اثبات از آزمایش فکری سمینار رمزنگاری به یک مشکل مهندسی تبدیل شده است که اکنون یک آزمایشگاه مرزی آشکارا در حال رقابت برای ارزان کردن آن به اندازه کافی برای استقرار است.

---

از هوش مصنوعی جلوتر بمانید

آخرین اخبار، تحلیل ها و پیشرفت های هوش مصنوعی را دریافت کنید - همه در یک مکان.

بیشتر بخوانید اخبار هوش مصنوعی →