כאשר אתה מדבר עם חבר באופן אישי, אתה יכול לראות אותם, לשמוע אותם, ללחוץ להם את היד. כשאתה מדבר עם מודל AI, אין לך כמעט אף אחד מהבטחונות האלה. המחקר החדש של אנתרופיק מכוון בדיוק לפער הזה: החברה פרסמה התקדמות בהוכחות קריפטוגרפיות להסקת מסקנות, כולל מערכת בשם FlashProve שיכולה להוכיח - מתמטית, לא חוזית - שהתגובה באמת הגיעה מהמודל שהיא מתיימרת להיות.
הבעיה ש-FlashProve מטפלת בה היא מבנית בשקט. משתמש ששואל מודל היום לא יכול לבדוק שהתגובות הגיעו מהמודל הספציפי שלטענתו מפתח מגיב, בניגוד לאחד שהוחלף בחשאי על ידי שירות ניתוב מסיבות של עלות, או אפילו על ידי תוקף שעסק בזרם האסימון. אם לשפוט לפי הפלט בלבד הוא לא אמין, גם אם התשובות נראות מצוין. בתעשייה שבה אותו חלון צ'אט יכול לנתב בשקט לדגם זול יותר תחת עומס, זה לא חשש היפותטי - זהו מודל האמון המוגדר כברירת מחדל. לסיקור נוסף של עבודה כמו זו, עיין בחדשות המחקר בינה מלאכותית.
מדוע קשה להסיק מסקנות
המטרה של מסקנות ניתנות להוכחה היא לאפשר למשתמש עם משאבי חישוב מוגבלים - וללא גישה למשקלים הפרטיים של המודל - לאמת שתגובה נתונה הופקה באמת על ידי המודל הזה. הגישה המתבקשת, להפעיל מחדש את המודל בעצמך, היא לא התחלה: משקלם של מודלים גבוליים נשמרים פרטיים, ובדיקת תגובה מולם תדרוש חישוב הרבה מעבר למה שמשתמש טיפוסי, או אפילו מעריך ממומן היטב, יכול להרשות לעצמו.
הגישה של Anthropic נשענת על zkSNARKs, משפחה של הוכחות אפס ידע עם תכונות מסתור חזקות ויעילות שהופכות אותן למתאימים באופן ייחודי למשימה. ספק מתחייב למודל פעם אחת, ואז מייצר הוכחה קומפקטית עבור כל תגובה שהתשובה חושבה על ידי המודל המחויב - בעוד שההוכחות עצמן מסתירות את משקלי המודל. הסתרת הארכיטקטורה אינה מטרה של המערכת; מסתיר את המשקולות הוא.
המספרים
נתוני היעילות בפוסט הם הליבה הטכנית של הסיפור, מכיוון שיצירת ההוכחה לדגמים גדולים הייתה היסטורית בסדרי גודל איטיים מכדי לעניין. עבור Llama 4 Maverick, דגם של 400 מיליארד פרמטרים של תערובת של מומחים, GPU יחיד של NVIDIA H100 מייצר הוכחות בסביבות 110 אסימונים לשנייה, עם גודל הוכחה של בערך 19 MB לכל בקשה של 1,024 אסימונים, תוך שימוש במשקלים קודמים של 4 סיביות ב-4-bit ב-Quantithmetic.
למהירות הזו יש מחיר: יצירת הוכחה לוקחת בערך פי 70 עד 95 מזמן ה-GPU של הפעלת המודל עצמו ב-vLLM, ספריית מסקנות בקוד פתוח בשימוש נרחב. יקר, במילים אחרות - אבל בפעם הראשונה באותו סדר גודל כמו הדבר שמוכח, ולפי אנתרופיק, מהיר יותר באופן מהותי ממערכות קודמות של קוד פתוח, שמאחרות בסדרי גודל.
קלוד בנה את זה - ו-Lean מבקר את התביעות
יש סיפור שני מקופל בתוך הראשון. לפי הפוסט, קלוד עצמו הפיק את השיפורים ב-zkSNARKs להסקת מסקנות, ומצא דרכים חדשות ליישם כלים חדישים מספרות ההצפנה והאבטחה תוך הסתמכות על עקרונות עיצוב מבוססים למערכות הוכחה קריפטוגרפיות.
אנתרופי גלוי לב לגבי הסיכון שמגיע עם זרימת העבודה הזו: קלוד טוב באופטימיזציה, אבל לעתים קרובות מקבל החלטות שקשה להעריך, במיוחד במערכות מורכבות גדולות. אמצעי הנגד הוא אימות פורמלי. החברה מספקת הצהרות ניתנות לביקורת ברמה העליונה ב-Lean, שפת אימות רשמית, עבור ערבויות האבטחה הנטענות - מתמטיקה שנבדקה במכונה העומדת בין האופטימיזציות החכמות של AI לבין המשתמשים שצריכים לסמוך עליהם.
הערימה המלאה משוחררת תחת רישיון Apache 2.0: הפוסט בבלוג, דוח טכני המסביר את פרטי המערכת, תיאור פרוטוקול, קוד הפעלה כולל מוכיח ושני מאמתים - מאמת מהיר ב-C++ ומאמת נכון מוכח ב-Lean - בתוספת ההוכחות של Lean עצמן ומדיח אינטראקטיבי לסיוע בביקורת.
מציות ועד אמנות קצב AI
מערכונים אנתרופיים משתמשים במקרים שנעים בין שגרה לגיאופוליטית. מעריכים עצמאיים שבודקים מודלים של AI לפני ואחרי השחרור צריכים לדעת מה המודל שהם מעריכים הוא המודל המוגש. לקוחות שניגשים לדגם דרך שירות ניתוב של צד שלישי רוצים להבטיח שהאסימונים הגיעו מהדגם עליו שילמו. ובתרחיש האבטחה, תוקף סייבר שמשנה את זרם האסימונים תוך התחזות לדגם נתון הופך לזיהוי באופן שבדיקת פלט לבדה לעולם לא תוכל להשיג.
היישום השאפתני ביותר ששמו בפוסט הוא אימות של עמידה בדרישות קצב AI - המעמד המתפתח של הסכמים, מרצון וממשלתי, המנסים לשלוט באיזו מהירות מתקדמים יכולות הגבול. כיום התחייבויות כאלה נשענות על אמון וניירת. הוכחות קריפטוגרפיות להסקת מסקנות מציעות משהו קרוב יותר לבדיקה: דרך להדגים, במקום לקבוע, איזה מודל משרת עומס עבודה נתון.
החוקרים מפורשים כי מדובר בהתקדמות ביניים, לא באג'נדה מחקרית שהושלמה, והם מפרסמים במטרה מוצהרת שאחרים ייקחו את העבודה וישפרו אותה. המסגור הזה הוא בעצמו אות: הסקת מסקנות שניתן להוכיח עברה מניסוי מחשבתי בסמינר קריפטוגרפי לבעיה הנדסית שמעבדת גבול רצה כעת בגלוי לעשות זול מספיק לפריסה.
---
הישאר לפני AIקבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.
קרא עוד חדשות AI →
