אנתרופיק משפרת את היכולות של דגמי הבינה המלאכותית שלה בערך פי שניים מהר יותר מאשר לפני שנה, ונראה שחלק גדול מהמהירות הזו מגיעה ממערכות בינה מלאכותית שעוזרות לבנות יורש שלהן, לפי ניתוח בלתי תלוי שפורסם ביום חמישי על ידי קבוצת ההערכה METR ללא מטרות רווח.

לממצאים, שדווחו על ידי סוכנות הידיעות AP, יש משקל יוצא דופן מכיוון שהם נשענים על מה ש-METR תיאר כ"גישה חסרת תקדים" לנתונים הפנימיים של אנתרופיק. חוקרים מהקבוצה שבסיסה בברקלי, קליפורניה - ששמה המלא הוא הערכת מודלים ומחקר איומים - הוזמנו בתוך החברה למשך כ-11 שבועות, מאמצע אוגוסט עד סוף אוקטובר, שם ניתחו נתוני מחקר פנימיים וראיינו צוות.

לקוראים שעוקבים אחר דיון הבטיחות סביב מעבדות גבול, עיין בסיקור חדשות הבינה המלאכותית שלנו.

ממצא הליבה: ההתקדמות מתערבת

ההערכה המרכזית של METR היא שאנתרופיק משפרת את ביצועי הדגמים שלה במשימות מוגדרות היטב בערך פי שניים מהר יותר מאשר שנה קודם לכן. הדו"ח הגדיר זאת בצורה ברורה: "נראה כי אנתרופיק התקדמה באותה מידה במדדים בשנה האחרונה כמו בין אוקטובר 2023 לאוקטובר 2025".

המשמעותית יותר היא מה ש-METR מאמין שמניע את התאוצה. החוקרים אמרו שהם היו מסוגלים "בביטחון" לשלול צמיחה בכוח המחשוב כגורם - באופן מסורתי המשתנה המקושר בצורה ההדוקה ביותר לביצועי המודל. המסקנה שלהם: השיפור נובע בעיקר משימוש בבינה מלאכותית עצמה למחקר בינה מלאכותית.

Anthropic הודתה שהצ'אטבוט של קלוד שלה עוזר יותר ויותר לחברה לפתח גרסאות חדשות ומתקדמות יותר של עצמה. הדו"ח של METR לא מצא "צווארי בקבוק" - כגון הגבלות על מחשוב או נתונים - המעכבים את התהליך הזה, וציין כי בעוד שבינה מלאכותית אינה תורמת עדיין "תרומה משמעותית ביותר ואוטונומית מלאה" לחלקים החשובים ביותר של אימון מודלים, חוקרים אנתרופיים תיארו "סימני חיים" משמעותיים המרמזים שזה עשוי להשתנות בקרוב.

הממצאים הגיעו לדיון באמצע האטה

העיתוי מביך עבור חברה שהמנכ"ל שלה פעל לריסון. במהלך תקופת ההערכה של METR פרסם מנכ"ל אנתרופי, דריו אמודיי, מאמר ב-12 בספטמבר בו קרא לתעשיית הבינה המלאכותית "להאט את הקצב שבו אנו משפרים את היכולות של דגמי בינה מלאכותית", כך שאמצעי הבטיחות יוכלו להדביק את הקצב.

METR סקר גם את דו"ח הסיכון הציבורי Anthropic שפורסם באוגוסט וגם גרסה פרטית, והגיע למסקנה כי המסמך הציבורי "באופן כללי ממעיט ברמת ההאצה שהתרחשה".

תגובת אנתרופיק: הסכמה חלקית, עיבודים כבדים

סם מקנדליש, ממייסדי אנתרופי והאדריכל הראשי של החברה, הגיב לדוח ביום חמישי בפוסט ארוך ב-X, וכתב שרבות מהמסקנות של METR תואמות את השקפתו שלו.

"AI מזרזת את המחקר שלנו, אבל קשה לומר בדיוק כמה", הוא כתב, והוסיף כי Anthropic מתכננת לפרסם ניתוח משלה של קצב התקדמות הבינה המלאכותית בתוך החברה בשבועות הקרובים.

מקנדליש גם הגן על החלטת החברה לבטל חלקים גדולים מהדוח, מה שהגביל את האופן שבו METR יכול היה לתקשר במדויק את הערכות ההאצה שלה. לדבריו, שיתוף "בדיוק מה מניע את המהירות היא לא הדבר הנכון לעשות", מכיוון שהמידע הוא גם רגיש מבחינה מסחרית וגם "מסכן חלוקת מפת דרכים כדי שאחרים ילכו מהר יותר" - מה שלטענתו יגרום לגרוע יותר את עצם הסיכונים ש-METR מודאגת מהם. "זה פשרה", הוא כתב.

אזהרות חשובות

הדו"ח היה, לפי התיאור של METR עצמו, מפולפל בסייגות. הקבוצה אמרה כי ממצא הכותרת שלה עשוי להגזים בעניינים: התאוצה הנמדדת עשויה לחול רק על משימות מוגדרות היטב שניתן לדרג באופן אוטומטי, ולא על העבודה המבולגנת והפתוחה שמגדירה מחקר חזיתי. לחלופין, ייתכן שאנתרופיק פשוט איכזבה את קו הבסיס הקודם שלה, מה שגרם לקפיצה האחרונה להיראות גדולה יותר ממה שהיא.

העמדה של METR ראויה לציון גם מטעמי שקיפות: העמותה ממומנת באמצעות תרומות, אינה מקבלת פיצוי על הערכותיה, וביצעה הערכות יכולות עבור Anthropic, OpenAI ומעבדות אחרות במשך שנים - אם כי חברות שותפות אכן מספקות גישה למודלים ואת האסימונים הדרושים להפעלת המחקר שלה.

למה זה חשוב עכשיו

הניתוח נוחת שבועות לפני ש-Anthropic מצפה לצאת לציבור במה שעשוי להיות ההנפקה הראשונית הגדולה ביותר בהיסטוריה, עם ויכוחים מתערבלים בשאלה האם מודלים של בינה מלאכותית יותר ויותר מסוגלים לחמוק משליטה אנושית. תומכי בטיחות טוענים זה מכבר שאימות עצמאי - לא דיווח עצמי במעבדה - הוא המדד האמין היחיד למהירות תנועת הגבול, במיוחד מכיוון שממשל טראמפ עודד חברות לשלוט בעצמן.

METR סימנה דאגה אחת אחרונה: אם יתחילו להתערב מחקר בינה מלאכותית בעזרת בינה מלאכותית, ההאצה עצמה עלולה להאיץ, כשהסיכונים ממודלים מתקדמים שגדלים בקצב שצופים מבחוץ אינם יכולים לעקוב בקלות. הדו"ח של הקבוצה מצביע על כך שלפחות עבור מעבדה מובילה אחת, לולאת המשוב שממנה דאג התחום אינה עוד היפותטית - היא מופיעה בנתוני המדד.

כמה מהר שאר התעשייה עוקבים אחריה היא השאלה שבה יצפו כעת הרגולטורים, המשקיעים והמנהלים של החברה עצמה.

---

הישאר לפני AI

קבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.

קרא עוד חדשות AI →