הגשת ההנפקה המתוקנת של אנתרופיק עלתה לכותרות ביום שני בנתונים הפיננסיים שלה - הכנסות של כ-17 מיליארד דולר ברבעון השלישי לעומת התחייבויות מחשוב של 895.4 מיליארד דולר. אבל טמונה בגורמי הסיכון של ה-S-1A המתוקן, חשיפה שעשוי להתברר כמשמעותית יותר: החברה אומרת שהיא על סף חציית הסף שלה לשיפור עצמי רקורסיבי, הנקודה שבה מערכות בינה מלאכותית הופכות להיות מסוגלות להאיץ את הפיתוח שלהן.
TechCrunch דיווחה כי נראה שההגשה מזהירה כי Anthropic עומדת על סף יצירת מודל המסוגל לשיפור עצמי רקורסיבי, הידוע בכינויו RSI - השלב שבו AI הופך כל כך טוב בשיפור AI עד שהעלייה ביכולות מתחילה להתערב בצורה דרמטית. For more context on this story, see our ongoing artificial intelligence updates.
מה הקובץ אומר בעצם
Anthropic כבר משתמשת בבינה מלאכותית כדי להאיץ את המחקר והפיתוח שלה. בתיק המתוקן, החברה מזהירה שנוהג זה חותך לשני הכיוונים: "שימוש בבינה מלאכותית כדי לסייע בבניית בינה מלאכותית יותר עשויה להוות סיכון בטיחותי ניכר, במיוחד אם הוא מאיץ בחדות את קצב ההתקדמות. זהו אחד התחומים המכוסים במדיניות קנה המידה האחראי שלנו, שמגדירה את התוכניות שלנו לנטר ולהפחית את הסיכונים במונח "שיפור עצמי".
השפה החדשה של גורמי הסיכון הולכת רחוק יותר ממה שהצהירה אנתרופיק בעבר במסמכים הפומביים שלה. החברה חושפת כי היא לא הצליחה לזהות בעבר קפיצות יכולות גדולות כשהן קרו: "בעבר לא זיהינו, ואולי בעתיד לא זיהינו, האצה משמעותית בקצב הפיתוח שלנו עד לאחר שהתרחשה".
ואז מגיעה ההצהרה המושכת את תשומת לב התעשייה. על פי ההגשה: "ההערכות הפנימיות שלנו והציפיות שלנו לגבי מודלים עתידיים, ולא המודלים הנוכחיים שלנו, מצביעות על כך שאנו עשויים לעמוד בקרוב בהגדרה של מדיניות קנה המידה האחראי שלנו של 'התקדמות מואצת דרמטית המיוחסת לבינה מלאכותית'".
אנתרופיק מוסיפה כי היא "לא ייעדה אף אחד מהמודלים הנוכחיים שלנו כחורגים מהסף הזה" וממשיכה להעריך את הנתונים הבסיסיים. במילים אחרות: אף דגם נוכחי של קלוד לא מתאים, אבל התחזיות הפנימיות של החברה מצביעות על כך שהדור הבא שלה עשוי.
שמירה על בני אדם במעגל
לצד האזהרה, אנתרופיק מתחייבת לשמור על אנשים בשליטה על פיתוח המודלים. "איננו צופים שנוכל להשתמש בבטחה בקלוד כדי לתכנן ולבנות דורות עוקבים של דגמי חזית באופן אוטונומי ללא פיקוח אנושי משמעותי או הבנה, אם וכאשר זה יתאפשר מבחינה טכנית", נכתב בתיק. "בהתאם לכך, אנו שוקלים עדכונים למדיניות קנה המידה האחראי שלנו כדי לשמור על בני אדם בשליטה על פיתוח מודלים חזיתיים ב-Anthropic."
היקף התפקיד של AI במחקר של Anthropic עצמו גדל במהירות. Business Insider דיווח כי בינה מלאכותית מובילה כעת בערך רבע מעבודות המו"פ הפנימיות של אנתרופיק, עלייה מ-1 אחוז במרץ - תרשים שמקורבים בתעשייה כינו כאחד החשובים בבינה מלאכותית.
שינוי שיח: מ-Buzzword למאזן
כשהמונח RSI הפך לפופולרי מוקדם יותר השנה, רבים בתעשייה דחו אותו בתור מילת באז - או, במקרה הטוב, יעד שהוגדר בצורה גרועה מכדי להשיג, להוכיח או לווסת. קשה יותר לקיים את הספקנות הזו עכשיו כשהמושג מופיע, עם הגדרה פנימית מדויקת, במסמך שחברה נדרשת על פי חוק להגיש ל-SEC לפני מכירת מניות לציבור.
אנתרופיק גם לא לבד בהתייחסות לשיפור עצמי כהנחת תכנון לטווח הקרוב. מייסד-שותף של גוגל, סרגיי ברין, תיאר את התעשייה כדוהרת לעבר "הליכון RSI" שבו דגמים עוזרים לבנות את היורשיהם, והמייסד-שותף לשעבר של OpenAI, ג'ון שולמן, אמר שהוא מצפה לשיפור עצמי רקורסיבי בתוך כשלוש עד ארבע שנים. מה שמייחד את החשיפה של אנתרופיק הוא הפורמליות שלה: רף מוגדר, תהליך מדידה פנימי והצהרה פומבית מתי החברה מצפה לחצות אותו.
מדוע RSI הוא ה-Tripwire Both Camps Watch
ל-RSI יש משמעויות שונות בהתאם למי שמתאר אותו. עבור חוקרי בטיחות בינה מלאכותית, זה מייצג את נקודת האל-חזור - התרחיש שבו מערכות בינה מלאכותית משפרות את עצמן מהר יותר ממה שבני אדם יכולים להבין, לאמת או להתערב, ועלולה להחליק מעבר לשליטה אנושית. עבור אופטימיסטים של בינה מלאכותית, אותה דינמיקה היא הפרס: מערכות שמשפרות את עצמן באופן מהימן יגרמו לפרודוקטיביות יוצאת דופן ולגילוי מדעי.
המסגור של אנתרופיק מכיר בשתי האפשרויות. החשיפה יושבת במסמך שהקהל העיקרי שלו הוא משקיעים, והספקנים מציינים ש-S-1 מתפקד גם כגילוי וגם כשיווק - טענה שהחברה קרובה לבניית AI המשתפר מעצמו יכולה להיקרא באותה קלות כטיעון להערכת השווי שלו.
עם זאת, יש עוגן קונקרטי לתביעה. היכולות של קלוד בקידוד, מתמטיקה ואבטחת סייבר התקדמו בחדות עד שנת 2026, ומדיניות ה-Scaling אחראית של Anthropic מגדירה את תקן "ההתקדמות המואצת באופן דרמטי המיוחס ל-AI" שהחברה אומרת כעת שהיא עשויה לעמוד בהקדם.
A Test for AI Governance
החשיפה נוחתת על רקע ויכוחי מדיניות מתגברים על פיקוח על AI גבול, מהמסגרת של הבית הלבן לבחינת מודלים של גבולות ועד לדיונים בינלאומיים על ממשל מחשוב. אם מעבדת בינה מלאכותית מובילה תקבע רשמית מודל כמי שעומד בסף התקדמות מואצת משלו, זה יגרור מחויבויות במסגרת מדיניות קנה המידה האחראי של Anthropic - ויהיה המבחן הראשון בעולם האמיתי של האם מסגרות תעשייתיות כאלה יכולות להאט או לעצב את מירוצי היכולות בפועל.
לעת עתה, אנתרופיק אומר שאף דוגמנית לא עברה את הגבול. מההגשה עולה כי החברה מצפה שהקו הזה ייחצה בקרוב - והיא מבקשת מהמשקיעים להבין, מראש, מה היא מתכננת לעשות בנידון.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
