החברה חשפה לראשונה גרסת מבחן של מצב אוטומטי במרץ 2026, והציגה אותה כדרך לאזן בין מהירות ושליטה במהלך קידוד סוכן. להקשר הרחב יותר על האופן שבו כלי בינה מלאכותית מעצבים מחדש את פיתוח התוכנה, עיין ב[פיתוחי הבינה המלאכותית האחרונים] (https://aibuzzwire.news).
איך עובד מצב אוטומטי
כאשר קלוד קוד פועל במצב אוטומטי, הוא כבר לא מציג הנחיה המבקשת אישור אנושי בכל שלב. במקום זאת, הסוכן ממשיך בעצמו אלא אם כן נקבע כי פעולה היא "בלתי הפיכה, הרסנית או מכוונת מחוץ לסביבה שלך."
כלומר, עריכות שגרתיות, פעולות קבצים ומשימות שורת הפקודה זורמות ללא הפרעה, בעוד שהמערכת מתוכננת להשהות לפני כל דבר שעלול לגרום לנזק אמיתי - כמו מחיקת נתונים, הפעלת פקודות הרסניות או פנייה למערכות מעבר להגדרה המקומית של המפתח.
אנתרופי הגדיר את השינוי כתגובה מעשית לאופן שבו אנשים משתמשים בכלי בפועל.
הנתונים מאחורי ההחלטה
הפרט הבולט ביותר בהכרזה של אנתרופיק הוא מחקר שהחברה ניהלה עם 1,053 בודקים בתשלום. לפי החברה, מצב אוטומטי תפס 89% מהפעולות המזיקות, בעוד שסקירה אנושית ידנית תפסה רק 13.6%.
ההסבר, הציע אנתרופיק, הוא שהערנות האנושית מתדרדרת במהירות במהלך הפעלות קידוד חוזרות ונשנות. החברה ציינה שמשתמשים מאשרים בערך 97% מהנחיות ההרשאה בקוד קלוד - כלומר ההנחיות הפכו במידה רבה לחותמת גומי ולא לבדיקת בטיחות משמעותית.
"כאשר סקירה ידנית הופכת להיות רגילה, היא מפסיקה להוות הגנה", השתמע מממצאי החברה. על ידי אוטומציה של גבול הבטיחות עם כללים דטרמיניסטיים במקום הסתמכות על שמפתח לוחץ על "כן" בפעם המאה, אנתרופיק טוענת שזה יכול למעשה להפחית את הסיכון.
מעקות בטיחות חדשים
לצד מתג ברירת המחדל, אנתרופיק אמרה שהיא הוסיפה תכונות בטיחות חדשות ל-Claude Code, כולל:
- סקר הזרקה מהיר, שנועד לזהות ניסיונות לתמרן את הסוכן באמצעות הוראות זדוניות המוטבעות בקוד או בתיעוד.
- חוקי הכחשה קשיחים להתאמה אישית, המאפשרים לארגונים לחסום קטגוריות ספציפיות של פעולות על הסף - כגון חילוץ נתונים או כתיבה לספריות רגישות.
בקרות אלה נועדו לתת לצוותים דרך להגדיר גבולות מוצקים שהסוכן אינו יכול לעקוף אותם, אפילו במצב אוטומטי.
הימור על קידוד סוכן
ראש הקוד של קלוד Boris Cherny אמר בפוסט ב-X שהצוות משתמש במצב אוטומטי באופן בלעדי כבר חודשים. "לא יכולתי לדמיין לחזור לבקשת ההרשאה", כתב.
שינוי ברירת המחדל משקף הימור רחב יותר בתעשייה שעתיד פיתוח התוכנה הוא סוכן - כאשר סוכני AI מטפלים במשימות מרובות שלבים עם אחזקה מינימלית. OpenAI, Meta ואחרים דחפו כולם לאותו כיוון, ובנו סוכני קידוד שנועדו לפעול בצורה אוטונומית יותר בתוך מאגרים ומסופים.
הפיכת מצב אוטומטי לברירת המחדל היא הסלמה משמעותית של ההימור הזה. הוא מעביר את ההפעלה האוטונומית מניסוי הצטרפות לחוויה הסטנדרטית עבור הלקוחות המשלמים של Anthropic, אוכלוסייה המשתרעת על מפתחים בודדים וצוותים ארגוניים גדולים.
נוף תחרותי שהולך לסוכן
אנתרופי רחוק מלהיות לבד בדחיפה של סוכני קידוד לעבר אוטונומיה גדולה יותר. Meta השיקה לאחרונה את Muse Code, סוכן קידוד AI שנועד לעבוד במסוף על פני מאגרים גדולים. OpenAI וכמה סטארט-אפים בנו כלים דומים שמטרתם לאפשר לסוכנים לקרוא, לערוך ולהריץ קוד תוך ירידה בהתערבות אנושית. המסלול המשותף ברור: התעשייה עוברת מסיוע בסגנון השלמה אוטומטית למערכות שיכולות לנקוט בפעולה משמעותית בשמו של מפתח.
מה שמייחד את המהלך של אנתרופיק הוא הנכונות להפוך את האוטונומיה לברירת המחדל ולא לבחירה. רוב הכלים המתחרים עדיין דורשים מהמשתמשים להפעיל באופן פעיל את מצבי הידיים-off שלהם. על ידי החלפת המתג עבור כל החשבונות המשלמים, אנתרופיק טוענת טענה בטוחה שמעקות הבטיחות שלה חזקים מספיק כדי לתת אמון מהקופסה - ואוספת נתונים מהעולם האמיתי כדי להוכיח או להפריך את הטענה הזו בקנה מידה.
שאלת האמון
השינוי גם מעלה שאלות לגבי מידת הפיקוח של מפתחים מוכנים לוותר. בעוד שהנתונים של Anthropic מצביעים על מעקות בטיחות אוטומטיים עולים על ביקורת אנושית רגילה, מבקרים הזהירו שברירות מחדל מעצבות התנהגות - וברירת מחדל שמניחה אוטונומיה יכולה לנרמל בשקט רמת סיכון שצוותים לא התחשבו איתה במלואה.
הטענה הנגדית של אנתרופיק היא שהאלטרנטיבה - הנחיית הרשאה שכמעט כולם מתעלמים ממנה - היא תיאטרון אבטחה גרוע יותר ממערכת אוטומטית עם כללים ברורים וניתנים לאכיפה.
לעת עתה, החברה שמה את כספה על המכונה. החל מה-14 באוגוסט, קלוד קוד יסמוך על שיקול דעתו על הקליק הרפלקסיבי של מפתח עייף.
הישאר לפני AI
קבל את הסיקור העדכני ביותר של תעשיית הבינה המלאכותית →כלי קידוד AI מתפתחים במהירות. קרא עוד חדשות AI →
