אנתרופיק פרסמה ביום חמישי את דו"ח מודיעין האיומים שלה מספטמבר 2026, "זיהוי ומניעת שימוש לרעה בבינה מלאכותית", המתאר כיצד צוות מודיעין האיומים שלה זיהה ושיבש גורמי איום שעשו שימוש לרעה בקלוד בין דצמבר 2025 לאוגוסט 2026. המקרים משתרעים על שבעה אזורי פגיעה ברורים: מבצעי סייבר, פעולות סייבר, פעולות פיקוח, פעולות פיקוח. שימוש לרעה, פיתוח נשק קונבנציונלי וזיקוק מודלים לא חוקי. לטענת החברה, כל קמפיין שהיא מתארת ​​השתבש, והמודיעין שותף עם רשויות ושותפים בתעשייה במידת הצורך.

הדו"ח נוחת ברגע של בדיקה אינטנסיבית עבור תעשיית הבינה המלאכותית, ועבור Anthropic בפרט, שכן חדשות בינה מלאכותית השבוע נשלט על ידי חשיפת בטיחות, חשבונות חושפי שחיתויות ולחץ גובר מצד מחוקקים. זה גם מגיע לצד דיווחים מהניו יורק טיימס ופוליטיקו המדגישים ניסיונות לנשק מודלים חזיתיים - כולל מאמצים חסומים הקשורים לפיתוח נשק ביולוגי.

כיצד Anthropic עוקב אחר שחקנים איומים התומכים בבינה מלאכותית

אנתרופיק עוקבת אחר השחקנים בדו"ח שלה תחת ייעודים פנימיים המכונה קבוצות איום יצירתיות, או GTGs. כל מקרה בוחן מודד את מה שהחברה מכנה עילוי - חיזוק היכולות שמעניק AI לפעולה על פני שלושה מימדים: מהירות, קנה מידה ועומק. מקרי השימוש לרעה היו מעורבים בדוגמניות של קלוד הייקו, סונטה ואופוס. אף אחד לא היה מעורב בדגמי Fable או Mythos של החברה, למעט מקרה זיקוק בלתי חוקי אחד.

אנתרופיק מסגרת את נכונותה לפרסם כחובה ולא כתרגיל שיווקי, ומציינת בדוח כי "אנו מאמינים שיש לנו אחריות לחשוף שימוש לרעה בזדון בשירותים שלנו".

פעולה הקשורה לסופת שלגים בחצות שבנתה מחדש את התוכנה הזדונית שלה

מקרה הסייבר הנרחב ביותר של הדו"ח, במעקב כ-GTG-20006, מתאר שחקן שמייחסו לדברי אנתרופיק עולה בקנה אחד עם הדיווח הציבורי המקשר אותו ל-Midnight Blizzard, קבוצת הפריצה הרוסית הרוסית שנודעה בעבר בשם Nobelium או APT29. אחד המפעילים שלה, אדם המשתמש בידית "ג'קפוטרז", הוא דובר רוסית.

על פי הדיווח, הקבוצה כיוונה ליותר מ-20 ארגונים, מרוכזים בקרב גופים ממשלתיים, צבאיים ודיפלומטיים אוקראינים. היא פגעה לפחות שלושה ספקי WiFi בבתי מלון כדי לחטוף רשומות DNS, השתלטה על חשבונות WhatsApp של לפחות שני בכירים אוקראינים לשעבר, וגנבה יותר מ-300,000 רשומות זהות לאומית יחד עם נתוני רישום מסחריים המכסים יותר מחצי מיליון חברות מרשות טכנולוגיה ממשלתית בצפון אפריקה.

הפרט הבולט ביותר הוא התאמה אוטונומית: Anthropic מדווחת שסוכני ה-AI של השחקן שינו ובנו מחדש את התוכנה הזדונית של הקבוצה בכל פעם שמוצרי אבטחה זיהו אותה - לולאה שבעבר הייתה דורשת מפתחים מיומנים לפי דרישה.

קציר תעודות בקנה מידה וציד אוטונומי של יום אפס

מקרה שני, GTG-50014, מכסה מפעילים החשודים בשייכות לקולקטיב ShinyHunters. צינורות קצירת האישורים שלהם הורידו בהמוניהם 1.8 מיליון APKs של אנדרואיד וסרקו אותם לאיתור סודות מקודדים. בפשרה אחת של ספק טכנולוגיה, הוחלף יותר מטרה-בייט של נתונים, כולל מיליוני רשומות של כרטיסי תשלום. חברה קשורה אחרת חילצה נתונים מכ-200 לקוחות במורד הזרם של ספק תוכנה כשירות שנפרץ וזרקה יותר מ-2,100 ערכות אסימונים של Azure AD המשתרעים על פני למעלה מ-40 דיירים ארגוניים תוך כ-34 שעות - כאשר סוכני בינה מלאכותית מבצעים כמעט את כל העבודה, לפי הדוח.

GTG-10007 עדיין מפוכח יותר עבור מגינים. אנתרופיק מייחסת את האשכול הזה למפעילים דוברי סינית שכנראה יושבים בצ'אנגשה, הונאן - שניים מהם היא זיהתה כסטודנטים לתואר ראשון - שכוונו לכחמישים ארגונים וניהלו תוכנית חקר פגיעות אוטונומית. זרימת עבודה אחת, חוזרת על מכשירי רשת, הניבה יותר מתריסר ממצאים אפשריים של יום אפס בחודש בודד.

סחיטה, האקטיביסט בודד ופשיטה כושלת על מעבדות בינה מלאכותית

שימוש לרעה ממניעים פיננסיים מאפיינים בולטות. GTG-50020, שחקן דובר רוסית, הוציא כ-26 גיגה-בייט מקורבן אחד וביקש סחיטה של ​​בין 1.5 ל-2.5 מיליון דולר. אותה קבוצה תקפה לאחר מכן כשלושים חברות בינה מלאכותית בתוך כארבעה ימים במטרה מוצהרת לגשת לדגם של קלוד לפני ההפצה. אנתרופיק אומר שכל ניסיון נכשל והמערכות שלה מעולם לא נפגעו.

בקצה השני של הספקטרום, GTG-50029 היה האקטיביסט יחיד דובר צרפתית שניצל תנאי מרוץ התקנה מחדש של וורדפרס שלא תועד בעבר נגד לפחות ארבעה אתרים, השיג גישה פנימית ללפחות 14 מתוך 42 יעדים במעקב, והוציא כ-140,000 רשומות - כולל דעות פוליטיות של משתמשים מפלטפורמת קמפיין. לאחר מכן בנה השחקן פלטפורמת doxxing, fafsearch, עמוסה בעשרות מיליוני שורות.

להשפיע על פעולות מהרפובליקה המרכז אפריקאית ועד מלזיה

תשעה מקרי מבצעי השפעה בדו"ח מקורם ברוסיה, איראן, טורקיה, המפרץ, דרום אסיה, אפריקה ואירופה, כשהטווח נמדד בסולם הפריצה של מכון ברוקינגס. במקרה אחד, GTG-04001, שחקן דובר רוסית שבסיסו בבנגוי הפיק תוכן יומי עבור Radio Lengo Songo, תחנה אנתרופית המקושרת לפוליטיולוגיה - ענף ההשפעה של חיל אפריקה ווגנר שלהערכתה היה תחת שליטת שירות הביון החוץ הרוסי בסוף 2023. המבצע הניב מסמכים מזויפים של ממשלת הרפובליקה המרכז אפריקאית וחוזי העסקה של רוסיה קבעו נאמנות למדינה וחוזי העסקה של רוסיה. הסולם.

רשת אחרת, GTG-54002, בוצעה בעקבות LKM Company, סוכנות פרסום דיגיטלית שבסיסה בצרפת המפעילה כ-70 אתרי חדשות מפוברקים, 70 חשבונות X תואמים ויותר מ-250 חשבונות תגובות לא אותנטיים. הרשת פרסמה לפחות 8,913 מאמרים בכ-20 שפות, 318 מהם התמקדו ברפובליקה הדמוקרטית של קונגו.

גם הבחירות היו יעד. GTG-84005, פלטפורמה מסחרית למניפולציית בחירות המכוונת למלזיה שאנתרופיק קישרה ל-BBS Bilisim Teknolojileri מאיסטנבול, ניהלה כ-1,000 חשבונות X מזויפים בכל 222 אזורי הבחירה הפרלמנטריים של מלזיה והמציאה תיקים נגד פוליטיקאי אופוזיציה. אשכול נפרד, GTG-24015, השתמש בארבעה חשבונות כדסק עריכה בסיוע בינה מלאכותית שהזינה את התקשורת הממלכתית הרוסית.

מדוע גילוי חשוב

אנתרופיק אומרת שהיא שיבשה את הפעילות בכל מקרה, השתמשה בממצאים כדי לחזק את אמצעי ההגנה שלה ושיתפה מידע מודיעיני עם רשויות ושותפים בתעשייה במידת הצורך. פרסום מקרי מקרים מפורטים - עם ניתוחי כשלים של הגילויים שלו - נותר נדיר בקרב מעבדות גבול, והחברה טוענת ששקיפות מעלה את קו הבסיס עבור התעשייה כולה.

הדו"ח גם מדגיש שינוי שצוותי האבטחה כבר לא יכולים להתעלם ממנו: הפעולות המסוכנות ביותר התומכות בינה מלאכותית שתוארו כאן לא היו הפגנות היפותטיות אלא קמפיינים חיים נגד ממשלות, חברות ובחירות. ככל שהמודלים הולכים וגדלים יותר, הנתונים של Anthropic מצביעים על התרוממות הרוח שהם מספקים ליריבים נחושים - והתשובה הטובה ביותר הזמינה של המגינים, לעת עתה, היא נראות, חשיפה ואיטרציה מהירה יותר על אמצעי הגנה.

---

הישאר לפני AI

קבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.

קרא עוד חדשות AI →