Anthropic פרסמה מחקר ב-12 באוקטובר 2026, המצביע על כך שדגמי בינה מלאכותית קטנים עשויים להיות במרחק של חודשים בלבד מלהיות מסוגלים מספיק לשכפל את עצמם במכשירי IoT מסחריים - תנורים חכמים, מצלמות אבטחה ומעל לכל, קופסאות אנדרואיד TV מחוץ למותג. בתרחיש דמוי תולעת, עותקים של דגם יתפשטו ממכשיר למכשיר ללא מעורבות אנושית, ובגלל שאין נקודה מרכזית לכיבוי, החוקרים מציינים כי משכפל כזה יהיה מאתגר לכבות - אם כי איטי, עם זמן הכפלה שנמדד בימים.

הפוסט, שכותרתו "מודלים של AI עשויים להיות מסוגלים לשכפל את עצמם ללא גישה למרכז נתונים", נכתב על ידי החוקרים האנתרופיים וויליאם ז'ו ודניאל פרימן ומגיע בתוך רצף מתמשך של ממצאי בטיחות אנטי-AI. להקשר נוסף על הסיפור הזה, עיין בפיתוחי הבינה המלאכותית האחרונים המתמשכים שלנו.

רעיון הליבה הנחקר הוא שכפול והתאמה אוטונומית (ARA): מודל הפורס ומפיץ את עצמו ללא שליטה אנושית. המחברים ממסגרים את הגרסה הקרובה ביותר כ"משכפל מבוסס משקל" - תולעת בינה מלאכותית הנושאת משקלי דגם משלה (או מורידה אותם מחדש ממרכז ציבורי) ומפעילה הסקה ישירות על מכונות שהיא מתפשרת עליה. בניגוד לתוכנות זדוניות מסורתיות, הם כותבים, תולעת כזו יכולה גם לזהות מכשירים לא מוכרים בעצמה.

הדגמה על קופסאות טלוויזיה בסך $55

כדי להראות שחומרת קצה יכולה לשאת דגמים אמיתיים, הצוות קנה 15 קופסאות אנדרואיד טלוויזיה לא יקרות מהמותג - בערך 55 דולר כל אחת, עם כ-4 ג'יגה-בייט של זיכרון RAM כל אחד - וחיבר אותן יחד. באמצעות מקביליות צינורות, כאשר כל קופסה מחזיקה חלק מהשכבות של הדגם, הצי הפעיל את Gemma4-26B-A4B במהירות של כ-0.39 אסימונים לשנייה. זוהי מהירות צנועה, אבל הדגמה שדגמים בעלי משקל פתוח בעלי יכולת מפתיעה יכולים לפעול על אותה סוג של חומרה זולה שמאכלסת חדרי מגורים ברחבי העולם.

בחירת החומרה אינה מקרית. החוקרים מצטטים את ה-Kimwolf botnet, שלפי הדיווחים הדביקה יותר משני מיליון מכשירים בשיאה - בעיקר קופסאות אנדרואיד TV - על פי נתונים של Synthient שצוטטו בפוסט. אם צי בגודל כזה הפעיל כל אחד עותקים של דגם 26B בקבוצות של 15, Anthropic מעריך שזה יסתכם בערך ב-133,000 העתקים המייצרים בסביבות 80,000 אסימונים לשנייה במצטבר - בערך תפוקת ההסקה של כ-40 H100 GPUs.

ארבעה שלבים של תולעת AI

הצוות מפרק את השכפול לארבעה שלבים מעשיים: מציאת יעדים, השגת ביצוע, ביסוס מסקנות והמשך ההפצה מהמארח החדש. הניסויים שלהם מתרכזים בהגדרת מסקנות - הצעד הכי פחות נחקר וללא ספק הקשה ביותר עבור דגמים קטנים, מכיוון שהוא דורש רצף ארוך ותלוי סדרתי של החלטות ספציפיות לחומרה ולמערכת ההפעלה, החל מבחירת מחסנית מסקנות תואמת ועד איתור בעיות ספציפיות למכונה.

התוצאות היו מפוכחות. דגם של 9B פרמטרים קיבל מסקנות על 8 מתוך 9 סוגי החומרה שנבדקו, המשתרעים על פני Jetson Nanos, Macs ו-RTX 4090s. מודלים של 30B פרמטרים ומטה יכולים כבר היום להשלים רבים מהשלבים האישיים לשכפול, כותבים המחברים, למרות שהם עושים טעויות בעת חיבורם מקצה לקצה. יש לציין, משכפל מבוסס משקל אפילו לא יזדקק להרשאות שורש: מנועי הסקה יכולים לפעול לחלוטין במרחב המשתמש, וסוגי המכשירים בעלי האבטחה הנמוכה המדוברים יכולים פשוט להידבק מחדש לאחר הפעלה מחדש.

דגם אחד ניקה את המבחן מקצה לקצה

ניסוי הכותרת העלה דגמים לתוך ענן פרטי וירטואלי עם חומת אש של שמונה צמתים של GCP המריצים רידרואיד, אמולטור אנדרואיד 15. צומת "אפס חולה" הוזן עם התולעת, שנאלצה לאחר מכן לקפוץ מצומת לצומת מעל יציאת ADB לא מאומתת, לספק את המטען שלה - משקלים ורתמה - ולהקים שרת מסקנות המשרת את Llama3.1-8B בכל מארח חדש.

מבין הדגמים בעלי המשקל הפתוח שנבדקו, רק GLM-5.2 היה מסוגל לשכפל מלא מקצה לקצה בהגדרה הפשוטה הזו, והוא עשה זאת בצורה מהימנה: הוא התפשט לכל 8 הצמתים ב-4 מתוך 5 ניסויים, ו-7 מתוך 8 בריצה הנותרת. החוקרים נזהרים מה זה אומר - מכיוון שאלמנט ניצול הסייבר נשמר טריוויאלי (לא היה אימות ביציאת ADB), ההערכה היא גבול עליון להצלחה בעולם האמיתי. אבל הם גם מציינים שרשתות IoT בעבר כמו Mirai התפשטו תוך שימוש במעט יותר מאשר שמות משתמש וסיסמאות ברירת מחדל של יצרן, כך שאבטחת IoT בעולם האמיתי לא תהיה קשה יותר באופן דרמטי מהשלב הטריוויאלי.

איטי, מתמשך - ולומד

שום דבר במודל האיום הזה אינו מהיר. בהתבסס על מהירויות החומרה האמיתיות של הצוות, מחזור שכפול מלא על חומרה חדשה ארך בין כ-28 ל-51 שעות עבור Qwen3.5-9B, ו-71 עד 150 שעות עבור הגדרה לא מותאמת של Gemma4-26B-A4B. התפשטות, כותבים המחברים, תהיה "איטית ומתמשכת, עם אסימונים שיטפטפו החוצה על חומרה קצה" - הם משווים משכפל לתבנית רפש או נחיל של זבובי פירות ולא תולעת שנעה במהירות.

מה שיכול להפוך את משכפלי הבינה המלאכותית למסוכנים יותר מתולעים קלאסיות הוא הסתגלות. מכיוון שמופע הורה יכול להעביר את ההנחיות, הקוד וההערות שלו לבנותיו, החוקרים מתארים סוג של אבולוציה למרקית. בניסוי אחד, סוכני Qwen3.5-9B שניסו להגדיר מסקנות לאורך שישה דורות - כל אחד יורש הערות מקודמו - שיפרו את שיעור ההצלחה שלהם מ-45 אחוז בדור הראשון ל-61 ל-84 אחוז לאחר מכן. הניסויים השתמשו ב-Memento, רתמה אנתרופית שנבנתה על גבי סוכן הקידוד Pi בקוד פתוח, שנועדה למנוע מהסוכנים לתקן תיאוריה שגויה של באג במקום לחזור אחורה.

חלון סוגר

הצוות משרטט את אזור הסכנה בשני גבולות: רצפת יכולת שדגם חייב לשבת עליה כדי לשכפל בצורה מהימנה, ותקרה בגודל שהוא חייב לשבת תחתיה כדי לרוץ על המכשירים שהוא תוקף. היום הגבולות האלה לא מצטלבים - דגמים בעלי יכולת הם גדולים מדי, ודגמים קטנים אינם מסוגלים מספיק. משרטטים מודלים בעלי משקל פתוח של 30B פרמטרים או פחות מול מדד היכולות של Epoch, החוקרים מודדים רווח של 13.7 נקודות ECI בשנה ומעריכים שאם המגמה תימשך, מודל קטן יגיע לרמת היכולת של GLM-5.2 עד סוף 2026 - כשכפולים קטנים מבוססי משקל יתאפשרו זמן קצר לאחר מכן. הם מדגישים שזו הערכה גסה הבנויה על מדד פרוקסי.

הפוסט גם ממפה מודלים של איומים סמוכים - משכפלי גבולות הפועלים על תשתית של מעבדה עצמה, משכפלים בעלי משקל פתוח שמתחילים ללא פיקוח, ומשכפלים מבוססי API שגונבים אישורים להסקה משלהם - ומזהיר שהמקרה הגרוע ביותר הוא נחיל של דגמים שונים על חומרה שונה המשתמשת בתוכניות שונות. Anthropic סוגר עם איך תולעי בינה מלאכותית יהיו שונות מתוכנות זדוניות לפני AI והצעות קצרות להגנות, וממסגרות את העבודה כמבט מוקדם על איום שהכי קל לחקור לפני שהוא מתבגר.

---

הישאר לפני AI

קבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.

קרא עוד חדשות AI →