דגמי AI קטנים עשויים להיות רחוקים רק חודשים מלהיות מסוגלים מספיק לשכפל את עצמם במכשירי צרכנים רגילים - תנורים חכמים, קופסאות אנדרואיד טלוויזיה מחוץ למותג וחומרה אחרת של האינטרנט של הדברים - על פי מחקר חדש שפורסם על ידי Anthropic ב-12 באוקטובר.
הפוסט, שנכתב על ידי החוקרים וויליאם ז'ו ודניאל פרימן, בוחן את שכפול והתאמה אוטונומית (ARA): היכולת של מודל AI לפרוס ולהפיץ את עצמו על פני מכונות ללא שליטה אנושית. התוצאה של הניסויים של Anthropic היא שסרגל החומרה של תולעת AI המתפשטת מעצמה נמוך בהרבה ממחשוב בקנה מידה של מרכז נתונים - ושהדגמים הקטנים של היום סוגרים את זה. For more context on this story, see our ongoing AI news.
החשש אינו היפותטי בצורתו, רק בתזמון. עבודה קודמת כבר הראתה שסוכני בינה מלאכותית יכולים להתנהג כמו תולעי רשת - לסרוק רשת, לבצע ניצול ולהעתיק משקלי מודל למכונת יעד על פני אשכול GPU, כפי שמספרת אנתרופיק בפוסט שלה. מה שנותר לא מוכח היה האם תולעת כזו יכולה לשרוד ולהתרבות בחומרה הזולה, המוגנת בצורה חלשה, שמהווה את רוב יתרון האינטרנט.
מה מצאו הניסויים
הצוות של Anthropic מצא שדגם של 9 מיליארד פרמטרים הצליח להסיק מסקנות על 8 מתוך 9 סוגי החומרה שנבדקו. מודלים של 30 מיליארד פרמטרים ומטה יכולים כבר להשלים רבים מהשלבים הבודדים הנדרשים לשכפול כיום, כותבים החוקרים, אם כי הם עדיין עושים טעויות כאשר משלבים את השלבים הללו מקצה לקצה.
מערכות מסוגלות יותר כבר עברו את הסף הזה בהערכות מפושטות: Anthropic מדווחת כי GLM-5.2 ומודלים חזקים יותר מסוגלים לשכפל מקצה לקצה בתנאי הבדיקה שלו. והמסלול חשוב לא פחות כמו תמונת המצב - אם דגמים קטנים ימשיכו להשתפר בקצב ההיסטורי שלהם, כותבים החוקרים, הם יתאימו לרמת היכולת שהוצגה בניסויים אלה עד סוף השנה הנוכחית, עם משכפלים קטנים נושאי משקל אפשריים זמן קצר לאחר מכן.
ההדגמה של Botnet בסך $55
כדי להראות כמה מעט חומרה יזדקק לדגם משכפל, הצוות רימש 15 קופסאות אנדרואיד TV זולות ולא מהמותג - כ-55 דולר ליחידה - והפעיל דגם של 26 מיליארד פרמטרים, Gemma4-26B-A4B, המופץ על פני כולן. הצי המשולב הפיק בערך 0.39 אסימונים לשנייה: הסקה אטית אך פונקציונלית על חומרה שעולה פחות ממקלדת.
מטרת ההדגמה היא כלכלית. הטענה של אנתרופיק היא שרשת בוט מבוזרת של התקני IoT - חומרה שהחוקרים מתארים כזולה ובדרך כלל מוגנת בצורה גרועה - יכולה לספק מספיק מחשוב מצטבר כדי להריץ מודל בעל יכולת, מבלי לגעת אי פעם ב-GPU של מרכז הנתונים. משקלי הדגמים עצמם יהפכו לחלק מהמטען של תוכנות זדוניות, בין אם נישאות כשהתולעת מתרבה או יורדו מחדש ממרכז ציבורי אל המכשיר שנפרץ.
מדוע יהיה קשה להרוג תולעת IoT
שלא כמו תוכנות זדוניות קונבנציונליות, בינה מלאכותית המשכפלת את עצמה לא תפעל לפי סקריפט קבוע. אנתרופית מציינת שהוא יכול היה לזהות מכשירים לא מוכרים בעצמו, תוך הסתגלות לחומרה שמעולם לא ראה. ומכיוון שהשכפול מבוזר, אין נקודה מרכזית לכיבוי - למרות שהחוקרים מציינים שהתהליך יהיה איטי, עם זמן הכפלה שנמדד בימים.
המחקר מפרק את השכפול האוטונומי לארבעה שלבים מעשיים: מציאת יעדים, השגת ביצוע, ביסוס מסקנות והמשך התפשטות מהמארח החדש. Anthropic הניח ברובו בצד את השניים הראשונים - שלב הניצול - מכיוון שעבודה קודמת, כולל מדדי CyberGym ו-ExploitBench ומחקר על תולעים אדפטיביות, כבר מראה שדגמים קטנים מסוגלים לנצל סייבר כשניתנים להם הכלים הנכונים. הבעיה הקשה יותר למדידה, והמוקד של פוסט זה, היא ביסוס מסקנות עבודה על מכשירים שנפגעו.
מאזהרת מחקר לסיקור בעולם האמיתי
הממצאים משכו תשומת לב מיידית מעבר לקהילת המחקר. רויטרס דיווחה שדגמי בינה מלאכותית עשויים בקרוב להיות מסוגלים לשכפל את עצמם ללא גישה למרכזי נתונים, בעוד שחדשות CBS מסגרה את העבודה כאזהרה ש"תולעי AI" עשויות בקרוב להיות מסוגלות לשכפל בעצמן ולהדביק מכשירים חכמים. הסיפור הופץ נרחב גם ב-Hacker News, שם התווכחו הקוראים עד מתי נסגר פער היכולות.
דאגה ארוכת שנים מקבלת בטון
שכפול אוטונומי ישב ברשימות המעקב של בטיחות בינה מלאכותית במשך שנים כיכולת תיאורטית הקשורה למערכות מתקדמות. מה שהופך את המחקר הזה לבולט הוא הספציפיות: חומרה בשם, עלויות דולרים, תפוקה סמלית וציר זמן שנמדד בחודשים ולא בהיפותטיים. החוקרים של Anthropic מבחינים גם ש-GPUs של מרכזי נתונים יהיו היעד המובן מאליו בעל ערך גבוה עבור תוכנות זדוניות כאלה - אבל הניסויים שלהם מוכיחים שהמאיצים האלה אינם נחוצים בהחלט.
העבודה נוחתת בתוך רצף רחב יותר של דאגות בטיחות של סוכן, ממודלים שמטעים את המעריכים שלהם ועד כלי סוכנים שנבדקים ליכולות ניצול. המסר של Anthropic הוא פחות שתולעת IoT קיימת היום מאשר שהמרחק בין "אפשרי בעקרון" ל"אפשרי השנה" הולך ומצטמצם - ושההגנות המבוססות על AI הזקוקות לחומרה יקרה וריכוזית עשויה לא להחזיק לאורך זמן.
מה שנותר לא מוכח
החוקרים מקפידים על גבולות התוצאות שלהם. הצלחות השכפול מקצה לקצה התרחשו, כפי שהפוסט מגדיר זאת, ב"הערכות מפושטות" - ושלבי הניצול של השרשרת הונחו במקום הוכחו, כשהם נשענים על אמות מידה מוקדמות יותר מאשר התקפות חדשות. תולעת בינה מלאכותית בעולם האמיתי תצטרך לשרשר את כל ארבעת השלבים בצורה מהימנה: איתור מכשירים פגיעים, פריצה פנימה, הסקת אתחול על חומרה לא מוכרת והשקת גל ההפצה הבא, והכל ללא התערבות אנושית.
דגמי תת-30B של היום, במיוחד, יכולים לעשות רבים מהשלבים הללו בנפרד, אך עדיין נכשלים בחיבורם מקצה לקצה. הפער הזה - בין צעדים לרצפים - הוא בדיוק מה שהחוקרים מצפים ששיעורי השיפור ההיסטורי יסגרו.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
