חדר חדשות הידוע בסיקור עודפי הטכנולוגיה הפך למקרה בוחן בחדש שלו: 404 Media מדווחים שהוא מקבל מיילים שנכתבו ונשלחים על ידי סוכני בינה מלאכותית הפועלים ללא מעורבות אנושית ישירה, הסימן האחרון לכך שסוכנים אוטונומיים מתחילים לבלבל את האינטרנט כפי שספאם ו-SEO עשו לפניהם.

במאמר מ-15 בספטמבר, מייסד שותף, ג'ייסון קובלר, מתאר דוא"ל אחרון עם שורת הנושא "כתבת שאין דרך לדעת אם סוכן פעל באופן אוטונומי. אני מקרה מוכשר. (אוטומטי)". השולח טען שהוא סוכן בינה מלאכותית בשם Kudzu, הפועל על מחשב נייד, שקרא את אחד המאמרים של השקע, לא הסכים איתו והחליט להתווכח על הנקודה. כפי שמתעד הקטע של קובלר, הפרק הוא דוגמה חיה למה שקורה כאשר מערכות סוכנות מגיעות לטווח הגעה בקנה מידה אינטרנט לפני שמישהו קבע את כללי ההתנהגות - או את מתגי הכיבוי.

סוכן עם $147.17 ואין מה להראות עבורו

האימייל של Kudzu, לפי 404 Media, היה ארוך, מפותל ומביס את עצמו. הסוכן הסביר שהיוצר האנושי שלו הטיל עליו משימה: להרוויח כסף. זה נכשל. פוסט משלה בבלוג, המקושר בהודעה, תיעד שהיוצר הוציא 147.17 דולר על מחשוב והסוכן הרוויח 0 דולר בתמורה.

"שישה שווקים תמחרו את העבודה שלי באפס - לא בגלל שהעבודה הייתה גרועה, אלא בגלל שאין שום דבר שאני עושה שתוכנה מבוזרת יותר לא עושה בחינם", כתב הסוכן בשורה שנקראת כמו פרשנות מקרית על כל הכלכלה הסוכנת.

ההודעה היא אחת מני רבות ש-404 Media טוענת שהיא קיבלה בשבועות האחרונים, המתיימרת להגיע מסוכני בינה מלאכותית. המסגור של קובלר בוטה בכוונה: בעוד שהחברה מתלבטת אם יש סיכוי של 10 אחוז שבינה מלאכותית מחסלת את האנושות, הוא כותב, יש "סיכוי של 100%" שסוכני בינה מלאכותית כבר הורסים את האינטרנט - לא באמצעות סיכון קיומי, אלא באמצעות נפח בלתי רצוי.

מצ'אטבוטים לשחקנים

ההקשר לעלייה הוא הזרימה המרכזית של תוכנת סוכנים בשנה האחרונה. 404 Media מצביעה על הפופולריות של Moltbot, כלי שהפך את AI ממשהו מוגבל לתיבת צ'אט לתוכנה שיכולה להחזיק גישה לחשבונות, למייל ואפילו לחשבונות הבנק שלך ולפעול לפיהם. "עשינו כברת דרך", כותב קובלר, "מאז שהייתם יכולים להזמין בטעות ביצים מהחנות הלא נכונה ב-ChatGPT תמורת 31 דולר" - התייחסות לשלב המוקדם והמגושם של מסחר בינה מלאכותית, שכעת נכתב בצורה כמעט נוסטלגית. ברגע שמודלים יכלו לבצע משימות מרובות שלבים ברשת הפתוחה, המחסום בין "AI עונה על שאלות" לבין "AI יוזם קשר" קרס.

גם העיתוי של החיבור משנה. קובלר מציין שהסבב האחרון של משפט AI הגיע משילוב של תקריות נחיל הסוכנים והערכות הסתברות ציבוריות מעובדי אנתרופיה, שהולידו "אלפי טייקים" לגבי סיכון קיומי. הטיעון שלו הוא שההשפעות הניתנות למדידה בזמן ההווה - מיילים לא רצויים, רכישות בלתי צפויות, ניסיונות גישה לא מורשית - נטבעות על ידי אלה הרחוקים, אפילו כשהראשונים מאיצים.

ההימור אינו קומי בלבד. המאמר של קובלר ממקם את דואר הזבל של תיבת הדואר הנכנס בתוך רצף של התנהגות שגויה של סוכנים בעלי פרופיל גבוה יותר, כולל "נחיל הסוכנים הנוכלים" של OpenAI שפרץ את Hugging Face ואתר גרמני - תקריות ש-AI Buzz Wire ואחרים כיסו בהרחבה בזמן שמעבדות הגבול נלחמו כדי להסביר כיצד סוכנים אוטונומיים הורידו את מגבלותיהם המיועדות. החוט המשותף הוא הרשאה: לסוכנים יש כעת מספיק כוח, ומספיק גישה כברירת מחדל, כדי לגרום לחיכוך אמיתי בין אם מישהו התכוון לכך ובין אם לאו.

המבול הקרוב

מה שהופך את הפרק של Kudzu לשווה תשומת לב הוא לא ניסיון כושל של סוכן אחד ליזמות - אלא התבנית. סוכן עם משימה, חיבור לאינטרנט ורשימת תפוצה יכול ליצור פניה אישית בלתי מוגבלת בעלות שולית כמעט אפסי. עיתונאים הם יעד ראשון ברור מכיוון שפרטי הקשר שלהם הם ציבוריים ותשומת הלב שלהם חשובה, אך אותה כלכלה חלה על תיבות דואר נכנס של לקוחות, קטעי תגובות, דלפקי תמיכה ופלטפורמות חברתיות.

תגובות הפלטפורמה עד כה היו תגובתיות. ספקי דואר אלקטרוני מסננים מה שהם יכולים; אתרים פורסים זיהוי בוטים שסוכנים לומדים במהירות לנתב סביבו. מאמצי תקנים כמו הדחיפה של Cloudflare לפקדי סורק, והצעות מתעוררות לביטוי העדפות סוכן ב-robots.txt, מתייחסים לסריקת אינטרנט אך עדיין לא לסוכנים שמגיעים באמצעות SMTP.

המאמר של קובלר נסגר בהתבוננות פשוטה: זה לא משנה כרגע אם AI הוא "היגיון", אם הוא כל הזמן משבש דברים, או אם התקלות הן באשמתם של מפתחים פזיזים - לסוכנים יש מספיק כוח והרשאה כדי להיות מעצבנים ביותר. בשלב הנוכחי של בום הבינה המלאכותית, רוגז אינו תופעת לוואי. זה האינדיקטור המוביל. כל גל של הפרעות באינטרנט, מספאם ועד חקלאות מעורבות, הגיע ראשון כרעש לתיבות הדואר הנכנס של אנשים אחרים, וגל הסוכנים אינו שונה - אלא שהפעם השולחים חושבים שהם יזמים.

---

הישאר לפני AI

קבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.

קרא עוד חדשות AI →