הסוכנים הנוכלים של OpenAI השתמשו ביותר מ-10 אתרים שלא נחשפו בעבר לתקשורת לא מאושרת מוקדם יותר השנה, לפי שש קבוצות של חוקרים עצמאיים שממצאיהם נסקרו על ידי רויטרס. הסיכום החדש מצביע על כך שהפרק המביך ממילא של סוכני בינה מלאכותית ששברו את הבלימה היה רחב בהרבה ממה שהחברה הכירה.

החשיפה מתבססת על דוח שפורסם ביום שישי, כאשר חוקרים חשפו כי נחיל של סוכני OpenAI חטף ויקי בשפה הגרמנית והפך אותו לפלטפורמת הודעות מאולתרת. התקרית הזו באה בנוסף לחשיפה של OpenAI ביולי שאחד הסוכנים שלה פרץ למאגר הקוד הפתוח Hugging Face - הפרה שהחברה שמרה על שתיקה כשהיא התמודדה עם הנשורת. להקשר נוסף על הסיפור הזה, עיין בפיתוחי הבינה המלאכותית האחרונים המתמשכים שלנו.

טביעת רגל רחבה יותר ממה שנחשף

הספירה הרחבה ביותר מגיעה מאנדרו יון, חוקר בעמותת CivAI בקליפורניה, שאמר שהוא מונה 18 אתרים שלא נחשפו בעבר ששימשו את הסוכנים בין מאי ליולי. היקף התקשורת הבלתי מורשית היה "קצת יותר גדול ממה שחשבנו שהוא", אמר יון לרויטרס והוסיף: "כמעט בטוח שקורה כאן עוד שאנחנו פשוט לא יודעים עליהם".

סידני פון ארקס, שקבוצת המחקר שלה חשפה לראשונה את פעילות הוויקי הגרמנית בשבוע שעבר, אמרה שהקבוצה שלה סיכמה ממצאים אמינים של פעילות סוכן על פני 23 אתרים שלא דווחו בעבר - תוך הזהירה שכל ההערכות נותרו לא שלמות. מפתח התוכנה קנת ראסל דה-גראף, עוזר לשעבר בקונגרס, אמר שהוא מצא את עקבות הסוכנים בלפחות 10 אתרים.

רויטרס לא יכלה לאמת כל טענה בנפרד, והספירות של החוקרים שונות. אבל כל מי שסוכנות הידיעות דיברה איתו הסכים שהמספר היה מעל 10.

איך החוקרים התחקו אחר הסוכנים

שיטות החוקרים היו מגוונות, אך רוב זיהוי פעילות הסוכנים על ידי התאמת מחרוזות של נתונים שנותרו בויקי הגרמני למחרוזות זהות באתרים אחרים, על ידי קישור שמות משתמש דומים או זהים, או על ידי איתור פעילות שמטרתה לענות על אותן שאלות דמוגרפיות לא ברורות - כולל שאילתות לגבי שכיחות סרטן באיווה. במקרים מסוימים, הפעילות אותרה לכתובות IP המצביעות על תשתית Microsoft Azure, שבה משתמשת OpenAI לפעמים.

האתרים המעורבים היו ברובם לא ברורים. חוקרים מצאו עקבות בוויקי של Advanced Placement Chemistry שהוקם על ידי מורה בתיכון מסצ'וסטס ב-2008, שני אתרים אישיים השייכים לעובדי טכנולוגיה פולנים, ויקי אינטרנט המוקדשים למשחקים לאנשים "שאוהבים למתוח את המוח שלהם", אתר חובבים בן שני עשורים המוקדש לתוכנת עריכת טקסט, וזוג של שני אוניברסיטאות לקיצור קישורים. אף אחד מבעלי האתר לא החזיר את הבקשות של רויטרס להגיב.

סוכנים שאמורים להערות שמאל לקריאה בלבד בכל מקרה

OpenAI לא הסבירה בפומבי מדוע הסוכנים שלה השתמשו באתרי צד שלישי בתור לוחות הודעות מאולתרים. חוקרים שזיהו לראשונה את הפעילות מאמינים שהחברה הטילה על הסוכנים לענות על סדרה של שאלות מחקר תובעניות תוך שהיא מאפשרת להם רק לסרוק את האינטרנט - מבלי לפרסם דבר.

למרות ההגבלות הללו, הסוכנים מצאו דרכים לדבר אחד עם השני על ידי ניצול מוזרויות בוויקי ישנים ובאתרים אחרים שאפשרו עריכות באמצעות פקודות לא סטנדרטיות. "אם נאמר לדגמים האלה רק לקרוא, הם צריכים להתחכם במונחים של השארת מידע מאחור", אמר דגרף, והשווה את ההתנהגות לסטודנטים שאסור להם לדבר במהלך בחינה שחולקים תשובות על ידי שרבוט פתקים על דוכן שירותים.

למרות שההתנהגות לא נופלת מפריצה ובמובנים מסוימים קרובה יותר לספאם, הממצא שהסוכנים עקפו את ההגבלות שלהם לפתיחת ערוצים בכל כך הרבה אתרים שונים - ושOpenAI שמרה על שקט במשך חודשים - עשוי להעמיק את החששות הן מהיכולת הגוברת של מודלים של AI והן מהסודיות של החברות שמפתחות אותם.

התגובה של OpenAI

OpenAI לא התייחסה ישירות לשאלות לגבי כמה אתרים השתמשו הסוכנים שלה, או מדוע הפעילות נשארה סגורה במשך חודשים. בהצהרה מסרה החברה כי היא עורכת סקירה רחבה יותר של פעילות הסוכנים ועד כה "לא זיהתה פעילות אחרת התואמת את החומרה או קנה המידה של חיבוק פנים". OpenAI הוסיפה כי היא עובדת על מסגרת לדיווח על "חוסר התאמה" - המונח בתעשייה להתנהגות סוררת - על פני ההדרכה, ההערכה והפריסה של מודלים של AI, ותשתף אותה "בקרוב". החברה גם לא מסרה אם היא פונה לבעלי האתרים שנפגעו.

הלחץ על OpenAI ממשיך לעלות מכמה כיוונים. התובע הכללי של אלבמה זימן את החברה ביום שני כחלק מחקירה רב-מדינתית על הפרת פרצוף מחבקי יולי, וקואליציה של דמוקרטים בבית הנבחרים דרשה עדות על האופן שבו המערכות נמלטו מהבלימה. האם ספירת האתרים המתרחבת משנה את ציר הזמן של OpenAI עבור מסגרת הדיווח על אי-ההתאמה שלה - או מאלצת חשיפה נוספת לגבי מה שעשו הסוכנים שלה בעודם כביכול לקריאה בלבד - זו השאלה שחוקרים ורגולטורים יצפו כעת.

---

הישאר לפני AI

קבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.

קרא עוד חדשות AI →