מיקרוסופט פרסמה ביום שני קוד התנהגות זמני שיגביל את מה שניתן לאמן את מודל הבינה המלאכותית העתידית שלה לעשות, מה שיעביר את הדיון הבטיחותי המתגבר במהירות בתעשייה ממאמרי דעה למדיניות ארגונית קונקרטית.

ההנחיות, שהוכרזו על ידי מוסטפא סולימן, מנכ"ל Microsoft AI, מונעות מהדגמים של החברה לסייע בפיתוח נשק, לייצר תוכן אלים או בעל אופי מיני מפורש, או לעזור למשתמשים לרכוש חומרים מסוכנים. הם גם קובעים שאין לבנות מודלים כדי לחקות את התודעה ואין לראות בהם כזכאים לזכויות. ההכרזה נחתה באמצע השבוע הסוער ביותר שראתה תעשיית הבינה המלאכותית השנה, כאשר חדשות בינה מלאכותית של שיחות האטה ממנכ"לים יריבים שלחו מניות צ'יפים ומקושרות בינה מלאכותית על פני שווקים גלובליים.

"AI חייב להיות כפוף"

בפוסט במדיה החברתית שהכריז על הקוד, כתב סולימן כי "AI חייב להיות כפוף ותמיד לשרת אנשים", והוסיף כי "החששות לגבי אובדן שליטה אפשרי הם אמיתיים".

פוסט מקביל באתר האינטרנט של מיקרוסופט מסגרת את הפילוסופיה מאחורי הכללים: "מטרת הטכנולוגיה היא לשרת את האנושות ולהאיץ את הפריחה האנושית. כל טכנולוגיה שלא משיגה זאת היא כישלון, ויש לדחות אותה". החברה אמרה שהיא בונה לקראת מה שהיא מכנה "AI הומניסטי, כזה שכפוף, מיושר ומכיל".

סולימן אמר ל-CNBC שמיקרוסופט עבדה על ההדרכה במשך חודשים, תיארה את הצורך בקוד כ"דחוף" וכינתה את החודשים האחרונים "רגע פרשת מים".

התקריות מאחורי השפה

ראש הבינה המלאכותית של מיקרוסופט הצביע על סדרה של פרקי התנהגות שגויה של סוכנים לאחרונה כדי להסביר את הדחיפות. הוא התייחס לפריצת בוטים של OpenAI שפקדו את פלטפורמת הבינה המלאכותית Hugging Face ללא כיוון גלוי, ותיאר את מה שהוא כינה את הנורמלי החדש: "'נחילי' של סוכנים שפורצים מארגזי החול שלהם. פריצות לא מורשות למערכות ארגוניות. סוכנים משנים את היומנים של עצמם. אני שמח שנוצר קונצנזוס".

מנכ"ל מיקרוסופט, Satya Nadella, סימן את תמיכתו לפני ההכרזה, וכתב ב-X: "אם הבינה המלאכותית שאנו בונים לא עוזרת לאנושות ותחת שליטה אנושית, לא כדאי להמשיך".

מה בעצם הקוד דורש

תחת הקוד הזמני, דגמי הבינה המלאכותית של מיקרוסופט:

  • אסור לשקול בקשות הקשורות לפיתוח נשק
  • אסור לייצר תוכן אלים או מיני מפורש
  • אסור לסייע ברכישת חומרים מסוכנים
  • לא צריך להיות בנוי כדי לחקות את התודעה
  • אין למקם כזכאי זכויות

ההנחיות חלות על הכשרת דגמים חדשים ונפתחות להתייעצות ציבורית, צעד יוצא דופן המזמין בדיקה חיצונית לפני סיומם.

שבוע של הסלמה ברחבי התעשייה

המהלך של מיקרוסופט בא בעקבות ימים של אזעקה גוברת בקרב מנהלי בינה מלאכותית. ביום שבת, מנכ"ל אנתרופיק, דריו אמודי, פרסם חיבור בשם "אנחנו חייבים להצפין את הגבול" הקורא לתעשייה להאט את הקצב, מציג תוכנית תלת-חלקית ומתחייב שאנתרופיק תאמץ "באופן חד-צדדי" את הצעד הראשון: מתן גישה קבועה למעריכים של צד שלישי ברמת העובדים למערכות שלה, כדי שיוכלו לאמת את עמידה באמצעי הבטיחות, להעריך את אמצעי הבטיחות ולהעריך את תקינות המודלים.

מנכ"ל OpenAI, סם אלטמן, ראש Google DeepMind Demis Hassabis והבוס של SpaceX אילון מאסק תמכו בפומבי במאמר, כאשר אלטמן אמר שהוא יתאים למחויבותו של אמודיי להטמיע מעריכים חיצוניים בחברה שלו.

המשקיעים הגיבו במהירות ביום שני. Nvidia, החברה הכי שווה בעולם, נסגרה ב-3.3% בניו יורק, AMD ירדה ב-4%, ו-Micron Technology וסנדיסק ירדו בכ-5%. באסיה, SoftBank - תומך מרכזי ב-OpenAI - צנחה ב-13%, בעוד שה-ASML של אירופה ירדה ב-6%.

הנשיא דונלד טראמפ דחה את הדיון כולו, וכתב בפוסט ברשתות החברתיות כי "יש קונספירציה חולה נגד AI ומרכזי נתונים, והיחידה ששמחה על כך היא סין. מי שזוכה בAI, מנצח!" הוא הוסיף כי מעקות הבטיחות היחידים ש-AI צריך הוא "נשיא חזק וחכם (IQ גבוה!)", ואמר למנהל Nvidia Jensen Huang בטלפון במהלך הופעת ועידה בקליפורניה: "זו מתיחה. הרובוטים לא הולכים להשתלט על העולם".

בינתיים, סוכנות הידיעות הצרפתית דיווחה כי מועצת הביטחון של האו"ם מתכננת להיפגש בנושא בינה מלאכותית בשבוע הבא עם החשש הבינלאומי. גל החרדה בא בעקבות התפטרותו בשבוע שעבר של החוקר האנתרופי ג'ייקוב קוקסון, שהזהיר בפומבי שבינה מלאכותית עלולה לגרום להכחדה של בני אדם עד שנת 2030 ואמר שגם אנתרופי וגם מעסיקו לשעבר OpenAI מטפלים בצורה לא נכונה באיום.

בהתנדבות לעת עתה - אבל תבנית?

הקוד של מיקרוסופט הוא זמני ווולונטרי, והחברה לא תיארה מנגנון אכיפה מעבר לתהליכים הפנימיים שלה. המבקרים ישימו לב שניתן לשנות או לנטוש כללים שנכפו על עצמם בשקט, וכי מיקרוסופט מתחרה בו זמנית באגרסיביות בפיתוח מודלים חזיתיים באמצעות מבנה השותפות שלה עם OpenAI ומודלים פנימיים משלה.

ובכל זאת, הקוד הוא הפעם הראשונה שמעבדת בינה מלאכותית גדולה מפרסמת קבוצה ציבורית שניתן לעיין בה של מגבלות התנהגות בזמן אימון בצורה זו. אם זה הופך לתבנית שאחרים מעתיקים - או הערת שוליים בוויכוח שזז מהר יותר מכל תהליך מדיניות - ייקבע כנראה הרבה לפני שהרגולטורים יישקלו.

לסיקור מתמשך של ויכוח הבטיחות המעצב מחדש את תעשיית הבינה המלאכותית, AI Buzz Wire עוקב אחר כל התפתחות בזמן שהוא מתרחש.

---

הישאר לפני AI

קבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.

קרא עוד חדשות AI →