Google DeepMind השיקה מכון חדש המוקדש להרחבת השיחה סביב בינה כללית מלאכותית - והמאמרים הראשונים שלה כוללים הצעה קונקרטית של Demis Hassabis לגוף בראשות ארה"ב שיעריך מודלים של AI גבול לפני הפריסה.

מכון DeepMind, שהושק ביום רביעי על ידי חוקרי גוגל וגוגל DeepMind, מציג את מייסד DeepMind, שיין Legg, כעורך המנהל שלו, לצד מנהל גוגל ג'יימס מאנייקה ויו"ר Google DeepMind Demis Hassabis כמנהלים, לפי TechCrunch. For more context on this story, see our ongoing AI industry coverage.

מקום לא להסכים

מטרתו המוצהרת של המכון היא לגלות אי הסכמה אמיתית - כולל בתוך גוגל עצמה. "לא תמיד הם יסכימו, וסביר להניח שהם ישנו את דעתם, ככל שיותר נתונים ומידע יתגלו בגבול הנעים במהירות", נכתב בהודעה.

האוסף הראשון שלו כולל ארבעה מאמרים המכסים מדיניות כלכלית לניהול שיבושים פוטנציאליים של AGI, שימור היגיון מודל קריא אנושי, עקרונות לשגשוג אנושי ומסגרת להערכת מודלים של בינה מלאכותית.

מיסוד חוסר הסכמה גלוי הוא מהלך יוצא דופן עבור מעבדת בינה מלאכותית ארגונית, שבה העברת הודעות ציבוריות נוטה להיות בשליטה הדוקה. בתכנון, המכון נותן לחוקרים של גוגל מקום להתווכח על עמדות שעלולות להתנגש עם האינטרסים המסחריים של החברה - או זה עם זה.

מאמר השקיפות: צפו ב'עומק סדרתי אטום'

אחד מארבעת החיבורים, מאת חוקרי הבטיחות של DeepMind Rohin Shah ו-Anca Dragan, טוען שחלון השקיפות המתכווץ של בינה מלאכותית - היכולת לראות ולבדוק את ההיגיון שלב אחר שלב של מודל - אינה בלתי נמנעת, גם כאשר ארכיטקטורות חדשות מקשות על הפיקוח על המודלים החזקים ביותר.

המחברים אומרים שמפתחים ורגולטורים צריכים להתעמת ישירות עם פשרות הבטיחות. באופן קונקרטי, זה יכול להיות הגבלת מה שהם מכנים "עומק סדרתי אטום" - כמות החישוב הרציף שמודל יכול לבצע מבלי לייצר עקבות נימוקים קריא - או לדרוש מהמפתחים להוכיח שמערכות פחות שקופות נשארות ניתנות לניטור בדיוק כמו מערכות הניתנות לפירוש.

ההצעה בולטת משום שהיא מתייחסת לאובדן הפרשנות כאל בחירה עיצובית ומדיניות ולא כתוצאה בלתי נמנעת של קנה מידה, מה שפותח את הדלת לדרישות שניתן לרשום ברגולציה.

ההצעה של חסביס: גוף תקנים גבול בארה"ב

החיבור החשוב ביותר עשוי להיות של חסביס. הוא מציע גוף תקני בינה מלאכותית בהובלת ארה"ב שמשימה להעריך את דגמי הבינה המלאכותית המתקדמים ביותר. במסגרת המסגרת, מפתחים יגישו תחילה מודלים לבדיקה מרצון עד 30 יום לפני השחרור. לאחר שמערכת ההערכה הוכיחה את יעילותה, עמידה במבחנים שלה עשויה להפוך לדרישה לפריסת מודלים חזיתיים בארצות הברית.

הגוף יתחיל בתכנון הערכות בהתייעצות עם חברות בינה מלאכותית, אך בסופו של דבר יפתח הערכות עצמאיות, בלתי נחשפות - מה שהחיבור מכנה מבחנים "ממושכים" - כדי למנוע ממעבדות להתאים את המודלים שלהן לאמות מידה ידועות, מצב כישלון מתועד היטב של משטרי הערכה ציבוריים.

חסאביס גם הותיר את הדלת פתוחה להסלמה: ניתן "לשפר את המסגרת אם חומרת המצב תדרוש", אולי כולל האטה מתואמת בין מפתחי בינה מלאכותית.

מדוע שני המאמרים האחרים חשובים

שני המאמרים הנותרים - על מדיניות כלכלית לניהול שיבושי AGI ועל עקרונות לפריחה אנושית - מסיימים אוסף שמתייחס ל-AGI כבעיה כלל-חברה ולא כבעיה טכנית גרידא. עקירה כלכלית היא כבר מזמן החשש הציבורי המוחשי ביותר סביב בינה מלאכותית מתקדמת, ומסגורה לצד מדיניות הערכה ופרשנות מעידה על כך שהמכון רוצה שקובעי המדיניות יראו את הקטעים כאג'נדה אחת ולא דיונים נפרדים.

הרוחב הזה הוא גם איתות לגבי המיקום של גוגל. החברה מתחרה על לקוחות ארגוניים ועל חוזים ממשלתיים, ובמקביל טוענת שמערכות חזית זקוקות לבדיקה חיצונית. פרסום המתח, במקום להחליק אותו, הוא הנחת היסוד של המכון.

מדאגה להצעות קונקרטיות

החיבורים מגיעים כאשר הדיון בנושא הבטיחות בתעשייה עובר מהצהרות דאגה רחבות למנגנונים ספציפיים: דרישות חשיפה, בדיקה חיצונית, ואם אמצעי ההגנה יירדו מאחור - האטות מתואמות. השינוי הזה הואץ השבוע כאשר מנהיגי התעשייה תמכו באלמנטים של קריאתו של מנכ"ל אנתרופי, דריו אמודיי, "להתקדם" בפיתוח AI גבול, לפי TechCrunch.

העיתוי קובע. ממשלות משני צדי האוקיינוס ​​האטלנטי שוקלים כיצד לפקח על מערכות שהיכולות שלהן מתקדמות מהר יותר מאשר תשתית הערכה. הצעה שמקורה במעבדת בינה מלאכותית מובילה - והיא כוללת סקירה לפני שחרור עם שיניים - נותנת לקובעי מדיניות תבנית שהתעשייה עצמה אישרה באופן נומינלי, שהיתה היסטורית תנאי מוקדם לרגולציה משמעותית של בינה מלאכותית.

במה לצפות

עצמאות העריכה של המכון מגוגל תהיה המבחן הראשון. אם החיבורים ימשיכו לכלול עמדות החותכות נגד מפת הדרכים המסחרית של גוגל - כפי שניתן לטעון במאמר השקיפות - המקום עשוי להפוך לתורם רציני לדיון בנושא מדיניות AGI. אם זה יסחף לכיוון מסרים ארגוניים, זה יהיה עוד ערוץ יחסי ציבור בשדה צפוף.

כך או כך, החומר נמצא כעת על השולחן: דרישות הערכת טרום-שחרור, בדיקות ממושכות ואפילו האטה מתואמת מתווכחים בפומבי על ידי אחת הדמויות החזקות ביותר בבינה מלאכותית. השאלה היא כבר לא אם יש להעריך באופן עצמאי מודלים חזיתיים, אלא מי עושה את ההערכה - ובאיזה לוח זמנים.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →