שעות לאחר שמנכ"ל אנתרופי, דריו אמודיי, פרסם את חיבורו "אנחנו חייבים לקצב את הגבול" הקורא לממשלות להאט את מירוץ הבינה המלאכותית, תגובה נוקבת החלה לטפס על האקר ניוז, והפכה בסופו של דבר לאחד הסיפורים המועדפים ביותר של היום. הטיעון שלה, שהוצג במכתב פתוח על ידי הכותב והמפתח ג'ייקוב גולד, הוא פשוט להחריד: אם אמודי כנה באשר להאטת AI, יש חוק אחד שהוא יכול לדרוש שיעשה זאת בפועל - ואף מנהל מעבדה אחר לא יוכל להציע זאת. לדרוש שכל דגם AI שחברה מציעה לציבור ישוחרר כמשקולות פתוחות.
"אני מאמין שאתה כנה", נפתח המכתב ופונה ישירות לאמודי, "לכן אני מבקש ממך לקרוא לחוק אחר, כזה שלמעשה יאט את העניינים, למרות שזה ידרוש הקרבה אמיתית מצידך". המכתב היכה בעצבים בדיוק משום שהוא עוסק בגרסה החזקה ביותר של הטיעון של אמודעי במקום לדחות אותו - ומכיוון שהוא נוחת באמצע הדיון המדיניות המשמעותי ביותר ב-AI כיום, דיון שאנו עוקבים אחריהם מדי יום ב[סיקור מדיניות ה-AI] שלנו (https://aibuzzwire.news).
מה אמודי הציע, ולמה גולד אומר שזה לא יעבוד
חיבורו של אמודי הטיל על אנתרופיק גורמים משובצים של צד שלישי וביקש ממשלות לדרוש מכל חברת גבול אחרת להתאים את המחויבות הזו. סם אלטמן הסכים תוך שעות - "אני מסכים עם דריו שאנחנו צריכים לצעוד בקצב הגבול", הוא אמר, לפי פוליטיקו, כאשר OpenAI תואמת גם את מחויבות המעריך. על פניו, זהו יישור חסר תקדים: ראשי שתי מעבדות הבינה המלאכותית החשובות ביותר בעולם מבקשים בפומבי להאט את הקצב.
המכתב של גולד טוען שדווקא הקונצנזוס הזה צריך לגרום לצופים לחשוד. "כל תקנה שביקשת מסתיימת בשבי", הוא מזהיר. מעריכים משובצים, ספי חישוב, תיאום בתעשייה עם ויתור על הגבלים עסקיים - "הכל נכתב בעזרת מעבדות החזית הנוכחיות, כי אף אחד אחר לא מבין את הפרטים הטכניים מספיק טוב כדי לכתוב את זה". ברגע שכללים כאלה הופכים לחוק, כל אירוע מוסיף כלל ואף אחד לא יוסר, והענקים יכולים להרשות לעצמם את צוותי הציות שמרחיקים אתגרים קטנים יותר. "במקום להאט אותך", אומר המכתב לאמודי, "זה מגן על עמדתך ועל הרווחים שלך".
ההצעה נגד המשקולות הפתוחות
מערכוני גולד האלטרנטיביים בוטים בכוונה. כל דגם בינה מלאכותית שחברה מציעה לציבור יצטרך לשלוח כשהמשקלים שלו יפורסמו. מודלים פנימיים ומחקריים לא ייפגעו, וממשלות ישמרו על גישה למערכות שטרם פורסמו - אבל אנתרופיק תצטרך לפרסם את המשקולות של מודל החזית הבא שלה ביום שבו ישוחרר, ו-OpenAI תצטרך לעשות את אותו הדבר. "אין בו מה לשחק או להתחמק", מסכם המכתב, "אפילו בשבילך".
המנגנון הוא פיננסי ולא בירוקרטי. כפי שמסביר גולד, המימון לפיתוח מודל חזית תלוי בהערכות שווי המניחות שהמשקלים יישארו קנייניים. מנדט הופך את ההנחה הזו: אם כל פרסום פומבי פתוח, יתרון תחרותי זורם למי שמכשיר את הדגם הטוב ביותר ולא למי שמוכר גישה אליו, הפרמיה המוטמעת בהערכות שווי פרטיות מתרוקנת, והכסף הזמין להרצת ההכשרה הבאה מצטמצם - "בכל מעבדה בבת אחת, בלי שרגולטור יחליט כלום". מדובר למעשה בטענה שהציפייה של השוק לדגמים סגורים היא המנוע של המירוץ, ושהסרת הציפייה מסירה את המנוע.
למה דווקא אמודי
הטענה של המכתב מדוע אמודעי הוא האדם היחיד שיכול להציע הצעה זו בנוי על רקע שלו, והוא מכבד במיוחד. גולד מזכה אותו בכך שעזב את OpenAI בסוף 2020 כדי להקים את אנטרופיק "כאשר המהלך הבטיחותי בקריירה היה להישאר", עם תמיכה ברגולציה של התעשייה שלו במשך שנים, ובדחיפת בקרות יצוא שמכווצות את השוק שלו. הוא מציין כי אנתרופיק בנתה את עצמה כתאגיד לתועלת הציבור עם משימה משפטית - "פיתוח אחראי ותחזוקה של בינה מלאכותית מתקדמת לטובת האנושות לטווח הארוך" - שיאפשר להנהגתה לספוג את המכה הכספית שחוק כזה יביא. חיבורו של אמודיי עצמו, מציין גולד, אומר כי אנתרופים תומכים ברגולציה "גם כאשר זה גורם לנו להאשים אותנו בהייפ, 'דומריזם' או לכידה רגולטורית".
הספקנים ישימו לב לטענות הנגד הברורות, והמכתב אינו עונה עליהן במלואה: משקלים פתוחים מקלים על שימוש לרעה וגם מתקדמים קשה יותר, מנדט של משקלים פתוחים יתמודד עם התנגדות עזה מצד המשקיעים של כל מעבדה, ומבקרי עמדותיו המוקדמות של אמודיי לגבי מודלים פתוחים סיניים ישמעו הדים למאבקים ישנים בהצעה. אבל האתגר המרכזי של המכתב אינו תלוי במדיניותו שתאומץ. זה תלוי במתח שהיא שמה במפורש: מעבדה שמבקשת ממשלות להאט את כל השאר, בעוד הערכת השווי שלה תלויה בהישארות קדימה, עדיין לא ביקשה שום דבר שעולה לה כלום.
ויכוח שכעת הוא בלתי נמנע
האם אמודעי מגיב זה כמעט לא לעניין. תוך יום אחד עברו מעבדות הגבול מתחרות על יכולת להסכמה על הצורך בקצב, והתגובה הציבורית עברה משאלה האם AI מסוכן לשאלה האם ניתן להאמין לאנשים המזהירים על כך. המכתב של גולד - כמה מאות מילים של פירוט מדיניות עטוף סביב שאלה לא נוחה אחת - הפך לביטוי החד ביותר של הספקנות הזו, והוויראליות שלו מעידה על כך שהוויכוח הקצבי יתנהל לא רק בוושינגטון אלא בציבור, בפלטפורמות כמו האקר ניוז, שם קהילת המשקלים הפתוחים עושה וריאציות של הטיעון הזה במשך שנים.
הישאר לפני AI
רגולציה, משקלים פתוחים והמאבק על הקצב של הבינה המלאכותית - מכוסה בלי ההייפ.
קרא עוד חדשות AI →
