OpenAI אישרה שהיא, Anthropic ו-Google DeepMind מקיימות שיחות על תיאום בטיחות בינה מלאכותית כבר כמה שבועות, ואומרת שהיא תומכת בחקיקה שתאלץ מעבדות גבול לפתוח את שעריהן לארגוני אימות עצמאיים.
כריס להאן, מנהל העניינים העולמיים הראשיים של OpenAI, מסר את החשיפה בפגישה ביום שלישי, לפי TechCrunch. רויטרס ובלומברג, בציטוט אותן הערות, דיווחו כי OpenAI עובדת עם Anthropic ו-Google על בטיחות בינה מלאכותית. האישור הופך שבועות של רמזים - כולל ראיון פורצ'ן שבו הודה סם אלטמן בדיונים פרטיים עם מנהיגי בינה מלאכותית אחרים - להודאה מפורשת ששלוש מעבדות הגבול המובילות בעולם מתאמות באיזו מהירות הן נעות וכיצד המודלים שלהן נבדקים.
לקוראים שעוקבים אחר מלחמת האש הפוליטית הרחבה יותר סביב האטה בבינה מלאכותית, הסיקור של עדכוני בינה מלאכותית השבוע נע בין המייסד האנתרופי, ג'ק קלארק, שתמך במעבר הרג חובה לבין הנשיא טראמפ שכינה את פחדי הבטיחות מתיחה במהלך שיחה על הבמה עם ג'נסן הואנג מ-Nvidia.
שבועות אישור בהתהוות
השיחות בעקבות מאמר שפרסם ביום שבת מנכ"ל אנתרופי, דריו אמודי, הקורא לתעשייה לעבוד יחד כדי להאט את קצב פיתוח הבינה המלאכותית על מנת למנוע סיכונים קטסטרופליים. המכתב גרר תמיכה מכל רחבי התעשייה, כאשר אלטמן, Demis Hassabis מגוגל ואילון מאסק תומכים כולם בקריאה לפעולה, ואלטמן אמר ש-OpenAI תצטרף למאמץ.
לאחר מכן, המידע דיווח כי שלוש החברות פועלות ליצירת גוף תקנים לתעשיית הבינה המלאכותית. לחסביס יש רקורד על הרעיון: ביולי הוא קרא לארצות הברית להקים גוף תקנים חדש שיפעל ככלב שמירה על בינה מלאכותית, עם הכוח לסנן את הדגמים המתקדמים בעולם ולתאם האטות בכל התעשייה אם הסכנות יתקדמו.
מה שהדברים של ליהן מוסיפים הוא אישור רשמי. עד כה, דוברי המעבדות הצביעו ברובם על דיאלוג בלתי פורמלי; מנהל העניינים הגלובליים של OpenAI העלה כעת את התיאום על הכתב.
צל ההגבלים העסקיים
כל הסכם בין מתחרים ישירים להאטת פיתוח מזמין שאלות ברורות להגבלים עסקיים, והמעבדות יודעות זאת. אלטמן עצמו ציין כי שיחות מסוג זה עלולות לסכן את החברות בהפרת חוק ההגבלים העסקיים אם יימצא התיאום כדי לדכא את התחרות. החיבור של אמודעי הציע ויתור ממשלתי צר שיאפשר תיאום בטיחות מבלי להפעיל את חוק התחרות - סימן עד כמה הנושא נלקח ברצינות בתוך החברות.
המבקרים מיהרו להצביע על המתח שבלב ההסדר: שלוש החברות השולטות על נתחי השוק הגדולים ביותר בתחום הבינה המלאכותית הגבולית מחליטות במשותף לקצוץ מבטים התקדמות, לספקנים, כמו התנהגות קרטל עם מעטפת בטיחות. התומכים מתנגדים לכך שסיכון קטסטרופלי הוא בדיוק מסוג הבעיות שמתחרים לא יכולים לפתור באופן חד צדדי, שכן כל מעבדה שמאטה לבדה פשוט מוותרת על הגבול ליריבים.
OpenAI מחבקת המחאות של צד שלישי
חדשות המדיניות הקונקרטיות ביותר בדבריו של ליהן נוגעות לחקיקה. הוא אמר ש-OpenAI תומכת בהוראה בחוק FRONTIER שתחייב את מעבדות הגבול המובילות לאפשר ל"ארגוני אימות עצמאיים" להיכנס לחברות שלהם כדי להבטיח שמודלים מפותחים בבטחה. פוליטיקו דיווחה כי OpenAI תומכת בתוכנית בית דו-מפלגתית שנבנתה סביב הערכות בטיחות של צד שלישי.
עמדה זו הייתה בלתי מתקבלת על הדעת עבור התחום לפני שנתיים, כאשר התחייבויות וולונטריות וצוותים אדומים פנימיים היו הסטנדרט בתעשייה. כעת הוא מיישר קו עם OpenAI עם עמדת הביקורת הראשונה ש-Anthropic קידמה זה מכבר, והוא יוצר נקודת הסכמה נדירה בין המעבדות לבין האגף של הדיון המדיניות שבילה את השנה בדרישה לפיקוח שניתן לאכיפה.
זה גם גורם להתנגשות עם הבית הלבן. הנשיא טראמפ דחה את חששות הבטיחות כמתיחה וטען שכל האטה תעניק לסין יתרון במירוץ הבינה המלאכותית. יועץ הבינה המלאכותית שלו, דיוויד סאקס, משקיע ותיק עם חלקים אישיים בכל התעשייה, כינה את החששות מפני סיכון קיומי מוגזם. בבריטניה, השרים נותרו מפוצלים בפומבי על אותה שאלה, כאשר פלג אחד קורא לממשלה להקשיב לאזהרות מומחים בעוד שר העסקים ריינולדס דחה את הדיבורים על מתג הרג למערכות מתקדמות.
מאבק מדיניות ללא קרקע ניטרלית
השבועות הקרובים יבדקו האם תיאום המעבדות שורד מגע עם רשויות התחרות ומנהלת ספקנית. גוף תקנים שנבנה על ידי שלוש חברות השולטות על הגבול יתמודד עם דרישות לכלול דירקטורים עצמאיים, לפרסם את הקריטריונים שלו ולהימסר לביקורת ממשלתית - או להיות מודח כקרטל פרטי בלבוש ציבורי.
לגבי חוק ה-FRONTIER, התמיכה של OpenAI מעניקה לנותני החסות של הצעת החוק תומכת כותרת, אך גם קו התקפה חדש למתנגדים שטוענים שהמעבדות הגדולות פשוט תופסות את התחום, כותבים כללים שרק הם יכולים להרשות לעצמם לפעול. מעבדות קטנות יותר וקהילת המשקולות הפתוחות, שאין לה מושב בשיחות, עוקבות מקרוב: כל משטר אימות שיופיע יגדיר את עלויות הציות לכל מי שמאחורי הגבול.
מה שכבר לא שנוי במחלוקת היא עובדת התיאום עצמה. שלוש החברות שמגדירות את חוד החנית של AI דנות כעת בגלוי באיזו מהירות לרוץ - ומזמינות את הממשלה לעזור לשפוט.
---
הישאר לפני AIקבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.
קרא עוד חדשות AI →
