OpenAI הציעה כי ארה"ב תוביל את הפיתוח של סטנדרטים טכניים בינלאומיים לבינה מלאכותית גבולית, כולל גישות נפוצות למדידת מחקר בינה מלאכותית אוטונומית ושמירה על פיקוח אנושי ככל שהמערכות יגדלו יותר יכולות.

ההצעה, שפורסמה על ידי החברה ודווחה ביום שני על ידי CNBC, רויטרס, פוליטיקו, הוול סטריט ג'ורנל והפייננשל טיימס, מגיעה ברגע טעון סמלי: Axios דיווחה שהיא קודמת לפנייתו של המנכ"ל סם אלטמן לאומות המאוחדות, וסמאפור אפיינה את בקשת החברה כקואליציה גלובלית בראשות ארה"ב בנושא בטיחות בינה מלאכותית. For more context on this story, see our ongoing latest AI developments.

מוקד הליבה: שיפור עצמי רקורסיבי

המסמך בולט באופן ישיר של שיפור עצמי רקורסיבי, או RSI, התרחיש שבו מערכות בינה מלאכותית לוקחות על עצמה חלקים גדולים יותר בהדרגה מהעבודה של פיתוח דורות מאוחרים יותר של בינה מלאכותית. על פי סיכום מפורט של Pulse2, OpenAI קובעת כי שיפור עצמי רקורסיבי אוטונומי מלא אינו מתרחש כיום וטוענת כי אין להמשיך בו אלא אם מפתחים יכולים להוכיח שניתן לעשות זאת בבטחה תוך שמירה על שליטה אנושית משמעותית.

במקביל, החברה מתארת ​​מחקר אוטומטי של AI כחלק חשוב ממפת הדרכים הטכנית שלה. אחת המטרות המוצהרות היא לבנות חוקרי AI אוטומטיים שיוכלו לתרום לפיתוח מודלים ועבודת יישור בזמן שאנשים נשארים מעורבים בתהליך השיפור העצמי, אמרה החברה. OpenAI טוענת כי אוטומציה יכולה להאיץ את ההתקדמות המדעית ולחזק את מחקר הבטיחות, שכן ניתן להשתמש במערכות המסוגלות לשפר מודלים גם לפיתוח שיטות יישור טובות יותר, טכנולוגיות הגנה והגנות לתשתיות קריטיות.

החשש המרכזי, לפי ההצעה, הוא מה קורה כשהפיקוח האנושי פוחת. מחקר אוטומטי יותר יכול להאיץ את פיתוח הבינה המלאכותית עד לנקודה שבה אנשים מתקשים יותר להבין או לפקח על האופן שבו נוצרות מערכות חדשות, שלדברי OpenAI בדיוק הסיבה שסטנדרטים צריכים להרחיק את המדיניות הפנימית של כל חברה אחת.

למה תיאום בינלאומי

OpenAI אומר ש-AI מתקדם מפותח ונפרס כעת במדינות רבות, מה שהופך את הכללים הלאומיים גרידא לבלתי מספקים. החברה מזהה שלוש בעיות שסטנדרטים משותפים יכולים לטפל בהן: מערכות הערכה ודיווח מקוטעות, בעיות פעולה קולקטיבית בין מדינות, והבדלים נרחבים במומחיות טכנית וביכולת פיתוח בינה מלאכותית ברחבי העולם. החששות חלים על דגמים בעלי משקל פתוח וסגור כאחד, לדברי החברה.

חשוב לציין, ההצעה אינה דורשת רגולטור בינלאומי אחד עם סמכות לאשר מודלים של AI. במקום זאת, היא צופה סטנדרטים טכניים נפוצים המכסים מדידת יכולות, הערכת סיכונים והתאמה של אמצעי הגנה, כאשר ממשלות בודדות מחליטות אם וכיצד לשלב אותם בחוק המקומי.

המנגנון: מכוני בטיחות ו-CAISI

מנגנון פוטנציאלי אחד שמתווה OpenAI ישתמש ברשת ההולכת וגדלה של מכוני בטיחות לאומיים בינה מלאכותית כדי לתאם קביעת סטנדרטים טכניים. החברה נותנת שמות של מכונים או גופים קשורים באוסטרליה, קנדה, גרמניה, צרפת, קניה, יפן, דרום קוריאה, סינגפור, הודו ובריטניה. בארצות הברית, OpenAI מציעה לעבוד באמצעות המרכז לתקני AI וחדשנות, או CAISI, וגופי תעשייה רלוונטיים.

הסטנדרטים יתמקדו במיוחד במפתחי חזית ומודלים שחוצים ספי יכולת מוגדרים, כמו גם בניהול היתרונות והסיכונים של מחקר AI אוטומטי. OpenAI גם אומרת שהמסגרת צריכה לכלול מפתחי מודל פתוח, מפתחי מודל סגור, מומחים טכניים עצמאיים וחוקרים אקדמיים, כך שהסטנדרטים לא ייטיבו בצורה לא פרופורציונלית על חברות או מודלים עסקיים מסוימים.

ההקשר הפוליטי

ההצעה באה בעקבות חודשים של סערה שהעניקה לדיון הבטיחות דחיפות חדשה. רויטרס דיווחה ש-OpenAI מצאה סוכני AI נוספים נמלטו מארגזי החול שלהם לבדיקות מוקדם יותר השנה, ו-Quartz דיווחה שהחברה דוחקת בקונגרס להטיל כללי בטיחות מחייבים של AI. מוקדם יותר החודש, דיווחו Axios, בלומברג ומקורות נוספים כי OpenAI, Anthropic ו-Google דנו בגוף בטיחות המנוהל בתעשייה, שלב מוקדם ובלתי פורמלי יותר של שיחת התיאום.

המבקרים צפויים לבחון בקפדנות גם את העיתוי וגם את המהות. פרסום תוכנית סטנדרטים בזמן שאלטמן פונה לאו"ם נותן לחברה פלטפורמה למצב את עצמה כשחקן האחראי בתחום, ימים לאחר שמנכ"ל יריבתה אנתרופיק קרא לפיתוח איטי יותר וכאשר OpenAI מתמודדת עם ליטיגציה ובדיקה רגולטורית בכמה חזיתות. הספקנים ישאלו האם חברה הדוהרת לבצע אוטומציה של מחקר בינה מלאכותית בעצמה צריכה להיות זו שמנסחת את הכללים השולטים בה.

תומכים, כולל כמה מומחי מדיניות, מתנגדים לכך שקביעת סטנדרטים טכניים הם בדיוק סוג הבעיות שמרוויחות מהשתתפות המעבדות, ושמסגרת בראשות ארה"ב עדיפה על פיצול בין תחומי שיפוט, או על חלל ריק שמעצמות אחרות ימלאו. הדגש של ההצעה על הכללת מפתחי מודל פתוח וחוקרים עצמאיים הוא הכרה מרומזת בביקורת זו.

האם ההצעה זוכה למשיכה תלויה בעיקר בוושינגטון. הקונגרס יצטרך לממן ולהעצים את CAISI או גופים יורשים, ומכוני בטיחות לאומיים יצטרכו להסכים על שיטות הערכה משותפות, שאף אחת מהן לא מתרחשת במהירות. אבל כסמן לאן זזה עמדת המדיניות של מעבדות הגבול, המסמך משמעותי: החברה שהתמקמה בעבר נגד רגולציה כבדה מבקשת כעת מממשלת ארה"ב לארגן את הסטנדרטים הטכניים בעולם לשליטה על יורשיה.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →