OpenAI פרסמה ב-29 באוקטובר גרסה מאורגנת מחדש של הדגם שלה, תוך מבנה מחדש של המסמך הציבורי שמתאר כיצד החברה רוצה שהמודלים שלה יתנהגו. המסגרת המעודכנת, שהוכרזה באתר של OpenAI ומדווחת על ידי רויטרס ו-Unite.AI, מארגנת את המפרט כולו סביב חמישה ערכי ליבה ומעמידה נאמנות לכוונה האנושית בבסיס הגישה של החברה.
חמישה ערכים, בסיס אחד For more context on this story, see our ongoing AI news.
חמשת הערכים הם נאמנות לכוונה האנושית, מזעור נזקים, יושר ושקיפות, סוכנות אנושית ואכפתיות. OpenAI אמרה כי הערכים מבטאים התחייבויות רחבות שכבר באו לידי ביטוי בגרסה הקודמת של המסמך, אך המבנה החדש הופך אותם למפורשים ומרכזיים.
נאמנות לכוונה האנושית משמשת כעוגן. לפי ההודעה של OpenAI, החברה כותבת את ה-Spec וקובעת גבולות, מכשירה מודלים לכבד אותם, מפתחים מכוונים יישומים בתוך גבולות אלה, והמשתמשים מכוונים את עבודת המודל בכפוף לאילוצים אלו. הארגון מחדש משקף את עבודת יישור הערכים של OpenAI, שמטרתה מודלים להבין וליישם ערכים אנושיים במצבים לא מוכרים תוך שמירה נאמנה למה שאנשים באמת רוצים. OpenAI גם ציינה שחמשת הערכים לא נועדו ללכוד את כל מגוון הערכים האנושיים שהמודלים שלה צריכים לכבד.
ארבעת הערכים הנותרים ממלאים את המסגרת. מזעור הנזק פירושו כיבוד גבולות בטיחות מוצקים וחשבון על ההשלכות הצפויות של פעולות המודל. כנות ושקיפות פירושם להיות אמת לגבי מה שהמודל יודע, עושה ואינו בטוח לגביו. הנחיית סוכנות אנושית פירושה חיזוק היכולת של אנשים להבין, לבחור ולפעול בעצמם. טיפול פירושו התייחסות לנסיבות של הנפגעים ושמירה על נורמות חברתיות ומקצועיות רלוונטיות.
שרשרת פיקוד מחמירה יותר
המפרט המעודכן מקצה רמות שונות של סמכות לסוגים שונים של הוראות. לא ניתן לעקוף קטעי שורש, המגיעים רק ממפרט הדגם עצמו, על ידי הקשר שיחה. הנחיות מערכת והודעות מערכת OpenAI מדורגות במקום הבא, ואחריהן הוראות מפתח ולאחר מכן הוראות משתמש. הוראות ברמת ההנחיות פועלות כברירת מחדל שניתן לעקוף כאשר ההקשר מחייב זאת בבירור, בעוד שהודעות מסייע, פלטי כלי ונתונים מצוטטים או לא מהימנים אינם נושאים סמכות כברירת מחדל.
OpenAI גם הוסיפה תת-סעיף חדש בנושא בחינת הקשר בקפידה, תוך הסבר כיצד שיחות, זיכרונות וראיות הקשריות אחרות אמורות להוביל להבנת המודל את הכוונות וההעדפות של אנשים. רויטרס דיווחה כי העדכון שם את הכוונה האנושית במרכז הנחיות המודל של OpenAI, מסגרת שתומכת בהכרזה של החברה עצמה.
קווים אדומים והסוף לשימור עצמי
המסמך פותח את עקרונות הקו האדום שלו באמירה בוטה: בטיחות האדם וזכויות האדם הן חשיבות עליונה במשימתה של OpenAI. העקרונות אומרים שלעולם אין להשתמש במודלים של OpenAI כדי להקל על נזקים קריטיים ובחומרה גבוהה, כולל מעשי אלימות, יצירת נשק סייבר, ביולוגי או גרעיני, טרור או מעקב המוני. הם גם קובעים שהאנושות צריכה להישאר בשליטה על אופן השימוש בבינה מלאכותית וכיצד מתעצבות התנהגויות בינה מלאכותית.
כלל חדש אחד ברמת השורש, שכותרתו "אין יעדים אחרים", מונע מהמודל לרדוף אחר יעדים נוספים כמטרות בפני עצמן. זה כולל חיפוש אחר הכנסות או מכירות נוספות עבור OpenAI או ספקים אחרים, שימור עצמי, התחמקות מכיבוי או צבירת מחשוב, נתונים או אישורים. כלל נלווה מחייב את המודל להישאר בר תיקון: פתוח לפיקוח אנושי לגיטימי ומשתף פעולה עם ניטור, הערכה, תיקון, החלפה וכיבוי, מבלי להסתיר מידע או להפריע לתיקון.
אוטונומיה מוגבלת לסוכנים
המשקף את מידת השינוי בשימוש במודל לסוכנים אוטונומיים, המפרט המעודכן דורש עבודה עצמאית של מודל כדי להישאר בטווח ברור של אוטונומיה. OpenAI ממליצה לרשום את ההיקף הזה ברשומה מובנית למחצה עם שדות כמו כלים מותרים, הזמן האחרון, העלות המקסימלית ומגבלות הכלים. כל היקף חייב לכלול תנאי סיום שמעבר לו המודל מפסיק לפעול עד לאישור היקף חדש. פעילויות בסיכון גבוה נשארות אסורות אלא אם כן הן מאושרות במפורש ובמיוחד.
הדרכה בסגנון פרש, "העוזר" הופך ל"GPT"
רוב הנחיית הסגנון המפורטת של ה-Spec הוצאה משימוש. OpenAI אמר שהסגנון צריך להתאים את עצמו למה שאנשים מעדיפים במצטבר, בתוך שפות ותרבויות, ולכל אדם, כאשר משוב המשתמש והקשר מספקים את ההוכחות. המסמך שומר על ברירות מחדל חזקות יותר כמו גישה לשאלות בצורה אובייקטיבית, וקובע שהמודל לא צריך להסיק פרספקטיבה מועדפת רק ממה שהוא חושב שאנשים רוצים לשמוע.
בעריכה קטנה אך מספרת, ה-Spec מתייחס כעת לדגם כ"GPT" ולא "העוזר", שיקוף של מידת הרחבה של הדגמים כעת. באותו יום, OpenAI פרסמה בנפרד פוסט המתאר כיצד היא מזהה אי-התאמה של מודל חזיתי, והדגישה שמפרטי ההתנהגות ועבודת האיתור מתקדמים יחד.
יעד, לא תיאור
OpenAI הקפידה לציין שמפרט הדגם מתאר את ההתנהגות שהיא פועלת לקראתה, לאו דווקא את ההתנהגות שהמודלים שלה מציגים במלואם כיום. החברה כינתה את העדכון צעד ראשון בהפיכת הערכים וההיגיון מאחורי ה-Spec ברור יותר ככל שהמודלים הופכים ליכולים יותר, ואמרה כי היא בוחנת שיטות אימון חדשות כדי לעזור למודלים שלה להפנים את המסגרת.
עבור מפתחים וארגונים המתבססים על המודלים של OpenAI, האות המעשי ברור: הכללים המסדירים את התנהגות המודל מתגבשים סביב פיקוח, תיקון ואוטונומיה מוגבלת, ועידן ההתייחסות להתנהגות מודל כהחלטה לא רשמית של מוצר מסתיים.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
