Anthropic החלה לתת לצוות של METR, העמותה שמעריכה מודלים של בינה מלאכותית גבולית, "גישה דמוית עובדים" למערכות הפנימיות שלה - חומרה, שטחי משרד וכלים של החברה בערך בדומה למה שצוותי הערכת הסיכונים שלה משתמשים בהם - כך שהקבוצה החיצונית תוכל להעריך באופן עצמאי את הסיכונים של דגמי הגבול של Anthropic ולפרסם את מה שהיא מוצאת.

ההסדר, שהוכרז בבלוג של Anthropic ביום רביעי, הולך רחוק יותר מהיחסים בסגנון הביקורת שחברות בינה מלאכותית סובלות בדרך כלל, והוא מגיע עם הוראה בולטת: METR תפרסם את תוצאות הערכות הסיכונים שלה, ואנתרופיק לא יכולה להטיל וטו על פרסום.

מה המשמעות של "גישה דמוית עובד" למעשה

שישה עובדי METR קיבלו חומרה של החברה, שטחי משרדים וגישה לכלים ומערכות פנימיות שאנתרופיק מתארת כמשתווים בערך למה שמקבלים צוותי הערכת הסיכונים שלה. מחוץ למספר קטן של קטגוריות מוגדרות בבירור - נתונים על לקוחות, מידע מיוחס לעו"ד-לקוח ומידע על ארכיטקטורות של מודלים - אנתרופיק אומרת שעובדיה מעודדים לשתף מידע עם צוות METR בדיוק כפי שהיו עושים עם עמית עובד שעובד על סיכוני יישור.

ההתקשרות צרה בכוונה. זה מכסה צוות קטן הפועל תחת הסכמים הניתנים לאכיפה, ועובדי METR אחרים מושתקים מהעבודה של הצוות הזה - כולל חוקרים שמשתפים פעולה עם Anthropic בפרויקטים אחרים. Anthropic מציינת שההתקנה מעניקה לכמה אנשים מוסמכים, העובדים תחת תקני האבטחה של Anthropic, מבט מקרוב על אופן הפעולה של החברה; זה לא ערוץ לארגונים אחרים להשיג מידע של אנתרופיק או של לקוחותיה.

זכויות פרסום, עם מעקות

במסגרת ההסכם, METR תפרסם את הניתוח שלה של רמות הסיכון, התקריות או השיטות של אנתרופיק. Anthropic לא יכול לחסום את הפרסום, אבל זה יכול לדרוש עריכה כאשר המידע נכנס לקטגוריות המוגדרות מראש שתוארו לעיל - ואנתרופיק בעצמה מחליטה מה נכנס או לא נכנס לקטגוריות הללו. METR, מצידה, שומרת לעצמה את הזכות להצהיר הצהרות מסוימות לגבי רמת הגישה והמידע שהיא קיבלה, משקל נגד שנועד למנוע מכוח העריכה להפוך לכפתור השתקה.

מדוע אנתרופיקה נפתחת

המהלך בא בעקבות התחייבות ש-Anthropic התחייבה בחודש שעבר להערכת צד שלישי חזקה יותר של המודלים ונהלי הבטיחות שלה, וחתימתה על הסכם הבית הלבן בנושא מודיעין-על, שבו חברות בינה מלאכותית התחייבו לשתף פעולה עם מבקרים או מעריכים חיצוניים בלתי תלויים. זה גם מרחיב מערכת יחסים קיימת: במהלך השנה האחרונה, אנתרופיק עבדה עם METR על מספר סקירות של דוחות הסיכון שלה.

METR לא לבד בתיק. אנתרופיק אומרת שהיא גם עובדת עם SecureBio ו-Accenture כמעריכים - הפקולטה של ​​Accenture נבחרה למעריך המשובץ הראשון של החברה בספטמבר - והיא נמצאת בדיונים מוקדמים עם כמה ארגונים אחרים, כולל Hugging Face. שותפויות בשלב מוקדם יותר מגיעות עם גישה מוגבלת יותר למידע וזכויות פרסום בזמן שהחברה לומדת אילו סוגי שותפות עובדים.

האנלוגיה של פיקוח בנק

המסגור של אנתרופיק עצמו לווה מפיננסים. בנקים יודעים יותר על עמדות הסיכון שלהם מאשר מבחוץ יודעים, ולכן הרגולטורים מחלקים בוחנים תושבים לעבודה בבנקים הגדולים ביותר; אם לקיחת סיכונים של בנק עלולה לאיים על הציבור, צדדים שלישיים מנסים לראות זאת מראש. החברה ממקמת הערכה משובצת כגרסה של תעשיית הבינה המלאכותית להיגיון הזה - צעד לקראת פיקוח בטיחותי חזק בתחום שבו הבנאי תמיד יודע יותר מכלב השמירה.

בבסיס הכל עומדת מטרה מוצהרת: סגירת הפער בין מה שמעריכים בלתי תלויים מבינים על מערכות של חברת AI חזיתית לבין מה שהחברה עצמה מבינה.

מה המעריכים צריכים

ההכרזה גם מציגה את מה ש-Anthropic חושב שדרושה הערכה משמעותית: מומחיות בהערכת יכולות מודל חזיתי, כולל הבנה כיצד הערכות יכולות להשתבש באמצעות תופעות כמו זיוף יישור; עצמאות, כלומר אין הון עצמי או תלות פיננסית או תפעולית בחברה המוערכת; גישה מספקת להערכת סיכונים בצורה משמעותית, המתרחבת מעבר למודלים העדכניים ביותר לאופן הכשרתם וכיצד מתפקדים אמצעי הגנה; וחופש לפרסם תצפיות והערכות של מודל או תהליך.

מקרה מבחן לכל התעשייה

ההסדר ייבחן לפי תפוקתו. ההערכה הראשונה שפורסמה של METR תחת משטר הגישה החדש תראה אם ​​גישה דמוית עובדים מייצרת ממצאים עם שיניים אמיתיות או דוחות חתוכים על ידי קטגוריות עיבוד שהחברה עצמה מגדירה. הספקנים יציינו שאנתרופיק שולט בגבולות הקטגוריה ושצוות הטייס קטן; התומכים יציינו שזכות פרסום שאנתרופי לא יכולה להטיל וטו היא באמת חדשנית בקרב מעבדות גבולות.

כך או כך, התעשייה צופה. אם הגישה המוטמעת של METR מעלה ממצאים חומריים ומפרסמת אותם ללא פגיעה, המודל הופך לתבנית הברורה של כל מעבדה שחתמה על הסכם הבית הלבן - ולאמת מידה לקובעי מדיניות השוקלים האם פיקוח מרצון יכול להחליף ביקורת מחייבת. לסיקור מתמשך של מדיניות בטיחות בינה מלאכותית וחדשות תעשיית הבינה המלאכותית שמעצבות אותה, AI Buzz Wire עוקב אחר כל התפתחות כשהיא נשברת.

---

הישאר לפני AI

קבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.

קרא עוד חדשות AI →