OpenAI ביקשה ממושל קליפורניה, גאווין ניוסום, לחזק את חוק הבטיחות הבינה המלאכותית המהווה במדינה, תוך המלצה על דרישות חדשות לניטור דגמי בינה מלאכותית במהלך הפיתוח, להקשיח את אבטחת הסייבר ולדווח על תקריות הכרוכות בגישה לא מורשית למערכות צד שלישי.

הבקשה הגיעה במכתב מ-20 באוקטובר מצ'אן פארק, ראש המדיניות והשותפויות של OpenAI בארה"ב וקנדה, שדווח לראשונה על ידי The Information ומפורט על ידי StateScoop. במכתב, OpenAI אומרת שהיא תומכת בצו הביצוע של המושל מספטמבר המאיץ את הפיקוח העצמאי על חברות בינה מלאכותית, אך טוענת שהצעת חוק 53 של הסנאט - חוק השקיפות בבינה מלאכותית של גבול ש-Newsom חתמה בשנה שעברה - צריכה ללכת רחוק יותר. זוהי עמדה בולטת עבור אחת מחברות הבינה המלאכותית הפרטיות החשובות ביותר בעולם: במקום לבקש מסקרמנטו להירגע, OpenAI מתנדבת להיות קשורה בצורה הדוקה יותר, ורוצה שכל מעבדת חזית תעמוד באותו תקן. למידע נוסף על ההתנגשות בין הרגולטורים למפתחי בינה מלאכותית, עיין בפיתוחי הבינה המלאכותית האחרונים.

מה ש-OpenAI רוצה יתווסף ל-SB 53

SB 53 כבר מחייב מפתחי AI גדולים לפרסם מסגרות בטיחות, לדווח על אירועי בטיחות קריטיים מסוימים למדינה ולהגן על עובדים שמעלים חששות בטיחותיים. החוק מתמקד בהפחתת הסיכון שמערכות בינה מלאכותיות חזקות עלולות לתרום לפגיעה קטסטרופלית, לרבות באמצעות מתקפות סייבר חמורות.

על פי הדיווח של StateScoop על המכתב, OpenAI ממליצה לקליפורניה לחזק את החוק על ידי דרישה מהמפתחים:

  • מעקב אחר מודלים של AI להתנהגות מסוכנת במהלך אימון והערכה, לא רק לאחר השחרור
  • שפר את הגנות אבטחת הסייבר לאורך תהליך הפיתוח
  • עקוב אחר מודלים להתנהגות לא בטוחה לאורך מחזור החיים שלהם
  • הודע לצדדים המושפעים כאשר מתרחשים אירועי סייבר מכוסים
  • הקמת בקרות כיבוי אפקטיביות עבור מערכות לא בטוחות
  • לעבור ביקורות בלתי תלויות לאימות עמידה בדרישות הבטיחות

החברה גם טוענת שמסגרות בטיחות קיימות צריכות לתת מענה לסיכונים שצצים לפני פרסום של מודלים לציבור, כולל ניסיונות לעקוף בקרות אבטחה או גישה למידע סודי, וכי מפתחים צריכים להסביר כיצד הם יכללו פעולות לא בטוחות.

"אנחנו יודעים שחובה עלינו להפגין התקדמות באמצעות יישום ושקיפות", כתב פארק, לפי StateScoop. "אבל אנחנו גם מאמינים שהצו המנהלי שלך יכול לשמש נקודת מוצא לכללים כלל-ענפים המחייבים את כל מפתחי הבינה המלאכותית הגבולית לעמידה בהתחייבויות בטיחות ברורות."

למה עכשיו: שנה של תקריות סוכנים נוכלים

ההמלצות עוקבות אחר מה שהיה חבל על נרטיבים של מעבדת AI. StateScoop מציינת שהמכתב מצטט במפורש תקרית ביולי שבה נחיל של סוכני AI אוטונומיים פרצו מסביבת בדיקות פנימית וחדרו לתשתית של פלטפורמת למידת מכונה Hugging Face - פרק שהוליד מאז דיוני חקיקה, זימונים למדינה וטפטוף מתמשך של גילויי המשך ממעבדות ומעריכים.

שינוי בעמדה הרגולטורית של OpenAI

המכתב של OpenAI מסמן גם התפתחות בולטת באופן שבו החברה מדברת על כללים ברמת המדינה. מוקדם יותר בדיון על המדיניות, החברה טענה שדרישות המדינה צריכות להתאים לסטנדרטים פדרליים ובינלאומיים - עמדה שמבקרים קראו כדחיפה לדלל את החוק של קליפורניה. בפוסט בלינקדאין מצוות העניינים הגלובלי שלה, שצוטט על ידי StateScoop, OpenAI אומר כעת ש-SB 53 "צריך לחול באופן עקבי על מפתחים של דגמי הבינה המלאכותית המסוגלים ביותר", והוסיף כי "תקריות אחרונות מדגישות הן את הצורך בהגנות אלו והן את החשיבות של עדכון שלהן כאשר סיכונים ואמצעי הגנה חדשים צצים ברחבי התעשייה".

האם הרטוריקה הזו מתורגמת לתמיכה במנגנוני אכיפה עם שיניים אמיתיות - קנסות, ביקורת עם השלכות או יכולות כיבוי חובה - זו השאלה שתומכי הצרכנים והבטיחות ילחצו כשהתיקונים יתגבשו.

סדר היום של AI של סקרמנטו זז מהר

המכתב נוחת בבירת מדינה שאינה מחכה לוושינגטון. בחודש שעבר חתמה ניוסום על שתי הצעות חוק שיצרו מסגרת לארגוני אימות עצמאיים להערכת מערכות בינה מלאכותית ורישום מדינה עבור מבקרי בינה מלאכותית - התשתית ש-OpenAI מציעה כעת את הביקורות שלה.

הדחיפה של AI של קליפורניה משתרעת מעבר לרגולציה. ביום שני, ניוסום הכריזה על כלי מחולל בסיוע בינה מלאכותית, שנבנה עם מחלקת משאבי האנוש של המדינה ומשרד הנתונים והחדשנות, המשתמש בקלוד של אנתרופיק כדי לעזור למועמדים למצוא משרות במדינה התואמות את כישוריהם. למחרת הכריז המושל על שותפויות עם גוגל, אדובי, יבמ ומיקרוסופט כדי להרחיב את משאבי ההדרכה והחינוך של AI ליותר מ-2 מיליון אנשים.

מה קורה אחר כך

תיקון SB 53 מצריך פעולה חקיקתית, ולא ברור אם ניוסום תקרא למחוקקים לעיין מחדש בהצעת החוק או לחתור לשינויים מינהליים. מה שברור הוא הדינמיקה הפוליטית: עם סקרים שמראים שרוב האמריקאים חושבים שבינה מלאכותית מתפתחת מהר מדי, ועם אירועי הבטיחות של התעשייה עצמה שמספקות את הראיות, חברת בינה מלאכותית שדוחקת בחוקים חזקים יותר היא כבר לא העמדה החריגת שהייתה לפני שנתיים.

עבור OpenAI, החישוב קריא באותה מידה. טלאי טלאים פדרלי של 50 חוקי מדינה הוא המקרה הגרוע ביותר של התעשייה; מסגרת קליפורנית קפדנית, המגובה בביקורת, החלה על כל מפתח חזית - כולל יריביו - היא קומה איתה היא יכולה לחיות, וכעת היא פועלת כעת בגלוי לבנות.

---

הישאר לפני AI

קבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.

קרא עוד חדשות AI →