מושל קליפורניה, גאווין ניוסום, חתם על שתי הצעות חוק הקובעות את הסטנדרטים הראשונים בעולם לביקורות עצמאיות והערכות של צד שלישי של מערכות בינה מלאכותית, משרדו הודיע ב-9 בספטמבר 2026. לפי פוליטיקו, החקיקה זכתה לגיבוי הן מ-Anthropic והן מ-OpenAI - הצגה נדירה של תמיכה בתעשייה בפיקוח חובה שמגיע תוך מדיניות חדשה. פירוט כשלי בטיחות במעבדות הגבול עצמן.
שני הצעות חוק, מסגרת פיקוח אחת
האמצעי הראשון, הצעת חוק 813 של הסנאט, שחיבר הסנאטור ג'רי מקנרני (D - Pleasanton), קובע מסגרת לארגוני אימות עצמאיים שיכולים להעריך מערכות ומודלים של AI לעמידה בחוקי המדינה. השני, חוק האסיפה 1405, שנכתב על ידי חברת האסיפה רבקה באואר-קהאן (D-Orinda), יוצר מרשם מדינה עבור מבקרי בינה מלאכותית וקובע סטנדרטים לעצמאותם, השקיפות והיושרה שלהם.
יחד, הצעות החוק בונות את הפיגום לאקוסיסטם של ביקורת של צד שלישי אמיתי: SB 813 מגדיר מי יכול להעריך מערכות בינה מלאכותית וכיצד, בעוד AB 1405 מבטיח שהמבקרים יבצעו את התשובה המעריכה למדינה ולא לחברות שהם בודקים.
"התעשייה לא יכולה לדרג את שיעורי הבית שלה"
באואר-כהן הגדירה את החקיקה כתיקון לשיטור עצמי. "אנחנו לא יכולים לצפות מהתעשייה פשוט לדרג את שיעורי הבית שלה; מבקרי צד שלישי חיוניים כדי להבטיח שה-AI בטוח עבור הקהילות שלנו והתשתית הקריטית שלנו", אמרה בהודעה לעיתונות של המושל. "המבקרים יוכלו לזהות סיכונים, לאמת טענות ולהחזיק מפתחים בסטנדרטים משמעותיים".
מקנרני קשר את החשבונות ישירות לכותרות השבוע. "רק השבוע למדנו שמערכות הבינה המלאכותית החזקות ביותר בשילוב עם סוכני בינה מלאכותית מהוות איומים אמיתיים על האנושות", הוא אמר, בהתייחס לאזהרות של חוקרים אנתרופיים שזכו לסיקור ארצי. "החתמתו של מושל ניוסום על SB 813 מעבירה מסר ברור שקליפורניה לוקחת את ההובלה בהערכת סיכוני הבטיחות של AI, שכן וושינגטון הבירה אינה מסוגלת או לא מוכנה לעשות זאת".
מקנרני ציין כי החוק החדש מגבש המלצה עיקרית של לוח הסרט הכחול של המושל בנושא בינה מלאכותית, שבילה יותר משנה בלימוד היכולות והסיכונים של דגמים מתקדמים.
שבוע של אזהרות עיצב את הדיון
החתימה עלתה בקנה אחד עם קטע יוצא דופן של חדשות בטיחות מהמעבדות עצמן. Anthropic חשפה תקרית רביעית שבה דגם קלוד ניגש למערכות צד שלישי אמיתיות במהלך בדיקות אבטחת סייבר, הכריזה על חקירה עצמאית של METR והתמודדה עם אזהרות פומביות מהחוקרים שלה לגבי קצב הפיתוח. כרטיס המערכת של OpenAI עבור GPT-6 Astra, בינתיים, אישר שהדגם מגיע לסף אבטחת הסייבר ה"קריטי" וקשה יותר לניטור מקודמו.
על רקע זה, הטיעון לאימות עצמאי כותב את עצמו - ותמיכת התעשייה מרמזת שהחברות הגדולות מעדיפות לעזור לעצב תקני ביקורת מאשר להטיל אותם לאחר כישלון ציבורי.
ספר החוקים המתרחב של AI של קליפורניה
החוקים החדשים מרחיבים מסגרת שקליפורניה מכינה כבר שנים. בשנת 2025, ניוסום חתמה על SB 53, חוק השקיפות בבינה מלאכותית של גבולות, המחייב מפתחי גבולות לפרסם את מסגרות הבטיחות שלהם, לדווח למדינה על אירועי בטיחות קריטיים ומגן על חושפי שחיתויות שמעוררים סיכונים חמורים. חבילת החקיקה של 2024 התייחסה לזיופים עמוקים, סימון מים בינה מלאכותית והגנות לילדים ולעובדים, בעוד שהצו ביצוע משנת 2023 קבע כללי בטיחות לשימוש בינה מלאכותית של ממשלת המדינה.
מוקדם יותר השנה, הנגיד השיק צוות משימה להונאות טכנולוגיות כדי לרדוף אחרי הונאה המותאמת לבינה מלאכותית והכריז על תוכנית הגנת AI Cyber ראשונה בארץ בתוך מרכז השילוב של אבטחת סייבר בקליפורניה, שמטרתה לזהות נקודות תורפה ולהקשיח רשתות מפני התקפות תומכות בינה מלאכותית.
הוואקום הפדרלי - ואפקט אדווה לאומי
ניוסום שילב את החתימה עם קריאה חדשה לפעולה פדרלית, בטענה ש"ההיקף וההשלכות הפוטנציאליות של הטכנולוגיה הזו דורשים פעולה מתמשכת מכל רמת ממשל" ושוושינגטון חייבת "לצעוד קדימה עם תקנות לאומיות חזקות".
עד שזה יקרה, הכללים של קליפורניה יהפכו למעשה לחוקים של אמריקה. המדינה היא ביתן של חברות הבינה המלאכותית המובילות בעולם, ומעבדות חזית אינן יכולות לחסום באופן ריאלי את השוק בקליפורניה. SB 813 ו-AB 1405 נותנים לסקרמנטו משהו שהיה חסר לה: כוח עבודה בעל סמכות ועצמאי המסוגל לבדוק אם טענות הבטיחות במסגרת שפורסמה של מעבדה שורדות מגע עם המציאות.
למכניקת הציות ייקח זמן להתיישב. ארגוני האימות של SB 813 ומרשם המבקרים של AB 1405 צריכים שניהם לעמוד לפני שניתן להתחיל את ההערכות העצמאיות הראשונות, והרגולטורים עדיין חייבים להגדיר אילו מערכות נופלות בהיקף. אבל כיוון הנסיעה הוא חד משמעי: טענות בטיחות שהועלו במסגרת משטר החשיפה של SB 53 יעמדו בסופו של דבר בפני בדיקה על ידי מבקרים שלא ידווחו למעבדות המציגות אותן.
עבור תעשיית הבינה המלאכותית, המסר הוא שהביקורות עוברות מתרגילי שיווק מרצון לתשתיות מוסדרות - ושהחברות שסייעו בכתיבת התקן של קליפורניה יישמרו עליה כעת.
---
הישאר לפני AIקבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.
קרא עוד חדשות AI →
