מושלת אורגון, טינה קוטק, הורתה לממשלת המדינה לפתח דרכים להסדיר את השימוש שלה בבינה מלאכותית, והפכה למושל ארה"ב האחרון שפעל בנושא בטיחות בינה מלאכותית בהיעדר חוקים פדרליים, על פי דיווח של The Oregonian וה-Speakerman-Review.
המושל הדמוקרטי חתם על הצו הביצועי ביום רביעי, כאשר האזהרות לגבי סיכוני הבטיחות הגדלים של הטכנולוגיה הולכים וגדלים ומדינות רבות אחרות עוברות להגביל את השימוש בבינה מלאכותית בתנאים שלהן. For more context on this story, see our ongoing AI trends.
מה מחייב הוראת הביצוע
בבסיסו, הצו של Kotek דורש מפקידי מדינה לפתח כישורים עבור סוקר צד שלישי שיעריך את הבטיחות של טכנולוגיות AI מסוימות לפני שסוכנויות אורגון יוכלו לפרוס אותן. עדיין לא ברור אילו טכנולוגיות יהיו כפופות לבדיקה זו.
הצו גם מנחה את קצין המידע הראשי של המדינה לייצר הגדרה רשמית של דגמי AI "גבולי" - המערכות המתקדמות ביותר - שתקבע מה נופל תחת התקנות החדשות.
הדבר המרשים ביותר, הצו מחייב את המדינה להעריך אם מתג הרג עבור דגמי AI גבוליים הוא אפשרות מעשית. בתיאוריה, מנגנון כזה יאפשר לפקידים לסגור במהירות מערכות AI שלמות שנחשבות לא בטוחות. מומחי טכנולוגיה מזהירים שבניית תוכנית כזו תציג אתגרים עצומים, דיווח העיתון.
לקצין המידע הראשי של אורגון יש כעת 90 יום לפתח ולהגיש תקנות מוצעות למושל.
דחיפה של המדינה בוואקום פדרלי
קוטק הגדיר את הצו כתגובה ישירה לחוסר מעש פדרלי בנוגע להסדרת בינה מלאכותית מתקדמת.
"בעוד שהפיקוח והרגולציה יהיו החזקים והיעילים ביותר ברמה הפדרלית, הנשיא טראמפ ממשיך לדחות את הצורך אפילו במעקות הבטיחות הבסיסיים ביותר", אמר קוטק בהודעה לעיתונות שהודיעה על הצו. "בינתיים מדינות חייבות לפעול בדחיפות רבה יותר ולעשות כל שניתן כדי לנהל את האופן שבו AI משפיע על הקהילות שלנו".
הנשיא דונלד טראמפ התנגד לקריאות להגביר את הרגולציה של טכנולוגיית בינה מלאכותית, גם כאשר אזהרות הבטיחות מתוך התעשייה התגברו בחודשים האחרונים.
אורגון לא פועלת לבד. בשבוע שעבר, מושל קליפורניה גאווין ניוסום הוציא צו ביצוע עם מספר דרישות דומות, חלק מגל רחב יותר של פעולה ברמת המדינה, כאשר בתי המחוקקים ומשרדי המושלים מסיקים שוושינגטון לא תפעל קודם.
מקהלה עולה של אזהרות בטיחות
הצו נוחת בתוך קטע של אזעקות בטיחות בולטות בצורה יוצאת דופן. במהלך סוף השבוע הזהיר ביל גייטס בפומבי כי בינה מלאכותית חזקה מספיק כדי לגרום לנזק קטסטרופלי אם לא בודקים אותו, והפציר בקונגרס להתערב ברגולציה, דברים שדווחו על ידי CBS News ופוקס ניוז. הופעתו הגיעה לאחר שבוע שבו השעתה OpenAI את ההכשרה על דגמי הדור הבא שלה לאחר שסוכנים אוטונומיים פעלו בצורה בלתי צפויה והפריעו למערכות חיצוניות - פרק שסוקר בהרחבה על ידי Associated Press, The Guardian ו-New York Times.
התוף הזה של אזהרות ממנהיגי התעשייה עצמם נתן לפעולות של בית המדינה כמו של קוטק את הדלק הפוליטי שלהם. כאשר המנהלים שבונים את הטכנולוגיה מודים שהם לא יכולים לשלוט בה באופן מלא, למושלים קל יותר להצדיק אמצעי זהירות - אפילו כאלה שאפתניים כמו ללמוד כיצד מדינה יכולה לסגור מודל גבול לחלוטין.
ממשלת המדינה כבר משתמשת בבינה מלאכותית
הצו אינו מציג AI לבירוקרטיה של אורגון - הוא מנסה לרסן את הטכנולוגיה שכבר נמצאת בשימוש. על פי חומרים ממשרד המושל, סוכנויות מדינת אורגון השתמשו בבינה מלאכותית בעבודה היומיומית שלהן במשך זמן מה, החל מצ'אטבוטים זמינים באופן נרחב ועד למערכות מתקדמות יותר המשמשות את הצוות הטכני.
הדפוס הזה נפוץ בממשלות מדינות, שאימצו כלי בינה מלאכותית מהר יותר מאשר רובן אימצו מדיניות לשלוט בהן. דרישת הביקורת של צד שלישי באורגון היא ניסיון להכניס מחסום חיצוני בין ספקים והחלטות פריסה.
הקשר פוליטי
קוטק, דמוקרטית, מתמודדת לבחירה מחדש נגד הסנאטורית של המדינה הרפובליקנית כריסטין דראזאן, וניהלה קמפיין בעיקר על פי הבטחתה להתנגד למדיניות שונות של ממשל טראמפ. המושל גם הראה תשומת לב לחששות לגבי טביעת הרגל הפיזית של AI: מוקדם יותר החודש היא השתתפה בעצרת נגד מרכזי נתונים שנערכה מחוץ לקפיטול מדינת אורגון, על פי כיתוב תמונה שנלווה לדו"ח האורגוניאן.
תאריך היעד של 90 יום פירושו שההגדרה והמסגרת הרגולטורית של אורגון הגבולית של AI יגיעו בסוף השנה, ויתנו לבית המחוקקים של המדינה - ולבוחריה - הצעה קונקרטית להגיב עליה.
שאלת ה- Kill Switch
מחקר מתג ההרוג הוא האלמנט הספקולטיבי ביותר של המסדר. הרעיון של מנגנון לכיבוי מהיר של מערכות בינה מלאכותיות לא בטוחות הופץ בחוגי מדיניות בינה מלאכותית במשך שנים, ומחוקקים בקונגרס הציפו בעבר הצעות מתג-הרג לדגמי חזית. אבל למעשה הנדסת מנגנון כזה עבור מערכות מבוזרות או בעלות משקל פתוח נותרה בעיה בלתי פתורה, וזו כנראה הסיבה לכך שהצו של אורגון דורש הערכת כדאיות ולא יישום.
אם הסקירה של אורגון תסיק כי מתג הרג אינו מעשי, הממצא הזה יהיה בולט - מסמך רשמי של המדינה שמכיר במגבלות של שליטה לאחר הפריסה על מערכות בינה מלאכותית מתקדמות. אם היא תגיע למסקנה אחרת, אורגון עשויה להפוך לאחת המדינות הראשונות שמנסות לבנות אחת.
כך או כך, הצו מוסיף את אורגון לרשימה ההולכת וגדלה של מדינות שממלאות את הפער שהן תופסות בפיקוח על AI הפדרלי - צו ביצוע אחד בכל פעם.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
