ארה"ב מציעה מערכת התרעה על תקריות בינה מלאכותית עם סין לקראת פסגת טראמפ-שי

שר האוצר סקוט בסנט הציע מערכת התראה דו-צדדית לתקריות בינה מלאכותית ברמת הביטחון הלאומי במהלך שיחות עם He Lifeng הסיני בניו יורק.

ארה"ב הציעה מערכת הודעות רשמית שתחייב את וושינגטון ובייג'ין להתריע זו על זו על תקריות בינה מלאכותית שעלולות לאיים על הביטחון הלאומי, אמר שר האוצר סקוט בסנט בסוף השבוע, לפי רויטרס ו-Associated Press.

ההצעה הוגשה במהלך פגישות כלכליות עם סגן ראש ממשלת סין, He Lifeng, בניו יורק, שנערכו בזמן ששתי הממשלות מיהרו לנעול תוצאות לפני פגישה מתוכננת בין הנשיא דונלד טראמפ לנשיא שי ג'ינפינג בהמשך השבוע. נציג הסחר של ארה"ב, ג'יימיסון גריר, השתתף אף הוא בדיונים, על פי דיווחים רבים.

מה תעשה ההצעה

על פי פרטים שדווחו על ידי רויטרס ואושרו על ידי הסיקור שלאחר מכן בוושינגטון פוסט ובניו יורק טיימס, המנגנון ייצור ערוץ תקשורת ייעודי בין שתי הממשלות לתקריות הקשורות לבינה מלאכותית שעולים לסף ביטחון לאומי.

הרעיון משקף הסדרים קיימים להפחתת סיכונים בתחומים אחרים, שבהם יריבים מתחייבים להודיע זה לזה על אירועים שעלולים להיקרא בצורה שגויה כפעולות עוינות. בהקשר של בינה מלאכותית, תקרית יכולה לנוע מכשל במודל חזיתי עם השלכות חוצות גבולות ועד למבצע סייבר גדול המותאם בינה מלאכותית שמקורה אינו ברור.

בסנט הגדיר את ההצעה כמעבר מאטימות לשקיפות, בטענה שכאשר שתי מדינות שולטות בפיתוח בינה מלאכותית גלובלית, השתיקה ביניהן יוצרת יותר סיכון מאשר תקשורת, לפי הדיווח על השיחות.

שיחות לפני הפסגה

הפגישות בניו יורק היו הסיבוב האחרון בפרץ של דיפלומטיה כלכלית של ארה"ב-סין. ה"פייננשל טיימס" דיווח כי שני הצדדים הסכימו לדיאלוג בנושא בינה מלאכותית לפני פגישת טראמפ-שי, וכלי תקשורת סיניים המקושרים למדינה תיארו את ההסדר כקו חם לאירועי בינה מלאכותית יחד עם שיחות סחר שהתחדשו.

המשא ומתן כיסה יותר מאשר בינה מלאכותית. דיווחים מהשיחות מצביעים על כך ששתי המשלחות דנו בהפחתות מכסים פוטנציאליות על סחורות מסוימות ובהפעלת מסגרת "לוח סחר" שהוגדרה בסבבים קודמים. אבל הצעת ההודעה על AI בולטת כאמצעי האבטחה הקונקרטי ביותר שיצא מסוף השבוע, והיא נותנת לשני המנהיגים משהו מהותי לדון בו כשהם נפגשים.

עבור בסנט, ההצעה היא גם המשך לשינוי ניכר בטון. מוקדם יותר השבוע, הוא אמר שארצות הברית פתוחה לדון בסיכונים משותפים של בינה מלאכותית עם סין, שפה שעומדת בניגוד חד לאפיון החוזר של הנשיא טראמפ על טענות קטסטרופה בסגנון אקלים על בינה מלאכותית כ"מתיחה".

החלק הקשה: הגדרת אירוע

הפיכת ההצעה למערכת פועלת עומדת בפני מכשולים מוכרים. הראשון הוא הגדרתי: אף ממשלה לא אמרה מה נחשב כ"תקרית בינה מלאכותית ברמת הביטחון הלאומי", ולשתי המדינות יש דעות שונות בתכלית לגבי מה שמהווה איום אבטחה טכנולוגי.

השני הוא אמון. ארצות הברית הקדישה את השנים האחרונות להחמרת בקרת הייצוא על שבבים מתקדמים וטכנולוגיית AI, בעוד שסין השקיעה רבות בבניית תשתית AI מקבילה שנועדה להפחית את התלות שלה בטכנולוגיה אמריקאית. ערוץ הודעות אינו ממיס את הדינמיקה התחרותית הזו; הוא פשוט מנהל את הסיכונים הנלווים אליו.

חוקרי מדיניות דחפו בדיוק לסוג כזה של הסדר. צוותי חשיבה, כולל המכון למדיניות ואסטרטגיה של בינה מלאכותית, טענו שתקשורת אד-הוק על אירועי בינה מלאכותית קריטית משאירה יותר מדי מקום לפרשנות שגויה, ושמנגנוני הודעות צריכים להתמקד בהבהרת אחריות ואיומים מבלי לדרוש מאף צד לחשוף יכולות קנייניות.

למה זה חשוב

אם תיושם, המערכת תהיה אחד מערוצי הסיכון הפורמליים הראשונים של בינה מלאכותית לממשלה בין שתי מעצמות הבינה המלאכותית המובילות בעולם. ההתחייבויות הקיימות לבטיחות בינה מלאכותית, כולל הבטחות בטיחות הבינה המלאכותית שנחתמו בפסגות בינה מלאכותית בשנים האחרונות, הן ברובן התנדבותיות וממוקדות בתעשייה. מנגנון דו-צדדי ברמת המדינה יהיה קטגוריה אחרת של מחויבות לחלוטין.

תגובת השוק עד כה הייתה מושתקת, ללא השלכות מיידיות למסחר הקשור לבינה מלאכותית. זה עשוי להשתנות בהתאם למה שייצא מפגישת טראמפ-שי. אם שני המנהיגים יאשרו את תפיסת ההודעה ויצרפו לוחות זמנים או פרטי אכיפה, זה יכול להתחיל לעצב מחדש את הציפיות סביב שיתוף הפעולה של ארה"ב-סין בינה מלאכותית. אם הפסגה תסתיים ללא הסכמה, ההצעה מצטרפת לרשימה הארוכה של רעיונות ממשל AI של ארה"ב-סין שנתקעה בשלב ההכרזה.

כך או כך, שיחות סוף השבוע מסמנות שינוי: השיחה בין וושינגטון לבייג'ין על AI כבר לא עוסקת אם לדבר על סיכון, אלא על האופן שבו מערכת האזהרה תעבוד בפועל.