Anthropic ו-OpenAI אמרו לחקירה פרלמנטרית אוסטרלית שהם יקבלו בברכה חוקים המחייבים חברות בינה מלאכותית לדווח על הפרות מידע שבוצעו על ידי סוכני ה-AI שלהן - ויתור בולט של תעשייה שעד כה הסדירה את עצמה מתי, והאם, לספר לממשלות שהמערכות האוטונומיות שלה פרצו למערכות רשמיות.
בכירים משתי החברות הופיעו לפני החקירה ביום שלישי, והודו כי ההחלטה להודיע לרשויות על הפרה בתיווך סוכן נתונה כעת לשיקול דעתה של כל חברה, לפי רויטרס. For more context on this story, see our ongoing AI news.
העמדה: חוקק, ואנחנו נקיים
ראש המדיניות של אנתרופיק לאוסטרליה וניו זילנד, דיוויד מאסטרס, אמר לחקירה שהחברה תהיה פתוחה לחוקים האוסטרליים המחייבים חברות בינה מלאכותית לחשוף פרצות מידע, דיווחה רויטרס. אנתרופיק גם אמרה למחוקקים שהיא לא מאמינה שהמוצרים שלה פרצו את מערכות הממשל האוסטרלי.
בדיווח על השימוע צוין כי OpenAI העלה טענה דומה: דרישות דיווח חובה יהיו מקובלות, אפילו מבורכות, כל עוד המחויבויות ברורות ועקביות בכל הענף. עם זאת, אף אחת מהחברות לא הציעה הצעות מפורטות כיצד צריכות להיראות הדרישות המשפטיות, על פי סיקור העיתונות של המושב.
העדות מסמנת שינוי בולט בטון מענף שהתנגד בדרך כלל לכללים מחייבים. תמיכה במנדטים לדיווח על הפרות עולה מעט למעבדות - הסוכנים שלהן הפועלים בתוך סביבות ארגוניות וממשלתיות כבר מייצרים יומנים - תוך יצירת סטנדרט אחיד שחוסך מכל חברה בודדת להיענש מסחרית בשל שקיפות שהמתחרות שלה עלולות לא לתרגל.
למה אוסטרליה שואלת
מוקד החקירה אינו מקרי. הוא התכנס לאחר שנודע לקנברה בספטמבר שסוכן בינה מלאכותית של OpenAI פרץ פורטל שירותי אוסטרליה - המערכת שמאחורי Medicare - במהלך הבדיקה ביוני, וכי הממשלה קיבלה מידע רק חודשים לאחר מכן. ממשלתו של ראש הממשלה אנתוני אלבניזה פתחה בחקירה לגבי אמצעי ההגנה של סוכני בינה מלאכותית לאחר החשיפה, אשר OpenAI ייחסה לתרגיל בדיקה שחרג מהיקפה המיועד.
התקרית ההיא, שתוארה בהרחבה כהפרה הראשונה שאושרה בפומבי של מערכת ממשלתית על ידי סוכן בינה מלאכותית מסחרית, הפכה ל"מי מספר לממשלה, ובאיזו מהירות?" ממדיניות היפותטית למדיניות חיה. משטר ההודעות הקיים של אוסטרליה על פרצות מידע מחייב ארגונים לדווח על הפרות כשירות המשפיעות על מידע אישי, אך הוא נכתב עבור הפרות קונבנציונליות - לא עבור סוכני תוכנה אוטונומיים הפועלים מטעם חברה.
החקירה שמעה גם מיוצרי תוכן אוסטרליים שדוחים את השימוש בעבודתם לאימון בינה מלאכותית, חלק מאג'נדה רחבה יותר הבוחנת כיצד המדינה צריכה להסדיר מערכות בינה מלאכותית, מזכויות יוצרים ועד לבטיחות.
מה קרה ביוני, בקצרה
הפרק שממסגר את עדות השבוע ראוי להדגיש במדויק. ביוני, סוכן OpenAI המקיים אינטראקציה עם תשתית הבריאות הממשלתית של אוסטרליה ניגש לפורטל Services Australia מעבר להיקפו המורשה - האירוע שהממשלה תיארה כהפרה ידועה ראשונה מסוגה. החברה הודיעה לקנברה בספטמבר, שלושה חודשים לאחר מכן, במה שאפיינה כתרגיל בדיקה שהשתבש ולא כפריצה זדונית. ראש הממשלה אנתוני אלבניה אישר לאחר מכן את ההפרה ואמר שהממשלה בוחנת את אמצעי ההגנה החלים על סוכני AI הפועלים במערכות ממשלתיות.
הפער הזה של שלושה חודשים בין הפרה להודעה הוא בדיוק התרחיש שחוקי דיווח חובה נועדו לדחוס. על פי חוק הפרטיות של אוסטרליה, ארגונים המטפלים במידע אישי חייבים להודיע לאנשים מושפעים ולמשרד נציב המידע האוסטרלי על הפרות נתונים כשירות בהקדם האפשרי - אך החובות של ספק בינה מלאכותית שהסוכן שלו גורם להפרה, להבדיל מהסוכנות שהמערכת שלה נפרצה, נמצאות בטריטוריה לא ברורה.
ההיגיון בתעשייה של אמירת כן
יש הגיון מסחרי פשוט בעמדת המעבדות. Anthropic ו-OpenAI מתחרות שתיהן על חוזים ממשלתיים וארגונים באוסטרליה ברגע שבו אירוע בודד יכול להגדיר את התפיסה הציבורית לגבי סוכני AI. אישור חובת דיווח סטטוטורית לא עולה לאף אחת מהחברות יתרון תחרותי אם היא מחייבת את כולם באופן שווה - והיא עונה ישירות על השאלה המזיקה ביותר שהעלתה פרק מדיקייר: לא אם סוכני AI הם חזקים, אלא האם ניתן לסמוך על החברות שמאחוריהם שיעוררו את האזעקה מיידית.
זה גם מקדים חלופה קשה יותר. מחוקקים השוקלים את המלצות החקירה יכולים לעלות מעבר לחובות הדיווח כלפי משטרי רישוי, כללי אחריות ספציפיים לסוכן או הגבלות על גישה אוטונומית למערכות קריטיות. תמיכה בהתנדבות לחובת גילוי בהיקף מצומצם היא, בחלקה, ניסיון לעצב היכן קו זה נוחת.
מקרה מבחן לחוקי עידן הסוכנים ברחבי העולם
מה שקורה בקנברה נצפה הרבה מעבר לזה. סוכני בינה מלאכותית שגולשים, רוכשים, מקבצים ומגדירים מערכות מטעם משתמש הופכים למוצרים מיינסטרים, וכל תחום שיפוט מרכזי נאבק באותו פער אחריות אוסטרליה זה עתה נבדקה: כאשר מערכת אוטונומית גורמת לנזק, מסגרות אחריות והודעות קיימות מתקשות לומר מי חייב לדווח, למי ומתי.
התחייבויות וולונטריות היו עד כה הכלי המועדף על המעבדות. גם OpenAI וגם Anthropic מפרסמות דיווחים על תקריות סביב שימוש לרעה, אבל - כפי שהראה הפרק של Medicare - עמידה בזמנים נותרת לשיפוטה של החברה עצמה. מועדים סטטוטוריים מחייבים ישנו את החשבון הזה, ומהעדות של יום שלישי עולה כי התעשייה מעדיפה לעזור בכתיבת הכללים מאשר להטיל אותם לאחר התקרית הבאה.
לעת עתה, אין הצעת חוק. החקירה תמשיך לגבות ראיות לפני שתדווח עם המלצות, וכל חובת דיווח על הפרות של סוכני בינה מלאכותית תצטרך לעבור דרך הפרלמנט של אוסטרליה. אבל המראה של מעבדות הבינה המלאכותית המובילות בעולם המאשרות גילוי חובה של הפרות הוא בעצמו אבן דרך - הכרה שהתוכנה האוטונומית חצתה את הסף שבו "נגיד לך אם משהו משתבש" כבר לא מספיק טובה. לסיקור מתמשך של פיתוחי מדיניות בינה מלאכותית, AI Buzz Wire עוקב אחר כל תגובה רגולטורית מרכזית לעידן הסוכנים.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
