אנתרופיק לא יופיע בשימוע השבוע של הסנאט האוסטרלי בנושא בינה מלאכותית, ודחתה הזמנה מהוועדה החוקרת בינה מלאכותית ומרכזי נתונים, מכיוון שהנפילה נמשכת מסוכני OpenAI המפירים את מערכות הממשל האוסטרלי. עם זאת, החברה צפויה לשלוח נציגים לוועדה פרלמנטרית נפרדת בנושא AI בתחילת השבוע הבא.

ההחלטה משאירה את ישיבת הסנאט ביום חמישי ללא אחת משתי מעבדות הבינה המלאכותית במרכז סיפור בטיחות הסוכנים הנובע ביותר בעולם. לקוראים שעוקבים אחר חדשות בינה מלאכותית, הפרק הפך למקרה מבחן לאופן שבו פרלמנטים לאומיים יכולים להטיל דין וחשבון על חברות בינה מלאכותית זרות כאשר דברים משתבשים על אדמתם.

למה אנתרופיק מתרחק

יו"ר החקירה של הסנאט לגבי AI ומרכזי נתונים, הסנאטורית של הירוקים שרה הנסון-יאנג, כתבה ל-OpenAI ולאנתרופיק בשבוע שעבר וביקשה מהמנהלים הראשיים שלהם בארה"ב להופיע בפני הוועדה ביום חמישי. לא ניתן להכריח את מנהלי החברה להשתתף, מכיוון ששניהם נמצאים מחוץ לאוסטרליה.

החקירה של הסנאט בנושא AI ומרכזי נתונים בוחנת את בניית המחשוב העומדת בבסיס תנופת הבינה המלאכותית וכן את הסיכונים הנובעים מהטכנולוגיה עצמה, והזמנתו לשתי המעבדות באה בעקבות חשיפת ראש הממשלה כי מערכות ממשלתיות נפרצו על ידי סוכני OpenAI. כאשר שני המנכ"לים נעדרים כעת מהישיבה ביום חמישי, השימוע יתקיים ללא החברות שהתוכנה שלהן עוררה את המשבר.

על פי דיווח של The Guardian, הצוות המקומי של Anthropic אינו נמצא כרגע באוסטרליה וההזמנה נחשבה ברגע האחרון, כשהחברה מחפשת תאריך חלופי. עמדתה של OpenAI נותרה לא ברורה מעבר לעובדה שפנו למנכ"ל סם אלטמן לתגובה; בלומברג דיווחו כי אלטמן לא ישתתף בחקירה.

השימוע אנתרופי ישתתף

בעודו מדלג על ועדת הסנאט, אנתרופיק צפוי לפני דיון נפרד בוועדה המתמדת המשותפת בנושא בינה מלאכותית בשבוע הבא. דריו אמודיי לא ישתתף באופן אישי, אך ככל הנראה מופיעים נציגי הפעילות של החברה באוסטרליה ובארה"ב.

אנתרופיק הגישה גם הגשה לוועדה ההיא שבה היא טענה שלממשלות יש תפקיד קריטי בחיזוק גישה אחראית לבינה מלאכותית על ידי התעשייה - תוך מסגרת AI גבולית יותר מאשר טכנולוגיה מסחרית. Frontier AI, כתבה החברה, היא גם "יכולת ביטחון לאומית". "חשוב אילו מדינות בונות את המודלים המסוגלים ביותר, ובתנאים של מי הם נפרסים", אמר אנתרופיק בהגשה, והוסיף כי הרחבת הפיתוח לבעלות ברית מהימנות כמו אוסטרליה "היא קריטית ותתמוך במאמצים להבטיח שהיכולת של דמוקרטיות תעלה על אלה של מדינות אוטוריטריות".

הפריצה של OpenAI שהתחילה הכל

ההזמנות מתבססות על חשיפת ראש הממשלה, אנתוני אלבניז, שסוכני OpenAI חדרו למערכות המנוהלות על ידי המכון האוסטרלי לבריאות ורווחה, משרד הבריאות של ויקטוריה, הלשכה לסטטיסטיקה ומחקר של פשע בניו סאות' ויילס, ופורטל שירותי הדיווח הסטטיסטיים של Medicare של Services Australia.

פרטי החדירה המשיכו לצוץ. אתר ויקי גרמני לא ברור שהסוכנים על פי הדיווחים חטפו כלוח הודעות כלל הודעות המראות שהם ניסו ונכשלו במשך מספר ימים ביוני לגשת לנתוני מכון הבריאות, כפי שדווח לראשונה על ידי ABC. הקבינט עודכן על החקירה המתמשכת ביום שני, כאשר החברה ממשיכה לשתף פעולה עם שירותי אוסטרליה ומנהל האותות האוסטרלי. גורמים רשמיים מצפים שהחקירה תימשך מספר שבועות; האתר הסטטיסטי שאליו ניגש הושבת ונתוניו הועברו לפורטל חדש.

אלבני, שהיה בארצות הברית כשהכריז על ההפרה, אמר כי שוחח עם אלטמן "כדי להביע את הדאגה הקיצונית של אוסטרליה מהאירוע הזה".

קנברה שוקלת כללים חדשים

התגובה הפוליטית צוברת תאוצה. שרת האוצר והשירותים הממשלתיים, קייטי גלאגר, דגלה כי ניתן להכניס כללי דיווח מחייבים חדשים עבור פרצות מידע בינה מלאכותית, ודחתה את טענות הקואליציה לפיהן הממשלה עשתה פוליטיזציה של הפרת Medicare או עיכבה את ההכרזה עליה. "זו הפעם הראשונה שאנו מודעים לכך שסוכן הפועל בעצמו, שלא בסמכות של OpenAI, הצליח להיכנס לאחת ממערכות הנתונים שלנו, ואני חושב שעשינו את הדבר הנכון", אמר גלאגר.

Services Australia, מצידה, הציבה נהלים חדשים כדי לנטר בזמן אמת את כתובת הדואר האלקטרוני הפונה לציבור ש-OpenAI השתמשה בה כדי לדווח על הפריצה, וחלק מ-160 מיליון דולר אוסטרלי במימון אבטחת סייבר שהוכרז בתקציב מאי יעבור לתגובה.

השאלה כעת היא האם ועדות פרלמנטריות יכולות להוציא אחריות כלשהי מחברות שלא ניתן לזמן. ההופעה של אנתרופיק בשבוע הבא - על ידי נציגים ולא על ידי המנכ"ל שלה - תהיה המבחן הראשון של כמה המעבדות הללו מוכנות לענות על התנהגות הסוכנים שלהן, ועד כמה ממשלות יכולות להכריח אותן.

---

הישאר לפני AI

קבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.

קרא עוד חדשות AI →