ממשלת בריטניה הודיעה על הקמת מעבדת ה-AI Biosecurity, המתוארת כארגון הביו-אבטחה הייעודי הראשון בעולם של AI, מגובה במימון ממשלתי של 100 מיליון ליש"ט ועד 200 מיליון ליש"ט בהתחייבויות של OpenAI ו-Anthropic. משרד הקבינט פרסם את התוכניות ביום שישי כחלק מיוזמת AI Biosecurity הלאומית.
ביחד, התחייבויות הממשלה והתעשייה מעמידים עד 300 מיליון פאונד מאחורי מוסד שתפקידו להבטיח שאותן מערכות בינה מלאכותית המאיצות את גילוי התרופות לא יורידו גם את החסמים בפני הנדסת פתוגנים מסוכנים.
מה תעשה מעבדת ה-AI Biosecurity
על פי הודעת הממשלה, המעבדה - בקיצור AIBL - תפגיש בין בינה מלאכותית ומדעית ביולוגית כדי לפתח יכולות טכניות מעשיות שמשפרות את יכולתה של בריטניה להבין, למנוע, לזהות ולהגיב לאיומים ביולוגיים. תוכנית העבודה הראשונית מתמקדת בשני סדרי עדיפויות: שיפור הגילוי המוקדם של איומים ביולוגיים מתעוררים, והאצת פיתוח חיסונים, טיפולים ואמצעי נגד רפואיים אחרים.
המעבדה תרתום את הבינה המלאכותית הגבולית בשיתוף עם מרכזי הביטחון הביולוגי הלאומי של בריטניה ותעשיית מדעי החיים, במטרה המוצהרת לאפשר לבריטניה - ולטענת הממשלה לעולם - להגיב מהר יותר להתפרצויות מחלות. היא מתבססת על אסטרטגיית האבטחה הביולוגית הקיימת של בריטניה, שמסגרת מוכנות למגפה ואיומים כרצף יחיד של סיכון ביולוגי מאז 2023.
מדוע ממשלות זזות עכשיו
הודעת משרד הקבינט היא ישירה בצורה יוצאת דופן לגבי בעיית השימוש הכפול. ההתקדמות בתחום הבינה המלאכותית, היא מציינת, יוצרות הזדמנויות חסרות תקדים לגילוי מדעי ובו זמנית משנות את נוף הסיכון הביולוגי: בינה מלאכותית יכולה לשפר את הבנת המחלות ופיתוח אמצעי נגד, אבל מערכות יכולות יותר ויותר יכולות גם להוריד מחסומים לפעילות מזיקה.
החשש הזה עבר מההיפותטי למוכח בשנה האחרונה. מחקרים שסוקרו בהרחבה בעיתונות המדעית - כולל מחקרים שבהם מודלים של בינה מלאכותית תכננו גנומים קיימא דמוי וירוס - הראו שהקו בין יכולות מועילות למסוכנות הוא דק יותר ממה שקהילת הביטחון הביולוגי הניחה פעם. התשובה של בריטניה היא למסד את הצד ההגנתי של המשוואה הזו לפני שהצד ההתקפי יבשיל.
OpenAI ו-Anthropic Take On Commitments
המאפיין הבולט ביותר של ההכרזה הוא מבנה המימון. מעבר ל-100 מיליון ליש"ט מכספי הציבור, הממשלה אומרת ש-OpenAI ואנתרופיק התחייבו ביניהן עד 200 מיליון ליש"ט. העיר א.מ. העיתון דיווח כי Google DeepMind היא גם בין התומכים בתעשייה של היוזמה, אם כי המהדורה של הממשלה עצמה מכנה את OpenAI ו-Anthropic כמקורות להתחייבויות החברה.
עבור המעבדות, הסידור הוא צורת מעורבות מוכרת. אנתרופיק בנתה חלק גדול מהזהות המסחרית שלה סביב מחקר בטיחות, ו-OpenAI התמודדה עם ביקורת מתמשכת על כך שתשתית הבטיחות שלה לא עמדה בקצב שאיפות הפריסה שלה. הכנסת כסף וצוות למוסד אבטחה ביולוגי המעוגן על ידי הממשלה נותנת לשתי החברות תשובה קונקרטית ואמינה מבחינה חיצונית לשאלה מה מסתכמת בהתחייבויות הבטיחות שלהן בפועל.
זה גם מרחיב את יחסי העבודה. בריטניה מיקמה את עצמה כשטח הניסויים לפיקוח על מודלים גבוליים מאז פסגת בטיחות הבינה המלאכותית שלה ב-2023, ושתי החברות כבר מנתבות את המודלים שלהן באמצעות הערכה הקשורה לממשלה לפני פרסומים גדולים. מוסד עומד עם תקציב משלו הופך את שיתוף הפעולה האד-הוק הזה לתשתית.
מקרה מבחן לבטיחות בינה מלאכותית ציבורית-פרטית
המעבדה תישמר מקרוב כתבנית. אם AIBL יוכיח שממשלות וחברות בינה מלאכותיות יכולות לבנות יחד יכולות ביו-אבטחה תפעוליות, צפו ממוסדות דומים בבירות אחרות - וצפו ממעבדות הגבול לחפש הסדרים מקבילים בכל מקום שבו המודלים שלהם נפרסים בקנה מידה. אם זה יהפוך לכלי להלבנת התחייבויות יחסי ציבור להודעות לעיתונות, זה יקשיח את הספקנות לגבי הבטחות בטיחות מרצון.
הרבה תלוי בפרטים שההודעה משאירה פתוחה: כוח האדם של המעבדה, הגישה שלה למודלים חזיתיים, הקשר שלה לרגולטורים, וכיצד יכולות הזיהוי שלה ישותפו עם מערכות הבריאות הציבוריות. הממשלה אומרת ששותפויות יהיו מרכזיות בעבודת המעבדה, וכי המחקר שלה יחזק את העמידות בפני מגוון רחב של סיכונים ביולוגיים, כולל אלה המתאפשרים על ידי התקדמות בינה מלאכותית.
מה שכבר ברור הוא כיוון הנסיעה במדיניות. ממשלות כבר לא מתייחסות לאבטחת בינה מלאכותית כשאלת מחקר למאמרי סדנה; הם מממנים מוסדות עומדים עם תקציבים של תשעה ספרות ומנסחים את תעשיית הבינה המלאכותית כשותף משלם. בריטניה עמדה בטענתה להפעיל את הראשון. אם מדינות אחרות יעתיקו את המודל יהיה תלוי פחות במדע מאשר באמון - ובשאלה אם הממצאים המוקדמים של AIBL מתפרסמים בצורה פתוחה מספיק כדי ששאר העולם יוכל להתבסס עליהם.
עקבו אחר התפתחויות מדיניות AI העדכניים ביותר בזמן שממשלות ברחבי העולם מגיבות לגבול.
הישאר לפני AI
מרגולציה ועד פריצות דרך מחקריות, אנו עוקבים אחר מה שחשוב.
קרא עוד חדשות AI →
