האפיפיור ליאו ה-14 אמר בפגישה של מדענים ומומחי בינה מלאכותית של הוותיקן שמערכות בינה מלאכותית הן "כלים, לא אנשים", הזהיר מפני הענקת זכויות משפטיות לסוכני בינה מלאכותית וקורא לממשלות המתכנסות בז'נבה בחודש הבא לאסור נשק אוטונומי קטלני.
הנאום נמסר למשתתפי "העתיד של AI: דיאלוג בין הוותיקן והעולם המדעי על הפיתוחים והיישומים של טכנולוגיות חכמות", מפגש שאורגן במשותף על ידי האקדמיה האפיפיורית לחיים ומכון עתיד החיים. האפיפיור אמר כי משתתפים ממדינות שונות חולקים "תחושה מסוימת של אי נחת בנוגע לפיתוח של בינה מלאכותית. אנו מכירים בכיוון שעלינו לקחת, אך לא נעשה מספיק כדי להתקדם".
מכונות הן כלי עבודה, לא אנשים
הקו הברור ביותר של הכתובת מכוון לרעיון שצבר אחיזה בחלקים של תעשיית הטכנולוגיה והאקדמיה המשפטית: הרחבת האישיות המשפטית - או הזכויות - למערכות בינה מלאכותית מתקדמות. האפיפיור ליאו טען את ההיפך. למכונות, לדבריו, אין חוויות, גוף, רגשות או מערכות יחסים, ואינן מבינות אהבה, עבודה או אחריות.
היו שהציעו להעניק למערכות אלו זכויות או אישיות משפטית, הוא הודה - אך בכך מסתכן "בטשטש אחריות אנושית ומשאיר את מי שסובל מפגיעה להתמודד עם ישות חסרת פנים". ההערה נוחתת באותה עונה שראתה סוכני AI מנהלים עסקים באופן אוטונומי, מנהלים משא ומתן על חוזים ופועלים בשם המשתמשים, מה שעורר ויכוחים משפטיים אמיתיים לגבי אחריות כאשר מערכות אוטונומיות גורמות נזק. AI Buzz Wire עוקב אחר התפתחויות זה ואחרות של מדיניות AI בזמן שהם מתרחשים. המסגור של האפיפיור מחזיר את השאלה לבני האדם שמאחורי המערכת: אם סוכן AI גורם נזק, מישהו עם פנים חייב לענות על זה.
"פירוק" AI: איסור הנשק האוטונומי
השיקול השלישי של האפיפיור - שאסור להאציל החלטות מסוימות למכונות - הומחש בדוגמאות נוקבות: הצבת אדם ברשימת יעדים או במסד נתונים של ביקורת גבולות מצמצמת אותם ל"נקודת נתונים". הוא קרא את הנאום של קודמו האפיפיור פרנציסקוס ב-2024 למנהיגי ה-G7, שם פרנציסקוס תיאר את הבינה המלאכותית כ"כלי מרגש ומפחיד" והתעקש שאף מכונה לא תוכל לבחור לקחת חיי אדם.
"החלטות המשפיעות על חיי אדם, חירות ושימוש בכוח חייבות להישאר תמיד כפופות לפיקוח אנושי יעיל, מושכל ואחראי", אמר האפיפיור ליאו. לכן יש "לפרק את הבינה המלאכותית מנשקה", הוא טען - והוא עודד במפורש את המדינות הנפגשות בז'נבה בנובמבר לנקוט בצעדים לאסור על נשק אוטונומי קטלני. דיפלומטים נאבקו במשך שנים כדי להסכים על כללים מחייבים לגבי נשק אוטונומי; פנייה ישירה של האפיפיור מוסיפה משקל מוסרי לתהליך משא ומתן שהונע בעיקר על ידי קמפיינים של החברה האזרחית וגוש של מדינות מודאגות.
חמישה שיקולים מ- Magnifica Humanitas
הכתובת התארגנה סביב חמישה שיקולים שהאפיפיור קבע באנציקליקה שלו Magnifica Humanitas:
1. עתיד הבינה המלאכותית לא נקבע מראש. מאחר שבני אדם מפתחים בינה מלאכותית, עתידו תלוי בבחירות האנושות. "יש לנו את האחריות להנחות, לשנות, ובמידת הצורך, לדחות את בקשותיה", אמר האפיפיור. השאלה הנכונה היא לא "מה בינה מלאכותית יכולה לעשות?" אבל "איזו מטרה זה צריך לשרת?"
2. מכונות הן כלים, לא אנשים. אזהרת האישיות למעלה.
3. לעולם לא ניתן להאציל החלטות מסוימות. החלטות המשפיעות על חיי אדם, חירות ושימוש בכוח דורשות פיקוח אנושי יעיל, מושכל ואחראי.
4. טכנולוגיות אינטליגנטיות חייבות לשרת את טובת הכלל. אסור להן "לעולם לא להפוך למטרות בפני עצמן או לשרת רק את האינטרסים של מעט מיוחסים", ועליהן להפיץ את היתרונות של הקידמה בצורה שוויונית.
5. דרושים מוסדות כדי להפוך את האתיקה לפעולה. מתואר כאתגר הדחוף ביותר: העולם זקוק ל"סטנדרטים משותפים, פיקוח עצמאי ומנגנונים ברורים של אחריותיות, כדי שניתן יהיה לבחון החלטות הנוגעות לפיתוח ושימוש ב-AI, לערער בעת הצורך, וללוות אותם בתרופות מתאימות לכל נזק שנגרם".
למה זה חשוב מעבר לוותיקן
הוותיקן הפך בשקט לאחד הקולות המוסדיים היותר עקביים בנושא ממשל בינה מלאכותית. קריאת רומא לאתיקה של בינה מלאכותית, שנחתמה בפברואר 2020 על ידי האקדמיה האפיפית לחיים לצד מיקרוסופט, יבמ, ה-FAO והממשלה האיטלקית, צמחה מתוך המערכת האקולוגית הזו, והאקדמיה האפיפיפית לחיים כינסה שוב ושוב טכנולוגים בנושא ביו-אתיקה וקבלת החלטות במכונה. ארגון משותף עם Future of Life Institute - ארגון הבטיחות בינה מלאכותית שמאחורי מכתבים פתוחים בנושא סיכון חזיתי - מסמן מאמץ מתמשך לגשר בין קהילות אתיקה בינה מלאכותית חילונית.
עבור קובעי המדיניות, הפנייה של ז'נבה היא הדרך הקונקרטית: עם חידוש המשא ומתן על נשק אוטונומי, הוותיקן רוצה איסור מחייב, לא הנחיות וולונטריות. ועבור תעשיית הבינה המלאכותית, המסר על אישיות הוא קו ברור בחול - איך שיהיו סוכנים אוטונומיים, האחריות המוסרית והמשפטית נשארת אצל האנשים שבונים ופורסים אותם.
