בעוד חברות טכנולוגיה דוהרות לבנות בינה מלאכותית חזקה יותר ויותר, חלקן מבקשות עזרה ממוסד ותיק בבעיה חדשה: איך ללמד צ'אט בוט בין טוב לרע. התשובה שלהם, יותר ויותר, היא דת.

בחודשים האחרונים, מנהלי בינה מלאכותית חיפשו מידע מפילוסופים ומנהיגי אמונה כיצד להפוך מודלים ל"טובים מבחינה מוסרית". ההסברה נעה מהתייעצויות רשמיות ועד להופעות בוותיקן - ולפי דיווח מאת סוכנות הידיעות AP שפורסם ביום ראשון, היא מעוררת חששות בקרב חוקרי דת שהחברות לא מבינות למה הן מנצלות. לקוראים העוקבים אחר התפתחויות הבינה המלאכותיות האחרונות, הסיפור מסמן עד כמה הפכה ההתאמה המוסרית המרכזית לאופן שבו חברות אלה פועלות כעת.

"שאלות שמעבדה לא יכולה לענות עליהן"

Anthropic, חברת בינה מלאכותית הנחשבת כמי שמתייחסת בצורה הרצינית ביותר לאתיקה, הייתה בין הפעילות ביותר. בהצגת האנציקליקה של האפיפיור ליאו ה-14 בנושא בינה מלאכותית של הוותיקן מוקדם יותר השנה, המייסד השותף של אנתרופ, כריס אולה, אמר לקהל ששאלות מוסריות סביב בינה מלאכותיות עולות על מה שחברות יכולות לפתור בעצמן.

"אלה לא שאלות שמעבדה יכולה לענות עליהן", אמר אולה. "אלה שאלות שמסורות כמו שלך נושאות במשך אלפי שנים."

אנתרופיק אמרה בפוסט בבלוג של מאי כי נפגשה עם "חוקרים, אנשי דת, פילוסופים ואתיקאים מיותר מ-15 קבוצות דתיות ותרבותיות", מאגר שלדבריה היא מקווה להרחיב. החברה מסגרה את המאמץ בצורה רחבה: "עבודה זו אינה נועדה ליישר קו בין המודלים שלנו לתפיסת עולמה של מסורת אחת. אנחנו רוצים שקלוד יצייר ממגוון שלם של נקודות מבט - דתיות, חילוניות, פוליטיות - בעומק ובקפדנות שווה".

מנכ"ל OpenAI, סם אלטמן, ניסח חזון אחר ומצטבר יותר. "מה שאני חושב ש-ChatGPT צריך לעשות זה לשקף את הממוצע המשוקלל הזה, או מה שלא יהיה, של ההשקפה המוסרית של האנושות", אמר אלטמן בשנה שעברה.

בתוך מפגשי האמונה של Anthropic

מייגן סאליבן, פילוסופית דת שמובילה יוזמה בנושא אתיקה ובינה מלאכותית באוניברסיטת נוטרדאם, השתתפה באחד המפגשים של אנתרופיק מוקדם יותר השנה. בניגוד לשיחות שניהלה עם חברות טכנולוגיה אחרות, היא יצאה מתרשמת מהקפדנות של ההתקשרות.

"התרבות בתוך החברה דומה לזו שבקמפוס טוב בקולג' במובן שיש לך אוסף של אנשים מאוד סקרנים מבחינה אינטלקטואלית", אמר סאליבן. "הפגישות האלה די חנוניות - אני לא יודע אם זו הדרך הטובה ביותר לנסח את זה - בצורה טובה".

הפגישה, שכללה נוצרים מעדות שונות, חולקה לשני חלקים: החברה הסבירה תחילה את המודלים שלה "במונחים של הדיוטות", ומנהיגי האמונה הגיבו במשוב ובדיון. לפי סאליבן, השאלות נעו בין "האם לבני אדם יש נשמה?" ל"האם ילדי כיתות ג' צריכים להיות מסוגלים לגשת לצ'טבוט לחינוך אוריינות?"

הוותיקן הופך לתחנה קבועה

אנתרופי לא לבד בספסלים. גם נציגים ממטה, גוגל ואמזון נפגשו עם הוותיקן, בעוד שמיקרוסופט תוארה כנמרצת במיוחד בהסברה הדתית שלה.

ההתקשרות משקפת חישוב ייחודי לרגע זה בפיתוח AI. בזמן שמנהלים משמיעים אזעקות לגבי הפוטנציאל ההרסני של בינה מלאכותית ומתלבטים מהי בכלל המשמעות של התנהגות מודל "טובה מוסרית", מסורות דתיות מציעות כמה אלפי שנים של חשיבה מצטברת על אופי, חובה ונזק - חומר שאף קורפוס הכשרה לא יכול לשכפל במלואו ושחברות לא יכולות להשיג בקלות במקומות אחרים בקנה מידה.

המסגור של אנתרופיק עצמו מבהיר את השאיפה: "מה שאנחנו מחפשים בשיחות האלה הוא חשיבה זהירה ומצטברת על איך בעצם נוצרת אופי טוב".

חוקרים מזהירים: דת אינה ספר חוקים

מומחים וחסידים כאחד מזהירים כי הנחת היסוד של החברות - שדת יכולה לספק מערכת ניתנת לחילוץ של עקרונות מוסריים - לא מצליחה להתחשב באופן שבו מסורות פועלות בפועל. תפיסות עולם שונות לעתים קרובות סותרות זו את זו, והתייחסות לדת כמאגר של כללים מסתכנת בעיוות החומר עצמו.

ווב קין, אנתרופולוג מאוניברסיטת מישיגן, טוען שחוקרים השקיעו עשרות שנים בדחיקה לאחור נגד תפיסת הדת כמערכת של עקרונות נפרדים מהדרכים ה"מבולגנות, המעשיות, האד-הוק" שבהן חסידים חיים.

"יש דרך מאוד קונבנציונלית לחשוב על דת כספר חוקים", אמר קין. "זה בהחלט קשור מאוד לדת הכתובים, ודתות הכתובים בסופו של יום באמת מתבררות כדתות האברהמיות".

ההנחה הזו, הוא מזהיר, מסתכנת בתעדוף מסורות מסוימות תוך עיוות של אחרות - במיוחד אמונות שאינן מבינות את עצמן בעיקר כמערכות אתיות.

Tomoko Masuzawa, חוקר מדעי הדת ומחבר הספר "המצאת הדתות העולמיות", מרחיק לכת ומציין כי קטגוריות כמו "בודהיזם" ו"הינדואיזם" כמסורות דומות בבירור הן בעיקר מבנה של מחקר אירופי המתוארך למאה ה-19. "כל הקטגוריות הללו לא היו ילידיות", אמר מסוזאווה.

מה בעצם נבנה

הביקורת המלומדת חשובה באופן מעשי, כי כל מה שחברות ילמדו בהתייעצויות אלה עשוי לעצב כיצד מודלים עונים על שאלות מוסריות עבור מיליארדי משתמשים. בינה מלאכותית שמתייחסת לדת כמקור לעקרונות ממוצעים משוקללים תתנהג בצורה שונה מזו שהוכשרה להכיר בכך שסמכות מוסרית שנויה במחלוקת, ממוקמת וחיה.

לעת עתה, החברות מתכחשות לכל אג'נדה בעלת מסורת אחת, ומנהיגי האמונה המעורבים מתארים את ההתקשרות כרצינית ומהותית. פסק הדין של סאליבן בנוגע לאנתרופיק - סקרן מבחינה אינטלקטואלית, קפדני, קצת חנון - מצביע על כך שהפגישות הן יותר מיחסי ציבור.

אבל השאלה העמוקה יותר שדו"ח AP מעלה נותרה פתוחה: האם תהליך התייעצות כלשהו יכול לתרגם אלפי שנים של מסורת חיה להתנהגות מודל מבלי לשטח אותה - ומי מחליט אילו חלקים בירושה המוסרית של האנושות נכנסים למשקולות.

---

הישאר לפני AI

קבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.

קרא עוד חדשות AI →