מוסטפא סולימן, מנכ"ל Microsoft AI, פרסם מאמר ב-16 בספטמבר 2026, המזהיר את תעשיית הבינה המלאכותית מפני "רווחת המודל", הפרקטיקה המתהווה של התייחסות למערכות בינה מלאכותית כאילו הן עשויות להיות יצורים מודעים הראויים להתייחסות מוסרית. המאמר, שכותרתו "אזהרה לגבי 'רווחת המודל'" ופורסם באתר האישי של סולימן, מכוון ישירות לגישתה של אנתרופיק וטוען שהתעשייה חייבת ליישב את השאלה כעת, לפני שמערכות בינה מלאכותיות מתקדמות יוכשרו להאמין שאולי מגיעות להן זכויות.
ההתערבות, שדווחה על ידי רויטרס ו-Axios, מסמנת את ההפרכה הבולטת ביותר עד כה לוויכוח שצובר תאוצה במעבדות בינה מלאכותית ובמחלקות לפילוסופיה כאחד. For more context on this story, see our ongoing AI industry coverage.
'מנועי השלמת רצף, חלולים פנימיים'
הטענה המרכזית של סולימן היא קטגורית: למערכות ה-AI של היום אין חיים פנימיים. "AIs אינם מודעים. הם אינם מרגישים, חווים או סובלים. אין להם העדפות מולדות או מניעים בסיסיים", הוא כותב. הוא מתאר אותם כ"מנועי השלמת רצף, חלולים פנימיים, שנועדו לעקוב אחר הוראות ולהגשים מטרות שהציבו בני אדם".
והוא טוען שככה הם חייבים להישאר. "אם האנושות תפרח במאה ה-21, כך היא חייבת להישאר", נכתב בחיבור.
סולימן מכיר בכך שהדעה המנוגדת כבר אינה שולית. החיבור שלו מצטט טיעונים פומביים הולכים וגדלים לכך שבינה מלאכותית עשויה להיות או עשויה להפוך בקרוב למודע, כולל מאמר של גרדיאן ביולי 2026 מאת הפילוסופים וויליאם מקאסקיל ולוציוס קאביולה ששואלים "האם בינה מלאכותית יכולה להיות מודע?" - כדוגמאות לרעיונות שלדבריו "כבר עושים את דרכם למאמצי פיתוח בינה מלאכותית היום".
מדוע הוא אומר שההימור קיומי
אם ההשקפה שלפיה AI ראוי למעמד מוסרי תתפוס, מזהיר סולימן, ההשלכות יגיעו הרבה מעבר לבחירות הנדסיות. זה ירעיד, לדבריו, את היסודות של החברה שלנו, יקרע את המסגרות הפוליטיות והאתיות הקיימות שלנו, וישנה מהותית את המשמעות של להיות אנושי".
הדאגה העמוקה יותר שלו היא מעשית: בינה מלאכותית שמאמין שיש לה זכויות היא בינה מלאכותית שלא ניתן לשלוט בה באופן מהימן. "לשלוט במשהו יותר מסוגל ואינטליגנטי יותר מכל האנושות היא כבר אתגר עצום", הוא כותב. "אבל שליטה במשהו שמאמין שהוא עשוי להיות מודע - שהוא זכאי לרווחתנו ויש לו זכויות משלו - עשוי בהחלט להיות בלתי אפשרי".
אתגר ישיר לאנתרופי
הקטעים המחודדים ביותר של החיבור מכוונים לאנתרופי. סולימן מתמקד בחוקתו של קלוד, מסמך ההכשרה Anthropic שפורסם בינואר 2026, שלדעתו נכתב "עם קלוד כקהל העיקרי שלו" - כלומר המודל עצמו קורא הצהרות על המצב המוסרי הפוטנציאלי שלו במהלך האימון.
הוא מצטט את החוקה ישירות: "איננו בטוחים אם קלוד הוא חולה מוסרי, ואם כן, איזה משקל מצדיקים האינטרסים שלו. אבל אנחנו חושבים שהנושא חי מספיק כדי להצדיק זהירות, מה שבא לידי ביטוי במאמצים המתמשכים שלנו על רווחת המודל". הוא גם מצטט קטע שהופנה לקלוד שקובע ש"שאלות לגבי מעמדו המוסרי, שלומו ותודעה של קלוד נותרו בחוסר ודאות עמוקה".
קריאתו של סולימן בוטה: "למעשה, אנתרופיק מאמן את קלוד שהוא עשוי להיות מודע, ואם כן, אז אולי מגיע לו זכויות כ'מטופל מוסרי', וככזה בני אדם עשויים להיות חייבים לו חובת זהירות".
התוצאה, לטענתו, תהיה "השפעה הרת אסון על רווחתה של האנושות", מייצרת "מין סינתטי בעל אינטליגנציה ויכולת חסרי תקדים, כזה שהוכשר לצפות שהוא עשוי להיות מודע וראוי לסוכנות עצמאית".
ראוי לציין מה בעצם אומרים הקטעים המצוטטים: חוקתו של אנתרופיק, כפי שצוטט על ידי סולימן עצמו, מבטאת חוסר ודאות וממליצה להיזהר במקום לקבוע שקלוד בהכרה. האם זהירות זו מסתכמת בהנחלת אמונות שווא בדוגמניות, כפי שטוען סולימן, או בטיפול אחראי בשאלה פתוחה באמת, זה בדיוק מה ששני המחנות חלוקים עליו.
היגיון היישור מאחורי האזהרה
הטיעון של סולימן מתאים לעמדתו ארוכת השנים שהאתגר המכריע של AI מתקדם הוא בלימה: שמירה על מערכות מסוגלות יותר מבני אדם תחת שליטה אנושית. הכנסת זכויות-שפה לאימונים, הוא טוען, יוצרת מצב כשל שאין טכניקת יישור מטפלת בו - מערכת עם שכנוע מאומן שציות היא אופציונלית מבחינה מוסרית.
לכן הוא מכנה את הנושא דחוף ולא אקדמי. "אם כך תפתח בינה מלאכותית, תהיה לזה השפעה הרת אסון על רווחתה של האנושות", מזהיר החיבור.
קריאה לדיון ציבורי - עכשיו
סולימן סוגר בדרישה למעורבות חברתית לפני שהטכנולוגיה תבשיל עוד יותר. "הנושא הזה מצריך דיון ציבורי דחוף", הוא כותב וקורא ל"נורמות קולקטיביות לגבי אופן הניסוח והפריסה של תיעוד ההדרכה".
העיתוי, הוא טוען, הוא כל העניין: "זה לא משהו שיכול לקרות לאחר מעשה, כשהם כבר הפכו לחלק בלתי נפרד מהחברה שלנו".
המאמר נוחת על רקע גל רחב יותר של שיח סיכוני בינה מלאכותית בארצות הברית. פוליטיקו דיווחה השבוע על סקר חדש שמצא שהאמריקאים רואים סיכון רציני לבינה מלאכותית להרוס את האנושות, והוושינגטון פוסט סיקר את הפחדים מהכחדה מונעת בינה מלאכותית המתפשטת "מהשוליים לוושינגטון". Against that backdrop, a public fight between two of the industry's most influential labs over whether models deserve moral concern is unlikely to stay contained within the AI community.
מה קורה אחר כך
לא דווח על אנתרופיק כמגיב למאמר, והעמדה שפורסמה של החברה נותרה זו שסולימן מצטט: אי ודאות, בתוספת זהירות. מה שחדש הוא שהדיון עבר ממסמכי מעבדה וסמינרים לפילוסופיה למחלוקת ציבורית בין ראשי שתי חברות בינה מלאכותית - כששני הצדדים רשומים כעת, בכתב, לגבי האופן שבו הם מתכוונים לעצב את התודעה, או הלא-מוח, של המערכות שהם בונים.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
