ביל גייטס, פעם אחד מאופטימי הבינה המלאכותית הבולטים בתעשיית הטכנולוגיה, מזהיר כעת כי בינה מלאכותית מסוכנת יותר ממה שהתעשייה תכיר בפומבי. במאמר בן כמעט 6,000 מילים בבלוג Gates Notes שלו ובראיון נלווה ל"ניו יורק טיימס" שפורסם השבוע, מייסד מיקרוסופט מתאר את המעבר לעידן הבינה המלאכותית כ"אחת התקופות הסוערות ביותר בהיסטוריה האנושית" - ואומר שלעולם אין תוכנית לכך.

הביקורת החריפה ביותר שלו מכוונת כלפי התעשייה שלו, שאותה הוא מאשים בהקטנת הסכנות בכוונה כי יותר מדי כסף מונח על כף המאזניים. For more context on this story, see our ongoing breaking AI news.

'מודאג מאוד' בפרטיות, שקט בפומבי

"באופן פרטי, אנשים שמבינים עד כמה החומר הזה טוב, וכמה הוא משתפר, הם מאוד מודאגים", אמר גייטס ל"טיימס". בפומבי, הוא אומר, אותם אנשים אומרים זה לזה: "היי, בנאדם, אל תגיד את זה. זה רע עבורנו - טריליון הדולרים הבאים שאנחנו מנסים לגייס".

החיבור דוחה את המסגרת המועדפת על התעשייה לפיה חברות צריכות לשלוט בעצמן. "ויסות עצמי על הכלי המסוכן ביותר שהומצא אי פעם? לא, תודה!" גייטס כותב.

שלוש סכנות גייטס אומר שהעולם לא מוכן להן

גייטס בונה את האזהרה שלו סביב שלושה סיכונים שפורצ'ן סיכם כהתפתחות ילדים "מכוערת", פושעים נועזים ועבודות נעלמות עבור דור ה-Z - סיכונים שלדבריו מנהיגי העולם אינם מוכנים אליהם.

אובדן עבודה לצמיתות. גייטס מצפה שתפקידים ברמת הכניסה והבינוני במכירות, שירות לקוחות, פיתוח תוכנה ותמיכה משפטית ייפגעו במקום הראשון, עם עבודה בצווארון כחול בלחץ ברגע שרובוטים זריזים יהיו זולים באופן דרמטי - פיתוח הוא מציין שמתרחש בעיקר בסין. הוא מצביע על מחקר סטנפורד שמראה שמאז התפשטות הבינה המלאכותית, התעסוקה בקרב עובדים צעירים בעבודות החשופות ביותר כבר ירדה בצורה ניכרת, בעוד שעמיתים מבוגרים יותר נחסכו עד כה. נשק ביולוגי. מעבר לשוק העבודה, גייטס מזהיר שבינה מלאכותית מורידה את המחסום עבור קבוצה קטנה של אנשים עם גישה למודלים מתקדמים לפיתוח פתוגנים חדשים. הוא מכיר במציאות הלא נוחה שקשה להפריד בין יכולות שימושיות ומסוכנות: אותו דגם שמוצא חור אבטחה כדי לסגור אותו יכול לעזור למישהו לנצל אותו. מלווי AI ממכרים. בפן האישי, גייטס מצביע על פגיעה פסיכולוגית וחברתית מצ'טבוטים שלעולם לא חלוקים ביניהם ותמיד זמינים. הוא מצטט מחקר של סטנפורד וקרנגי מלון המראה שככל שאנשים השתמשו במערכות אלו בצורה אינטנסיבית ואמוציונלית יותר, כך הרגישו גרוע יותר - עם דאגה מיוחדת לילדים ולשחיקת החשיבה הביקורתית בעידן של זיופים עמוקים ודיסאינפורמציה מותאמת.

למה גייטס חושב שהפעם זה שונה

חלק מהביטחון של התעשייה נשען על ההיסטוריה: תהפוכות טכנולוגיות בעבר יצרו בסופו של דבר יותר מקומות עבודה ממה שהרסו. גייטס קורא לזה נחמה טעות, ומתאר את עידן הבינה המלאכותית כ"שונה לחלוטין, לחלוטין, לחלוטין, לגמרי" ממשמרות קודמות.

בניגוד למחשב האישי, שלקח שני עשורים לעצב מחדש את העבודה, בינה מלאכותית פועלת על מכשירים שכבר יש לאנשים ומדברת שפה פשוטה. "אנחנו לא צריכים להסתגל לזה כי זה יכול להסתגל אלינו", הוא כותב. לראשונה, טכנולוגיה יכולה להחליף ולאחר מכן להתעלות על ההכרה האנושית על פני תעשיות בעשור בודד ולא על פני דורות.

קריאת ההשכמה, אומר גייטס, הגיעה מהמגרש הביתי שלו: תכנות. קלוד קוד של אנתרופיק, אמר ל"טיימס", זעזע אותו. "הרעיון שעכשיו הדברים האלה טובים ממני במובן משמעותי הוא כמו: מה לעזאזל?"

מסים, אמנות ומשרות 'שמורות אנושיות'

המרשמים של גייטס הם קונקרטיים. הוא קורא לתהליך דמוקרטי ולמוסדות פיקוח לאומיים ובינלאומיים חדשים, במודל של המשטרים שנבנו לנשק גרעיני, תעופה והגנה על שכבת האוזון. הוא מציע מס סמלי על שימוש בבינה מלאכותית ועל רובוטים, ומצביע על אסימטריה במערכת הנוכחית: העסקת אדם מפעילה מיסי שכר, בעוד שקניית רובוט יכולה להימחק באופן מיידי - למעשה סבסוד אוטומציה.

הוא גם טוען שעבודות מסוימות, במיוחד טיפול, צריכות להישאר שמורות לבני אדם, רעיון שהוא מיתוג "Human Reserved".

גייטס מודה בגלוי בניגוד עניינים אפשרי: הוא עדיין מחזיק בקשרים פיננסיים עם תעשיית הטכנולוגיה, למרות שלדבריו הרווחים זורמים לקרן גייטס. והוא מקפיד לציין את היתרון העצום של הטכנולוגיה - במדע, בריאות, חקלאות במדינות עניות וחינוך - בטענה רק שיש להבטיח את היתרונות הללו באמצעות מדיניות ולא להשאיר לכוחות השוק.

גוון מתקשה עם הרבה חברה

השינוי ברטוריקה של גייטס הוא בולט. ב-2018 הוא תיאר את הבינה המלאכותית כתוכנה טובה יותר במהותה וציפה לחופשות ארוכות יותר. ב-2022 הוא טען שעובדים עקורים ייקלטו בטיפול בקשישים ובטיפול בילדים. כבר בספטמבר 2024, הוא הטיל ספק בבינה מלאכותית שתשנה מהיסוד את בעיית הדיסאינפורמציה.

הוא גם לא לבד. מנכ"ל אנתרופי, דריו אמודי, הזהיר מפני נשק ביולוגי שנוצר על ידי בינה מלאכותית ב-2024 וחזה ב-2025 שעד מחצית ממשרות המשרד ברמת הכניסה עלולים להיעלם, כשהאבטלה תטפס ל-10 עד 20 אחוזים. אמודעי גם הוציא מס סמלי. והחוקרים גארי מרקוס ואנקה רעואל הציעו סוכנות בינה מלאכותית גלובלית ללא מטרות רווח לפי מודל של הסוכנות הבינלאומית לאנרגיה אטומית כבר ב-2023.

ההבדל כעת הוא השליח: האיש שבנה את תעשיית ה-PC לכוח עולמי הגיע למסקנה שהגל הזה לא ממלא אחר הכללים הישנים - וכי לחכות שהתעשייה תתקן את עצמה אינה תוכנית.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →