גל של אזהרות ציבוריות מתוך אנתרופיק התגבר השבוע כאשר מספר רב של חוקרים בחברת בינה מלאכותית הדהדו את ההערכה האפוקליפטית של עמית לשעבר לגבי בינה מלאכותית - וגררו תגובה בוז של אילון מאסק, שהציע שהצעקה היא "פסיופ" מתואם.

לפי ה"גרדיאן", ההסלמה הגיעה יום אחד לאחר שהחוקר האנתרופי ג'ייקוב קוקסון הודיע ​​על התפטרותו בפוסט ויראלי, וכתב כי לא Anthropic ולא OpenAI - מעסיקו לשעבר - בונים מודלים של בינה מלאכותית באחריות ו"מהמרים עם החיים שלנו". במקום לדעוך, המחלוקת הלכה וגברה כשהצוות הנוכחי של אנתרופיה פרסם הערכות קשות משלהם לתמיכה. For more context on this story, see our ongoing latest AI developments.

האזהרות נערמות

אנה וואנג, שעובדת על בטיחות בבינה כללית מלאכותית ב-Anthropic ועבדה בעבר ב-DeepMind של גוגל, אמרה ביום חמישי שאנשים רבים בחברה רוצים להאט את הפיתוח כדי לתכנן את הסיכונים הנשקפים ממודלים בעלי יכולת הולכת וגוברת.

"אין עדיין תוכנית מדעית בת קיימא לפתור סיכונים מ-AI המשתפר באופן רקורסיבי", כתב וואנג ב-X.

עובד אנתרופי אחר, דרייק תומאס, אמר שהוא מכבד את החלטתו של קוקסון להתרחק מבניית הטכנולוגיה. "דברים זזים מהר מדי, אין לנו קרוב למידת הביטחון שנרצה עבור ASI [אינטליגנציה-על מלאכותית]," כתב תומס.

סמואל מרקס, שעובד על מחקר בטיחות בחברה, טען כי החששות שותפים רבים בתעשייה - וכי ותק מתאם עם אזעקה. "מפתחי AI מאמינים שהטכנולוגיה שלהם עלולה לגרום להכחדה אנושית (או תוצאות רעות דומות)," כתב מארקס. "זה יכול לקרות בשנים הקרובות. באופן כללי, ככל שהעובד בכיר יותר, כך הוא מודאג יותר".

אוון הובינגר, שמתאר את עצמו כמוביל בחטיבת היישור של אנתרופיק, הלך הכי רחוק. "אנחנו באמת מאמינים ברצינות שבינה מלאכותית יכולה להרוג את כל בני האדם!" הובינגר כתב והוסיף כי הוא אישית שם את ההסתברות מעל 10 אחוזים בעשור הבא.

הערות Insider עוקבות אחר דיווח של CBS News כי חוקר אנתרופי הקצה סיכוי של יותר מ-10% לבינה מלאכותית שגורמת להכחדה של בני אדם, וסיקור של ה-Japan Times שהאזהרות חידשו קריאות לחוקים חדשים של בינה מלאכותית בארצות הברית.

מאסק: 'נראה כמו התקנה'

אילון מאסק נקט בהשקפה חריפה. "נראה כמו הגדרה", כתב האיש העשיר בעולם ב-X, הפלטפורמה החברתית שלו.

קוקסון השיב בסלפי: "אני אמיתי ואלה האמונות האמיתיות שלי. אתה יכול לשאול את חוקרי ה-xAI שלך עליי אם לא פיטרתם אותם".

מאסק וקולות אוהדים אחרים הגבירו תיאוריה שהעלה פרקר תאיר, חוקר במכון החשיבה השמרני קפיטל ריסרץ', שהציע - עם מעט ראיות, מציין ה"גרדיאן" - שהפוסט של קוקסון היה המהלך הפותח של "מבצע יחסי ציבור מאוד מתוחכם וממומן היטב כדי לקבל תמיכה לדמוקרטים להסדיר את הבינה המלאכותית לשכחה".

מנהל קרן הגידור המיליארדר, ביל אקמן, ציטט את הפוסט של תאיר בתשובה של מילה אחת: "מעניין".

מאוחר יותר פירט מאסק. "אני חושב שהבסיס לניתוח הפסיכולוגי הזה (בהיעדר מונח טוב יותר) הוכן כבר הרבה זמן", הוא פרסם. "זה היה רק ​​הגפרור שהדליק את האש".

אנתרופי מגן על גישתו

נתונה בין אזהרות העובדים שלה לבין התקפות מבחוץ, אנתרופיק הציעה תגובה ציבורית מדודה.

"תמיד היינו שקופים ש-AI יביא גם יתרונות עצומים וגם סיכונים חסרי תקדים", אמר דובר החברה ל"גרדיאן". "כדי להתמודד עם סיכונים אלו, אנו ממשיכים לבנות מודלים עם כמה מאמצעי ההגנה החזקים ביותר בתעשייה".

החברה הצביעה על הרקורד שלה בתיעוד ושיבוש שימוש לרעה. באותו יום שהאזהרות הפכו לוויראליות, אנתרופיק פרסמה את דו"ח מודיעין האיומים שלה מספטמבר, שפירט כיצד החברה פירקה מבצע המנסה לבנות נשק ביולוגי באמצעות דגמי הבינה המלאכותית שלה - לצד קמפיינים מופרעים המתפרשים על מתקפות סייבר ופעולות השפעה. אל-ג'זירה וה-BBC היו בין הגופים שהדגישו את ממצאי הנשק הביולוגי ביום שישי.

ספקנים רואים סיכון שונה

לא כולם מקבלים את מסגור ההכחדה. גארי מרקוס, המדען ומבקר הבינה המלאכותית הוותיק, טען שהטכנולוגיה כבר גורמת לנזק שמצדיק פעולה ללא קשר לתרחישי מודיעין-על - קורא להחרים את הבינה המלאכותית על נזקים של ימינו.

יותר מהכחדה, מרקוס אמר ל"גרדיאן" שהוא מודאג מ"סיכון הקטסטרופה" מ"פתוגנים שנוצרו על ידי בינה מלאכותית, ממלחמות שהתחילו או הסלימו על ידי דיסאינפורמציה שנוצרה על ידי בינה מלאכותית, מפריצות שהורסות תשתית קריטית וכו'. שום דבר שראיתי לא נותן שום אינדיקציה לכך שכל זה נמצא בשליטה".

עמדתו מדגישה פיצול בתוך הוויכוח על בטיחות הבינה המלאכותית עצמו: בין אלה המתמקדים בסיכון ארוך טווח, בקנה מידה של ציוויליזציה ממערכות עתידיות, לבין אלה המתמקדים בנזקים קונקרטיים מהמודלים של היום.

ויכוח שמסרב להישאר פנימי

מה שהתחיל כמכתב התפטרות של חוקר אחד הפך למשאל עם פומבי מאוד על האופן שבו תעשיית הבינה המלאכותית בונה את המערכות החזקות ביותר שלה. בתוך אנתרופיק, עובדים מתלבטים בגלוי אם לוחות הזמנים שלהם לפיתוח בטוח חלשו. מחוצה לה, האזהרות מתקפלות למאבק פוליטי יותר ויותר מקוטב בשאלה האם וכיצד ממשלות צריכות להתערב.

הדיווח של הגרדיאן מצביע על כך שעובדים רבים של אנתרופים חולקים את החששות הללו באופן פרטי אך לא דיברו בפומבי. אם יותר מהם ילכו בעקבות קוקסון, וואנג, תומס, מרקס והובינגר, הלחץ על מעבדות AI מובילות להאט - ועל הרגולטורים לפעול - רק יגדל.

_מאמר זה מבוסס על דיווח של The Guardian, עם הקשר נוסף מ-CBS News, The Japan Times, Al Jazeera ו-BBC._

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →