קבוצה של 25 זוכי מדליית פילדס - כל חותם ראשוני זוכה בכבוד הגבוה ביותר של המתמטיקה - פרסמה הצהרה רשמית המזהירה כי המירוץ להצגת בינה מלאכותית על אמות מידה מתמטיות פוגע הן במדע המתמטיקה והן בקהילה שמקיימת אותה. ההצהרה, שכותרתה "הפרעה חמורה של AI במתמטיקה", עלתה לאוויר ביום שישי, ובין החותמים הראשוניים עליה הוא טרנס טאו, אחד המתמטיקאים המשפיעים ביותר בדורו.
ההצהרה מתפרסמת באתר mathandai.org, ובתוך יום היא אספה יותר מ-1,300 תומכים נוספים מאוניברסיטאות ומכוני מחקר ברחבי העולם, על פי רשימת החתומים הציבורית של האתר. טאו אישר את השתתפותו בפוסט בבלוג האישי שלו, וכתב כי הוא "גאה להיות בין רשימת 25 החותמים הראשוניים - כולם זוכי מדליות פילדס". לכל מי שעוקב אחר הפיתוחים האחרונים של AI, ההתערבות מסמנת את אחת הביקורות הנוקבות ביותר עד כה מתוך מתמטיקה עילית על האופן שבו מעבדות AI מודדות - ומפרסמות - את יכולות המודלים שלהן. זה שלט בדיון ב-Hacker News ביום שישי, וגרר מאות תגובות.
מה אומרת ההצהרה
החותמים אינם חולקים על כך שמערכות AI הפכו ליכולות להפליא. "במהלך החודשים האחרונים, היכולות המתמטיות של לימודי LLM השתפרו באופן דרמטי, עד כדי כך שהם יכולים לפתור בעיות עיקריות בתחומים רבים של מתמטיקה", נכתב בהצהרה. ההתנגדות היא למה שקורה אחר כך: חברות בינה מלאכותית משתמשות בפתרונות האלה כאמת מידה תחרותית, שלטענת המחברים "מזיקה למדע המתמטיקה ולקהילה המתמטית".
טענת הליבה בוטה: "המטרות של חברות הבינה המלאכותית והמטרות של הקהילה המתמטית מוטעות מאוד".
ההצהרה טוענת כי פתרון בעיות מפורסמות שימש באופן מסורתי כסימן לתובנה חדשה - תחילתו של תהליך קהילתי ארוך של שיחות, דיונים, פישוט ובסופו של דבר כתיבת ספרי לימוד - ולא כמטרה בפני עצמה. "פתרון בעיות הוא רק כלי ופרוקסי להשגת המטרה העיקרית של הבנה ותובנה מושגית", כותבים המחברים. "שכחת זאת בעולם הבינה המלאכותית עשויה להפוך את הכלי נגד המטרה העיקרית."
השורה המצוטטת ביותר לוכדת את הדאגה: "הייצור ההמוני בקצב מהיר יותר ויותר של הצהרות 'אמת/שקר' עלול להרוס קרקע פורייה במקום להפיח חיים ברעיונות חדשים".
ייחוס, פלגיאט והודעות נמהרות
החותמים מעלים גם תלונה מעשית. "לעתים קרובות הפתרונות הללו מוכרזים בחיפזון, ולא משאירים זמן לכתיבה נכונה, לבידוד שיטות ורעיונות חדשים, ולציטוט של עבודות קודמות רלוונטיות של אחרים", נכתב בהצהרה. "כמו בכל המקצועות היצירתיים, זה מעלה שאלות קשות על ייחוס וגניבת דעת".
המחברים מזהירים מפני אפקט מסדר שני: ללא "מתמטיקאים מוכנים שחייבים לדאוג לפיתוחם ולהשתלבותם בקאנון המתמטי", רעיונות שהגה בינה מלאכותית לעולם לא יתפתחו במלואם, ו"שרשרת ההעברה האנושית המכריעה בין מתמטיקאים תאבד".
מופע יוצא דופן של דחיפות
התהליך עצמו היה יוצא דופן. טאו הודה בבלוג שלו כי ההצהרה צמחה מתוך דיונים בין החותמים "במהלך השבוע האחרון", והתנצל על כך שלא ניהל תהליך התייעצות יותר. "החלטנו שדחיפות המצב היא כזו שעלינו לפרסם הצהרה במוקדם ולא במאוחר", כתב.
ההכרזה עוקבת אחר המודל של הצהרת ליידן המוקדמת יותר, והמארגנים מזמינים במפורש חתימות נוספות. טאו גם הצביע לקוראים על הסיקור האחרון של ההצהרה של האקונומיסט. 25 החותמים הראשוניים היו כולם מדליות פילדס, אות מכוון - החוקרים המעוטרים ביותר במתמטיקה מדברים בקול אחד. רשימת האישורים הרחבה יותר כוללת כבר מתמטיקאים מ-MIT, ETH ציריך, מכון מקס פלנק, נורת'ווסטרן, NYU ועשרות מוסדות אחרים.
אזהרה מעבר למתמטיקה
בעוד שהאמירה נטועה במתמטיקה, המחברים ממסגרים אותה כתבנית לבעיה רחבה הרבה יותר. "אנו עדים לאיום כללי על עבודה אינטלקטואלית, עם חוסר התאמה בין תוצאת השימוש ב-AI לבין המטרה הראשונית שלו", נכתב בהצהרה.
הטיעון יהדהד הרבה מעבר למחלקות למתמטיקה. במקצועות רבים, מציינים המחברים, שנים של הכשרה שימשו באופן מסורתי לא רק להפקת תשובות סופיות אלא לפיתוח הבנה ויכולת לנסח שאלות חדשות. כאשר מערכות בינה מלאכותיות הופכות להיות מסוגלות לייצר את התוצאות של עבודה כזו ישירות, "יעדים אלה מפסיקים להתיישר". ההכרזה מתארת את הסוגיות העומדות בפני מתמטיקאים כ"דומות לנושאים שעמם מתמודדים מקצועות מדעיים ויצירתיים אחרים, ומציינת סוגיות שהאנושות כולה עשויה להתמודד איתם".
לא דחייה של AI
יש לציין שההצהרה אינה קריאה לעצור את פיתוח הבינה המלאכותית. "AI מציעה את הפוטנציאל לשפר ולהאיץ לימוד והבנה מתמטיים אמיתיים", כותבים המחברים, תוך שהם מודים ש"מתמטיקה כמקצוע תצטרך להסתגל".
ההתערבות נוחתת ברגע טעון. טענות שמערכות בינה מלאכותית פתרו או עשו התקדמות גדולה בבעיות פתוחות מהוללות עלו שוב ושוב לכותרות, ומוקדם יותר השנה מחלוקת נפרדת על תביעה של OpenAI הקשורה לבעיית Navier–Stokes הראתה עד כמה הודעות כאלה יכולות להיות שנויות במחלוקת. ההצהרה של מדליות פילדס היא למעשה התגובה הבכירה ביותר של קהילת המתמטיקה לאותה דינמיקה: בקשה שמעבדות בינה מלאכותית יפסיקו להתייחס לבעיות פתוחות בנות מאות שנים כאל ערכי Leaderboard.
אם חברות בינה מלאכותית מגיבות - על ידי התייעצות עם מתמטיקאים לפני הכרזות, זיכוי עבודה קודמת או חשיבה מחודשת על מדדים - נותר לראות. מה שכבר ברור הוא שהאנשים שמכירים את הבעיות האלה הכי טוב כבר לא צופים מהצד.
