יותר מ-20 חוקרים - ביניהם חתן פרס נובל ג'פרי הינטון, חברו לחלוץ הבינה המלאכותית יושע בנג'יו, מייסד שותף אנתרופי ג'ק קלארק והמדען הראשי של OpenAI Jakub Pachocki - הזהירו את הממשלות להתכונן ל"פיצוץ מודיעיני" של בינה מלאכותית, שלדבריהם עשוי להיות ההתפתחות הטכנולוגית המשמעותית ביותר בהיסטוריה שדווח על ההיסטוריה של ה-Guard.
המאמר, שכותרתו "מה אם אוטומציה של מחקר ופיתוח בינה מלאכותית תגרום לפיצוץ מודיעיני", קורא לפוליטיקאים לפעול לפני שתהיה התקדמות בורחת בטכנולוגיה. מחבריו מתארים את התרחיש כ"האצה דרמטית מונעת בינה מלאכותית של התקדמות בינה מלאכותית, דוחסת התקדמות שאחרת הייתה לוקחת שנים לחודשים או פחות". לקוראים שעוקבים אחר חדשות המחקר העדכניות ביותר של AI, הדו"ח בולט פחות בגלל האזעקה שלו מאשר מי שחתם עליו: נתונים מכל רחבי האקדמיה ומעבדות גבול יריבות, המוכיחות במשותף שמחקר אוטומטי הוא התרחיש שקובעי המדיניות הכי פחות מוכנים אליו.
מה המשמעות של פיצוץ מודיעיני
הדאגה המרכזית של המחברים היא הסיכוי שמערכות בינה מלאכותית ישפרו את עצמן ללא התערבות אנושית - תהליך המכונה שיפור עצמי רקורסיבי, המכונה באופן נרחב במאמר מחקר ופיתוח AI אוטומטיים.
ברגע שמערכות בינה מלאכותית יגיעו ליכולות ברמת מומחה במו"פ בינה מלאכותית, טוען המאמר, מפתח יחיד יוכל להפעיל כוח עבודה שווה ערך ל"מיליוני" חוקרים אנושיים מובילים. אוטומציה של מחקר ופיתוח בינה מלאכותית היא, לדעת המחברים, הטריגר הסביר ביותר לפיצוץ מודיעיני, מכיוון שמערכות בינה מלאכותית כבר תורמות לשיפור הטכנולוגיה שלהן - והמערכות המשופרות שהם עוזרים ליצור ניתנות לפריסה מהירה לאחר הבנייה.
"פיצוץ מודיעיני יכול להיות ההתפתחות הטכנולוגית המשפיעה ביותר בהיסטוריה האנושית, דוחסת שנים של התקדמות לחודשים או פחות, מאיימת על השליטה האנושית על מערכות בינה מלאכותית, ושחוקה קשות את בדיקות הכוח בתוך ובין מדינות, חברות וזרועות ממשל", נכתב בעיתון, לפי ה"גרדיאן".
מדוע המחברים אומרים שהחלון נסגר
הדחיפות של הדו"ח נשענת על טענה של ציר זמן: מערכות בינה מלאכותית שנראות תקלות היום יכולות להפוך פרויקטים מו"פ לאוטומטיים שלוקחים כיום לצוותים אנושיים חודשים עד 2028.
"רווחי הפרודוקטיביות מאוטומציה של מחקר ופיתוח בינה מלאכותית עדיין לא הגיעו לסף הדרוש להפעלת פיצוץ מודיעיני, אך רווחים ממערכות חדשות יותר מתקרבות ככל הנראה לסף זה", כותבים המחברים. "ברגע שמתחיל פיצוץ מודיעיני, חלון הפעולה עשוי להיסגר".
המאמר מוסיף כי "ראיות ראשוניות מצביעות על כך שפיצוץ מודיעיני מונע תוכנה אפשרי", מה שעלול להוביל ל"פיתוח מהיר במיוחד של מערכות בינה מלאכותית או על-אנושיות".
הסיכונים שהם מסמנים
בעוד שפיצוץ מודיעיני עלול לייצר פריצות דרך רפואיות וקפיצות טכנולוגיות מהירות, המחברים מתארים שלוש סכנות עיקריות:
- איומים נמלטים. מערכות עוצמתיות יכולות לאפשר איומים ביולוגיים וסייבר שמתפתחים מהר יותר מהאמצעים הדרושים כדי להתמודד איתם.
- איבדו שליטה. ככל שבני אדם נעשים פחות מעורבים במחקר ופיתוח בינה מלאכותית, הם עלולים לאבד את ההזדמנות לכוון ולהגביל את המערכות שהם בונים.
- אי יציבות אסטרטגית. מדינות יכולות להשתמש בפיצוץ מודיעיני כדי להמיר מוביל צנוע - במרחב הקיברנטי, למשל - ליתרון לאומי מכריע.
הדו"ח גלוי שההשפעות הללו הן "לא ודאות". פריצת דרך טכנולוגית עשויה לקחת זמן ליישם שרשראות אספקה נתונות עבור חומרים מיוחדים או דרישות רגולטוריות, ומערכות בינה מלאכותית יכולות גם להאיץ את המהירות שבה הסיכונים מופחתים.
מה ממשלות צריכות לעשות
המחברים אומרים שההכנה לפיצוץ מודיעיני "צריכה להיות בעדיפות דחופה, כולל ברמות הגבוהות ביותר של מנהיגות ממשלתית", ומתארת מערכת מדיניות של המועמדים:
- דרישת דוחות התקדמות שקופים על מו"פ הקשור לבינה מלאכותית, כולל הטמעת מבקרים עצמאיים בתוך חברות בינה מלאכותית
- הגבלת כמה מהר מערכת AI יכולה להשתפר בתוך פרק זמן נתון
- עבודה עם מרכזי נתונים כדי לאפשר השהיית פרויקטים מסוימים של מחקר ופיתוח בינה מלאכותית
- הבטחת מערכות מחקר ופיתוח AI אוטומטיות מבודדות לחלוטין ואינן יכולות להימלט משליטה אנושית
- יצירת "תוכניות תגובת חירום" עבור מגוון התרחישים שפיצוץ מודיעיני עלול לייצר
ההצעות מרחיבות רעיונות שכבר נעים במדיניות ה-AI המערבית - דיווח חובה על תקריות, הערכת צד שלישי וממשל מחשוב - אך מיישמות אותם על נקודת קצה ספציפית: האוטומציה של המחקר עצמו.
למה המחברים האלה, ולמה עכשיו
החותמים מעניקים לעיתון משקל בלתי רגיל. הינטון ובנג'יו הם שניים מ"הסנדקים" של הבינה המלאכותית המודרנית, המוכרים לעבודה בסיסית על רשתות עצביות; שניהם הפכו לקולות בולטים המזהירים מפני הטכנולוגיה שהם עזרו ליצור. קלארק היה שותף להקמת אנתרופיק, ופאצ'וקי הוא המדען הראשי ב-OpenAI.
האזהרה שלהם נוחתת בתוך תנועה ניתנת למדידה של התעשייה בכיוון זה. אנתרופיק אמרה ש-AI מייצרת כעת 80% מהקוד שלה, בעוד ש-OpenAI משתמשת בסוכני AI אוטונומיים בתחומים כמו הכשרת דגמים חדשים, לפי ה-Guardian. שתי המעבדות הסכימו גם למעריכים בלתי תלויים להעריך את המודלים שלהם לאחר שהזהירו שפיתוח בינה מלאכותית מגיעה לגובה קריטי מבחינת בטיחות.
האם ממשלות ינועו בקצב שהכותבים רוצים זו שאלה אחרת. אבל הטיעון המרכזי של העיתון - שהרגע לבנות את הבלמים הוא לפני שהמכונית צריכה אותם - זוכה כעת לתמיכה של האנשים הקרובים ביותר למכונה.
---
הישאר לפני AIקבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.
קרא עוד חדשות AI →
