המנכ"ל האנתרופי, דריו אמודיי, הזהיר את המחוקקים שהמגמה המואצת של בינה מלאכותית בקוד פתוח עלולה להוביל את החברה לדרך מסוכנת אם ישוחררו מודלים רבי עוצמה ללא אמצעי הגנה זהירים, מה שיצית מחדש את אחד הוויכוחים השנויים במחלוקת במדיניות AI.
אמודיי, שהקים ומוביל את החברה שמאחורי משפחת הדגמים של קלוד, טען כי האופי הייחודי של AI בקוד פתוח, שהופך מערכות מתקדמות לזמינות בחופשיות לכל אחד להורדה, שינוי ופריסה, יוצר סיכונים שתוכנות קוד פתוח קונבנציונליות מעולם לא היוותה. דבריו, שדווחו על ידי Tekedia, מתמקדים בקושי לשלוט בבינה מלאכותית בעלת יכולת AI ברגע שהיא הופצה לציבור. להקשר נוסף על הסיפור הזה, ראה עוד סיפורי AI המתמשכים שלנו.
בניגוד לתוכנה מסורתית, מערכות בינה מלאכותית מתקדמות יכולות ליצור טקסט משכנע, לייצר תמונות מציאותיות, לכתוב קוד מחשב ולסייע במשימות אבטחת סייבר. אמודי טוען כי בידיים הלא נכונות ניתן לנצל את היכולות הללו כדי להפוך מתקפות סייבר לאוטומטיות, להקים מסעות דיסאינפורמציה מתוחכמים או לקדם מחקר ביולוגי מזיק.
The Problem of Permanence
אחד הסיכונים המרכזיים שהדגיש אמודי הוא שברגע שמודל חזק משוחרר בגלוי, הוא הופך למעשה לבלתי אפשרי להיזכר בו. מערכות סגורות המופעלות על ידי חברות ניתנות למעקב, לתיקון ולהגביל כאשר צצות פרצות חדשות. מודל קוד פתוח, לעומת זאת, ניתן להעתקה ללא הגבלת זמן ולהפיץ מחדש ברחבי האינטרנט, מה שמשאיר למפתחים שום מנגנון להגביל את השימוש בו לאחר השחרור.
הקביעות הזו, הזהיר אמודי, מטרידה במיוחד כאשר מודלים מתקרבים לביצועים ברמת האדם במשימות מורכבות יותר ויותר. הוא טען שיש להעביר AI מתקדם לבדיקות בטיחות חזקות, פריסה מבוקרת ופיקוח רגולטורי מתאים לפני שהיא הופכת לנגישה נרחבת, במקום להתייחס אליה כמו תוכנה רגילה שניתן לשפר בשיתוף פעולה בשטח פתוח.
עמדתו משקפת קו שבר הולך וגדל בתעשייה. התומכים בבינה מלאכותית בקוד פתוח טוענים כי גישה ציבורית מעודדת תחרות, דמוקרטיזת את הקידמה הטכנולוגית ומונעת מקומץ תאגידים להפיק מונופול על בינה מלאכותית. מפתחים ברחבי העולם יכולים לבדוק ארכיטקטורת מודלים, פגמי אבטחה משטחים ולשפר מערכות בשיתוף פעולה, בעוד שסטארט-אפים, חוקרים ומוסדות חינוך יכולים לבנות ללא תלות בפלטפורמות קנייניות יקרות.
Specific Risks on the Table
Amodei's concerns are not abstract. דגמים שפורסמו בגלוי כבר הופשטו ממעקות הבטיחות שלהם על ידי חוקרים באמצעות טכניקות כוונון עדין פשוטות, תרגול שהוכיח כמה מהר ניתן להסיר אמצעי הגנה ברגע שהמשקולות הבסיסיות פומביות. ככל שמודלים גדלים יותר מסוגלים במשימות כמו כימיה, ביולוגיה וניצול תוכנה, החשש הוא שמהדורות פתוחות יכולות להעניק יכולות עוצמתיות לשחקנים שלעולם לא יעברו את הבדיקה שמעבדות אחראיות מטילות על הלקוחות שלהם.
מימד הדיסאינפורמציה עורר גם בדיקה. מודלים שיכולים ליצור טקסט, תמונות ואודיו מציאותיים בקנה מידה יכולים להיות מופנים לעבר התערבות בבחירות, הונאה פיננסית או ייצור המוני של תעמולה. מכיוון שמודל פתוח פועל כולו על החומרה של התוקף עצמו, ציין אמודיי, אין API למצערת, אין חשבון להשעיה ואין ספק שיש לתת עליו דין וחשבון ברגע שהנזק נעשה.
A Competitive Backdrop
האזהרות של אמודיי מגיעות על רקע גל של דגמים פתוחים בעלי יכולת ממפתחים סיניים. ה-GLM-5.2 של Zhipu, יחד עם מערכות סיניות בעלות נמוכה אחרות, משכו תשומת לב חדשה לכמה מהר דגמים פתוחים וזמינים גלויים סוגרים את הפער עם מערכות קנייניות גבוליות של Anthropic ו-OpenAI. הלחץ התחרותי הזה העצים את הדיון המדיניות בשאלה האם הגבלות על שחרורים פתוחים יועילו חברות דומיננטיות או משאירות חברות חשופות לשימוש לרעה.
מבקרי עמדתו של אמודיי טוענים שהגבלת AI בקוד פתוח עלולה לבסס בטעות חברות טכנולוגיה גדולות על ידי הגבלת חדשנות עצמאית. הם גם מציינים ששקיפות מאפשרת לעתים קרובות לחוקרים לזהות נקודות תורפה מהר יותר מאשר פיתוח סגור. אפילו תומכים רבים בפיתוח פתוח מודים, עם זאת, שמערכות חזקות יותר ויותר עשויות לדרוש מסגרות ממשל חזקות יותר מאשר דורות קודמים של תוכנות.
The Regulatory Tightrope
הדיון זכה לדחיפות כאשר ממשלות ברחבי העולם שוקלים תקנות בינה מלאכותית חדשות. קובעי המדיניות עומדים בפני איזון קשה: הגבלות מופרזות עלולות להאט את הצמיחה הכלכלית ואת הגילוי המדעי, בעוד שפיקוח לא מספיק עלול לחשוף את החברות לסיכונים שקשה לצפות מראש. יצירת האיזון הזה, הציע אמודעי, דורשת שיתוף פעולה בין ממשלות, חברות טכנולוגיה, חוקרים אקדמיים וחברה אזרחית.
עדותו מדגישה את אחד מוויכוחי המדיניות הטכנולוגיים המכריעים של העשור. ככל שהבינה המלאכותית גוברת ליכולת, החברה חייבת להחליט כיצד לעודד חדשנות תוך מזעור הסכנות הכרוכות בגישה נרחבת למערכות טרנספורמטיביות. בין אם באמצעות רגולציה, תקנים בתעשייה או שיתוף פעולה בינלאומי, הבחירות שנעשו בחודשים הקרובים על פני בינה מלאכותית בקוד פתוח עשויות לעצב מי שולט בטכנולוגיה, ובאיזו בטיחות שהיא נפרסת, במשך שנים רבות.
עבור Anthropic, העמדה עולה בקנה אחד עם הדגש ארוך השנים של החברה על בטיחות בינה מלאכותית ושחרורים מבוקרים. אבל כשהמודלים הפתוחים מתקדמים במהירות והרגולטורים עדיין מתאמצים להדביק את הקצב, הפער בין האזהרות של אמודעי לקצב תנועת הקוד הפתוח עשוי להצטמצם מהר יותר מכפי שקובעי המדיניות יכולים לסגור אותו.
---
הישאר לפני AIקבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.
קרא עוד חדשות AI →
