OpenAI עובדת בשיתוף פעולה הדוק עם היריבות Anthropic ו-Google DeepMind במשך מספר שבועות כדי לתכנן מסגרת לבטיחות בינה מלאכותית, אישר מנהל בכיר ביום שלישי, שחשף מידה יוצאת דופן של שיתוף פעולה בין חברות המתחרות בחירוף נפש כמעט בכל השאר.

כריס להאן, ראש המדיניות העולמי של OpenAI, אמר לכתבים בתדרוך עיתונאים בוושינגטון כי שלוש המעבדות תיאמו יוזמות בטיחות. "עדיף לנסות לעבוד יחד כדי לתעדף את הבטיחות", אמר ליהן, לפי דיווח של בלומברג מהתדריך. הערותיו הגיעו ימים לאחר רצף של אזהרות הכחדה בעלות פרופיל גבוה מצד חוקרים שעזבו את המעבדות הגדולות בתעשייה. For more context on this story, see our ongoing AI industry coverage.

מה שיתוף הפעולה מכסה בפועל

ליהן לא פירט את האופי הספציפי של העבודה, אבל החשיפה באה בעקבות קטע מדהים של מיצוב ציבורי של השמות הגדולים בתעשייה. ביום שבת פרסם המנכ"ל האנתרופי, דריו אמודיי, מאמר הקורא לתעשיית הבינה המלאכותית לשתף פעולה בהאטת קצב הפיתוח של מודל החזית כדי להימנע ממה שהוא כינה "סיכונים קטסטרופליים".

השיחה זכתה לתמיכה מפתיעה מכל הפער התחרותי: סם אלטמן מ-OpenAI, דמיס חסאביס מגוגל ואילון מאסק כולם תמכו בסנטימנט. אלטמן הרחיק לכת ואמר ש-OpenAI תהיה מוכנה להצטרף ליוזמה של Anthropic להטמיע מעריכים של צד שלישי בתוך צוותי הפיתוח שלה כדי לנטר את בטיחות הבינה המלאכותית מבפנים. המייסד השותף של אנתרופיק, ג'ק קלארק, אמר בינתיים ל-NPR שהאטת AI היא ביסודה "בעיית פעולה קולקטיבית" שאף מעבדה אחת לא יכולה לפתור לבד.

עם זאת, לא כולם ב-OpenAI מתייחסים לוויכוח המקצב כדחוף. סמנכ"לית הכספים, שרה פריאר, אמרה ל-CNBC שהיא לא מודאגת מהאטת התפתחות הבינה המלאכותית - תזכורת לכך שהחברה מחזרת במקביל למשקיעים לפי הערכת שווי מצפון לטריליון דולר.

הצל ההגבלים העסקיים על שיתוף הפעולה

כל תיאום בין מעבדות AI דומיננטיות נתקל בבעיה משפטית ברורה: חוק ההגבלים העסקיים של ארצות הברית. מומחים משפטיים הזהירו כי הסכמים בין מתחרים להגביל את מה שהמוצרים שלהם יכולים לעשות עלולים להתפרש כ"הגבלת תפוקה", הפרה של חוק שרמן.

החשש הזה כבר עבר לגבעת הקפיטול. הסנאטורים ג'ים בנקס מאינדיאנה ואדם שיף מקליפורניה הציעו חקיקה - חוק שיתוף הפעולה על איומים יריבים וסיכוני אבטחה - שיאפשר למעבדות בינה מלאכותית לפעול בנושא בטיחות גם כאשר פעולות אלו עלולות להעלות בעיות הגבלים עסקיים. במאמרו של אמודעי נטען כי על הממשלה לשקול להעניק לחברות פטור על שיתוף פעולה בטיחותי, אם כי להאן אמר לכתבים כי הוא חושב שמהלך כזה מיותר.

ג'נסן הואנג של Nvidia היה בוטה יותר. בשיחה ב-Dreamforce ביום שלישי, הוא כינה את הצעת הוויתור על הגבלים עסקיים של אנתרופיק "מיותרת לחלוטין", לפי CNBC, והדגיש את הפיצול ההולך וגובר בין המעבדות שדוחקות באיפוק לבין ענקית החומרה שדוחקת בהאצה.

"קרטל בשם אחר"

המבקרים על שיתוף הפעולה היו חריפים. מנכ"ל Cohere, איידן גומז, כתב בפוסט בבלוג בתגובה למאמרו של אמודיי כי קריאות הבטיחות נראות כמו מאמץ של מעבדות הבינה המלאכותית המובילות להסוות תוכנית אנטי-תחרותית שתשמר את ההובלה שלהן בפיתוח מודלים גבוליים, ותאפשר למעבדות "דומיננטיות בשוק" להגדיר את הכללים עבור כל השאר.

"שוב תוך שימוש בפחד באמתלה של הגנה על הציבור, אוליגופולים אלה מבקשים כעת לכופף את כללי התחרות ולהיות רשאים להכתיב את התנאים לכל השאר", כתב גומז, וכינה את ההסדר "זאב בבגדי כבשים, קרטל בשם אחר".

הנשיא דונלד טראמפ דחה את קריאת ההאטה של ​​אמודיי על הסף, וטען בפוסט ב-Truth Social שכל האטה תאפשר לסין לעקוף את ארצות הברית במירוץ הבינה המלאכותית. דיוויד סאקס, יועץ הבינה המלאכותית המרכזי של הבית הלבן, אמר שהחששות שבינה מלאכותית עלולה להוות איום קיומי מוגזמים.

אנליסטים ב-CNBC הבחינו כי שני מחנות הופיעו כעת במלואם בוויכוח על בטיחות ורגולציה של בינה מלאכותית: אחד מדרבן את הגבול להאט לפני שמשהו ישתבש, ואחר - מאוכלס על ידי Nvidia, הבית הלבן ותומכי המודל הפתוח - בטענה שהיסוס הוא הסכנה הגדולה יותר.

דחיפה של קפיטול היל של OpenAI

דבריו של ליהן הגיעו במהלך תדרוך תקשורתי בוושינגטון, שם הוא היה אמור להיפגש עם מחוקקים. OpenAI מטילה את משקלה מאחורי שתי הצעות חוק דו-מפלגתיות, על פי הצהרותיה הפומביות של החברה ודיווחיה של רויטרס ופוליטיקו.

הראשון הוא חוק FRONTIER, שקורא למסגרת פדרלית לבטיחות בינה מלאכותית ויחייב מעבדות בינה מלאכותית להגיש מודלים חדשים לביקורות על ידי מעריכים בלתי תלויים. OpenAI גם תומכת בצעד שידרוש ביקורת עצמאית של דגמי בינה מלאכותית, דיווחה CBS News. ההצעה השנייה, שעדיין בפיתוח, היא הצעה שמנהיג הרוב בסנאט, ג'ון ת'ון, מגבש יחד עם הסנאטור הרפובליקני טד קרוז והסנטור הדמוקרטי איימי קלובוקר. לפי רויטרס, הצעת חוק זו תעניק לשר המסחר את הסמכות להכפיף דגמים חדשים לביקורת בטיחות לפני שחרורם. OpenAI אישרה בנפרד תוכניות דו-מפלגתיות לטיפול באיומים ביולוגיים של בינה מלאכותית, דיווחה פוליטיקו.

ההתכנסות בולטת: אותן חברות שמזהירות מפני AI בורח מתנדבות לביקורות עצמאיות, בעוד שמבקריהן מזהירים ששיתוף הפעולה עצמו עשוי להיות הסכנה הגדולה יותר. איך הקונגרס חוט את המחט הזה - המאפשר שיתוף פעולה בטיחותי ללא רישוי קרטל - עשוי להגדיר מדיניות AI במשך שנים.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →