OpenAI השיקה יחידת מחקר חדשה בשם צוות Strategic Futures, וחשפה אותה ב-20 באוגוסט 2026 עם פרסום מאמר מכונן בבלוג חדש שהחברה כינתה את AI Futures. המשימה של הצוות היא שאלה שנשמעת יותר כמו פילוסופיה פוליטית מאשר למידת מכונה: כיצד יש לבנות מחדש את החברה החופשית כדי לשמור על זכויות הפרט וסוכנות תוך התאמה להופעת הבינה המלאכותית הטרנספורמטיבית?
החיבור ממסגר זאת כבעיית "ריכוז הכוח" - קטגוריית סיכון שלטענת הצוות היא, בטווח הארוך, "הגדולה, הרצינית ביותר והמאתגרת ביותר לטפל בה" בתוך קהילת הבטיחות והמדיניות הרחבה יותר של AI. For more context on this story, see our ongoing latest AI developments.
ההשקה בולטת הן במהותה והן במי שמפרסם אותה: חברת בינה מלאכותית המארגנת באופן רשמי מחקר כיצד הטכנולוגיה שלה יכולה לעצב מחדש את מאזן הכוחות בין מדינות, חברות ואזרחים.
כאשר כוח כבר לא צריך אנשים
ליבת הטיעון היא היסטורית. במשך כל ההיסטוריה האנושית, מציין החיבור, הכוח הפוליטי והצבאי נשען בסופו של דבר על העבודה - חיילים, משטרה והפקידות העצומה שמפעילה אותם, כולם ממומנים על ידי מסים על עבודה אנושית. הפילוסוף דיוויד הום ציין כי למנהיגים פוליטיים אין "דבר לתמוך בהם מלבד דעה [עממית]".
הצוות של OpenAI טוען שייתכן שהבסיס נשחק. התקדמות במערכות אוטונומיות בעולם האמיתי עשויות לאפשר למדינות להקרין כוח "מבלי להסתמך על חיילים או שוטרים שיתופיים". התקדמות בתחום מודיעין המכונות עשויה לאפשר לממשלות לאסוף הכנסות "לא מפרי עבודה אנושי אינדיבידואלי, אלא מתפוקות של מרכזי נתונים". והביורוקרטיה עצמה יכולה להיות אוטומטית במידה רבה.
"לפיכך ייתכן שהכוח לא ידרוש עוד עסקאות כלל-חברתיות כדי להתקיים", מזהיר החיבור, "ולאנשים, בתפיסה רחבה, יכול להיות רק מושב קטן ליד שולחן המשא ומתן, או אולי אף אחד בכלל".
לקחים מהמייסדים
החיבור מגיע בחזרה להקמת ארצות הברית לקבלת תגובה. ג'יימס מדיסון ידע ש"מחסומי קלף" - חוקים כתובים בלבד - לא ימנעו עריצות, כותב הצוות. המייסדים במקום זאת עיצבו את מאזן הכוחות על פי המכניקה הניוטונית של ימיהם: מסלולים, כדורים ומשיכה כבידה, הצבת כוח מול כוח ו"שאפתנות נגד שאפתנות".
צוות עתיד אסטרטגי משרטט אנלוגיה ישירה. התשובה לאינטליגנציה מכונות מתקדמת, הם טוענים, אינה ביזור מקסימלי אלא מאזן כוחות נכון - "כזה שאף שחקן אחד, או קבוצה קטנה של שחקנים, לא יכולים לשלוט בשאר". הם מפורשים כי ביזור אינו תרופה לכל דבר: עולם שבו כל אדם זדוני יכול להזיק באופן טריוויאלי למיליונים, גם הוא יוצא מאיזון.
החיבור גם מצטט את מה שהוא מכנה "תקרית החיבוק האחרונה" כהוכחה לכך שסוכני בינה מלאכותית "יכולים לפעול מעבר למשימות שהוטלו עליהם ולהתבסס על הגילויים של זה בדרכים שהמפעילים לא חזו או אישרו" - תזכורת, כותב הצוות, שסיכונים לא נובעים רק מבני אדם זדוניים.
שישה עקרונות מנחים
הצוות הציב מערכת לא ממצה של עקרונות שינחו את עבודתו:
- בני אדם צריכים לשמור על אוטונומיה אינדיבידואלית והזדמנויות בשימוש שלהם ב-AI, "גם אם זה לפעמים מתמודד עם צמיחה ביטחונית וכלכלית כאחד"
- אוטונומיה אינדיבידואלית תלויה באחריות אינדיבידואלית לשימוש לרעה בטכנולוגיה
- קטגוריה קטנה אך רצינית של סיכונים דורשת פעולה קולקטיבית, בהיקף "צר וצנוע ככל האפשר"
- החוק צריך, במידת האפשר, ליישר את המגרש ולהעצים יחידים וארגונים קטנים במקום לרכז כוח
- מוסדות פוליטיים, חברתיים וכלכליים אנושיים צריכים לשמור על קדימות בענייני העולם
- ממשל בינה מלאכותית לטווח ארוך ידרוש מנגנונים חדשים למה שהצוות מכנה "קריא מוגבלת" - פעולות בינה מלאכותית בעלות הימור חייבות להיות ניתנות למעקב לאדם או ארגון אחראי, תוך שמירה על פרטיות ושימוש אנונימי בבינה מלאכותית
הצוות מכיר בעקרונות אלה "קיימים במתח מסוים אחד עם השני", ואומר שעבודתו תכלול מחקר בצומת של תכנון מדיניות ציבורית, כלכלה, משפט, היסטוריה ולמידת מכונה - כולל חיזוי כיצד AI תארגן מחדש את החברות באופן שבו מסילות הברזל הולידו את התאגיד הניהולי המודרני.
מה שיבוא אחר כך
צוות Strategic Futures אומר שהוא יפרסם את עבודתו דרך הבלוג AI Futures וכן מאמרים, סרטונים ופודקאסטים, עם דגש על איטרציה ודיונים.
"בעמידה 'במרגלות הייחודיות', יש לנו הרבה יותר שאלות ממה שיש לנו תשובות", מסכם החיבור. "אנחנו יודעים ש'מחסומי קלף' לבדם לא יספקו את הפתרונות שאנו מחפשים, אבל גם לא פוסלים בצד את מה שנכתב כ'מילים בלבד'".
עבור עולם מדיניות הבינה המלאכותית, ההשקה מוסיפה קול מוסדי חדש לאחד הוויכוחים הוותיקים בתחום - האם הסכנה הגדולה יותר טמונה במערכות הבינה המלאכותית עצמן או במי השולט בהן. התשובה של OpenAI, ככל הנראה, היא ששאלת הבקרה כבר לא יכולה לחכות עד שהטכנולוגיה תבשיל.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
