בזמן שהאמריקאים הולכים לקלפי לבחירות אמצע הקדנציה ביום שלישי, גם OpenAI וגם Anthropic מנהלות "חדרי מלחמה" ייעודיים כדי להבטיח שפלטפורמות הבינה המלאכותית שלהן מספקות מידע בחירות מדויק - דבר ראשון עבור כל אחת מהחברות, כך דיווחה Semafor. המהלכים מכירים במציאות לא נוחה: עבור מספר הולך וגדל של מצביעים, צ'אטבוטים וכלי חיפוש בינה מלאכותית הם כעת דרך עיקרית לשאול שאלות בסיסיות על איך, איפה ומתי להצביע.

תפיסת חדר המלחמה שאולה מעידן מוקדם יותר של פוליטיקת פלטפורמה. זה מתוארך לשנת 2018, כאשר Meta עמדה בצוות הראשון מסוג זה על רקע החששות מהתפשטות המידע השגוי הקשור לבחירות. מה שהשתנה מאז הוא מודל האיום: עידן הבינה המלאכותית הגביר את הסיכונים הללו, הכוללים כעת סרטונים מזויפים עמוקים ותוצאות חיפוש המופעלות על ידי בינה מלאכותית המפיצים מידע שגוי בביטחון. אנו עוקבים אחר ההצטלבות של בינה מלאכותית ואמצעי הקדנציה לאורך היום בסיקור חדשות בינה מלאכותית בעונת הבחירות.

ראשון עבור שתי מעבדות הבינה המלאכותית

Anthropic אישרה את ההגדרה שלה ל-Semafor. "צוותים ברחבי החברה עובדים כל השנה על חיזוק אמצעי ההגנה שלנו הקשורים לבחירות ואכיפת המדיניות שלנו", אמר דובר אנתרופי. "לקראת הבחירות, יש לנו חדר מלחמה ייעודי המנטר את הפלטפורמה שלנו לשימוש לרעה ומוכן להגיב במהירות לכל תקרית".

המבנה פשוט אך תובעני: הצוות עוקב אחר האופן שבו קלוד וכלים אחרים מגיבים לשאלות בחירות, צופים בדפוסי שימוש לרעה כמו דיסאינפורמציה שנוצרת, ושומר על תהליך תגובה מהיר לתקריות הדורשות תיקון תוך שעות, לא ימים. NBC News, בינתיים, לקחה את הקוראים לחדר מלחמת הבחירות המקביל של OpenAI, ובדקה כיצד החברה מתכוננת להשפעה של AI על קדנציות הביניים.

העובדה ששתי החברות הרגישו צורך לבנות את היכולת הזו מאפס אומר משהו על מידת החידוש של הבעיה. בשנת 2018, פלטפורמות דאגו בעיקר ממה שמשתמשים פרסמו. בשנת 2026, הם גם צריכים לדאוג לגבי מה שהדוגמניות שלהם אומרות.

כאשר תשובות AI משתבשות בזמן הגרוע ביותר

ההימור אינו היפותטי. Semafor הצביע על מקרה אחד מהשבוע שעבר: מצב הבינה המלאכותית של גוגל לא יגיב לשאילתה לגבי מי ניצח בבחירות 2020 - אחת השאלות הנשאלות והמוסדרות ביותר בהיסטוריה הפוליטית האמריקאית האחרונה. גוגל אמרה שהיא פועלת לתקן את הבעיה.

מצב הכשל הוא מאלף. מערכות בינה מלאכותית לפעמים מסרבות לשאלות שהן צריכות לענות עליהן, ולפעמים עונות לשאלות שהן צריכות לסרב להן, ושתי השגיאות מתגברות בדיוק כאשר תשומת הלב הציבורית - ונפח השאילתות - הם הגבוהים ביותר. עוזר בינה מלאכותית שחוסמת שאלה עובדתית על בחירות קודמות מערערת את האמון באותה נשימה שהיא מנסה לבסס אותו.

הדאגה הרחבה יותר היא מעבר לתשובות שגויות בודדות. ניתוח של המועצה ליחסי חוץ שפורסם השבוע הזהיר שצ'אטבוטים של בינה מלאכותית יכולים להעניק אמינות חדשה לקמפיינים להשפעה - מכיוון שמידע שגוי המועבר בקול רגוע, בטוח, דמוי עוזר יורש הילה של ניטרליות שאתר מפלגתי לעולם לא מקבל.

'נבנה להתמודדות עם הדברים שאנחנו לא יכולים לחזות'

למה לשמור על חדר מלחמה חי במקום להסתמך על בדיקות לפני הבחירות? קייטי הארבאת', לשעבר מנהלת מטה למדיניות ציבורית שעובדת כעת בנושאי טכנולוגיה ודמוקרטיה, הסבירה לסמפור את ההיגיון. חדרי מלחמה "בנויים להתמודדות עם הדברים שאנחנו לא בהכרח יכולים לחזות שישתבשו", אמרה, "ואתם צריכים תהליך מהיר ומבוסס במונחים של טרייגינג".

חוסר הניבוי הזה מתווסף, ציין Semafor, מהאופי הרעוע של הבינה המלאכותית, בעיות אבטחת סייבר שהשפיעו לאחרונה על התעשייה והנטייה של כלי חיפוש בינה מלאכותית לשקף בחזרה את התשובות שמשתמשים רוצים לראות - בעיית סתמיות שיכולה לעוות בשקט את האופן שבו אנשים מבינים נושאים שנויים במחלוקת.

יום הבחירות הוא מבחן הלחץ. נפחי השאילתות לגבי מקומות הקלפיות, עמדות מועמדים ותוצאות יעלו לרמות ששום הערכה לפני הבחירות לא מדמה לחלוטין. חדרי המלחמה קיימים כי הדרך היחידה לגלות כיצד מערכות אלו מתנהגות תחת עומס זה היא לצפות בהן בזמן אמת, עם הסמכות לתקן דברים מהר.

במה לצפות כשתוצאות נכנסות

במהלך ליל הבחירות, נקודות הלחץ ניתנות לחיזוי בקטגוריה גם אם לא בתזמון: תשובות בינה מלאכותית לגבי תוצאות ומרווחים לפני מירוצים נקראים באופן רשמי, זיופים עמוקים מתוזמנים לבלבול מרבי וצילומי מסך של תשובות צ'אטבוט גרועות שמתפשטות מהר יותר מהתיקונים. מהירות ההסתגלות של המערכות של OpenAI, Anthropic וגוגל תעצב לא רק את סביבת המידע של הבחירות האלה, אלא גם את אופן ניהול המערכות הבאות.

עבור תעשיית הבינה המלאכותית, המבחן העמוק יותר הוא מוניטין. מיליוני מצביעים יקיימו השבוע אינטראקציה עם מערכות אלו לראשונה בהקשר אזרחי בעל סיכון גבוה. החברות שיקבלו תשובות נכונות לבחירות - או יתקנו אותן באופן גלוי מהר - יזכו לסוג של אמון ששום קמפיין שיווקי לא יכול לקנות.

---

הישאר לפני AI

קבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.

קרא עוד חדשות AI →