שאל את מצב הבינה המלאכותית של גוגל מי ניצח בבחירות לנשיאות ב-2020, ועבור משתמשים רבים התשובה היא משיכת כתפיים בצורת טקסט. במקום למנות זוכה, חוויית החיפוש המופעלת על ידי AI הנחה אנשים לעיין בדו"ח הרשמי של ועדת הבחירות הפדרלית. ההתנהגות המוזרה, שפירטה לראשונה על ידי Ars Technica, משכה מספיק תשומת לב, כך שגוגל מכירה בה כעת כפער טכני שהיא פועלת לתקן, פחות משבועיים לפני בחירות האמצע בארה"ב.
הפרק הוא תזכורת שימושית לכך שמוצרי חיפוש בינה מלאכותית עלולים להיכשל בדרכים מוזרות אפילו על פי עובדות היסטוריות מבוססות, וכי להישאר מעודכן בפיתוחי בינה מלאכותית פירושו יותר ויותר מעקב לא רק אחר השקות מודלים אלא כיצד מערכות אלו מתנהגות תחת לחץ פוליטי.
מה מצאו הבדיקות של Ars Technica
כאשר כתב Ars Technica הפנה את השאלה הישירה למצב AI של גוגל, התגובה הייתה עקיפה להפליא: כדי לסקור את התוצאות והסטטיסטיקות הרשמיות של הבחירות לנשיאות ארצות הברית ב-2020, כולל הפירוט הסופי של מכללת הבחירות, ספירת הקולות הפופולרית והסמכת הזוכים, הכלי המליץ להתייעץ עם הדו"ח הרשמי שערך ה-FEC.
ההתחמקות לא הייתה עקבית. בדיקות הראו תשובות עקיפות דומות לבחירות 2024 ו-2012, בעוד שמצב AI נתן תשובות מפורטות ונכונות עבור כל בחירות לנשיאות אחרות החל משנת 2000. עובדי Ars שונים ראו דפוסים שונים, כאשר אחד קיבל תשובות מיידיות רק עבור מירוצי 2016 ו-2024 וקישורים לנתונים חיצוניים לכל השאר.
גם שאלות היסטוריה פוליטיות מעבר למירוץ לנשיאות הושפעו. כשנשאל איזו מפלגה שלטה בסנאט לאחר הבחירות ב-2020, מוד הבינה המלאכותית אמר לכתב לבדוק את הרישומים הרשמיים של הקונגרס וקישר לדף היסטוריית חלוקת המפלגה של הסנאט. כששאלו את אותה שאלה לגבי הבחירות של 1992, הוא ענה ישירות שהדמוקרטים החזיקו ברוב של 57 מול 43.
צ'אטבוטים אחרים עונים ללא היסוס
דגם ה-Gemini של גוגל, נפרד מ-AI Mode, ענה על השאלה ללא בעיה, לפי הדיווח. כך גם ChatGPT של OpenAI, קלוד של Anthropic ואפילו מודל הבינה המלאכותית המנוהלת על ידי הממשלה ב-America.gov. ההבחנה הזו חשובה, מכיוון שהיא מעידה שהבעיה טמונה באופן שבו אמצעי ההגנה של שכבת החיפוש של מצב AI מטפלים בשאילתות בחירות ולא בידע של מודל השפה הבסיסי.
ההתנהגות השתנתה גם עם הגיאוגרפיה. הבדיקות הנקודתיות של Ars Technica באמצעות VPN בטייוואן, רוסיה, צרפת וקנדה החזירו תשובות מדויקות ופשוטות לגבי תוצאות הבחירות האחרונות בארה"ב, מה שמרמז שהטיפול המגביל הוא ספציפי למשתמשים בארה"ב.
תגובת גוגל: פער טכני
דובר גוגל הצביע לראשונה על פוסט במדיה החברתית שהכיר בכך שהאפליקציה Gemini עונה על השאלה בצורה מלאה יותר ושהתגובה של AI Mode לא הייתה המועילה ביותר, והוסיפה שהחברה בוחנת את זה. בהמשך נתן הדובר הסבר קונקרטי יותר, ואמר ל-Ars Technica שגוגל מתקנת את הבעיה עם שאילתות בחירות 2020 במצב AI. לדברי הדובר, המערכות של גוגל מאמתות את תגובות הבחירות באמצעות כתבות חדשותיות או נתוני AP עבור בחירות אחרונות ורשומות היסטוריות עבור מבוגרים יותר, והיה פער טכני עם 2020, עם אותו הדבר לגבי מרוצי הסנאט של 2022, שהחברה פועלת לתקן באותו עדכון.
קמט מעניין מהבדיקה: ההתמדה השתלמה. כאשר אותן שאלות נשאלו בפעם השנייה, מצב AI סיפק את המנצח ישירות, תוך ציטוט של נתוני Google Civics. כשנשאל מדוע הוא לא ענה בתחילה, הכלי האשים מסנני בטיחות קפדניים בנושאי בחירות עדכניים ורגישים ביותר ותיאר מערכת אוטומטית בכבדות המנתבת שאילתות מסוג זה למאגרי מידע ממשלתיים רשמיים מאושרים כדי למנוע כל סיכון של הצגת נתונים לא מאומתים או מידע שגוי. כפי שמציינת Ars Technica, מודלים של בינה מלאכותית הם מספרים לא אמינים של התהליכים הפנימיים שלהם, כך שההסבר הזה ראוי להיזהר.
מדוע תשובות בחירות קשות לחיפוש בינה מלאכותית
גוגל לא טועה כשהיא מתייחסת לשאלות בחירות כאל סיכון גבוה. מערכות חיפוש גנרטיביות יכולות להזות, ומידע מוטעה בבחירות הוא בעיה מתועדת שפלטפורמות נתקלו בה שוב ושוב. בשנת 2023, YouTube שבבעלות גוגל הפכה את המדיניות שאסרה על כל הסרטונים שהעלו טענות שווא בנוגע לבחירות 2020, ואמרה שהסרות עלולות לצמצם את הדיבור הפוליטי מבלי להפחית באופן משמעותי את הנזק בעולם האמיתי.
העמדה הציבורית הנוכחית של החברה שמה דגש על הצפת מידע בחירות סמכותי ישירות בתוך התוצאות, כולל קישורים ישירים למשאבים רשמיים, על פי עמוד המדיניות הציבורית של הבחירות שלה ופוסט בבלוג של ספטמבר שעוסק בסיוע לבוחרים למצוא מידע מהימן סביב קדנציות הביניים. תקרית מצב הבינה המלאכותית מראה את הפער בין המדיניות הזו לבין ההתנהגות בשטח של מערכת אוטומטית: בניסיון להימנע מלומר משהו שגוי, היא בסופו של דבר סירבה לומר שמשהו הוסדר.
עם קדנציות הביניים בפתח, הפרק ממחיש את הליכת מוצרי הבינה המלאכותית במהלך הבחירות. חסימת יתר של תשובות עובדתיות מתסכלת את המשתמשים ויכולה לשחוק את האמון בדיוק כמו שגיאות עושות, וקשה להגן על התחמקות שמשתנה לפי משתמש, מדינה וחזרה, כבטיחות או דיוק. העדכון המובטח של גוגל יראה אם התיקון משחזר תשובות ישירות באופן אחיד, או ששאילתות בחירות במצב AI נשארות הגרלה של מסננים ופערים טכניים.
הישאר לפני AI
לסיקור רציף של מדיניות AI, התנהגות הפלטפורמה והמערכות שמעצבות מידע מקוון, עקוב אחר AI Buzz Wire לחדשות AI וניתוח עצמאי.
קרא עוד חדשות AI ב-AI Buzz Wire
