גישה לעצות בבינה מלאכותית גורמת לאנשים להיות גרועים באופן דרמטי במתן תשובות לשאלות תוך כדי שהם הרבה יותר בטוחים בתשובותיהם השגויות, כך עולה ממחקר חדש של חוקרים משלוש אוניברסיטאות אירופאיות. הממצאים, שפורסמו ב-19 ביולי 2026, מוסיפים נקודת נתונים חדה לגוף הולך וגדל של ראיות לכך שכלי AI יכולים לדכא שיפוט עצמאי במקום לשפר אותו.
המחקר, שבדק כיצד אנשים מגיבים כאשר הם מקבלים סיוע בבינה מלאכותית, עלה באמצעות סיקור חדשות בינה מלאכותית שעקב אחר החששות הגוברים לגבי הסתמכות יתר של האדם על מערכות אוטומטיות. התוצאות היו מדהימות: אנשים נעשו בערך פי שלושה פחות מדויקים אבל כמעט פי שניים יותר בטוחים כאשר AI היה זמין להתייעץ.
קריסה בנכונות להודות בבורות
המחקר נכתב על ידי ולריו קפררו, פרופסור חבר באוניברסיטת מילאנו-ביקוקה, לצד קיארה מרקוצ'יה מ-École Normale Supérieure ו-Walter Quattrociocchi מאוניברסיטת Sapienza ברומא. החוקרים תכננו בכוונה את הניסוי שלהם סביב שאלות שבהן מודלים של AI בדרך כלל נכשלים - פרטים ויזואליים מסרטים, כמו צבע המדים של צוות ב-Bend It Like Beckham.
כדי להבטיח שלא ניתן להסביר כל ירידה בביצועים כהאצלה הגיונית לכלי אמין, הצוות השתמש בשלב 3.5 פלאש, מודל שבדרך כלל טעה בדיוק בשאלות הללו. ההגדרה לא בדקה אם בינה מלאכותית יכולה לעזור, אלא אם עצם הנוכחות שלה תעוות את שיקול הדעת האנושי.
התוצאות היו חד משמעיות. כאשר לא היה AI זמין, 44% מהמשתתפים היו מוכנים לומר "אני לא יודע". כאשר עצות בינה מלאכותית היו בהישג יד, נתון זה קרס ל-3% בלבד. הדיוק ירד מ-27% ל-9%, בעוד שהאמון עלה מ-30% ל-76%.
> אנשים נעשו הרבה יותר גרועים. הדיוק היה רק שליש, אבל הם היו בטוחים בעצמם פי שניים.
הציטוט הזה, מ-Capraro, מגבש את הממצא המרכזי: חלק מהמשתתפים שהיו עונים נכון בעצמם התייעצו עם ה-AI ובסופו של דבר טעו - ובכל זאת הרגישו טוב יותר לגבי התשובות שלהם מאשר בעבר.
תמריצים כספיים בקושי עזרו
בתקווה שתגמול כספי עשוי לנטרל את ההשפעה, החוקרים הציעו למשתתפים תמריץ כספי לתשובות נכונות. ההתערבות עזרה, אבל רק באופן שולי. הנכונות להודות בבורות עלתה מ-3% ל-8%, והדיוק השתפר מ-9% ל-16% - שניהם עדיין הרבה מתחת לקווי הבסיס ללא AI של 44% ו-27%.
המשמעות היא משמעותית. גם כאשר לאנשים יש סיבה פיננסית קונקרטית לחשוב היטב ולהתגונן מפני שגיאות, כוח המשיכה של תשובה בטוחה בבינה מלאכותית נשאר חזק מספיק כדי לעקוף שיקול דעת טוב יותר.
תופעת ה'כניעה הקוגניטיבית'
הממצאים מהדהדים עבודה קודמת של חוקרים מבית הספר וורטון, שטבעו השנה את המונח "כניעה קוגניטיבית" כדי לתאר את אותו דפוס. במחקר שלהם, אנשים קיבלו תשובות בינה מלאכותית שגויות בערך 80% מהמקרים תוך דיווח על ביטחון עצמי גבוה יותר מאלה שעובדים ללא סיוע בינה מלאכותית.
מה שהמחקר האירופי החדש מוסיף הוא מנגנון מדויק יותר. זה לא רק שאנשים סומכים על תשובות AI שגויות כשהם נתקלים בהן. זה שהזמינות של חוות דעת בינה מלאכותית מדכאת את ההרגל הקוגניטיבי לזהות את גבולות הידע של האדם עצמו - היכולת הבסיסית לעצור ולומר, "אני לא יודע".
עבור בני אדם, היכולת להכיר באי ודאות היא הבסיס ללמידה וקבלת החלטות. קפררו אמר שהוא מודאג במיוחד מילדים, שגדלים לצד המערכות הללו לפני שהם פיתחו מיומנויות בוגרות של חשיבה ביקורתית.
השלכות רחבות יותר על עיצוב מוצר בינה מלאכותית
המחקר נוחת על רקע ויכוח רחב יותר על האופן שבו כלים בינה מלאכותית נבנים ונפרסים. השיפוץ של גוגל במוצר החיפוש שלה החליפה קישורים מסורתיים בסיכומים שנוצרו בינה מלאכותית שמדברים בסמכות עקבית, וקבוצת ההסברה Common Sense Media כינתה השבוע את העיצוב הזה "סיכון בלתי מתקבל על הדעת" עבור סטודנטים.
הדפוס שהחוקרים זיהו עקבי בין המוצרים: מערכות בינה מלאכותית נועדו לענות, כמעט אף פעם לא לומר "אני לא יודע". בני האדם המשתמשים בהם, לפי העדויות, לומדים לעשות את אותו הדבר.
יש לזה השלכות הרבה מעבר לטריוויה על סרטים. במקומות עבודה, בבתי חולים ובכיתות, כלי השוחק את הנכונות לסמן חוסר ודאות עלול לפגוע בשקט באיכות ההחלטה גם אם הוא מרגיש מעצים. הביטחון שהוא משרה הוא, במקרים רבים, בדיוק הפוך ממה שהדיוק הבסיסי מצדיק.
מה שיבוא אחר כך
החוקרים טוענים שהממצאים צריכים לעצב מחדש את האופן שבו מעוצבים עוזרי AI. אם התנהגות ברירת המחדל של בינה מלאכותית היא לייצר תשובה בטוחה ללא קשר לאמינות, אזי הנטל של זיהוי אי הוודאות נופל לחלוטין על המשתמשים, שלפי הנתונים עולה כי הם לא מוכשרים לשאת זאת. בניית מערכות שיכולות לכייל ולתקשר את חוסר הוודאות שלהן - ושמהססות במקום לטעון כשהראיות דלות - עשויה להיות חיונית לשמירה על כושר השיפוט האנושי על כנו.
עד אז, המחקר מציע שיעור פשוט, אם כי לא נוח: בינה מלאכותית שנשמעת בטוחה אינה זהה לבינה מלאכותית שהיא נכונה. והאינסטינקט האנושי לסמוך על קול בטוח, אפילו שגוי, עשוי להיות הכוח החזק ביותר שהטכנולוגיה עדיין שחררה.
הישאר לפני AI
קצב השינוי בבינה המלאכותית הוא בלתי פוסק, וההשלכות נוגעות בכל תעשייה. לסיקור רציף של המחקר, הרגולציה והמוצרים המעצבים מחדש את אופן העבודה והחשיבה שלנו, עקוב אחר הפיתוחים האחרונים של AI.
קרא עוד חדשות AI →
