קוראים רבים הבחינו בכך בצורה אנקדוטית: טקסט שנכתב על ידי מודלים של AI מרגיש צפוף יותר ויותר, מעוצב ומתיש באופן מוזר לניתוח, גם כשהוא ללא רבב מבחינה דקדוקית. הדפסה מוקדמת חדשה שפורסמה ב-arXiv מציבה נתונים לשוניים קשים מאחורי האינטואיציה הזו - ומציעה הסבר למה זה קורה.
המחקר, "מדוע שפה שנוצרת בינה מלאכותית כל כך קשה להבנה?", הוגש ב-21 באוקטובר על ידי החוקרים תומס היקארו קלארק, מטיאס ב' מרטין וקייל מאהוולד. בהסתמך על קורפוס חדש של טקסט שנוצר בינה מלאכותית על פני תחומים מגוונים, המחברים ניתחו קבוצה של מאפיינים פסיכו-לשוניים המבוססים היטב בספרות כסמנים של קושי בעיבוד עבור קוראים אנושיים - כולל סעיפים יחסית לאובייקט, תלות תחבירית ארוכה ו-n-גרמים בתדירות נמוכה. For more context on this story, see our ongoing AI news.
מה מדדו החוקרים
הפסיכולינגוויסטיקה יודעת מזמן שלא כל המשפטים עולים אותו דבר לקריאה. סעיפי יחסי אובייקט ("הסנאטור שהכתב תקף...") לוקח זמן רב למדי לעיבוד מאשר קרובי משפחה הנושאים. תלות ארוכה בין מילים מאלצת את הקוראים להחזיק יותר חומר בזיכרון. רצפי מילים נדירים דורשים יותר מאמץ לאחזור ושילוב. תכונות אלה משמשות סרגל למדידת עד כמה קשה להבין טקסט בפועל - להבדיל מכמה מתוחכם הוא נשמע.
החוקרים השוו כתיבה שנוצרה בינה מלאכותית מול שני קווי בסיס: טקסט שנכתב על ידי אדם, ופרפראזות שהופקו באמצעות תרגום הלוך ושוב, בקרה שנועדה להפריד בין מוזרויות מודל אמיתיות לבין הטעם הגנרי של פרוזה צורנית או מכונה.
השליטה הזו חשובה. ספקנים יכולים לטעון באופן סביר שטקסט בינה מלאכותית פשוט נקרא כמו כתיבה עסקית או טכנית - רשמי, לא אישי וכבד עצם - במקום להפגין פתולוגיה ברורה. תרגום הלוך ושוב מייצר טקסט עם רישום מלוטש דומה, מעט לא טבעי, ללא כל הכשרה של מודל שפה מאחוריו. אם מודלים של AI עדיין חורגים מהקו הבסיסי הזה על מדדי קושי בעיבוד, ההבדל היה צריך לנבוע ממשהו ספציפי לאופן שבו המודלים עצמם למדו לכתוב. זה, בעצם, מה שהמחקר מצא.
מה הם מצאו
התוצאות היו עקביות בכל הלוח. בהשוואה לכתיבה אנושית, כל תשעת המודלים הגבוליים והקרובים לגבולות שנבדקו במחקר - קבוצה הכוללת מערכות ממשפחות GPT-5.6, קלוד, לאמה, DeepSeek ו-Qwen - עשו בחירות קשות יותר למדי:
- נושאים דוממים נוספים בשילוב עם פעלים מונפשים - דפוס ה-AI האופייני לכתיבה שהפשטות "מתעמקות", "הדגשות" או "מדגישות".
- יותר n-גרם בתדר נמוך, כלומר רצפי מילים יוצאי דופן שכותבים אנושיים מייצרים רק לעתים רחוקות.
- תלות תחבירית ארוכה יותר, עם נושאים ופעלים מופרדים על ידי חומר מתערב יותר.
- יותר שמות עצם מוערמים ובטקסט שיחה, סעיפים יחסית מופחתים יותר של אובייקט.
המחקר גם תיעד שונות מהותית בין משפחות המודלים - לא כל הדגמים קשים באותה מידה לקריאה - ומצא שמודלים של AI השתמשו בקונסטרוקציות הקשות האלה לעתים קרובות יותר מאשר בפרפרזות של תרגום הלוך ושוב, מה שמצביע על כך שהאפקט הוא ספציפי לאופן שבו מודלים מאומנים ולא חפץ של רישום פורמלי.
וריאציה זו היא בשקט אחת התוצאות השימושיות ביותר בעיתון. אם קושי בקריאה היה תוצאה בלתי נמנעת של קנה מידה או יכולת, כל מערכות הגבול היו מתקבצות יחד. במקום זאת, ההתפשטות בין המשפחות מעידה על כך שהבחירות שלאחר ההכשרה - תמהיל הנתונים, אותות התגמול, הדגש על תחומים כבדי חשיבה - מעצבות באופן גלוי את האופן שבו הפרוזה של דוגמנית נוחתת על קורא אנושי. במילים אחרות, טקסט AI קשה לקריאה הוא תוצאה עיצובית, לא תוצר לוואי בלתי נמנע של אינטליגנציה.
השערת צפיפות המידע
למה שדוגמניות יסחפו לעבר שפה קשה יותר? המחברים מציעים ובודקים השערה: בעוד ששפה אנושית התפתחה ונלמדת תחת לחץ לתקשר בהצלחה, טקסט שנוצר בינה מלאכותית מותאם יותר ויותר למטרות אחרות - מתמטיקה, קוד ומשימות חשיבה - שבהן הלחץ הוא לכיוון צפיפות מידע ולא קלות הבנה.
מודל שמתוגמל על אריזה של תשובות נכונות בפחות אסימונים לומד הרגלים שמועברים לפרוזה: דחוס משמעות, העדפת ניסוחים מדויקים אך נדירים, הטמעת יותר מבנה לכל משפט. התוצאה היא טקסט שזוכה לניקוד טוב במדדים תוך שהוא הולך והופך פחות טבעי לקוראים אנושיים.
כדי לבדוק את הרעיון, החוקרים ערכו ניסוי הוכחת מושג: הם כוונו עדין מודל שפה תחת עונש אורך, ואילצו אותו לדחוס את הפלט שלו. ההתנהגות הלשונית של המודל התפצלה מדפוסים דמויי אדם בדיוק באופנים שההשערה מנבאת - העניקה תמיכה סיבתית לרעיון שלחץ אופטימיזציה, לא נתונים בלבד, מניע את השינוי.
למה זה חשוב
הממצאים מדגישים את מה שהמחברים מכנים חוסר התאמה בין דרישות העיבוד הלשוני של בני אדם לבין אלה המועדפים באופן מרומז על ידי מודלים של שפות גדולות. לחוסר ההתאמה הזה יש השלכות מעשיות. עוזרי בינה מלאכותית שמייצרים טקסט קשה יותר לקריאה מטילים מס נסתר על כל תשובה, וההשפעה מתחזקת כאשר אנשים מבלים יותר מזמן הקריאה שלהם בטיוטות, סיכומים והסברים שנוצרו על ידי מודל.
המחברים טוענים שהמסגרת שלהם מצביעה על תרופות אפשריות - דרכים להכשיר או לכוונן מודלים שהתפוקה שלהם מכבדת את גבולות העיבוד האנושי מבלי להקריב את היכולת. העיתון הוא הדפסה מוקדמת וטרם עבר ביקורת עמיתים, אבל ההתבוננות המרכזית שלו כבר מהדהדת: העבודה טיפסה בעמוד הראשון של האקר ניוז ב-24 באוקטובר, ועוררה ויכוח פעיל בשאלה האם ההחלפה בין ביצועי הגיון לפרוזה קריא היא בסיסית או ניתנת לתיקון.
לעת עתה, המחקר נותן לקוראים אוצר מילים מאומת לתסכול מוכר. הטקסט לא מחמיר בטעות - הוא נעשה צפוף יותר בעיצובו.
מקורות: arXiv:2610.29162, דיון ב-Hacker News---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
