כשאנשי מקצוע בכל תעשיות דוהרים לאמץ כלים של בינה מלאכותית, שאלה מטרידה עוברת מהספקולציות לתחום הראיות המדודות: האם אנחנו מאבדים את הכישורים שהכלים האלה נועדו לסייע?
דוח שפורסם ב-Nature מגלה שהתוצאות המוקדמות נמצאות - והן אינן מעודדות. ההסתמכות על מערכות מונעות בינה מלאכותית מתחילה לשחוק את היכולות של רופאים, מהנדסי תוכנה ועובדים מיומנים אחרים, ומעוררת שאלות דחופות כיצד לשמר את המומחיות האנושית בעידן של אוטומציה. For more context on this story, see our ongoing breaking AI news.
רופאים מתפקדים גרוע יותר ללא AI
אחת הדוגמאות הברורות ביותר מגיעה מהרפואה. מחקר של רופאים פולנים המתמחים באנדוסקופיה בדק מה קורה כאשר רופאים מנוסים מתרגלים לעוזר בינה מלאכותית ואז מאבדים את הגישה אליו.
הרופאים, שכולם ביצעו לפחות 2,000 קולונוסקופיות במהלך הקריירה שלהם, קיבלו מערכת AI המנתחת תמונות קולונוסקופיה בזמן אמת ומסמנת סוג של נגע מעי טרום סרטני הנקרא אדנומה. הכלי היה זמין בימים מסוימים אך לא באחרים, ויצר ניסוי טבעי.
התוצאות היו קשות. במהלך התקופה של שלושה חודשים לפני הצגת כלי הבינה המלאכותית, המומחים מצאו לפחות אדנומה אחת במהלך 28.4 אחוז מהקולונוסקופיה. לאחר הצגת הכלי, שיעור זיהוי האדנומה עבור קולונוסקופיה שבוצעה ללא סיוע בינה מלאכותית ירד ל-22.4 אחוזים.
במילים אחרות, ברגע שהרופאים החלו להסתמך על מערכת הבינה המלאכותית, ביצועי האבחון שלהם ירדו כשהיא לא הייתה זמינה. הממצאים פורסמו באוקטובר האחרון ב-The Lancet Gastroenterology and Hepatology.
מחברי המחקר הגיעו למסקנה שחשיפה מתמשכת לכלים כאלה עלולה לגרום לרופאים להיות "פחות מוטיבציה, פחות ממוקדת ופחות אחראית בעת קבלת החלטות קוגניטיביות ללא סיוע בינה מלאכותית".
סקר מראה שהדאגה נפוצה
החשש מאובדן מיומנויות אינו מוגבל למחקרים בודדים. סקר שנערך בקרב עובדי שירותי בריאות בארה"ב שפורסם מוקדם יותר ביוני מצא כי 70 אחוז מהאחיות ו-77 אחוז מהרופאים מודאגים מאובדן כישוריהם בגלל הסתמכות יתר על מערכות בינה מלאכותית.
נראה שהחרדה הזו מוצדקת על ידי הנתונים המתעוררים. ככל שיותר אנשי מקצוע משלבים AI בזרימות העבודה היומיומיות שלהם, הפער בין מה שהם יכולים לעשות עם הטכנולוגיה לבין מה שהם יכולים לעשות בלעדיה עשוי להתרחב.
קווין קרוסטון, מדען מידע באוניברסיטת סירקיוז, סידר את האתגר בצורה ברורה: "עצם היותם מודעים לכך שהתופעה הזו קיימת, בתקווה מעורר הרהור עצמי לגבי אילו מיומנויות אנשים רוצים לשמור ואילו הם מוכנים להעביר למיקור חוץ" לכלי AI.
מהנדסי תוכנה מציגים דפוסים דומים
השפעת הסרת הכישורים אינה מוגבלת לרפואה. כדי לחקור האם מיומנויות אובדות במדעי המחשב, חוקרים בחברת AI Anthropic תכננו ניסוי אקראי מבוקר בהשתתפות 52 מהנדסי תוכנה.
כל המשתתפים התבקשו לבצע משימת קידוד בסיסית. כל מהנדס יכול לחפש באינטרנט ולקבל הוראות כיצד להשלים אותו. מחציתם התבקשו גם להשתמש בעוזר בינה מלאכותית. המחקר, שפורסם כהדפסה מוקדמת, נועד לבודד את ההשפעה של סיוע בינה מלאכותית על יכולת הקידוד הבסיסית.
הממצאים מוסיפים לגוף גדל והולך של ראיות לכך שהפרקת עבודה קוגניטיבית שגרתית לבינה מלאכותית יכולה להחליש את הכישורים הבסיסיים שאנשי מקצוע פיתחו פעם באמצעות תרגול חוזר. כאשר הבינה המלאכותית מטפלת בהרמה הכבדה, המתרגל האנושי מקבל פחות הזדמנויות לבנות ולשמור על שליטה.
המכניקה של ביטול מיומנות
חוקרים מתארים ביטול מיומנות כתהליך הדרגתי. כאשר כלי מטפל בצורה מהימנה במשימה, מעורבותו של העובד עם המיומנות הבסיסית יורדת. עם הזמן, המסלולים העצביים והשיפוט שחודדו במשך שנים של תרגול מתחילים לדעוך.
ברפואה, זה יכול להיות מסוכן במיוחד. רופא שפעם הסתמך על שיקול דעת חזותי חריף כדי לזהות רקמות חשודות עלול, לאחר חודשים של סיוע בינה מלאכותית, להיות תלוי בהנחיות המערכת. אם המערכת נכשלת או אינה זמינה, ייתכן שהביצועים ללא סיוע של הרופא כבר לא עומדים בסטנדרט שהיה פעם.
Yuichi Mori, רופא-חוקר באוניברסיטת אוסלו ומחבר שותף במחקר הקולונוסקופיה, מזהיר שאנשים המשתמשים בכלי AI צריכים להיות מודעים לכך שהם מסתכנים באיבוד חלק מהכישורים שלהם. "אין פתרון מבוסס נגד ביטול מיומנות כרגע", אמר. "זה אמור להיות נושא מחקר חם מאוד בעשור הקרוב".
מדוע בדיקה סטנדרטית מפספסת את הבעיה
חלק מהקושי בהתמודדות עם ביטול מיומנות הוא שהוא בלתי נראה עד להסרת הבינה המלאכותית. מדדי ביצועים נראים חזקים כשהכלי נמצא בשימוש, ומסכים את השחיקה ההדרגתית של היכולת האנושית מתחתיו.
זה יוצר לולאת משוב. עובדים מתפקדים טוב יותר עם AI, ולכן הם משתמשים בו יותר. ככל שהם משתמשים בו יותר, כך הם מתרגלים פחות את המיומנות ללא סיוע. בזמן שהירידה מתגלה - כשהכלי מושבת, פרש או הוחלף - ייתכן שהמיומנות כבר התנוונה.
התופעה גם מעלה שאלות לגבי האופן שבו ארגונים צריכים לבנות הכשרה והערכה. אם הכשירות המקצועית נמדדת יותר ויותר בזמן שהסיוע בבינה מלאכותית פעיל, הערכות עשויות להפריז במה שעובדים באמת יכולים לעשות בעצמם.
שימור המומחיות האנושית
חוקרים ומומחי מקום עבודה מתלבטים כעת כיצד לשמר כישורים אנושיים חשובים בעידן הבינה המלאכותית. הפתרונות עדיין לא ברורים, אבל מתגבשים כמה עקרונות.
ראשית, המודעות חשובה. עצם ההכרה בכך שהסרת מיומנות יכולה להתרחש עשויה לעורר אנשים וארגונים לשמור בכוונה על תרגול ללא סיוע. שנית, ייתכן שאנשי מקצוע יצטרכו לעשות בחירות מודעות לגבי אילו מיומנויות לשמור על חדות ואילו להאציל. לא כל מיומנות ראויה לשמר במלוא העוצמה, אבל חלקן - במיוחד אלו הקשורות לבטיחות, אבחון ושיפוט ביקורתי - ברור שכן.
שלישית, ייתכן שארגונים יצטרכו לעצב מחדש את זרימות העבודה כך שבינה מלאכותית תגביר ולא תחליף את עבודת הליבה הקוגניטיבית. במקום לתת לכלי לעשות את החשיבה, ניתן למקם את הבינה המלאכותית כבדיקת שיקול דעת אנושי, המחייבת את איש המקצוע להגיע לתשובה תחילה לפני התייעצות עם המערכת.
אתגר מכונן לתקופת הבינה המלאכותית
דו"ח טבע מבהיר שביטול מיומנות אינו עוד חשש היפותטי. הראיות, אף שעדיין מוקדמות, עקביות בכל התחומים: כאשר בני אדם מוסרים עבודה קוגניטיבית ל-AI, המיומנויות הבסיסיות עלולות להיחלש.
עבור מיליוני אנשי המקצוע המשלבים כעת AI בשגרת היומיום שלהם, ההימור הוא אישי וגם חברתי. מנתח שמאבד את המגע כדי לזהות גידול, מהנדס ששוכח איך לנפות באגים ללא עוזר, אחות שהאינטואיציה הקלינית שלה מתעמלת - אלה לא סיכונים מופשטים.
כפי שציין מורי, עדיין אין פתרון מבוסס. אבל הצעד הראשון, מסכימים החוקרים, הוא התייחסות לאיום ברצינות. התוצאות המוקדמות נמצאות, והן מהוות אזהרה: הכלים שנועדו לשפר אותנו עשויים, אם נעשה בהם שימוש רשלני, להשאיר אותנו פחות מסוגלים מבעבר.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
