ארגון הבריאות העולמי פרסם ביום שני דו"ח חדש הקורא להבטחות אתיות חזקות יותר ופיקוח על בינה מלאכותית בחקר הבריאות, והזהיר שמנגנוני הסקירה הקיימים לא תמיד מצוידים להתמודד עם הסיכונים החדשים שה-AI מציגה למדע הרפואה.
הדו"ח, שכותרתו "מחקר בריאות הקשור לבינה מלאכותית: סקירה ופיקוח על אתיקה", מציע המלצות לחוקרים, ועדות אתיקה, רגולטורים, מממנים וקובעי מדיניות כיצד להבטיח שמחקר בריאות המאפשר בינה מלאכותית יתבצע באחריות. הוא פותח במשותף על ידי מומחי ארגון הבריאות העולמי הפועלים על פני אתיקה מחקרית, מדע, בריאות דיגיטלית ובינה מלאכותית, והושק לצד אירוע וירטואלי ביום שני. For more context on this story, see our ongoing more AI stories.
על פי ארגון הבריאות העולמי, בינה מלאכותית מעצבת מחדש במהירות את אופן ביצוע מחקר הבריאות - משנה את אופן ניתוח נתוני הבריאות, כיצד מחקרים מתוכננים וכיצד טכנולוגיות חדשות מפותחות ומוערכות. אבל הארגון מזהיר שללא אמצעי הגנה חזקים, מחקר הקשור לבינה מלאכותית עלול להכניס סיכונים הפוגעים בזכויות האדם, בשוויון ובאמון הציבור.
מה מכסה הדו"ח החדש של ארגון הבריאות העולמי
הדו"ח מזהה שלוש קטגוריות רחבות של מחקר בריאות הקשור לבינה מלאכותית: מחקר הקשור לבריאות המשתמש ב-AI לניתוח נתונים, מחקר המשתמש בכלים וטכנולוגיות בינה מלאכותית, ומחקר הקשור לבריאות שנערך על כלים וטכנולוגיות בינה מלאכותית עצמם.
עבור כל קטגוריה, הפרסום בוחן כיצד ניתן לחזק את הפיקוח האתי לאורך כל מחזור החיים של המחקר - מתכנון המחקר וסקירת אתיקה ועד לפרסום, רגולציה ויישום בעולם האמיתי.
ארגון הבריאות העולמי מזהיר כי מנגנוני הפיקוח על האתיקה הקיימים "לא תמיד יהיו מצוידים" לטפל בסיכונים הספציפיים שבינה מלאכותית מביאה לתהליך המחקר, כולל סוגיות הקשורות לשקיפות, הטיה, הגינות, אחריות, פרטיות ונזק פוטנציאלי הנובע מהפריסה המהירה של כלים התומכים בבינה מלאכותית.
מדוע מבני סקירה קיימים נמצאים במתח
"בינה מלאכותית יוצרת הזדמנויות חסרות תקדים להאצת מחקר הבריאות ולשפר את חייהם של אנשים", אמרה ד"ר מג דוהרטי, מנהלת מחלקת המדע לבריאות של ארגון הבריאות העולמי, בהכרזה. "במקביל, חדשנות חייבת להיות מונחית על ידי אמצעי הגנה אתיים חזקים המגינים על כבוד האדם, זכויות ושוויון."
דוהרטי תיאר את הדו"ח כמספק "שיקולים מעשיים" כדי לסייע לחוקרים, ועדות אתיקה וקובעי מדיניות לנווט הן את ההזדמנויות והן את הסיכונים הקשורים למחקר בריאות הקשור לבינה מלאכותית.
הדו"ח מציב במרכז מסגרת הפיקוח ועדות אתיות מחקר - הגופים המוסדיים הסוקרים מחקרים הכוללים משתתפים אנושיים. אבל היא מכירה בכך שוועדות אלה עשויות לדרוש מומחיות, הכשרה ומשאבים נוספים כדי לסקור ביעילות מחקרים הקשורים לבינה מלאכותית מורכבים יותר ויותר, שלעתים קרובות כוללים מודלים אטומים, מערכי נתונים גדולים וטכניקות הנופלות מחוץ להכשרה המסורתית של סוקרי אתיקה.
אחריות מעבר לוועדת האתיקה
עוד מדגיש הפרסום כי האחריות אינה נעצרת בדלת ועדת האתיקה. החוקרים עצמם, אומר ארגון הבריאות העולמי, נושאים בחובת לזהות ולצמצם סיכונים אתיים מוקדם, לתקשר בשקיפות ולהתחשב בהשלכות החברתיות הרחבות יותר של טכנולוגיות הבינה המלאכותית שהם בונים ופורסים.
מעבר לחוקרים ולוועדות בודדות, הדו"ח מדגיש את תפקידיהם של מממנים, כתבי עת מדעיים, גופי ממשל נתונים, אגודות מקצועיות וסוכנויות רגולטוריות בקידום מחקר בריאותי אחראי הקשור לבינה מלאכותית. במיוחד, היא טוענת שחלק מהאתגרים המערכתיים פשוט לא ניתנים לניהול באמצעות סקירת פרויקט אחר פרויקט בלבד - הכרה שההשפעה של בינה מלאכותית על המערכת האקולוגית של המחקר דורשת תגובות מבניות ברמת המוסד.
"ממשל אפקטיבי של בינה מלאכותית בחקר הבריאות דורש שיתוף פעולה בין דיסציפלינות, מגזרים ומוסדות", אמר ד"ר אלן לאבריק, מנהל מחלקת הנתונים, ניתוח בריאות דיגיטלי ובינה מלאכותית של ארגון הבריאות העולמי. "כאשר טכנולוגיות AI ממשיכות להתפתח במהירות, אנו זקוקים למנגנוני פיקוח שהם זריזים, מבוססי ראיות ומסוגלים להבטיח שהחדשנות תישאר בטוחה, מהימנה ומועילה לכולם."
ממד ההון העצמי
חלק ניכר מהדוח מתייחס לאתגרים והזדמנויות במדינות בעלות הכנסה נמוכה ובינונית. בעוד של-AI יש פוטנציאל משמעותי לעזור להתמודד עם אתגרים בריאותיים מתמשכים במסגרות אלה, ארגון הבריאות העולמי מציין שחלק גדול מהמחקר והפיתוח הטכנולוגי של הבינה המלאכותית של היום נותר מרוכז במדינות בעלות הכנסה גבוהה יותר.
חיזוק המנהיגות המקומית, היכולת וההשתתפות במחקרי בריאות הקשורים לבינה מלאכותית יהיו אפוא קריטיים, טוען הארגון - הן כדי להבטיח שהיתרונות של AI יחולקו בצורה שוויונית והן כדי להימנע מיצירת צורות חדשות של הדרה או אי-שוויון במדעי הבריאות העולמיים.
נקודת התחלה, לא מילה אחרונה
מתוך הכרה באיזו מהירות הטכנולוגיה זזה, WHO מתאר את הדו"ח כנקודת מוצא לחיזוק הפיקוח האתי בעידן של מחקר בריאות הקשור לבינה מלאכותית, וכבסיס לפיתוח סטנדרטים עתידיים, הנחיות וגישות ממשל.
הדו"ח מגיע כאשר מערכות הבריאות ברחבי העולם מתנסות יותר ויותר עם AI לצורך אבחון, גילוי תרופות ותיעוד קליני, תוך הפעלת לחץ על מוסדות המחקר להתאים את תהליכי הסקירה שלהם. המסר של ארגון הבריאות העולמי למוסדות הוא שהחלון לבניית פיקוח מוכשר הוא כעת - לפני שממצאים שנוצרו על ידי בינה מלאכותית, ניסויים שתוכננו בינה מלאכותית ומערכים מנותחים של בינה מלאכותית הופכים לנורמה ולא ליוצא מן הכלל.
הדוח המלא והפרטים על אירוע ההשקה הווירטואלי של יום שני זמינים בערוצים הרשמיים של ארגון הבריאות העולמי.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
