سازمان جهانی بهداشت روز دوشنبه گزارش جدیدی منتشر کرد که در آن خواستار پادمان‌های اخلاقی قوی‌تر و نظارت بر هوش مصنوعی در تحقیقات بهداشتی شد و هشدار داد که مکانیسم‌های بررسی موجود همیشه برای مقابله با خطرات جدیدی که هوش مصنوعی در علم پزشکی معرفی می‌کند مجهز نیست.

این گزارش با عنوان «تحقیقات سلامت مرتبط با هوش مصنوعی: بررسی و نظارت اخلاقی» توصیه‌هایی را برای محققان، کمیته‌های اخلاقی، تنظیم‌کننده‌ها، سرمایه‌گذاران و سیاست‌گذاران در مورد چگونگی اطمینان از اینکه تحقیقات سلامت مبتنی بر هوش مصنوعی مسئولانه انجام می‌شود، ارائه می‌کند. این به طور مشترک توسط کارشناسان WHO که در زمینه اخلاق تحقیق، علم، سلامت دیجیتال و هوش مصنوعی کار می کنند، توسعه داده شد و در روز دوشنبه در کنار یک رویداد مجازی راه اندازی شد. For more context on this story, see our ongoing AI industry coverage.

به گفته سازمان جهانی بهداشت، هوش مصنوعی به سرعت در حال تغییر شکل دادن به نحوه انجام تحقیقات سلامت است - نحوه تجزیه و تحلیل داده‌های سلامت، نحوه طراحی مطالعات و نحوه توسعه و ارزیابی فناوری‌های جدید را تغییر می‌دهد. اما این سازمان هشدار می دهد که بدون پادمان های قوی، تحقیقات مرتبط با هوش مصنوعی می تواند خطراتی را ایجاد کند که حقوق بشر، برابری و اعتماد عمومی را تضعیف می کند.

آنچه گزارش جدید WHO پوشش می دهد

این گزارش سه دسته کلی از تحقیقات سلامت مرتبط با هوش مصنوعی را شناسایی می‌کند: تحقیقات مرتبط با سلامت که از هوش مصنوعی برای تجزیه و تحلیل داده‌ها استفاده می‌کند، تحقیقاتی که از ابزارها و فناوری‌های هوش مصنوعی استفاده می‌کنند، و تحقیقات مرتبط با سلامت که بر روی خود ابزارها و فناوری‌های هوش مصنوعی انجام شده است.

برای هر دسته، این نشریه بررسی می‌کند که چگونه می‌توان نظارت اخلاقی را در کل چرخه حیات تحقیق تقویت کرد - از طراحی مطالعه و بررسی اخلاقی گرفته تا انتشار، مقررات و اجرای واقعی.

WHO هشدار می‌دهد که مکانیسم‌های نظارت اخلاقی موجود «ممکن است همیشه مجهز نباشند» تا خطرات خاصی را که هوش مصنوعی در فرآیند تحقیق به همراه می‌آورد، از جمله مسائل مربوط به شفافیت، تعصب، انصاف، مسئولیت‌پذیری، حریم خصوصی و آسیب‌های احتمالی ناشی از استقرار سریع ابزارهای مجهز به هوش مصنوعی را بررسی کند.

چرا ساختارهای بررسی موجود تحت فشار هستند

دکتر مگ دوهرتی، مدیر دپارتمان علوم بهداشت سازمان جهانی بهداشت، در این اطلاعیه گفت: هوش مصنوعی فرصت‌های بی‌سابقه‌ای برای تسریع تحقیقات سلامت و بهبود زندگی مردم ایجاد می‌کند. در عین حال، نوآوری باید با ضمانت‌های اخلاقی قوی هدایت شود که از کرامت، حقوق و برابری انسان محافظت می‌کند.»

دوهرتی این گزارش را به عنوان ارائه «ملاحظات عملی» برای کمک به محققان، کمیته‌های اخلاقی و سیاست‌گذاران برای هدایت فرصت‌ها و خطرات مرتبط با تحقیقات سلامت مرتبط با هوش مصنوعی توصیف کرد.

این گزارش کمیته‌های اخلاق تحقیق - نهادهای نهادی که مطالعات مربوط به شرکت‌کنندگان انسانی را بررسی می‌کنند - در مرکز چارچوب نظارت قرار می‌دهد. اما تصدیق می‌کند که این کمیته‌ها ممکن است به تخصص، آموزش و منابع بیشتری نیاز داشته باشند تا به طور مؤثر مطالعات پیچیده‌تر مرتبط با هوش مصنوعی را بررسی کنند، که اغلب شامل مدل‌های مبهم، مجموعه داده‌های بزرگ و تکنیک‌هایی است که خارج از آموزش سنتی بازبینان اخلاق است.

مسئولیت فراتر از کمیته اخلاق

این نشریه همچنین تاکید می کند که مسئولیت به درب کمیته اخلاق خلاصه نمی شود. سازمان جهانی بهداشت می‌گوید که خود محققان وظیفه شناسایی و کاهش خطرات اخلاقی را دارند، به طور شفاف ارتباط برقرار می‌کنند و پیامدهای اجتماعی گسترده‌تر فناوری‌های هوش مصنوعی را که می‌سازند و به کار می‌گیرند، در نظر می‌گیرند.

این گزارش فراتر از پژوهشگران و کمیته‌ها، نقش سرمایه‌گذاران، مجلات علمی، نهادهای حاکمیت داده، انجمن‌های حرفه‌ای و سازمان‌های نظارتی را در ترویج تحقیقات سلامت مرتبط با هوش مصنوعی برجسته می‌کند. به طور قابل‌توجه، استدلال می‌کند که برخی از چالش‌های سیستمی به سادگی نمی‌توانند از طریق بررسی پروژه به پروژه به تنهایی مدیریت شوند - تشخیص این که تأثیر هوش مصنوعی بر اکوسیستم تحقیقاتی نیازمند پاسخ‌های ساختاری و در سطح نهاد است.

دکتر آلن لابریک، مدیر بخش داده، تجزیه و تحلیل سلامت دیجیتال و هوش مصنوعی WHO گفت: «حکومت مؤثر هوش مصنوعی در تحقیقات بهداشتی مستلزم همکاری بین رشته‌ها، بخش‌ها و مؤسسات است. از آنجایی که فناوری‌های هوش مصنوعی به سرعت در حال تکامل هستند، ما به مکانیسم‌های نظارتی نیاز داریم که چابک، مبتنی بر شواهد و قابلیت اطمینان از ایمن، قابل اعتماد و سودمند بودن نوآوری برای همه باشد.»

بعد حقوق صاحبان سهام

بخش قابل توجهی از گزارش به چالش ها و فرصت ها در کشورهای با درآمد کم و متوسط ​​می پردازد. در حالی که هوش مصنوعی پتانسیل قابل توجهی برای کمک به رفع چالش های بهداشتی مداوم در این تنظیمات دارد، WHO خاطرنشان می کند که بسیاری از تحقیقات و توسعه فناوری هوش مصنوعی امروزی در کشورهای با درآمد بالاتر متمرکز است.

بنابراین، این سازمان استدلال می کند که تقویت رهبری محلی، ظرفیت و مشارکت در تحقیقات بهداشتی مرتبط با هوش مصنوعی بسیار مهم خواهد بود - هم برای اطمینان از اینکه مزایای هوش مصنوعی به طور عادلانه توزیع می شود و هم برای جلوگیری از ایجاد اشکال جدید محرومیت یا نابرابری در علم بهداشت جهانی.

یک نقطه شروع، نه یک کلمه پایانی

WHO با درک سرعت حرکت فناوری، این گزارش را نقطه شروعی برای تقویت نظارت اخلاقی در عصر تحقیقات بهداشتی مرتبط با هوش مصنوعی و به عنوان زمینه ای برای توسعه استانداردها، راهنماها و رویکردهای حاکمیتی آینده توصیف می کند.

این گزارش در حالی به دست می‌آید که سیستم‌های بهداشتی در سراسر جهان به طور فزاینده‌ای در حال آزمایش هوش مصنوعی برای تشخیص، کشف دارو و مستندات بالینی هستند و بر مؤسسات تحقیقاتی فشار می‌آورند تا فرآیندهای بازبینی خود را تطبیق دهند. پیام WHO به موسسات این است که پنجره ایجاد نظارت شایسته اکنون است - قبل از یافته‌های ایجاد شده توسط هوش مصنوعی، آزمایش‌های طراحی‌شده توسط هوش مصنوعی و مجموعه داده‌های تجزیه‌وتحلیل شده توسط هوش مصنوعی به یک هنجار تبدیل می‌شوند تا استثنا.

گزارش کامل و جزئیات رویداد راه اندازی مجازی روز دوشنبه از طریق کانال های رسمی سازمان بهداشت جهانی در دسترس است.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →