Tổ chức Y tế Thế giới hôm thứ Hai đã công bố một báo cáo mới kêu gọi các biện pháp bảo vệ đạo đức mạnh mẽ hơn và giám sát trí tuệ nhân tạo trong nghiên cứu sức khỏe, cảnh báo rằng các cơ chế đánh giá hiện tại không phải lúc nào cũng được trang bị để xử lý những rủi ro mới mà AI đưa vào khoa học y tế.

Báo cáo có tiêu đề “Nghiên cứu sức khỏe liên quan đến Trí tuệ nhân tạo: đánh giá và giám sát đạo đức”, đưa ra khuyến nghị cho các nhà nghiên cứu, ủy ban đạo đức, cơ quan quản lý, nhà tài trợ và nhà hoạch định chính sách về cách đảm bảo rằng nghiên cứu sức khỏe hỗ trợ AI được tiến hành một cách có trách nhiệm. Nó được phát triển bởi các chuyên gia của WHO làm việc về đạo đức nghiên cứu, khoa học, y tế kỹ thuật số và trí tuệ nhân tạo và được ra mắt cùng với một sự kiện ảo vào thứ Hai. For more context on this story, see our ongoing AI industry coverage.

Theo WHO, trí tuệ nhân tạo đang nhanh chóng định hình lại cách tiến hành nghiên cứu sức khỏe - thay đổi cách phân tích dữ liệu sức khỏe, cách thiết kế nghiên cứu cũng như cách phát triển và đánh giá các công nghệ mới. Nhưng tổ chức này cảnh báo rằng nếu không có các biện pháp bảo vệ mạnh mẽ, nghiên cứu liên quan đến AI có thể gây ra rủi ro làm suy yếu nhân quyền, công bằng và niềm tin của công chúng.

Báo cáo mới của WHO đề cập đến những gì

Báo cáo xác định ba loại nghiên cứu sức khỏe liên quan đến AI: nghiên cứu liên quan đến sức khỏe sử dụng AI để phân tích dữ liệu, nghiên cứu sử dụng các công cụ và công nghệ AI và nghiên cứu liên quan đến sức khỏe được thực hiện trên chính các công cụ và công nghệ AI.

Đối với mỗi danh mục, ấn phẩm xem xét cách tăng cường giám sát đạo đức trong toàn bộ vòng đời nghiên cứu - từ thiết kế nghiên cứu và đánh giá đạo đức cho đến xuất bản, quy định và triển khai trong thế giới thực.

WHO cảnh báo rằng các cơ chế giám sát đạo đức hiện tại “có thể không phải lúc nào cũng được trang bị” để giải quyết các rủi ro cụ thể mà AI mang lại trong quá trình nghiên cứu, bao gồm các vấn đề liên quan đến tính minh bạch, thiên vị, công bằng, trách nhiệm giải trình, quyền riêng tư và các tác hại tiềm ẩn phát sinh từ việc triển khai nhanh chóng các công cụ hỗ trợ AI.

Tại sao cấu trúc đánh giá hiện tại đang gặp khó khăn

Tiến sĩ Meg Doherty, Giám đốc Khoa Khoa học Y tế của WHO, cho biết trong thông báo: “Trí tuệ nhân tạo đang tạo ra những cơ hội chưa từng có để tăng tốc nghiên cứu sức khỏe và cải thiện cuộc sống của con người”. “Đồng thời, sự đổi mới phải được hướng dẫn bởi các biện pháp bảo vệ đạo đức mạnh mẽ nhằm bảo vệ nhân phẩm, quyền và công bằng.”

Doherty mô tả báo cáo này cung cấp "những cân nhắc thực tế" để giúp các nhà nghiên cứu, ủy ban đạo đức và các nhà hoạch định chính sách điều hướng cả cơ hội và rủi ro liên quan đến nghiên cứu sức khỏe liên quan đến AI.

Báo cáo đặt các ủy ban đạo đức nghiên cứu - các cơ quan tổ chức xem xét các nghiên cứu có sự tham gia của con người - vào trung tâm của khuôn khổ giám sát. Nhưng họ thừa nhận rằng các ủy ban này có thể cần thêm chuyên môn, đào tạo và nguồn lực để xem xét hiệu quả các nghiên cứu ngày càng phức tạp liên quan đến AI, thường liên quan đến các mô hình không rõ ràng, bộ dữ liệu lớn và kỹ thuật nằm ngoài chương trình đào tạo truyền thống dành cho người đánh giá đạo đức.

##Trách nhiệm vượt ra ngoài hội đồng đạo đức

Ấn phẩm cũng nhấn mạnh trách nhiệm không chỉ dừng lại ở cửa ủy ban đạo đức. WHO cho biết, bản thân các nhà nghiên cứu có trách nhiệm xác định và giảm thiểu rủi ro đạo đức sớm, giao tiếp một cách minh bạch và xem xét các tác động xã hội rộng lớn hơn của các công nghệ AI mà họ xây dựng và triển khai.

Ngoài các nhà nghiên cứu và ủy ban riêng lẻ, báo cáo còn nhấn mạnh vai trò của các nhà tài trợ, tạp chí khoa học, cơ quan quản lý dữ liệu, hiệp hội chuyên nghiệp và cơ quan quản lý trong việc thúc đẩy nghiên cứu sức khỏe có trách nhiệm liên quan đến AI. Đáng chú ý, nó lập luận rằng một số thách thức mang tính hệ thống đơn giản là không thể được quản lý chỉ thông qua việc xem xét từng dự án - sự thừa nhận rằng tác động của AI đối với hệ sinh thái nghiên cứu đòi hỏi phải có các phản ứng ở cấp độ cơ cấu, cấp tổ chức.

Tiến sĩ Alain Labrique, Giám đốc Ban Dữ liệu, Phân tích Y tế Kỹ thuật số và Trí tuệ Nhân tạo của WHO cho biết: “Quản trị hiệu quả AI trong nghiên cứu sức khỏe đòi hỏi sự hợp tác giữa các ngành, lĩnh vực và tổ chức”. “Khi công nghệ AI tiếp tục phát triển nhanh chóng, chúng ta cần các cơ chế giám sát linh hoạt, dựa trên bằng chứng và có khả năng đảm bảo rằng sự đổi mới vẫn an toàn, đáng tin cậy và có lợi cho tất cả mọi người.”

Khía cạnh vốn chủ sở hữu

Một phần quan trọng của báo cáo đề cập đến những thách thức và cơ hội ở các nước có thu nhập thấp và trung bình. Mặc dù AI có tiềm năng đáng kể để giúp giải quyết các thách thức sức khỏe dai dẳng ở những nơi này, nhưng WHO lưu ý rằng phần lớn hoạt động nghiên cứu và phát triển công nghệ AI ngày nay vẫn tập trung ở các nước có thu nhập cao hơn.

Do đó, tổ chức này lập luận rằng việc tăng cường khả năng lãnh đạo, năng lực và sự tham gia của địa phương vào nghiên cứu sức khỏe liên quan đến AI sẽ rất quan trọng – vừa để đảm bảo rằng lợi ích của AI được phân bổ công bằng và tránh tạo ra các hình thức loại trừ hoặc bất bình đẳng mới trong khoa học sức khỏe toàn cầu.

Điểm khởi đầu, không phải lời cuối cùng

Nhận thức được tốc độ phát triển của công nghệ, WHO mô tả báo cáo này là điểm khởi đầu để tăng cường giám sát đạo đức trong kỷ nguyên nghiên cứu sức khỏe liên quan đến AI và là nền tảng cho việc phát triển các tiêu chuẩn, hướng dẫn và phương pháp quản trị trong tương lai.

Báo cáo được đưa ra khi các hệ thống y tế trên toàn thế giới đang ngày càng thử nghiệm AI để chẩn đoán, phát hiện thuốc và ghi chép lâm sàng, gây áp lực lên các tổ chức nghiên cứu để điều chỉnh quy trình đánh giá của họ. Thông điệp của WHO gửi tới các tổ chức là hiện đã có cơ hội xây dựng cơ chế giám sát có thẩm quyền - trước khi các phát hiện do AI tạo ra, các thử nghiệm do AI thiết kế và bộ dữ liệu do AI phân tích trở thành tiêu chuẩn thay vì ngoại lệ.

Báo cáo đầy đủ và thông tin chi tiết về sự kiện ra mắt ảo hôm thứ Hai có sẵn trên các kênh chính thức của Tổ chức Y tế Thế giới.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →