Giáo hoàng Leo nói rằng những lo ngại về sự diệt vong của AI không phải là 'tin giả' - và chỉ trích Jensen Huang của Nvidia

Giáo hoàng Leo XIV cho biết hôm thứ Hai rằng những lo ngại về việc trí tuệ nhân tạo trở nên lừa đảo không phải là "tin giả" và cần được xem xét một cách nghiêm túc, trong một lời khiển trách thẳng thắn đối với các nhà điều hành công nghệ, những người cho rằng công nghệ này nên phát triển mà không có sự bảo vệ của chính phủ. Phát biểu tại một cuộc họp báo trên chuyến bay của Giáo hoàng trở về Rome sau chuyến thăm Pháp kéo dài 4 ngày, Giáo hoàng cũng nhắm tới - dù không nêu tên ông lúc đầu - lập trường của Giám đốc điều hành Nvidia Jensen Huang chống lại quy định về AI, theo báo cáo của AFP, AP và Reuters do Al Jazeera thực hiện.

Nhận xét này diễn ra vào thời điểm nhạy cảm đối với chính sách AI. Vào thứ Ba, Tổng thống Donald Trump sẽ tiếp đón các nhà lãnh đạo công nghệ bao gồm Mark Zuckerberg của Meta và Dario Amodei của Anthropic tại Nhà Trắng, theo báo cáo của Reuters, với việc ngành công nghiệp này đang đẩy lùi các quy định ngay cả khi các nhà khoa học hàng đầu cảnh báo về những rủi ro thảm khốc. Dành cho độc giả theo dõi sự xung đột giữa các chính phủ và ngành AI, AI Buzz Wire theo dõi những phát triển AI mới nhất từ Washington, Brussels đến Vatican.

'Các mối quan ngại cần được xem xét một cách nghiêm túc'

Trong cuộc họp báo trên chuyến bay, Đức Thánh Cha đã được hỏi về những gì Hoa Kỳ và Trung Quốc – hai siêu cường AI của thế giới – nên làm để ngăn chặn AI gây ra những rủi ro thảm khốc cho nhân loại. Trump trước đây đã gọi những lo ngại về việc AI sẽ lừa đảo là một "trò lừa bịp".

“Tôi thực sự nghĩ rằng những mối quan ngại mà nhiều chuyên gia về AI nêu ra cần phải được xem xét một cách nghiêm túc”, Đức Thánh Cha nói, đồng thời nhấn mạnh rằng các vấn đề an toàn do các chuyên gia AI nêu ra cần được thảo luận và hành động. Ông kêu gọi thế giới “thúc đẩy đối thoại, nghiên cứu, điều tra để tìm cách đảm bảo rằng AI không đến mức có thể hủy diệt loài người”.

##Cuộc trao đổi với Jensen Huang

Thời điểm quan trọng nhất xảy ra khi Leo đề cập đến một thông báo mà anh ấy nói rằng anh ấy đã đọc vào sáng hôm đó: rằng người đứng đầu nhà sản xuất chip Nvidia đã mô tả cách chèn các rào chắn vào một số mô hình AI nhất định. Đức Thánh Cha bày tỏ sự hoài nghi công khai về sứ giả.

“Tuy nhiên, anh ấy cũng là người nói rằng không nên đặt ra giới hạn và không có quy định nào của chính phủ,” Leo nói - một đòn trực tiếp nhắm vào Huang, người theo các báo cáo đã nói với CBS News vào đầu tháng này rằng anh ấy đồng ý với Trump rằng những lo ngại về an toàn về AI đã bị thổi phồng quá mức.

Thông báo mà giáo hoàng đề cập đến dường như là Nền tảng An toàn Đại lý Mở mới được công bố của Nvidia, một nỗ lực phần cứng và phần mềm được thiết kế để cảnh sát các đại lý AI tự trị và ngăn chặn chúng lừa đảo. Điều trớ trêu không hề lọt vào mắt những người quan sát: công ty có giá trị nhất trong ngành hiện đang bán công nghệ an toàn đồng thời vận động hành lang chống lại quy định của chính phủ mà những người ủng hộ an toàn cho rằng cần thiết để thực thi nó.

Một chế độ giáo hoàng được xây dựng dựa trên cảnh báo của AI

Những bình luận hôm thứ Hai mở rộng những gì đã trở thành chủ đề xác định trong triều đại giáo hoàng kéo dài 16 tháng của Đức Leo. Vị giáo hoàng đầu tiên của Mỹ đã xác định AI là một trong những thách thức lớn nhất mà nhân loại phải đối mặt trong những ngày sau khi đắc cử, và đã dành thông điệp đầu tiên của mình cho AI và bảo vệ nhân loại – thực hiện bước đi bất thường khi đích thân ra mắt tài liệu cùng với người đồng sáng lập Anthropic Christopher Olah tại một sự kiện ở Vatican vào tháng 5.

Dưới thời Leo, Vatican đã liên tục tăng cường các biện pháp khoa trương và sáng kiến ​​ủng hộ quản trị AI quốc tế, đặc biệt tập trung vào các lĩnh vực như công nghệ hạt nhân, văn hóa và sáng tạo nghệ thuật. Việc ra mắt thông điệp vào tháng 5 là một phần trong nỗ lực có chủ ý của Vatican nhằm trực tiếp thu hút Thung lũng Silicon về chi phí con người của AI - một hoạt động tiếp cận hiện mở rộng để thách thức các giám đốc điều hành trước công chúng. Đức Thánh Cha cho biết nỗ lực triệu tập những người ra quyết định phải tiếp tục: “Chúng ta cần tiếp tục mời các nhà lãnh đạo chính trị, lãnh đạo AI, các tổ chức xã hội, hiệp hội đến với nhau và xem xét những gì đang xảy ra và những gì có thể xảy ra trong tương lai”.

Ông nói thêm: “Tôi nghĩ rằng có đủ người quan tâm nghiêm túc đến điều đó… nhưng chúng tôi phải tiếp tục làm việc”.

Tại sao một Giáo hoàng lại bị Thung lũng Silicon chú ý

Sự can thiệp của Leo có ý nghĩa quan trọng vì nó nhắm vào mâu thuẫn cốt lõi trong tình hình hiện tại của ngành. Trong những tuần gần đây, OpenAI đã loại bỏ bản phát hành mô hình biên giới do lỗi liên kết, Nvidia và các phòng thí nghiệm khác đã tung ra các sản phẩm an toàn cho tác nhân, và các nhà khoa học nổi tiếng bao gồm Geoffrey Hinton và Yoshua Bengio đã cảnh báo về một "vụ bùng nổ trí thông minh" - trên thực tế, cùng ngày với nhận xét của giáo hoàng. Tuy nhiên, những tiếng nói hàng đầu của ngành vẫn tiếp tục lập luận rằng quy định của chính phủ sẽ cản trở sự đổi mới.

Thông điệp của Giáo hoàng là cả hai điều không thể đúng cùng một lúc: nếu rủi ro đủ thực tế để biện minh cho việc bán phần mềm an toàn, thì chúng đủ thực tế để biện minh cho các quy định. Với việc Nhà Trắng trải thảm đỏ cho các giám đốc điều hành AI trong tuần này, Leo đang định vị Vatican là một trong số ít các tổ chức toàn cầu sẵn sàng nói rõ ràng như vậy.

Đi trước AI

Theo dõi cuộc chiến toàn cầu về tương lai của AI. Đọc thêm tin tức về AI trên AI Buzz Wire.

Những phát triển AI mới nhất →