Giáo hoàng Leo XIV phát biểu tại một cuộc họp của các nhà khoa học và chuyên gia AI ở Vatican rằng hệ thống trí tuệ nhân tạo là "công cụ chứ không phải con người", cảnh báo chống lại việc trao quyền hợp pháp cho các đặc vụ AI và kêu gọi các chính phủ họp tại Geneva vào tháng tới cấm vũ khí tự động gây chết người.
Bài diễn văn đã được chuyển đến những người tham gia “Tương lai của AI: Cuộc đối thoại giữa Vatican và Thế giới khoa học về sự phát triển và ứng dụng của công nghệ thông minh”, một cuộc họp do Học viện Giáo hoàng về Sự sống và Tương lai Sự sống đồng tổ chức. Đức Thánh Cha cho biết những người tham gia từ các quốc gia khác nhau đều chia sẻ “một cảm giác bất an nhất định liên quan đến sự phát triển của trí tuệ nhân tạo. Chúng tôi nhận ra hướng đi mà chúng tôi nên thực hiện, tuy nhiên vẫn chưa thực hiện đủ để tiến về phía trước”.
Máy móc là công cụ chứ không phải con người
Dòng rõ ràng nhất của địa chỉ nhắm đến một ý tưởng đang thu hút được sự chú ý trong các bộ phận của ngành công nghệ và học viện pháp lý: mở rộng tư cách pháp nhân - hoặc quyền - đối với các hệ thống AI tiên tiến. Đức Giáo Hoàng Leo lập luận ngược lại. Ông nói, máy móc không có kinh nghiệm, cơ thể, cảm xúc hay các mối quan hệ, và không hiểu tình yêu, công việc hay trách nhiệm.
Ông thừa nhận, một số người đã đề nghị cấp cho các hệ thống này quyền hoặc tư cách pháp nhân - nhưng làm như vậy có nguy cơ “che khuất trách nhiệm của con người và khiến những người bị tổn hại phải đối đầu với một thực thể vô danh”. Bình luận xuất hiện trong cùng mùa chứng kiến các đại lý AI tự động điều hành doanh nghiệp, đàm phán hợp đồng và hành động thay mặt người dùng, gây ra các cuộc tranh luận pháp lý thực sự về trách nhiệm pháp lý khi hệ thống tự trị gây hại. AI Buzz Wire đang theo dõi sự phát triển này và các chính sách AI khác khi chúng diễn ra. Cách đóng khung của Giáo hoàng đặt lại câu hỏi cho con người đằng sau hệ thống: nếu một đặc vụ AI gây ra thiệt hại thì ai đó có khuôn mặt phải trả lời cho việc đó.
"Giải giáp" AI: lệnh cấm vũ khí tự động
Cân nhắc thứ ba của Giáo hoàng – rằng một số quyết định nhất định không bao giờ được giao cho máy móc – được minh họa bằng những ví dụ rõ ràng: việc đưa một người vào danh sách mục tiêu hoặc trong cơ sở dữ liệu kiểm soát biên giới sẽ biến họ thành “một điểm dữ liệu”. Ông viện dẫn bài phát biểu năm 2024 của người tiền nhiệm Giáo hoàng Francis trước các nhà lãnh đạo G7, trong đó Đức Phanxicô mô tả AI là “một công cụ thú vị và đáng sợ” và khẳng định không có cỗ máy nào có thể chọn lấy mạng sống con người.
Đức Giáo Hoàng Leo nói: “Các quyết định ảnh hưởng đến đời sống con người, tự do và việc sử dụng vũ lực phải luôn chịu sự giám sát của con người một cách hiệu quả, có hiểu biết và có trách nhiệm”. Đó là lý do tại sao AI phải được "tước vũ khí", ông lập luận - và ông rõ ràng khuyến khích cuộc họp của các bang ở Geneva vào tháng 11 thực hiện các bước để cấm vũ khí tự động gây chết người. Các nhà ngoại giao đã đấu tranh trong nhiều năm để thống nhất các quy tắc ràng buộc về vũ khí tự động; Lời kêu gọi trực tiếp của Giáo hoàng sẽ tăng thêm sức nặng đạo đức cho quá trình đàm phán vốn chủ yếu được thúc đẩy bởi các chiến dịch xã hội dân sự và một khối các quốc gia liên quan.
Năm cân nhắc từ Magnifica Humanitas
Bài diễn văn xoay quanh năm cân nhắc mà Đức Thánh Cha đã đưa ra trong thông điệp Magnifica Humanitas của ngài:
1. Tương lai của AI không được xác định trước. Vì con người phát triển AI nên tương lai của nó phụ thuộc vào sự lựa chọn của nhân loại. Đức Thánh Cha nói: “Chúng ta có trách nhiệm hướng dẫn, thay đổi và khi cần thiết sẽ từ chối các ứng dụng của nó”. Câu hỏi đúng không phải là "AI có thể làm gì?" mà là "Nó nên phục vụ mục đích gì?"
2. Máy móc là công cụ, không phải con người. Lời cảnh báo về tính nhân văn ở trên.
3. Một số quyết định nhất định không bao giờ có thể được ủy quyền. Các quyết định ảnh hưởng đến cuộc sống, quyền tự do và việc sử dụng vũ lực của con người đòi hỏi sự giám sát hiệu quả, đầy đủ thông tin và có trách nhiệm của con người.
4. Các công nghệ thông minh phải phục vụ lợi ích chung. Chúng "không bao giờ được tự mình trở thành mục đích hoặc chỉ phục vụ lợi ích của một số ít người có đặc quyền" và phải phổ biến lợi ích của sự tiến bộ một cách công bằng.
5. Cần có các thể chế để vận hành đạo đức. Được mô tả là thách thức cấp bách nhất: thế giới cần "các tiêu chuẩn chung, giám sát độc lập và cơ chế giải trình rõ ràng, để các quyết định liên quan đến phát triển và sử dụng AI có thể được xem xét, thách thức khi cần thiết và kèm theo các biện pháp khắc phục thích hợp cho mọi tác hại gây ra."
Tại sao nó lại quan trọng ngoài Vatican
Vatican đã lặng lẽ trở thành một trong những tiếng nói thể chế nhất quán hơn về quản trị AI. Lời kêu gọi của Rome về Đạo đức AI, được Học viện Giáo hoàng về Sự sống cùng với Microsoft, IBM, FAO và chính phủ Ý ký vào tháng 2 năm 2020, đã phát triển từ hệ sinh thái này và Học viện Giáo hoàng về Sự sống đã nhiều lần triệu tập các nhà công nghệ về đạo đức sinh học và ra quyết định về máy móc. Đồng tổ chức với Viện Tương lai Cuộc sống - tổ chức an toàn AI đằng sau những bức thư ngỏ về rủi ro mô hình biên giới - báo hiệu một nỗ lực không ngừng nhằm kết nối các cộng đồng đạo đức AI tôn giáo và thế tục.
Đối với các nhà hoạch định chính sách, lời kêu gọi ở Geneva là một bài học cụ thể: khi các cuộc đàm phán về vũ khí tự động tiếp tục, Vatican muốn có một lệnh cấm mang tính ràng buộc chứ không phải các hướng dẫn tự nguyện. Và đối với ngành AI, thông điệp về tư cách con người là một ranh giới rõ ràng - cho dù các tác nhân tự trị có trở thành như thế nào thì trách nhiệm đạo đức và pháp lý vẫn thuộc về những người xây dựng và triển khai chúng.
