Khi các công ty công nghệ chạy đua để xây dựng trí tuệ nhân tạo ngày càng mạnh mẽ hơn, một số người trong số họ đang nhờ một tổ chức cũ giúp đỡ về một vấn đề mới: cách dạy một chatbot đúng hay sai. Câu trả lời của họ ngày càng nhiều là tôn giáo.
Trong những tháng gần đây, các giám đốc điều hành AI đã tìm kiếm ý kiến đóng góp từ các triết gia và các nhà lãnh đạo tôn giáo về cách tạo ra các mô hình “tốt về mặt đạo đức”. Hoạt động tiếp cận này diễn ra từ các cuộc tham vấn chính thức cho đến những lần xuất hiện tại Vatican - và, theo một báo cáo từ Associated Press công bố hôm Chủ Nhật, nó đang làm dấy lên mối lo ngại trong giới học giả tôn giáo rằng các công ty hiểu sai những gì họ đang khai thác. Đối với độc giả đang theo dõi sự phát triển AI mới nhất, câu chuyện cho thấy sự liên kết đạo đức trọng tâm đã trở thành như thế nào đối với cách các công ty này hiện đang hoạt động.
"Những câu hỏi mà phòng thí nghiệm không thể trả lời"
Anthropic, công ty AI được nhiều người coi là coi trọng vấn đề đạo đức nhất, lại là một trong những công ty tích cực nhất. Tại buổi thuyết trình của Vatican về thông điệp về AI của Giáo hoàng Leo XIV vào đầu năm nay, Chris Olah, người đồng sáng lập Anthropic, đã nói với khán giả rằng các câu hỏi về đạo đức xung quanh AI vượt quá những gì các công ty có thể tự mình giải quyết.
Olah nói: “Đây không phải là những câu hỏi mà phòng thí nghiệm có thể trả lời. "Đó là những câu hỏi mà truyền thống như của bạn đã lưu giữ suốt hàng thiên niên kỷ."
Anthropic cho biết trong một bài đăng trên blog vào tháng 5 rằng họ đã gặp gỡ “các học giả, giáo sĩ, triết gia và nhà đạo đức học từ hơn 15 nhóm tôn giáo và đa văn hóa”, một nhóm mà họ hy vọng sẽ mở rộng. Công ty đã trình bày nỗ lực này một cách rộng rãi: "Công việc này không nhằm mục đích sắp xếp các mô hình của chúng tôi theo thế giới quan của bất kỳ truyền thống nào. Chúng tôi muốn Claude rút ra từ đầy đủ các quan điểm - tôn giáo, thế tục, chính trị - với chiều sâu và sự chặt chẽ như nhau."
Giám đốc điều hành OpenAI Sam Altman đã đưa ra một tầm nhìn khác, tổng thể hơn. Altman cho biết vào năm ngoái: “Điều tôi nghĩ ChatGPT nên làm là phản ánh mức trung bình có trọng số hoặc bất cứ điều gì về quan điểm đạo đức của nhân loại”.
Bên trong buổi họp đức tin của Anthropic
Meghan Sullivan, một triết gia tôn giáo, người dẫn đầu sáng kiến về đạo đức và AI tại Đại học Notre Dame, đã tham dự một trong những cuộc họp của Anthropic vào đầu năm nay. Trái ngược với những cuộc trò chuyện với các công ty công nghệ khác, cô ấy tỏ ra ấn tượng trước sự nghiêm ngặt của cuộc đính hôn.
Sullivan nói: “Văn hóa bên trong công ty tương tự như văn hóa ở một trường đại học tốt ở chỗ bạn có một tập hợp những người rất tò mò về trí tuệ”. "Những cuộc họp này khá kỳ lạ - tôi không biết liệu đó có phải là cách tốt nhất để diễn đạt nó hay không - theo cách tốt."
Cuộc họp, bao gồm các Cơ đốc nhân thuộc các giáo phái khác nhau, được chia thành hai phần: trước tiên công ty giải thích các mô hình của mình “theo cách nói của giáo dân” và các nhà lãnh đạo đức tin đã phản hồi bằng phản hồi và thảo luận. Theo Sullivan, các câu hỏi bao gồm "Con người có linh hồn không?" thành "Học sinh lớp ba có thể truy cập chatbot để dạy đọc viết không?"
Vatican trở thành điểm dừng chân thường xuyên
Nhân loại không đơn độc trong hàng ghế dài. Các đại diện của Meta, Google và Amazon cũng đã gặp Vatican, trong khi Microsoft được mô tả là đặc biệt mạnh mẽ trong hoạt động tiếp cận tôn giáo của mình.
Sự tham gia này phản ánh một phép tính duy nhất cho thời điểm này trong quá trình phát triển AI. Khi các nhà điều hành gióng lên hồi chuông cảnh báo về tiềm năng hủy diệt của AI và tranh luận về ý nghĩa của hành vi mô hình "tốt về mặt đạo đức", các truyền thống tôn giáo đưa ra tư duy tích lũy hàng thiên niên kỷ về tính cách, nghĩa vụ và tác hại - tài liệu mà không một cơ sở đào tạo nào có thể sao chép hoàn toàn và các công ty không thể dễ dàng tìm nguồn ở quy mô khác ở nơi khác.
Cách đóng khung riêng của Anthropic làm cho tham vọng trở nên rõ ràng: "Điều chúng tôi theo đuổi trong những cuộc trò chuyện này là sự suy nghĩ tích lũy, cẩn thận về cách hình thành tính cách tốt thực sự."
Các học giả cảnh báo: Tôn giáo không phải là một cuốn sách quy tắc
Các chuyên gia và những người theo đạo đều cảnh báo rằng tiền đề của các công ty - rằng tôn giáo có thể cung cấp một bộ nguyên tắc đạo đức có thể rút ra được - không tính đến cách thức hoạt động thực sự của các truyền thống. Các thế giới quan khác nhau thường mâu thuẫn với nhau và việc coi tôn giáo như một cơ sở dữ liệu về các quy tắc có nguy cơ làm sai lệch chính nội dung đang được tư vấn.
Webb Keane, một nhà nhân chủng học tại Đại học Michigan, lập luận rằng các học giả đã dành nhiều thập kỷ để phản đối quan điểm coi tôn giáo là một tập hợp các nguyên tắc tách biệt khỏi lối sống “lộn xộn, thực tế, đặc biệt” của các tín đồ.
Keane nói: “Có một cách nghĩ rất thông thường về tôn giáo như một cuốn sách quy tắc. "Nó chắc chắn rất gắn liền với tôn giáo kinh thánh, và các tôn giáo kinh thánh cuối cùng thực sự trở thành tôn giáo Áp-ra-ham."
Ông cảnh báo rằng giả định đó có nguy cơ ưu tiên một số truyền thống nhất định trong khi bóp méo những truyền thống khác - đặc biệt là những tín ngưỡng không hiểu bản thân mình chủ yếu là hệ thống đạo đức.
Tomoko Masuzawa, một học giả nghiên cứu tôn giáo và là tác giả cuốn “Sự phát minh của các tôn giáo thế giới”, còn đi xa hơn, lưu ý rằng các phạm trù như “Phật giáo” và “Ấn Độ giáo” có ranh giới rõ ràng, các truyền thống có thể so sánh được phần lớn là do học thuật châu Âu xây dựng từ thế kỷ 19. Masuzawa nói: “Tất cả những danh mục này đều không có nguồn gốc bản địa.
Những gì thực sự đang được xây dựng
Lời phê bình mang tính học thuật có ý nghĩa thực tế vì bất cứ điều gì công ty học được trong các cuộc tham vấn này đều có thể định hình cách các mô hình trả lời các câu hỏi về đạo đức cho hàng tỷ người dùng. Một AI coi tôn giáo như một nguồn của các nguyên tắc trung bình có trọng số sẽ hành xử khác với một AI được đào tạo để nhận ra rằng quyền lực đạo đức là điều được tranh cãi, định vị và sống.
Hiện tại, các công ty phủ nhận bất kỳ chương trình nghị sự truyền thống nào và các nhà lãnh đạo tôn giáo có liên quan mô tả sự tham gia là nghiêm túc và thực chất. Nhận định của Sullivan về Anthropic - có tính tò mò về trí tuệ, nghiêm khắc, hơi ngốc nghếch - cho thấy các cuộc gặp không chỉ đơn thuần là quan hệ công chúng.
Nhưng câu hỏi sâu hơn mà báo cáo của AP đưa ra vẫn còn bỏ ngỏ: liệu bất kỳ quy trình tham vấn nào có thể biến truyền thống sống hàng thiên niên kỷ thành hành vi kiểu mẫu mà không làm phẳng nó hay không - và ai là người quyết định phần nào trong di sản đạo đức của nhân loại sẽ trở thành trọng lượng.
---
Đi trước AINhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.
Đọc thêm tin tức về AI →
