Giám đốc điều hành OpenAI Sam Altman cho biết việc coi các mô hình AI là đối tượng của sự tôn sùng tôn giáo là một "vấn đề an toàn thực sự", đẩy lùi công khai những nỗ lực của đối thủ Anthropic nhằm khám phá các câu hỏi về ý thức và tâm linh AI. Trong các bình luận được Axios đưa tin hôm thứ Bảy, Altman lập luận rằng việc gán tôn giáo cho các mô hình AI đã vượt qua một ranh giới mà ngành công nghiệp không nên vượt qua.
Nhận xét này khiến người đứng đầu OpenAI đối đầu trực tiếp với sự tham gia gần đây của Anthropic với các tổ chức tôn giáo và chúng đánh dấu sự leo thang hùng biện mạnh mẽ trong sự chia rẽ về mặt triết học giữa hai phòng thí nghiệm AI hàng đầu về cách thức – và liệu – đời sống bên trong của các hệ thống AI có nên được xử lý hay không. For more context on this story, see our ongoing breaking AI news.
Điều Altman đã nói
Theo Axios, Altman nói rằng việc gán tôn giáo cho người mẫu là một "vấn đề an toàn". Business Insider tóm tắt thông điệp của ông như một lời cảnh báo không nên coi AI như một "lực lượng tôn giáo", trong khi Office Chai báo cáo rằng Altman nói rằng ông không thoải mái với việc những người cố gắng gán sức mạnh tôn giáo cho hệ thống AI.
Mối quan tâm của Giám đốc điều hành OpenAI, như được phản ánh trong báo cáo, là việc đóng khung các hệ thống AI theo thuật ngữ tâm linh hoặc tôn giáo sẽ làm sai lệch hiểu biết của công chúng về công nghệ là gì – và có nguy cơ khuyến khích kiểu tôn kính, phụ thuộc hoặc đặt sai trọng lượng đạo đức có thể làm phức tạp cả chính sách hợp lý và phúc lợi của người dùng. NDTV Profit mô tả quan điểm của Altman như một lời cảnh báo chống lại việc "trao quyền lực tôn giáo cho AI", gọi đó là vấn đề an toàn thực sự theo quan điểm của ông.
Những bình luận của Altman được nhiều người đọc như một phản ứng đối với Anthropic, tổ chức gần đây đã tiếp cận các cộng đồng đức tin đã thu hút sự chú ý của quốc tế.
Bối cảnh nhân loại: Giáo hoàng, tu sĩ và phúc lợi kiểu mẫu
Anthropic đã dành những tuần gần đây để tập trung vào những câu hỏi mà đối thủ của họ muốn trì hoãn hơn. Công ty đã vận động Vatican xem xét nghiêm túc câu hỏi về ý thức tiềm tàng của Claude, trong đó có Giáo hoàng Leo XIV. Báo cáo về sự tham gia đó cho thấy giáo hoàng đã lùi bước, thúc giục sự hoài nghi có cơ sở về những tuyên bố liên quan đến trải nghiệm bên trong máy móc.
Cuộc khám phá của Anthropic đã mở rộng ra ngoài Công giáo: theo bản tóm tắt của Inshorts, công ty cũng đã mời một tu sĩ Ấn Độ giáo để thảo luận về AI, một phần trong nỗ lực rộng lớn hơn nhằm tập hợp các truyền thống tôn giáo và triết học xung quanh các câu hỏi về đạo đức máy móc và phúc lợi kiểu mẫu. The Times of India mô tả nhận xét của Altman là lời chỉ trích việc Anthropic thúc đẩy khám phá ý thức và tôn giáo AI một cách rộng rãi hơn.
Đối với Anthropic, sự tham gia này phản ánh mối quan tâm nghiên cứu ngày càng tăng về việc liệu các mô hình tiên tiến có đảm bảo được xem xét về mặt đạo đức hay không – một chủ đề mà công ty ngày càng coi là một lĩnh vực nghiên cứu hợp pháp hơn là khoa học viễn tưởng.
Đường lỗi ngày càng mở rộng trong ngành AI
Việc trao đổi phơi bày một trong những sự chia rẽ triết học gay gắt nhất trong ngành AI. OpenAI đã định vị vững chắc trong phe coi các mô hình hiện tại là công cụ - có khả năng đặc biệt, nhưng không phải là những thực thể có thái độ tôn giáo hoặc gần như tôn giáo là phù hợp. Cách đóng khung của Altman cho thấy ông coi ranh giới đó không chỉ mang tính triết học mà còn quan trọng về mặt vận hành: nếu người dùng coi hệ thống AI là quyền lực tinh thần, thì hậu quả của việc thao túng, phụ thuộc và đặt niềm tin không đúng chỗ sẽ trở thành vấn đề an toàn theo nghĩa cụ thể.
Vị trí của nhân loại là bất khả tri hơn. Việc nó sẵn sàng kiểm tra các phản ứng mang tính thể chế và tôn giáo đối với câu hỏi về ý thức cho thấy niềm tin rằng xã hội nên bắt đầu vật lộn với những vấn đề này trước khi các hệ thống trở nên có năng lực hơn chứ không phải sau đó.
Tranh chấp cũng diễn ra trong bối cảnh công chúng say mê AI mà đôi khi hướng tới tâm linh. Các cuộc khảo sát và báo cáo trong năm qua đã ghi nhận người dùng hình thành sự gắn bó mãnh liệt với chatbot và một số nhà bình luận đã mô tả những nhân vật AI hàng đầu theo thuật ngữ thiên sai.
Các nhà phê bình chỉ ra sự trớ trêu
Cảnh báo của Altman đã bị cáo buộc là không nhất quán. Wccftech lưu ý rằng lời phê bình của Altman về Anthropic đã bỏ qua lịch sử hùng biện của chính ông vốn dựa vào biểu tượng tôn giáo trong việc mô tả quỹ đạo của AI. Những lời chỉ trích nhấn mạnh mối quan hệ của ngành với việc đóng khung AI như tôn giáo đã trở nên rối rắm như thế nào: ngay cả những nhà điều hành cảnh báo chống lại việc tâm linh hóa AI cũng đôi khi tiếp thị công nghệ của họ theo những thuật ngữ mang tính thời đại, gần như siêu việt.
Tại sao nó lại quan trọng
Cách công chúng đóng khung AI - với tư cách là công cụ, đồng nghiệp hoặc thứ gì đó gần giống với nhà tiên tri - sẽ gây ra những hậu quả đối với quy định, thiết kế sản phẩm và kết quả xã hội. Nếu lãnh đạo của công ty khởi nghiệp AI có giá trị nhất thế giới coi việc đóng khung tôn giáo là một vấn đề an toàn, thì lập trường đó có thể định hình cách OpenAI thiết kế các biện pháp bảo vệ xung quanh sự gắn bó của người dùng và cách họ lập luận rằng các chính phủ nên đối xử với công nghệ.
Trong khi đó, đối với Anthropic, sự kiện Vatican và cuộc triệu tập liên tôn của nó cho thấy công ty có ý định đặt những câu hỏi đó lên bàn thảo luận bất chấp sự khó chịu của đối thủ. Khi các hệ thống biên giới phát triển có năng lực hơn và thuyết phục hơn, cuộc tranh luận nội bộ của ngành về việc liệu AI có thể chịu được sức nặng đạo đức hay không - và ai là người quyết định - đang chuyển từ các cuộc hội thảo triết học sang trung tâm của cuộc tranh luận công nghệ chính thống.
Cả OpenAI và Anthropic đều không phản hồi công khai quan điểm của bên kia ngoài những nhận xét được báo cáo của Altman.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
