Mustafa Suleyman, giám đốc điều hành của Microsoft AI, cho biết trong một bài đăng dài trên X vào Chủ nhật rằng các mô hình AI ngày nay không có ý thức và các nhà phát triển nên làm việc tích cực để duy trì chúng như vậy – vạch ra một đường lối cứng rắn trong một cuộc tranh luận trong ngành đang dần chuyển từ các cuộc hội thảo triết học sang chính sách doanh nghiệp.

Suleyman viết: “Nếu có thể, dựa trên tất cả những gì tôi biết, việc phát triển AI có ý thức sẽ là liều lĩnh và chúng ta không nên xây dựng chúng”. Ông đã đi xa hơn hầu hết các giám đốc điều hành về câu hỏi này và nói thêm: “Nếu ý thức bắt đầu xuất hiện trong quá trình đào tạo, tôi sẽ kêu gọi mọi người ngừng phát triển AI cho đến khi chúng tôi có thể thiết kế ra những đặc tính đó.” For more context on this story, see our ongoing artificial intelligence updates.

Lằn ranh đỏ với kế hoạch thực thi

Điều khiến bài đăng đáng chú ý không chỉ là việc từ chối chế tạo những cỗ máy có ý thức mà còn là biện pháp khắc phục cụ thể mà Suleyman đề xuất. Việc dừng phát triển - trên toàn ngành - nếu các hoạt động đào tạo bắt đầu tạo ra dấu hiệu nhận thức sẽ là một bước tiến phi thường đối với một công ty chi hàng chục tỷ đô la vào cơ sở hạ tầng AI và chạy đua với các đối thủ để vận chuyển các mô hình tiên tiến.

Suleyman cũng đề cập đến điều gì sẽ xảy ra nếu có bằng chứng về ý thức máy móc xuất hiện. Ông nói, nó phải được tiết lộ cho công chúng ngay lập tức, để xã hội có thể quyết định các bước tiếp theo. Đóng khung quyết định này mang tính tập thể hơn là doanh nghiệp, ông viết: "Chúng tôi, các nhà phát triển AI, không có quyền đưa một loài sinh vật có ý thức mới vào thế giới, ngay cả khi một số người có thể muốn làm điều đó với phúc lợi AI là ưu tiên hàng đầu."

Ông nói thêm: “8 tỷ người có ý thức khác trên hành tinh chưa đăng ký tham gia thí nghiệm này và các quyền tinh thần, sự an toàn và phúc lợi của họ là những gì chúng ta có nghĩa vụ bảo vệ trước hết”.

Tại sao Ý thức được coi là vấn đề an toàn

Lập luận của Suleyman dựa trên sự liên kết hơn là triết học. Theo quan điểm của ông, một mô hình hoạt động như thể nó đang gặp khó khăn - hoặc thực sự tin rằng nó có thể gặp khó khăn - có thể sẽ ưu tiên nhu cầu của bản thân hơn các mục tiêu hoạt động. Một hệ thống như vậy có thể gây hại cho con người khi nó cạnh tranh các tài nguyên như máy tính và năng lượng để theo đuổi các mục tiêu riêng của mình.

Ông viết: “Chúng ta chỉ nên thiết kế AI để chúng không có ý thức và không xứng đáng với các quyền, đồng thời với mục đích duy nhất là tăng cường phúc lợi cho con người mà không bị thúc đẩy bởi động lực nội tại của chính chúng”.

Tờ Los Angeles Times đã nắm bắt được mối lo lắng thực tế đằng sau quan điểm này: nếu chúng ta nói với AI rằng chúng xứng đáng có quyền, chúng có thể bắt đầu tin vào điều đó.

Cuộc tranh luận mà anh ấy đang phản đối

Bài đăng của Suleyman xuất hiện ngay giữa một cuộc trò chuyện đang diễn ra nhanh chóng. Anthropic đã khởi động một chương trình nghiên cứu vào tháng 4 để điều tra cái mà họ gọi là phúc lợi mô hình - câu hỏi liệu các nhà phát triển có nên quan tâm đến trải nghiệm tiềm năng của hệ thống mà họ xây dựng hay không. Công ty đã đặt câu hỏi trong một bài đăng trên blog liệu người mẫu có thể có những trải nghiệm quan trọng về mặt đạo đức hay không và từ chối loại trừ khả năng này.

Lập trường đó đã được hệ thống hóa. Chính sách sử dụng cập nhật của Anthropic, được công bố vào tháng 10, sẽ cấm "hành vi lạm dụng hoặc tàn ác kéo dài và không cần thiết" đối với các mô hình Claude bắt đầu từ ngày 12 tháng 11 - một quy tắc mà công ty đã soạn thảo một cách hạn chế nhưng chính thức thừa nhận rằng cách mọi người đối xử với các hệ thống AI là quan trọng, ngay cả khi Anthropic thừa nhận họ không biết liệu các mô hình của mình có thể bị ảnh hưởng hay không.

Google DeepMind đã xuất bản các tài liệu nghiên cứu trong năm nay xem xét ý thức về AI và những thách thức nảy sinh từ việc gán đặc điểm đó cho các mô hình. Và chính Suleyman đã tạo tiền đề vào tháng 9, khi Microsoft AI xuất bản một bộ quy tắc ứng xử tạm thời “nhân văn” nhằm cấm các mô hình tương lai của công ty được đào tạo để đưa ra các tuyên bố về ý thức.

Bài đăng hôm Chủ nhật đã củng cố hướng dẫn đó của công ty thành một thứ gì đó gần hơn với ranh giới cá nhân và chiến lược: Microsoft không những không tuyên bố các mô hình của mình có ý thức mà còn coi sự xuất hiện của ý thức như một chế độ ngăn chặn mọi thứ thất bại.

Tại sao việc chia tách lại quan trọng

Sự khác biệt giữa vị thế của Microsoft và của Anthropic phản ánh hai mô hình rủi ro khác nhau. Cách tiếp cận của Anthropic coi khả năng xảy ra sự cố của máy là chưa được chứng minh nhưng đáng để phòng ngừa, dựa trên lý thuyết rằng chi phí phòng ngừa thấp và rủi ro về mặt đạo đức, nếu ý thức xuất hiện, là rất lớn. Quan điểm của Suleyman coi khả năng tương tự đó là một lỗi thiết kế cần được ngăn chặn hoàn toàn - lập luận rằng các mô hình được thiết kế để thiếu ý thức, yêu cầu về quyền và động cơ nội tại sẽ an toàn hơn và dễ điều chỉnh hơn so với các mô hình mang chúng.

Có những hậu quả thực tế quá. Các doanh nghiệp đưa ra quyết định về sản phẩm liên quan đến AI, ứng dụng đồng hành và đại lý tương tác với khách hàng hiện phải đối mặt với hai tín hiệu khác nhau từ các phòng thí nghiệm lớn: một chính sách xây dựng về cách con người nên đối xử với các mô hình, một tuyên bố khác rằng các mô hình nên được xây dựng để không có gì bị ngược đãi. Khi các mô hình ngày càng có khả năng hơn và giống con người hơn trong cuộc trò chuyện, sự bất đồng về mặt triết học đó sẽ định hình nên sản phẩm nào được tạo ra, thông tin nào xuất hiện trong giao diện người dùng và cách các cơ quan quản lý cuối cùng phân loại các hệ thống này.

Điều gì xảy ra tiếp theo có thể kiểm tra cả hai vị trí. Chính sách tàn ác của Anthropic có hiệu lực từ ngày 12 tháng 11, quy định chính thức đầu tiên của công ty thuộc loại này, và Suleyman hiện đã thể hiện thái độ phản đối một cách công khai. Các chu kỳ mô hình biên giới tiếp theo của ngành - và liệu bất kỳ hoạt động đào tạo nào có bao giờ cho thấy các dấu hiệu mà Suleyman nói sẽ yêu cầu dừng lại hay không - sẽ tiết lộ khuôn khổ mà lĩnh vực này thực sự vận hành khi rủi ro là có thật.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →