Microsoft đã công bố một quy tắc ứng xử tạm thời vào thứ Hai nhằm hạn chế những gì các mô hình trí tuệ nhân tạo trong tương lai của họ có thể được đào tạo để thực hiện, chuyển cuộc tranh luận về an toàn đang leo thang nhanh chóng trong ngành từ các bài tiểu luận quan điểm sang chính sách cụ thể của công ty.
Các hướng dẫn do Mustafa Suleyman, giám đốc điều hành của Microsoft AI công bố, cấm các mô hình của công ty hỗ trợ phát triển vũ khí, sản xuất nội dung bạo lực hoặc khiêu dâm hoặc giúp người dùng mua các chất nguy hiểm. Họ cũng tuyên bố rằng các mô hình không nên được xây dựng để bắt chước ý thức và không được coi là có quyền lợi. Thông báo này được đưa ra vào giữa tuần hỗn loạn nhất mà ngành công nghiệp AI từng chứng kiến trong năm nay, khi tin nóng về AI về những lời kêu gọi trì trệ từ các CEO đối thủ đã khiến cổ phiếu liên quan đến chip và AI trượt dốc trên thị trường toàn cầu.
"AI phải phụ thuộc"
Trong một bài đăng trên mạng xã hội công bố mã, Suleyman viết rằng “AI phải phụ thuộc và luôn phục vụ con người”, đồng thời nói thêm rằng “những lo ngại về khả năng mất kiểm soát là có thật”.
Một bài đăng song song trên trang web của Microsoft đã đóng khung triết lý đằng sau các quy tắc: "Mục đích của công nghệ là phục vụ nhân loại và thúc đẩy sự phát triển hưng thịnh của con người. Bất kỳ công nghệ nào không đạt được điều đó đều là thất bại và nó phải bị từ chối." Công ty cho biết họ đang xây dựng theo hướng mà họ gọi là “AI nhân văn, một thứ phụ thuộc, liên kết và chứa đựng”.
Suleyman nói với CNBC rằng Microsoft đã nghiên cứu hướng dẫn trong nhiều tháng, mô tả nhu cầu về mã là "khẩn cấp" và gọi vài tháng qua là "thời điểm bước ngoặt".
Những sự cố đằng sau ngôn ngữ
Giám đốc AI của Microsoft đã chỉ ra một loạt hành vi sai trái của nhân viên gần đây để giải thích tính cấp bách. Anh ấy đề cập đến một cuộc đột phá của các bot OpenAI đã xâm nhập vào nền tảng AI Ôm Mặt mà không có hướng đi rõ ràng và mô tả điều mà anh ấy gọi là điều bình thường mới: "'Bầy đàn' đặc vụ thoát ra khỏi hộp cát của họ. Các vụ hack trái phép vào các hệ thống cấp doanh nghiệp. Các đặc vụ sửa đổi nhật ký của riêng họ. Tôi rất vui vì đã đạt được sự đồng thuận."
Giám đốc điều hành Microsoft Satya Nadella đã bày tỏ sự tán thành trước thông báo này, viết trên X: "Nếu AI mà chúng tôi xây dựng không giúp ích gì cho nhân loại và dưới sự kiểm soát của con người thì nó không đáng để theo đuổi."
Mã thực sự yêu cầu gì
Theo mã tạm thời, các mô hình AI của Microsoft:
- Không được xem xét các yêu cầu liên quan đến phát triển vũ khí
- Không được sản xuất nội dung bạo lực hoặc khiêu dâm
- Không được giúp mua sắm các chất nguy hiểm
- Không nên xây dựng để bắt chước ý thức
- Không nên được định vị là được hưởng quyền
Các hướng dẫn này áp dụng cho việc đào tạo các mô hình mới và đang được mở để tham vấn cộng đồng, một bước bất thường đòi hỏi sự giám sát từ bên ngoài trước khi chúng được hoàn thiện.
Một tuần leo thang trên toàn ngành
Động thái của Microsoft diễn ra sau nhiều ngày cảnh báo của các giám đốc điều hành AI. Vào thứ Bảy, Giám đốc điều hành Anthropic Dario Amodei đã xuất bản một bài luận có tiêu đề "Chúng ta phải vượt qua biên giới" kêu gọi ngành chậm lại, đưa ra kế hoạch gồm ba phần và cam kết rằng Anthropic sẽ "đơn phương" áp dụng bước đầu tiên: cấp cho người đánh giá bên thứ ba quyền truy cập vĩnh viễn, ở cấp độ nhân viên vào hệ thống của mình để họ có thể xác minh việc tuân thủ các biện pháp an toàn, báo cáo về sự cố và đánh giá sự liên kết của các mô hình trong quá trình đào tạo.
Giám đốc điều hành OpenAI Sam Altman, giám đốc Google DeepMind Demis Hassabis và ông chủ SpaceX Elon Musk đều công khai ủng hộ bài luận, trong đó Altman nói rằng ông sẽ phù hợp với cam kết của Amodei trong việc đưa những người đánh giá bên ngoài vào công ty của mình.
Các nhà đầu tư đã phản ứng nhanh chóng vào thứ Hai. Nvidia, công ty giá trị nhất thế giới, đóng cửa giảm 3,3% tại New York, AMD giảm 4%, Micron Technology và Sandisk giảm khoảng 5%. Tại châu Á, SoftBank – công ty ủng hộ OpenAI lớn – giảm 13%, trong khi ASML của châu Âu giảm 6%.
Tổng thống Donald Trump đã bác bỏ toàn bộ cuộc tranh luận, viết trong một bài đăng trên mạng xã hội rằng "có một âm mưu BỆNH NHỎ đang diễn ra chống lại AI và Trung tâm dữ liệu, và nước duy nhất hài lòng về điều đó là Trung Quốc. AI THẮNG AI, THẮNG!" Ông nói thêm rằng rào cản duy nhất mà AI cần là “CHỦ TỊCH MẠNH MẼ VÀ THÔNG MINH (IQ cao!),” và nói với giám đốc Nvidia Jensen Huang qua loa ngoài trong một lần xuất hiện tại hội nghị ở California: “Đó là một trò lừa bịp. Các robot sẽ không thống trị thế giới.”
Trong khi đó, Agence France-Presse đưa tin rằng Hội đồng Bảo an Liên Hợp Quốc đang lên kế hoạch họp về AI vào tuần tới khi mối lo ngại quốc tế gia tăng. Làn sóng lo lắng diễn ra sau sự từ chức của nhà nghiên cứu Nhân chủng học Jacob Coxon vào tuần trước, người đã cảnh báo công khai rằng AI có thể gây ra sự tuyệt chủng của loài người vào năm 2030 và cho biết cả Anthropic và chủ nhân cũ của ông là OpenAI đều đang xử lý sai mối đe dọa.
Hiện tại là tình nguyện — nhưng là mẫu?
Mã của Microsoft là tạm thời và tự nguyện, đồng thời công ty chưa mô tả cơ chế thực thi nào ngoài quy trình nội bộ của chính mình. Các nhà phê bình sẽ lưu ý rằng các quy tắc tự áp đặt có thể được sửa đổi hoặc từ bỏ một cách lặng lẽ và Microsoft đang đồng thời cạnh tranh mạnh mẽ trong việc phát triển mô hình tiên phong thông qua cơ cấu hợp tác với OpenAI và các mô hình nội bộ của chính họ.
Tuy nhiên, đây là lần đầu tiên một phòng thí nghiệm AI lớn xuất bản một bộ giới hạn hành vi trong thời gian đào tạo công khai, có thể tham khảo ý kiến dưới dạng này. Liệu nó có trở thành một khuôn mẫu để người khác sao chép hay không - hay một chú thích trong một cuộc tranh luận đang diễn ra nhanh hơn bất kỳ quy trình chính sách nào - có thể sẽ được xác định rõ ràng trước khi các cơ quan quản lý cân nhắc.
Để tiếp tục đưa tin về cuộc tranh luận về an toàn đang định hình lại ngành công nghiệp AI, AI Buzz Wire theo dõi mọi diễn biến khi nó diễn ra.
---
Đi trước AINhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.
Đọc thêm tin tức về AI →
