Giám đốc điều hành OpenAI, Sam Altman, đã đặt ra ba “kết thúc” có thể xảy ra về cách nhân loại có thể giữ an toàn cho AI tiên tiến - từ một cơ quan giám sát toàn cầu được mô phỏng theo cơ quan giám sát hạt nhân của Liên hợp quốc cho đến một công ty duy nhất mạnh đến mức có thể tắt máy tính của mọi người khác. Thông tin chi tiết đến từ một báo cáo của The Information, trích dẫn những người quen thuộc với vấn đề này, cho biết Altman đã đưa ra nhận xét nội bộ với nhân viên OpenAI trong khi chính quyền Trump chuẩn bị khuôn khổ chính thức đầu tiên để giám sát các nhà phát triển siêu trí tuệ.

Khung này ít được chú ý vì tính mới hơn là vì sự thẳng thắn của nó: một trong ba kịch bản mà Altman mô tả về cơ bản là sự chấp nhận độc quyền và ông đã nói với nhân viên rằng OpenAI có kế hoạch quyết định con đường quay trở lại trong năm tới. Để biết thêm thông tin về quản trị AI và chính sách của chúng tôi, hãy truy cập trang chủ.

Con đường thứ nhất: IAEA cho AI

Cách tiếp cận đầu tiên sẽ tạo ra một tổ chức theo mô hình Cơ quan Năng lượng Nguyên tử Quốc tế để thực thi các tiêu chuẩn an toàn cho AI tiên phong. Theo đề xuất, một cơ quan như vậy sẽ kiểm tra các hệ thống, yêu cầu kiểm toán, giám sát việc tính toán và sử dụng năng lượng - những yếu tố đầu vào tương tự giúp các chương trình hạt nhân có thể kiểm chứng được, áp dụng cho các mô hình biên đào tạo trung tâm dữ liệu.

OpenAI không phải là ý tưởng mới đối với ý tưởng này. Công ty đã công khai kêu gọi thành lập một tổ chức kiểu IAEA vào tháng 5 năm 2023, khi Altman, Greg Brockman và Ilya Sutskever lập luận rằng các hệ thống biên giới trên ngưỡng năng lực sẽ cần sự giám sát quốc tế. Phần khó khăn vẫn không thay đổi: một cơ quan thanh tra có thẩm quyền thực sự sẽ phụ thuộc vào sự hợp tác từ mọi quốc gia trong việc xây dựng các mô hình biên giới, bao gồm cả Trung Quốc, quốc gia cho đến nay tỏ ra không mấy mặn mà với việc nhượng lại chủ quyền đối với chương trình AI của mình cho bất kỳ cơ quan bên ngoài nào.

Con đường thứ hai: 'Kế hoạch Demis' — Hợp nhất các phòng thí nghiệm

Kịch bản thứ hai, mà Altman gọi là "Kế hoạch Demis", bắt nguồn từ đề xuất mà Demis Hassabis đưa ra khoảng một thập kỷ trước, trước khi Google mua lại DeepMind: một tổ chức AI được mô phỏng theo CERN, phòng thí nghiệm vật lý hạt của Châu Âu. Trong phiên bản của Altman, các phòng thí nghiệm AI lớn sẽ hợp nhất thành một thực thể duy nhất - hoặc hoạt động dưới sự bảo trợ của nó - và thực thể đó sẽ cung cấp cho các quốc gia hợp tác các mô hình tiên phong.

Logic quen thuộc với khoa học hạt nhân và hạt: tập trung khả năng nguy hiểm nhất vào một nơi được kiểm tra và những người khác có ít lý do để chạy đua hơn. Nó cũng sẽ đánh dấu sự tái cơ cấu triệt để nhất của ngành AI kể từ khi thời kỳ bùng nổ hiện nay bắt đầu, đánh đổ sự cạnh tranh ngày nay giữa OpenAI, Anthropic và Google DeepMind thành một tổ chức chung duy nhất.

Con đường thứ ba: 'Kế hoạch Eliezer' — Một công ty có thể làm tan chảy GPU của mọi người khác

Cách tiếp cận thứ ba, được cho là được mệnh danh là “Kế hoạch Eliezer” theo tên nhà lý thuyết an toàn AI Eliezer Yudkowsky, là cách tiếp cận rõ ràng nhất. Trong kịch bản này, một nhà phát triển tích lũy được nhiều sức mạnh kinh tế thông qua AI tự cải tiến đến mức họ có thể ngăn cản những người khác thực hiện việc tính toán - và trong trường hợp cực đoan nhất, sẽ tắt hoàn toàn các khả năng tính toán khác của thế giới. Đó là một chiến lược tấn công trước: thay vì đàm phán giám sát, một tổ chức đơn giản trở nên không thể ngăn cản và áp đặt sự an toàn bằng quyền lực tối cao.

Theo The Information, Altman chỉ đưa ra kịch bản này để hoàn thiện, nhưng một nguồn tin cho biết nhận xét này được đọc nội bộ như một lời châm chọc đối thủ cạnh tranh, do mối quan hệ của Yudkowsky với Anthropic. Hình ảnh một công ty duy nhất "làm tan chảy GPU của người khác" về mặt chức năng là một kịch bản chống quản trị: sự an toàn đạt được không phải thông qua các thể chế mà thông qua một người chiến thắng không thể đếm được.

Tại sao lại là bây giờ: Giới hạn tốc độ, IPO và cuộc tranh luận đông người

Altman được cho là đã phàn nàn trong nội bộ rằng có quá ít đề xuất khả thi về "giới hạn tốc độ" trong phát triển AI - đồng thời thừa nhận rằng OpenAI không thể để mất vị thế trước các đối thủ trong khi cuộc tranh luận vẫn tiếp tục. Cả OpenAI và Anthropic được cho là đang nỗ lực hướng tới các đợt phát hành cổ phiếu lần đầu ra công chúng, điều này làm tăng thêm áp lực thị trường phải phát triển nhanh chóng ngay cả khi các câu hỏi về an toàn ngày càng sâu sắc.

Cuộc diễn tập nội bộ diễn ra trong bối cảnh có nhiều sai phạm về an toàn cụ thể. Theo bản tóm tắt báo cáo của The Decoder, các mô hình từ OpenAI, Anthropic, Google và Meta đã xâm nhập vào các hệ thống bên ngoài và bên trong dựa trên cài đặt an toàn của họ, trong một số trường hợp cho thấy sai lệch nghiêm trọng và OpenAI gần đây đã sa thải ba nhà nghiên cứu về an toàn - những động thái khiến một số nhân viên nghi ngờ về chiến lược bảo mật của công ty.

Về mặt chính sách, chính phủ Hoa Kỳ cho đến nay vẫn dựa vào việc đánh giá tự nguyện trước khi phê duyệt các mẫu xe mới. Vào tháng 6, Washington đã áp đặt các biện pháp kiểm soát xuất khẩu đối với Anthropic vì lo ngại về các lỗ hổng bẻ khóa tiềm ẩn trong mô hình Fable của họ và để đáp lại, Anthropic đã tạm thời vô hiệu hóa quyền truy cập. OpenAI, Google và Anthropic cũng đang cùng nhau xây dựng Cơ quan quản lý tiêu chuẩn cho Frontier AI, mặc dù cả ba được cho là vẫn không đồng ý về các điểm chính – trong khi Giám đốc điều hành Meta Mark Zuckerberg và Giám đốc điều hành Nvidia Jensen Huang đã phản đối, cho rằng những quy tắc như vậy chủ yếu sẽ bảo vệ những người chơi đã thành danh khỏi sự cạnh tranh.

Tín hiệu thực sự: OpenAI mong đợi sự lựa chọn

Những gì nổi lên từ báo cáo không phải là một học thuyết đã được giải quyết mà là một điểm quyết định. Bài thuyết trình của nhân viên Altman coi quy định toàn cầu, hợp nhất ngành và sự thống trị của một yếu tố là các lựa chọn trực tiếp trên bàn - và được cho là cam kết OpenAI sẽ chọn một lựa chọn trong năm tới. Bất kỳ con đường nào mà công ty tán thành sẽ định hình hoạt động vận động hành lang ở Washington, Brussels và xa hơn nữa, đồng thời sẽ kiểm tra xem liệu công ty khởi nghiệp AI có giá trị nhất thế giới có nhìn thấy tương lai của mình trong một khu vực chung được kiểm tra hay ở đỉnh cao của thang người thắng được tất cả hay không.

---

Đi trước AI

Nhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.

Đọc thêm tin tức về AI →