Vài giờ sau khi Giám đốc điều hành Anthropic Dario Amodei xuất bản bài tiểu luận "We Must Pace the Frontier" kêu gọi các chính phủ làm chậm cuộc đua AI, một phản ứng gay gắt đã bắt đầu leo thang trên Hacker News, cuối cùng trở thành một trong những câu chuyện được bình chọn nhiều nhất trong ngày. Lập luận của nó, được nhà văn và nhà phát triển Jacob Gold trình bày trong một bức thư ngỏ, rất đơn giản: nếu Amodei chân thành về việc làm chậm AI, thì có một luật mà anh ấy có thể yêu cầu sẽ thực sự làm được điều đó - và không một giám đốc phòng thí nghiệm nào khác có thể đề xuất nó. Yêu cầu mọi mô hình AI mà một công ty cung cấp cho công chúng phải được phát hành dưới dạng trọng số mở.
“Tôi tin rằng bạn thành thật,” lá thư mở đầu, nói thẳng với Amodei, “vì vậy tôi yêu cầu bạn kêu gọi một luật khác, một luật thực sự sẽ làm mọi thứ chậm lại, mặc dù nó đòi hỏi sự hy sinh thực sự từ phía bạn.” Bức thư đã gây chấn động chính xác vì nó đề cập đến phiên bản mạnh mẽ nhất trong lập luận của Amodei thay vì bác bỏ nó — và bởi vì nó rơi vào giữa cuộc tranh luận chính sách có hậu quả lớn nhất về AI ngày nay, một cuộc tranh luận mà chúng tôi theo dõi hàng ngày trong phạm vi đưa tin về chính sách AI.
Những gì Amodei đề xuất và tại sao Gold nói rằng nó sẽ không hoạt động
Bài luận của Amodei cam kết Anthropic sẽ được các nhà đánh giá bên thứ ba nhúng và yêu cầu các chính phủ yêu cầu mọi công ty tiên phong khác thực hiện cam kết đó. Theo Politico, Sam Altman đã đồng ý trong vòng vài giờ - “Tôi đồng ý với Dario rằng chúng ta cần phải vượt qua giới hạn,” ông nói, theo Politico, và OpenAI cũng phù hợp với cam kết của người đánh giá. Nhìn bề ngoài, đó là một sự liên kết chưa từng có: người đứng đầu hai phòng thí nghiệm AI có giá trị nhất thế giới đã công khai yêu cầu giảm tốc độ.
Bức thư của Gold lập luận rằng chính sự đồng thuận này đã khiến các nhà quan sát nghi ngờ. Nó cảnh báo: “Mọi quy định bạn yêu cầu đều kết thúc trong việc nắm bắt”. Các công cụ đánh giá nhúng, ngưỡng tính toán, sự phối hợp của ngành với các miễn trừ chống độc quyền - "Tất cả đều được viết với sự trợ giúp của các phòng thí nghiệm biên giới hiện tại, bởi vì không ai khác hiểu đủ rõ các chi tiết kỹ thuật để viết nó." Một khi các quy tắc như vậy trở thành luật, mọi sự cố sẽ bổ sung thêm một quy tắc và không có quy tắc nào bị loại bỏ, và những gã khổng lồ có thể đủ khả năng cho các đội tuân thủ để ngăn chặn những kẻ thách thức nhỏ hơn. Bức thư nói với Amodei: “Thay vì làm bạn chậm lại, nó sẽ bảo vệ vị thế và lợi nhuận của bạn”.
Đề xuất phản đối trọng lượng mở
Các bản phác thảo vàng thay thế được cố tình cùn. Bất kỳ mô hình AI nào mà một công ty cung cấp cho công chúng sẽ phải xuất xưởng với trọng lượng được công bố. Các mô hình nghiên cứu và nội bộ sẽ không bị ảnh hưởng và các chính phủ sẽ giữ quyền truy cập vào các hệ thống chưa được phát hành - nhưng Anthropic sẽ phải công bố trọng số của mô hình biên giới tiếp theo của mình vào ngày nó được phát hành và OpenAI cũng sẽ phải làm như vậy. Bức thư kết luận: “Không có gì trong đó để chơi hay né tránh, ngay cả đối với bạn.”
Cơ chế này thiên về tài chính hơn là quan liêu. Như Gold giải thích, nguồn tài trợ cho việc phát triển mô hình biên giới phụ thuộc vào việc định giá giả định trọng số vẫn là độc quyền. Một nhiệm vụ lật ngược giả định đó: nếu mọi bản phát hành công khai đều mở, lợi thế cạnh tranh sẽ thuộc về người đào tạo mô hình tốt nhất thay vì người bán quyền truy cập vào nó, phí bảo hiểm được tính trong định giá riêng tư sẽ giảm xuống và số tiền có sẵn cho lần đào tạo tiếp theo sẽ giảm xuống - "tại mọi phòng thí nghiệm cùng một lúc, không có cơ quan quản lý quyết định bất cứ điều gì." Trên thực tế, đó là lập luận cho rằng kỳ vọng của thị trường đối với các mẫu xe đóng là động cơ của cuộc đua và việc loại bỏ kỳ vọng sẽ loại bỏ động cơ.
Tại sao lại là Amodei, cụ thể là
Trường hợp bức thư giải thích tại sao Amodei là người có thể đưa ra đề xuất này được xây dựng dựa trên hồ sơ của anh ấy và nó đặc biệt đáng tôn trọng. Gold ghi nhận việc anh ấy rời OpenAI vào cuối năm 2020 để thành lập Anthropic “khi bước đi an toàn trong sự nghiệp là ở lại”, với việc ủng hộ các quy định đối với ngành của chính anh ấy trong nhiều năm và với việc thúc đẩy các biện pháp kiểm soát xuất khẩu khiến thị trường của chính anh ấy bị thu hẹp. Ông lưu ý rằng Anthropic tự cấu trúc như một Tập đoàn Phúc lợi Công cộng với sứ mệnh pháp lý - "phát triển và duy trì AI tiên tiến một cách có trách nhiệm vì lợi ích lâu dài của nhân loại" - điều đó sẽ cho phép ban lãnh đạo của nó gánh chịu những thiệt hại tài chính mà luật như vậy sẽ mang lại. Bài luận riêng của Amodei, Gold nhận xét, cho biết Anthropic ủng hộ quy định "ngay cả khi điều này khiến chúng tôi bị buộc tội là cường điệu hóa, 'chủ nghĩa tận thế' hoặc nắm bắt quy định."
Những người hoài nghi sẽ lưu ý đến những lập luận phản biện rõ ràng và bức thư không trả lời đầy đủ cho chúng: trọng số mở làm cho việc lạm dụng dễ dàng hơn cũng như tiến bộ khó khăn hơn, nhiệm vụ trọng lượng mở sẽ vấp phải sự phản đối gay gắt từ các nhà đầu tư của mọi phòng thí nghiệm và những người chỉ trích quan điểm trước đó của Amodei đối với các mô hình mở của Trung Quốc sẽ nghe thấy tiếng vang của những cuộc đấu tranh cũ trong đề xuất. Nhưng thách thức cốt lõi của bức thư không phụ thuộc vào việc chính sách của nó được thông qua hay không. Nó phụ thuộc vào một sự căng thẳng mà nó nêu tên một cách rõ ràng: một phòng thí nghiệm yêu cầu các chính phủ làm chậm lại những người khác, trong khi việc định giá của chính nó phụ thuộc vào việc luôn dẫn đầu, vẫn chưa yêu cầu bất cứ điều gì khiến nó phải trả giá.
Một cuộc tranh luận giờ đây không thể tránh khỏi
Liệu Amodei có phản hồi hay không gần như không còn quan trọng nữa. Chỉ trong vòng một ngày, các phòng thí nghiệm ở biên giới đã chuyển từ cạnh tranh về năng lực sang đồng ý về nhu cầu về tốc độ và phản ứng của công chúng đã chuyển từ việc hỏi liệu AI có nguy hiểm sang hỏi liệu những người cảnh báo về nó có đáng tin hay không. Bức thư của Gold - vài trăm từ chi tiết về chính sách xoay quanh một câu hỏi khó chịu - đã trở thành biểu hiện sắc nét nhất của sự hoài nghi đó, và tính lan truyền của nó cho thấy cuộc tranh luận về nhịp độ sẽ diễn ra không chỉ ở Washington mà còn ở nơi công cộng, trên các nền tảng như Hacker News, nơi cộng đồng trọng lượng mở đã đưa ra các biến thể của lập luận này trong nhiều năm.
Đi trước AI
Quy định, trọng lượng mở và cuộc chiến về tốc độ của AI — được đề cập mà không cường điệu hóa.
Đọc thêm tin tức về AI →
