Giám đốc điều hành của Anthrop Dario Amodei đã cảnh báo các nhà lập pháp rằng xu hướng phát triển trí tuệ nhân tạo nguồn mở có thể khiến xã hội rơi vào con đường nguy hiểm nếu các mô hình mạnh mẽ được phát hành mà không có biện pháp bảo vệ cẩn thận, khơi dậy một trong những cuộc tranh luận gây tranh cãi nhất trong chính sách AI.

Amodei, người sáng lập và lãnh đạo công ty đằng sau dòng mô hình Claude, lập luận rằng bản chất độc đáo của AI nguồn mở, giúp các hệ thống tiên tiến có sẵn miễn phí cho bất kỳ ai tải xuống, sửa đổi và triển khai, tạo ra những rủi ro mà phần mềm nguồn mở thông thường không bao giờ đặt ra. Nhận xét của ông, được Tekedia đưa tin, tập trung vào khó khăn trong việc kiểm soát AI có khả năng một khi nó được phân phối công khai. Để biết thêm bối cảnh về câu chuyện này, hãy xem thêm câu chuyện về AI đang diễn ra của chúng tôi.

Không giống như phần mềm truyền thống, hệ thống AI tiên tiến có thể tạo ra văn bản thuyết phục, tạo ra hình ảnh chân thực, viết mã máy tính và hỗ trợ các nhiệm vụ an ninh mạng. Amodei cho rằng nếu rơi vào tay kẻ xấu, những khả năng đó có thể bị khai thác để tự động hóa các cuộc tấn công mạng, thực hiện các chiến dịch thông tin sai lệch tinh vi hoặc thúc đẩy nghiên cứu sinh học có hại.

Vấn đề về sự trường tồn

Một trong những rủi ro trọng tâm mà Amodei nhấn mạnh là một khi một mô hình mạnh mẽ được phát hành công khai thì thực tế là nó sẽ không thể được thu hồi. Các hệ thống khép kín do các công ty vận hành có thể được giám sát, vá lỗi và hạn chế khi các lỗ hổng mới xuất hiện. Ngược lại, một mô hình nguồn mở có thể được sao chép vô thời hạn và phân phối lại trên internet, khiến các nhà phát triển không có cơ chế hạn chế việc sử dụng nó sau khi phát hành.

Amodei cảnh báo rằng tính lâu dài đó đặc biệt đáng lo ngại khi các mô hình tiếp cận hiệu suất ở cấp độ con người trong các nhiệm vụ ngày càng phức tạp. Ông lập luận rằng AI tiên tiến phải được thử nghiệm an toàn mạnh mẽ, triển khai có kiểm soát và giám sát theo quy định phù hợp trước khi nó có thể được truy cập rộng rãi, thay vì được coi như phần mềm thông thường có thể được cải thiện một cách cộng tác một cách mở.

Vị trí của ông phản ánh một đường đứt gãy ngày càng tăng trong ngành. Những người ủng hộ AI nguồn mở cho rằng khả năng tiếp cận của công chúng sẽ thúc đẩy cạnh tranh, dân chủ hóa tiến bộ công nghệ và ngăn cản một số tập đoàn độc quyền trí tuệ nhân tạo. Các nhà phát triển trên toàn thế giới có thể kiểm tra kiến ​​trúc mô hình, các lỗi bảo mật bề mặt và cộng tác cải thiện hệ thống, trong khi các công ty khởi nghiệp, nhà nghiên cứu và tổ chức giáo dục có thể xây dựng mà không phụ thuộc vào nền tảng độc quyền đắt tiền.

Rủi ro cụ thể trên bảng

Mối quan tâm của Amodei không hề trừu tượng. Các mô hình được phát hành công khai đã bị các nhà nghiên cứu tước bỏ các rào cản an toàn bằng cách sử dụng các kỹ thuật tinh chỉnh đơn giản, một thực tiễn chứng minh các biện pháp bảo vệ có thể được loại bỏ nhanh chóng như thế nào khi các trọng số cơ bản được công khai. Khi các mô hình ngày càng có nhiều khả năng hơn trong các nhiệm vụ như hóa học, sinh học và khai thác phần mềm, điều đáng lo ngại là các bản phát hành mở có thể trao những khả năng mạnh mẽ cho những tác nhân sẽ không bao giờ vượt qua được cuộc sàng lọc mà các phòng thí nghiệm có trách nhiệm áp đặt lên khách hàng của họ.

Khía cạnh thông tin sai lệch cũng đã thu hút sự xem xét kỹ lưỡng. Các mô hình có thể tạo ra văn bản, hình ảnh và âm thanh thực tế trên quy mô lớn có thể được sử dụng để can thiệp bầu cử, gian lận tài chính hoặc sản xuất hàng loạt nội dung tuyên truyền. Amodei lưu ý rằng vì mô hình mở hoạt động hoàn toàn trên phần cứng của chính kẻ tấn công nên không có API để điều tiết, không có tài khoản nào để tạm dừng và không có nhà cung cấp nào phải chịu trách nhiệm sau khi thiệt hại xảy ra.

Bối cảnh cạnh tranh

Cảnh báo của Amodei được đưa ra trong bối cảnh các mô hình mở có khả năng tăng vọt từ các nhà phát triển Trung Quốc. GLM-5.2 của Zhipu, cùng với các hệ thống giá rẻ khác của Trung Quốc, đã thu hút sự chú ý mới về việc các mô hình mở và có sẵn công khai đang nhanh chóng thu hẹp khoảng cách với các hệ thống độc quyền hàng đầu của Anthropic và OpenAI như thế nào. Áp lực cạnh tranh đó đã làm gia tăng cuộc tranh luận về chính sách về việc liệu các hạn chế đối với việc phát hành mở sẽ mang lại lợi ích cho các công ty thống trị hay khiến xã hội dễ bị lạm dụng.

Những người chỉ trích lập trường của Amodei cho rằng việc hạn chế AI nguồn mở có thể vô tình gây khó khăn cho các công ty công nghệ lớn bằng cách hạn chế sự đổi mới độc lập. Họ cũng lưu ý rằng tính minh bạch thường xuyên cho phép các nhà nghiên cứu xác định các lỗ hổng nhanh hơn so với phát triển khép kín. Tuy nhiên, ngay cả nhiều người ủng hộ phát triển mở cũng thừa nhận rằng các hệ thống ngày càng mạnh mẽ có thể yêu cầu các khuôn khổ quản trị mạnh hơn so với các thế hệ phần mềm trước đây.

Dây thắt chặt quy định

Cuộc thảo luận đã trở nên cấp bách khi các chính phủ trên thế giới cân nhắc các quy định mới về AI. Các nhà hoạch định chính sách phải đối mặt với một sự cân bằng khó khăn: những hạn chế quá mức có thể làm chậm tăng trưởng kinh tế và khám phá khoa học, trong khi việc giám sát không đầy đủ có thể khiến xã hội gặp những rủi ro khó lường trước. Để đạt được sự cân bằng đó, Amodei đề xuất, đòi hỏi sự hợp tác giữa các chính phủ, công ty công nghệ, nhà nghiên cứu hàn lâm và xã hội dân sự.

Lời khai của ông nhấn mạnh một trong những cuộc tranh luận về chính sách công nghệ mang tính quyết định của thập kỷ. Khi trí tuệ nhân tạo ngày càng có nhiều năng lực hơn, xã hội phải quyết định cách khuyến khích đổi mới trong khi giảm thiểu những nguy hiểm liên quan đến việc tiếp cận rộng rãi các hệ thống biến đổi. Cho dù thông qua quy định, tiêu chuẩn ngành hay hợp tác quốc tế, những lựa chọn được đưa ra trong những tháng tới đối với AI nguồn mở có thể định hình ai sẽ kiểm soát công nghệ và mức độ triển khai an toàn của nó trong nhiều năm tới.

Đối với Anthropic, lập trường này nhất quán với sự nhấn mạnh lâu dài của công ty về sự an toàn của AI và các bản phát hành có kiểm soát. Nhưng với các mô hình mở đang tiến triển nhanh chóng và các cơ quan quản lý vẫn đang cố gắng bắt kịp, khoảng cách giữa những cảnh báo của Amodei và tốc độ của phong trào nguồn mở có thể được thu hẹp nhanh hơn mức mà các nhà hoạch định chính sách có thể thu hẹp lại.

---

Đi trước AI

Nhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.

Đọc thêm tin tức về AI →