Đồng sáng lập và Giám đốc điều hành Mistral AI Arthur Mensch đã có phản ứng thẳng thắn trước cảnh báo an toàn đang lan rộng trong ngành trí tuệ nhân tạo: AI là phần mềm và phần mềm có thể được kiểm soát.
Trong bài phỏng vấn được tờ Le Monde của Pháp đăng tải ngày 24/9, người đứng đầu startup AI nổi bật nhất châu Âu cho rằng các gã khổng lồ công nghệ Mỹ đang phóng đại rủi ro của AI nhằm biện minh cho các hệ thống khép kín, độc quyền và khóa chặt thị trường. Ông nói, công ty của ông đang đặt cược ngược lại: các mô hình có trọng lượng mở, cơ sở hạ tầng châu Âu và quan điểm rằng các mối nguy hiểm của công nghệ có thể quản lý được thông qua kỹ thuật thông thường thay vì nỗi sợ hãi đặc biệt. For more context on this story, see our ongoing artificial intelligence updates.
'Nó có thể được kiểm soát'
Cuộc phỏng vấn của Le Monde, được xuất bản với tiêu đề "AI là phần mềm, nó có thể được kiểm soát", diễn ra vào thời điểm các sự cố bảo mật liên quan đến tác nhân đã thống trị chu kỳ tin tức về AI trong nhiều tháng. Mensch đã trực tiếp đề cập đến vấn đề khí hậu đó, cho rằng các sự cố như vi phạm máy chủ Hugging Face vào tháng 7 đã được các công ty lớn của Hoa Kỳ sử dụng làm vũ khí trong cuộc tranh luận công khai để lập luận rằng chỉ những mô hình khép kín, bị hạn chế chặt chẽ mới có thể được vận hành an toàn.
Theo lời kể của Mensch, khuôn khổ đó kết hợp những thất bại về an ninh vận hành với lập luận về chính công nghệ. Quan điểm của ông, như được tóm tắt trong phần đưa tin của cuộc phỏng vấn, là hệ thống AI là sản phẩm phần mềm có thể được kiểm tra, hạn chế và kiểm soát giống như bất kỳ phần mềm nào khác và tính mở đó tương thích với sự an toàn hơn là chống lại nó.
Lập luận này khiến Mistral mâu thuẫn với quan điểm công khai của một số đối thủ Mỹ, vốn đã phản ứng trước một loạt hành vi sai trái của đặc vụ trong năm nay bằng các biện pháp bảo vệ được thắt chặt, hạn chế truy cập và khuôn khổ tiết lộ mới.
Trọng lượng mở như một cuộc đặt cược chiến lược
Nhận xét của Mensch dựa trên chiến lược mà Mistral đã theo đuổi kể từ khi thành lập vào năm 2023: phát hành các mô hình với trọng lượng có sẵn công khai mà khách hàng có thể tải xuống, tinh chỉnh, triển khai trên cơ sở hạ tầng của riêng họ và kiểm tra.
Trong cuộc phỏng vấn, cách tiếp cận đó được coi là câu trả lời trực tiếp cho câu hỏi ai kiểm soát hệ thống AI. Trọng số mở cho phép kiểm tra độc lập chức năng của mô hình, triển khai riêng tư giúp loại bỏ dữ liệu nhạy cảm khỏi máy chủ của bên thứ ba và khả năng sửa đổi mô hình giúp khách hàng thoát khỏi sự khóa chặt của nhà cung cấp. Các nhà phê bình lưu ý rằng sự đánh đổi là các trọng số có sẵn công khai cũng có thể được sử dụng bởi bất kỳ ai, kể cả những kẻ có mục đích xấu và Mistral phải cạnh tranh cả về năng lực và hệ sinh thái với các phòng thí nghiệm mô hình mở khác.
Cuộc điện toán của Châu Âu và Rương chiến tranh trị giá 3 tỷ euro
Cuộc phỏng vấn cũng đề cập đến câu hỏi về cơ sở hạ tầng làm nền tảng cho tham vọng AI của Châu Âu. Mensch đã ủng hộ sự đảm bảo của nhà nước để đơn giản hóa việc tài trợ cho các trung tâm dữ liệu châu Âu, một cơ chế chính sách nhằm giảm sự phụ thuộc của lục địa này vào các nhà cung cấp đám mây của Hoa Kỳ về tính toán AI.
Quan điểm của Mistral trong việc đưa ra lập luận đó đã được củng cố nhờ nguồn tài trợ gần đây của họ. Công ty đã huy động được 3 tỷ euro trong vòng Series D do Samsung Electronics dẫn đầu cùng với Quỹ Scalup Europe do EU hậu thuẫn, mức định giá đã đưa công ty lên trên 21 tỷ euro. Riêng biệt, Mistral đã ký một thỏa thuận trị giá hàng tỷ đô la với Microsoft để mở rộng cơ sở hạ tầng Azure ở châu Âu, mặc dù thỏa thuận đó sẽ ràng buộc nhà vô địch châu Âu với một công ty siêu quy mô của Mỹ trong thời gian tới, một sự căng thẳng mà các nhà quan sát bối cảnh công nghệ châu Âu đã không bỏ qua.
Mensch trước đây đã cảnh báo rằng châu Âu có một khoảng thời gian hạn chế, theo ước tính của ông là khoảng hai năm, để tránh sự phụ thuộc vĩnh viễn vào AI vào Hoa Kỳ, và việc thúc đẩy tài trợ và cơ sở hạ tầng được coi là phản ứng trực tiếp trước thời hạn đó.
Hùng biện về an toàn đáp ứng khả năng tiếp cận thị trường
Bản chất lập luận của Mensch vừa mang tính thương mại vừa mang tính triết học. Nếu AI biên giới được coi là một rủi ro hiện hữu đòi hỏi quyền truy cập được kiểm soát chặt chẽ, thì thị trường sẽ hợp nhất xung quanh một số công ty có đủ nguồn lực để cung cấp các API bị hạn chế theo chế độ tuân thủ chặt chẽ. Nếu AI được coi là phần mềm có thể kiểm soát được thì các nhà cung cấp trọng lượng mở có thể cạnh tranh về giá cả, quyền riêng tư và khả năng tùy chỉnh.
Đó là lý do tại sao cuộc tranh luận về mức độ nguy hiểm của AI đã trở thành cuộc tranh luận về cấu trúc thị trường. Lập luận của Mensch với Le Monde là nỗi sợ hãi đang được triển khai một cách chiến lược và các sự cố mùa hè nói lên nhiều điều về an ninh hoạt động của từng công ty hơn là về khả năng kiểm soát của toàn bộ công nghệ.
Những người hoài nghi phản bác rằng quả cân mở khiến cho việc ngăn chặn việc lạm dụng trở nên khó khăn hơn và các sự cố gần đây của tác nhân trong ngành, bao gồm các truy cập trái phép và tràn dữ liệu, chứng tỏ rằng ngay cả các phòng thí nghiệm có nguồn lực tốt cũng gặp khó khăn trong việc kiểm soát hệ thống của họ. Sự bất đồng khó có thể được giải quyết bằng bất kỳ cuộc phỏng vấn nào.
Xem gì tiếp theo
Mistral cho biết họ có kế hoạch xuất xưởng một mẫu xe có trọng lượng mở mới và cuộc phỏng vấn của Mensch làm tăng thêm kỳ vọng rằng công ty có ý định bắt kịp các phòng thí nghiệm hàng đầu trong khi vẫn mở cửa. Giống như bất kỳ tuyên bố nào trước khi phát hành, thử nghiệm có ý nghĩa sẽ đến khi mô hình xuất xưởng và các điểm chuẩn độc lập có thể xác minh vị trí thực sự của nó.
Hiện tại, cuộc phỏng vấn của Le Monde đã làm rõ thêm ranh giới phân chia trong ngành. Một phe coi hành vi sai trái gần đây của đặc vụ là bằng chứng cho thấy AI cần được kiểm soát chặt chẽ hơn và hạn chế quyền truy cập. Nhóm còn lại, được đại diện bởi phòng thí nghiệm AI hàng đầu Châu Âu, nhận thấy phần mềm có thể kiểm soát được, rủi ro là có thật nhưng có thể quản lý được và lợi ích của chúng không nên bị khóa sau một số cánh cửa đóng kín.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
