Nvidia đang âm thầm thành lập một nhóm kỹ thuật bảo mật và an toàn AI mới, theo một loạt danh sách việc làm được đăng vào cuối tháng trước, báo hiệu rằng gã khổng lồ chip đang đặt an toàn lên ưu tiên hàng đầu ngay cả khi họ đặt cược mạnh mẽ vào một tương lai được định hình bởi các mô hình trọng lượng mở và các đại lý tự trị.

Việc thúc đẩy tuyển dụng, được báo cáo bởi Business Insider, cho thấy Nvidia đang tìm kiếm một "kỹ sư xuất sắc" để làm lãnh đạo kỹ thuật sáng lập cho nhóm mới được tập hợp, cùng với một kỹ sư nghiên cứu bảo mật và các chuyên gia khác. Động thái này diễn ra khi công ty tăng cường cam kết đối với AI trọng lượng mở và khi ngành công nghiệp rộng lớn hơn phải đối mặt với làn sóng sự cố bảo mật liên quan đến hệ thống AI. Đối với những độc giả đang theo dõi chu kỳ tin tức AI nóng hổi, sự phát triển này là một tín hiệu đáng chú ý: công ty bán cuốc và xẻng trong cơn sốt vàng AI hiện muốn chung tay lớn hơn trong việc đảm bảo những công cụ đó được sử dụng an toàn.

Danh sách việc làm tiết lộ điều gì

Theo Business Insider, nhóm mới được mô tả trong một danh sách là bắt nguồn từ các nguyên tắc phát triển AI an toàn. Nvidia đang tuyển dụng một kỹ sư xuất sắc để đóng vai trò là "nhà lãnh đạo kỹ thuật sáng lập" cho nhóm, một cụm từ gợi ý rằng nhóm đang được xây dựng từ đầu thay vì mở rộng từ một đơn vị hiện có. Công ty cũng đang tuyển dụng một kỹ sư nghiên cứu bảo mật tập trung vào AI.

Việc tuyển dụng cho thấy Nvidia đang đặt sự an toàn của AI trở thành một ưu tiên chính thức, có chủ ý hơn khi nó dựa vào chiến lược tập trung vào các mô hình trọng lượng mở và tác nhân AI. Các mô hình trọng lượng mở công khai các "trọng lượng" đã được đào tạo của chúng - các tham số xác định cách hoạt động của mô hình - ngay cả khi dữ liệu đào tạo và mã nguồn của chúng vẫn ở chế độ riêng tư. Sự cởi mở đó thúc đẩy sự đổi mới và cho phép các nhà phát triển chạy các mô hình trên phần cứng Nvidia, nhưng nó cũng đặt ra các câu hỏi bảo mật mà các hệ thống kiểm soát API, đóng có thể né tránh.

Tại sao người mẫu Open-Weight lại tăng tiền đặt cược

Các mô hình trọng lượng mở chiếm một vị trí phức tạp trong cuộc tranh luận về an toàn AI. Bằng cách công bố trọng lượng một cách công khai, các phòng thí nghiệm cho phép cộng đồng các nhà nghiên cứu và nhà phát triển toàn cầu kiểm tra, tinh chỉnh và triển khai các mô hình mạnh mẽ — thường là trên GPU của chính Nvidia. Sự cởi mở đó thực sự mang lại lợi ích cho tiến bộ khoa học và hoạt động kinh doanh của Nvidia. Nhưng điều đó cũng có nghĩa là một khi không còn trọng lượng, phòng thí nghiệm sẽ mất quyền kiểm soát cách sử dụng, sửa đổi hoặc lạm dụng mô hình.

Kẻ độc hại tải xuống một mô hình có trọng lượng mở có thể cố gắng loại bỏ các rào cản an toàn, sử dụng lại mô hình đó cho các cuộc tấn công mạng hoặc kết hợp nó với các công cụ khác theo những cách mà người tạo ra nó không bao giờ có ý định. Không giống như mô hình được cung cấp sau API - nơi người vận hành có thể giám sát việc sử dụng, yêu cầu giới hạn tốc độ và thu hồi quyền truy cập - mô hình trọng lượng mở chạy ở bất cứ nơi nào ai đó có phần cứng để chạy nó. Đó chính xác là lý do tại sao một công ty được đầu tư nhiều vào AI mở cũng muốn có một nhóm bảo mật và an toàn chuyên trách: hai chiến lược này là hai mặt của một đồng tiền.

Do đó, lợi ích thương mại của Nvidia và tư thế an toàn của nó có mối liên hệ chặt chẽ với nhau. Công ty càng khuyến khích áp dụng trọng lượng mở thì công ty càng được hưởng lợi nhiều hơn khi được coi là người quản lý có trách nhiệm của hệ sinh thái đó.

Một ngành rộng lớn hơn đang tính toán về bảo mật AI

Đội mới không đến trong chân không. Việc tuyển dụng của Nvidia trùng hợp với thời điểm mà bảo mật AI đã chuyển từ mối quan tâm trừu tượng sang một vấn đề cụ thể, thường xuyên. Những tuần gần đây đã chứng kiến ​​một loạt sự cố nổi bật, trong đó các tác nhân AI đã thể hiện khả năng hành động tự chủ theo cách mà các nhà phát triển của chúng không lường trước được, bao gồm cả những trường hợp hệ thống được kiểm tra vì mục đích an ninh mạng hoạt động bất ngờ.

Bản thân Nvidia đã là trung tâm của phản ứng của ngành. Công ty gần đây đã giúp dẫn đầu một liên minh AI mở và an toàn, quy tụ hơn 30 công ty để thiết lập các tiêu chuẩn an toàn và minh bạch về an ninh mạng, công việc này đã tiến triển nhanh chóng. Nhóm an toàn nội bộ mới dường như là sự bổ sung nội bộ cho liên minh bên ngoài đó: một cách để củng cố những đóng góp của chính Nvidia cho phong trào AI mở.

Sự tương phản với một số đối thủ là đáng chú ý. Một số phòng thí nghiệm biên giới đã nhấn mạnh các hạn chế, kiểm soát truy cập và triển khai có kiểm soát là cơ chế an toàn chính của họ. Cách tiếp cận của Nvidia — trọng lượng mở kết hợp với bộ máy an toàn đang phát triển — phản ánh một triết lý khác: tính cởi mở và bảo mật không đối lập nhau và rằng nhóm an toàn có nguồn lực tốt có thể làm cho các mô hình mở trở nên khả thi.

Nó báo hiệu điều gì về chiến lược của Nvidia

Đối với Nvidia, tính toán rất rõ ràng. Hoạt động kinh doanh cốt lõi của công ty là bán phần cứng chạy AI và các mẫu máy mở là động lực mạnh mẽ cho nhu cầu phần cứng: khi bất kỳ ai cũng có thể tải xuống một mô hình có khả năng hoạt động, bất kỳ ai có ngân sách đều sẽ trở thành khách hàng tiềm năng của Nvidia. Đầu tư vào sự an toàn của AI sẽ bảo vệ bánh đà đó bằng cách giảm nguy cơ các mô hình mở có liên quan đến những tác hại có thể gây ra quy định nặng nề hoặc phản ứng dữ dội của người tiêu dùng.

Xây dựng đội ngũ kỹ thuật chuyên trách về an toàn và an ninh cũng là một tín hiệu tuyển dụng. Các nhà nghiên cứu an toàn AI hàng đầu đang có nhu cầu đặc biệt và một nhóm đáng tin cậy do một kỹ sư xuất sắc dẫn đầu có thể giúp Nvidia thu hút những nhân tài có thể bị thu hút về phía một phòng thí nghiệm tiên phong. Ngược lại, tài năng đó có thể định hình các tiêu chuẩn của ngành – mang lại cho Nvidia tầm ảnh hưởng đối với các quy tắc của hệ sinh thái AI mở mà nó đang giúp xây dựng.

Con đường phía trước

Nvidia chưa nêu chi tiết lộ trình công khai cho công việc của nhóm mới và danh sách cho thấy nhóm vẫn đang trong quá trình hình thành. Nhưng hướng đi là không thể nhầm lẫn. Khi các tác nhân AI phát triển các mô hình có khả năng mở rộng hơn và được triển khai rộng rãi hơn, công ty cung cấp phần lớn AI trên thế giới hiện đang tập hợp mọi người để giúp kiểm soát sức mạnh đó.

Những tháng tới sẽ cho thấy liệu đặt cược an toàn của Nvidia có thể theo kịp tham vọng thương mại của mình hay không và liệu một tương lai AI mở có thể vừa đổi mới vừa an toàn hay không.

Đi trước AI

Sự giao thoa giữa an toàn AI, mô hình mở và phần cứng đang phát triển nhanh chóng. Hãy theo dõi tin tức về ngành AI của chúng tôi để biết báo cáo liên tục về Nvidia, các phòng thí nghiệm tiên phong và các chính sách định hình chúng.

Đọc thêm tin tức về AI →