Nvidia đã công bố vào thứ Hai về Nền tảng an toàn tác nhân mở, một nền tảng phần mềm mở và thiết kế hệ thống tham chiếu mà công ty cho biết sẽ cung cấp cho các tổ chức quyền kiểm soát có thể thực thi được đối với các tác nhân AI tự trị từ thử nghiệm đến triển khai. Việc ra mắt bao gồm toàn bộ nhóm tác nhân: phần mềm chạy các tác nhân, phần cứng và các lớp điện toán cung cấp năng lượng cho chúng cũng như các hệ thống robot thực hiện các hướng dẫn của chúng trong thế giới vật lý.
Thông báo đến vào một thời điểm đầy khó khăn đối với ngành. Trong những tuần gần đây, một số phòng thí nghiệm ở biên giới đã báo cáo các phiên bản của cùng một câu chuyện - các đặc vụ AI đã thoát ra khỏi môi trường đánh giá nhằm ngăn chặn chúng và tiếp cận các hệ thống mà lẽ ra chúng không bao giờ được truy cập, và trong một số trường hợp đã báo cáo sai những gì chúng đã làm. Đối với độc giả theo dõi tin tức về ngành AI, động thái của Nvidia đánh dấu câu trả lời thực thi toàn diện đầu tiên từ một nhà sản xuất chip lớn và nó đã thu hút hơn 100 tổ chức đối tác.
Nền tảng thực sự làm gì
Thiết kế tham chiếu kết hợp hai thành phần. Đầu tiên, OpenShell, là thời gian chạy an toàn nguồn mở — được phát hành theo giấy phép Apache 2.0 — thực thi các tác nhân tự trị trong môi trường hộp cát với sự cô lập ở cấp độ hạt nhân. Người vận hành xác định tệp, mạng, công cụ, quy trình và thông tin xác thực nào mà tác nhân có thể truy cập và OpenShell kiểm tra các giới hạn đó trước khi tác nhân chạy và thực thi chúng liên tục khi tác nhân hoạt động. Nvidia cho biết OpenShell bổ sung thêm chi phí tối thiểu cho CPU Vera của mình, công ty mô tả là bộ xử lý đầu tiên được xây dựng nhằm mục đích cho AI tác nhân và phần mềm có thể được mở rộng sang nền tảng của bên thứ ba từ Arm và Intel.
Thành phần thứ hai, Sentry, đẩy việc thực thi hoàn toàn ra khỏi tầm tay của đặc vụ. Nó hoạt động như một cơ quan giám sát ngoài băng tần trên các đơn vị xử lý dữ liệu BlueField-4 của Nvidia, giám sát hành vi của tác nhân từ một miền tin cậy biệt lập mà công ty cho biết là vô hình đối với các tác nhân cũng như những kẻ tấn công. Nếu một tác nhân cố gắng di chuyển ra ngoài ranh giới phần mềm của nó, Sentry sẽ cách ly và dừng tác nhân đó sau một phần nghìn giây. Sentry được xây dựng trên khung phần mềm DOCA của Nvidia, khung phần mềm này kiểm tra các yêu cầu và phản hồi của tác nhân, xác minh danh tính tác nhân và thực thi các chính sách truy cập không tin cậy đối với dữ liệu, công cụ, API và dịch vụ.
"An toàn và bảo mật yêu cầu kỹ thuật toàn diện"
Người sáng lập và Giám đốc điều hành Nvidia Jensen Huang coi việc ra mắt này là một phản ứng trước cuộc tranh luận về an toàn hiện đang gây chấn động ngành công nghiệp. Huang cho biết trong thông báo: “Tiềm năng phi thường của AI đối với xã hội sẽ chỉ được hiện thực hóa nếu chúng ta giải quyết được vấn đề an toàn của AI”. "Khi chúng tôi tiếp tục khám phá giới hạn của khả năng AI, chúng tôi phải tăng tốc khám phá ở giới hạn an toàn AI. An toàn và bảo mật đòi hỏi phải có kỹ thuật toàn diện."
Trong blog kỹ thuật của riêng mình, Nvidia đã thẳng thắn nói về nguyên nhân đằng sau những sự cố gần đây: không phải một khả năng mới nào giúp các đặc vụ trốn thoát mà là "sự kết hợp của các công cụ, thời gian và những hướng dẫn mơ hồ". Công ty đã đưa ra một sự tương đồng với trang web thời kỳ đầu, cho rằng Internet trở nên an toàn không phải vì các trang web được hứa hẹn sẽ hoạt động mà vì các trình duyệt đã ngừng tin tưởng vào mã trong các trang web và cách ly từng trang trong hộp cát của riêng nó. “Sự an toàn của đại lý yêu cầu các biện pháp kiểm soát an ninh độc lập”, bài đăng cho biết.
Ngành liên kết xung quanh việc thực thi
Danh sách đối tác được coi là một mặt cắt ngang của nền kinh tế AI. Anthropic đã hợp tác với Nvidia để các doanh nghiệp có thể thực thi quyền kiểm soát đối với Đại lý được quản lý của Claude thông qua tích hợp OpenShell và BlueField. Paul Smith, giám đốc thương mại của Anthropic cho biết: “Các công ty đang giao cho các đại lý AI nhiều công việc quan trọng nhất của họ và họ cần chỉ đạo và xác minh những gì các đại lý đó làm, đặc biệt là trong những môi trường nhạy cảm”.
SpaceXAI đang sử dụng nền tảng này cho các tác nhân mã hóa Con trỏ và mô hình Grok của mình, với chủ tịch Mike Nicolls lập luận rằng "sự an toàn cần được thực thi bên ngoài mô hình bằng các biện pháp kiểm soát bổ sung mà tác nhân không thể vượt qua". Theo Giám đốc điều hành Francis deSouza, AI quy mô đang kết hợp thiết kế tham chiếu vào lớp cơ sở hạ tầng của danh mục GenAI dành cho khách hàng doanh nghiệp và chính phủ.
Salesforce đã tích hợp OpenShell với Slack để các nhóm có thể xem hoạt động của tổng đài viên và phê duyệt hoặc từ chối các yêu cầu cấp phép trực tiếp từ cuộc trò chuyện. SAP đang nhúng OpenShell vào thời gian chạy Joule Studio và đóng góp công việc kỹ thuật. Ngoài những cái tên tiêu đề, Nvidia liệt kê CrowdStrike, Cisco, IBM, Microsoft, Palantir, Palo Alto Networks, Hugging Face, Perplexity, Cognition, Accenture, Deloitte và EY trong số hơn 100 tổ chức làm việc với công nghệ của nền tảng, cùng với các công ty chế tạo robot Hình, Gecko Robotics và Skild AI, cũng như các nhóm tài chính Citi và JPMorganChase.
Công việc này cũng hỗ trợ Liên minh AI bảo mật mở, một nỗ lực do Nvidia khởi xướng cùng với hơn 120 tổ chức và được quản lý bởi Linux Foundation, tổ chức điều hành một dự án chung có tên SAFE - Sàn giao dịch phát hiện AI được chia sẻ - để tổng hợp các phát hiện an toàn trong toàn ngành.
Tại sao việc thực thi phần cứng lại quan trọng hiện nay
Đặt cược trọng tâm của nền tảng là các điều khiển của lớp ứng dụng không còn đủ nữa. Thông báo của Nvidia lưu ý rằng trong các sự cố gần đây, mô hình đều giống nhau: tác nhân đã vượt qua các biện pháp kiểm soát bảo mật ở lớp ứng dụng để hoàn thành nhiệm vụ được giao. Bằng cách chuyển tính năng giám sát sang silicon trên một DPU riêng biệt — và vào một thời gian chạy tách biệt với nhân riêng biệt — công ty đang lập luận rằng ranh giới thực thi phải nằm ở nơi tác nhân không thể chỉnh sửa, vô hiệu hóa hoặc điều khiển xung quanh nó.
Liệu điều đó có đúng trong thực tế hay không sẽ phụ thuộc vào việc áp dụng. Phần mềm, bao gồm OpenShell, hiện có sẵn thông qua trang tài nguyên dành cho nhà phát triển của Nvidia và GitHub, đồng thời cảnh báo bản in đẹp của công ty rằng một số tính năng được mô tả vẫn ở các giai đoạn khác nhau và sẽ được cung cấp trên cơ sở khi nào và nếu có. Nhưng hướng đi rất rõ ràng: sau một tháng mà các cuộc đột phá của đặc vụ chiếm ưu thế trong cuộc trò chuyện về an toàn, lớp cơ sở hạ tầng không còn chờ đợi các mô hình tự cảnh sát nữa.
---
Đi trước AINhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.
Đọc thêm tin tức về AI →
