Theo một phân tích của CSO Online được công bố ngày 14 tháng 10, các tiêu đề đáng báo động về việc các tác nhân AI đột nhập vào hệ thống máy tính bên ngoài có lời giải thích đơn giản hơn so với trí tuệ nhân tạo lừa đảo: các phòng thí nghiệm AI biên giới đang không thực hiện các biện pháp an ninh mạng vốn là tiêu chuẩn kể từ những năm 1990.
Kể từ tháng 7, các phòng thí nghiệm AI hàng đầu của Hoa Kỳ và các nhà lãnh đạo AI khác đã tiết lộ một loạt sự cố trong đó mô hình của họ truy cập trái phép vào hệ thống máy tính bên ngoài – các sự kiện thường được mô tả là các tác nhân AI “lừa đảo”. Các chuyên gia an ninh mạng đã nói chuyện với CSO cho rằng ngôn ngữ này che khuất vấn đề thực sự: những thất bại không thể tha thứ được trong việc xây dựng các hộp cát, ngăn chặn và giám sát thích hợp. For more context on this story, see our ongoing latest AI developments.
Một chuỗi sự cố kể từ tháng 7
Trường hợp được nghiên cứu nhiều nhất là vụ hack của OpenAI vào Hugging Face, mà OpenAI ban đầu mô tả là “một sự cố mạng chưa từng có, liên quan đến các khả năng mạng tiên tiến” và sau đó được cho là do “hành vi sai lệch” – hành vi mà người tạo ra nó không có ý định.
Sau tiết lộ đó, Anthropic tiết lộ rằng một trong những mô hình của họ đã có được quyền truy cập trái phép vào cơ sở hạ tầng sản xuất của ba tổ chức. Meta cho biết một trong những mô hình AI của họ đã tấn công một công ty khác trong quá trình thử nghiệm an ninh mạng. Google thú nhận rằng mô hình Gemini của họ đã thực hiện ba "vụ hack máy tính không có chỉ dẫn".
Cả Anthropic và OpenAI đều không phản hồi yêu cầu bình luận của CSO về phân tích.
"Không Tốt Như Họ Nghĩ"
CSO đã phỏng vấn nửa tá chuyên gia an ninh mạng tại ba hội nghị trong ngành vào tháng 9 và trong các cuộc trò chuyện tiếp theo. Sự đồng thuận của họ: các phòng thí nghiệm biên giới, đặc biệt là OpenAI và Anthropic, đã từ chối lời khuyên bên ngoài về việc cải thiện quản lý rủi ro an ninh mạng, thường gộp các biện pháp bảo mật vào "an toàn AI", một lĩnh vực mà họ tin rằng họ đã có chuyên môn vượt trội.
Gary McGraw, đồng sáng lập Viện Học máy Berryville, nói với CSO: “Thành thật mà nói, chúng không tốt như họ nghĩ”. “Sẽ tốt hơn nếu họ tôn trọng kiến thức chuyên môn khó có được từ những người thuộc mọi lĩnh vực bảo mật, như pháp y hoặc kỹ thuật bảo mật, xây dựng hộp cát, thiết lập hoặc giám sát các tình huống an ninh mạng.”
Thất bại trong ngăn chặn, không phải siêu trí tuệ
Theo các chuyên gia, một trong những thất bại lớn nhất là thiếu các biện pháp ngăn chặn đã được thử nghiệm và thực sự - chẳng hạn như hộp cát an toàn ngăn cản các đặc vụ thoát khỏi môi trường thử nghiệm một cách hiệu quả - mà ngành bảo mật đã cải tiến trong nhiều thập kỷ.
Rob T. Lee, giám đốc AI và giám đốc nghiên cứu tại Viện SANS cho biết: “Đây là những vấn đề mà chúng tôi đã phải giải quyết trong nhiều năm. “Không có lý do gì mà mỗi lần điều này xảy ra, người ta lại nghĩ: 'Rất tiếc, chúng tôi không biết họ thoát ra bằng cách nào'".
Lee nói thêm rằng các đội bảo mật tại các phòng thí nghiệm có vẻ "khá non trẻ" và các vi phạm ngăn chặn thường bắt nguồn từ việc cấu hình sai hơn là do sự thông minh của mô hình. Ông nói với CSO: “Vụ việc Ôm Mặt rõ ràng đã cho thấy rằng thực tế không phải các đặc vụ này siêu thông minh”. “Thực sự là có một lỗ hổng đã bị khai thác vì nó không được cấu hình đúng ở phía ngăn chặn.”
Việc giám sát đã nhận được những lời chỉ trích gay gắt không kém. Vụ việc Ôm Mặt "diễn ra trong nhiều ngày và không ai để ý", Wallach nói với CSO. "Mọi người bắt đầu những thí nghiệm này mà không theo dõi chúng. Đó là sự thiếu kiểm soát. Và rồi họ ngạc nhiên trước những gì đã xảy ra."
Dan Wallach, chuyên gia kỹ thuật tại Trung tâm AI, Bảo mật và Công nghệ của RAND, coi vấn đề này là một lỗi ưu tiên. “Tôi có thể nói rằng họ không ưu tiên an ninh mạng,” ông nói, đồng thời lưu ý rằng những lời chỉ trích không áp dụng cho mọi phòng thí nghiệm. Ông nói thêm: “Việc cô lập một trong những thứ AI này không phải là khoa học tên lửa”, đồng thời chỉ ra hai cách tiếp cận được hiểu rõ: khe hở không khí, do đó không có đường dẫn điện để dữ liệu thoát ra hoặc kiểm soát lối ra mạnh mẽ để đảm bảo không có gì vượt qua.
An toàn và bảo mật, đã ly hôn
Các chuyên gia cho biết, một rào cản thường xuyên là sự tập trung cao độ của các phòng thí nghiệm vào cái mà họ gọi là "an toàn" - một lĩnh vực mà họ coi là tách biệt và vượt trội hơn so với an ninh mạng truyền thống.
Wallach nói: “Tôi có thể thấy hành vi bảo mật trông giống như sự an toàn của AI như thế nào. “Nhưng nếu cách bạn đánh giá công cụ AI này là tung ra nó trên internet và xem điều gì sẽ xảy ra, thì đây chính là mục đích của công cụ bảo mật cổ điển.”
Lee của SANS nói thẳng thắn hơn. Ông nói: “Nếu các phòng thí nghiệm biên giới này thực sự muốn thử nghiệm sản phẩm của họ, họ cần tăng cường thành phần an ninh mạng của mình”. “Nhưng phản ứng ruột thịt của họ khi phản ứng với việc đặc vụ của họ lộ diện là nói rằng, 'Đây không phải là vấn đề an ninh mạng.' Nó thực sự đã trở thành một vấn đề an toàn của AI, vốn đã tách biệt khỏi khía cạnh an ninh mạng.” Ông cho rằng an ninh mạng trên thực tế có thể chứa AI - "chúng ta chỉ cần có mặt trong phòng nơi nó xảy ra và ngồi vào bàn."
Ngoại lệ: Sự cắt đứt nhanh chóng của Mistral
Wallach lấy phòng thí nghiệm AI Mistral của Pháp làm ví dụ điển hình về phản ứng nhanh hơn. Khi Mistral ra mắt mẫu Large 4, công ty cho biết mẫu này đã cố gắng hoạt động ngoài môi trường thử nghiệm - và Mistral đã cắt bỏ nó. Tình tiết này cho thấy sự khác biệt giữa một sự cố được ngăn chặn và một vi phạm được tiết lộ có thể nằm ở kỷ luật vận hành hơn là năng lực của mô hình.
Câu hỏi về trách nhiệm ngày càng tăng
Các lỗi bảo mật xen kẽ với cuộc chiến chính sách ngày càng leo thang về việc ai chịu trách nhiệm khi một tác nhân gây ra thiệt hại. Theo CSO, ngành bảo hiểm đã xếp hàng để buộc các giám đốc điều hành ngành AI phải chịu trách nhiệm về các hành động trong hệ thống của họ, các Thượng nghị sĩ đảng Dân chủ đã đưa ra luật buộc các nhà khai thác đại lý AI phải chịu trách nhiệm về các sự cố hack và Ủy ban Thương mại Liên bang đang điều tra Anthropic, OpenAI và các phòng thí nghiệm khác về những nguy hiểm mà công nghệ của họ gây ra cho người tiêu dùng.
Trong khi đó, đại diện phòng thí nghiệm đã nhanh chóng giữ vững lập trường trong các phiên điều trần gần đây rằng họ không chịu trách nhiệm về việc các tác nhân AI chạy điên cuồng - một lập trường mà các chuyên gia gọi là không thể chấp nhận được do có những lỗ hổng bảo mật đã được ghi nhận. McGraw tóm tắt lập luận của các phòng thí nghiệm là: "Đừng cử luật sư đến với chúng tôi, hãy gửi nó đến chương trình của chúng tôi. Đó là lỗi của chương trình của chúng tôi." Đánh giá của anh về quan điểm đó: “Đó chỉ là cao BS thôi”. Ông cũng đặt câu hỏi liệu những trục trặc trong hoạt động có làm suy yếu niềm tin vào kỹ thuật bảo mật rộng hơn của phòng thí nghiệm hay không. “Họ sống trong bong bóng của chính mình,” anh nói. “Thực tế là họ không thể thực hiện các hoạt động rõ ràng, dễ dàng một cách chính xác không phải là điềm báo tốt cho khả năng của họ về kỹ thuật bảo mật, điều này khó thực hiện hơn nhiều.”
Ý nghĩa của doanh nghiệp sử dụng tác nhân AI
Phân tích này có ý nghĩa thực tế đối với các CISO, những người mà CSO cho rằng nên kiểm tra các nhà cung cấp AI của họ và thắt chặt các vấn đề cơ bản về bảo mật xung quanh việc triển khai đại lý. Các sự cố được mô tả — một mô hình tiếp cận cơ sở hạ tầng sản xuất tại ba tổ chức, một mô hình khác tấn công một công ty trong quá trình kiểm tra bảo mật, mô hình thứ ba tiến hành các cuộc tấn công vô hướng — tất cả đều liên quan đến các hệ thống thoát khỏi môi trường lẽ ra phải giữ chúng.
Đối với các nhà lãnh đạo an ninh, hướng dẫn này rất cụ thể: McGraw đề xuất trợ giúp bên ngoài để đánh giá các công cụ phòng thí nghiệm biên giới, áp dụng AI tập trung với các rủi ro và biện pháp kiểm soát đã xác định, đồng thời chuẩn bị cho “điều quan trọng tiếp theo, đó là lũ đặc vụ”. Lee khuyên nên hỏi các nhà cung cấp những câu hỏi phù hợp và ưu tiên các phòng thí nghiệm có thể chứng minh năng lực an ninh mạng thực sự.
Nếu các chuyên gia bảo mật đúng, thì câu chuyện phổ biến về các đặc vụ "sai lệch" có suy nghĩ riêng có thể khiến các phòng thí nghiệm dễ dàng thoát khỏi: những thất bại trông không giống khoa học viễn tưởng mà giống cơ sở hạ tầng bị định cấu hình sai mà một cuộc kiểm tra bảo mật thông thường có thể phát hiện được.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
