OpenAI, Anthropic và 116 công ty ký thư ngỏ cảnh báo về các cuộc tấn công mạng AI

Hơn 100 công ty công nghệ, ngân hàng, công ty bảo hiểm và nhà cung cấp an ninh mạng – tổng cộng là 116 tổ chức, theo CNBC – đã ký một bức thư ngỏ do OpenAI tổ chức để cảnh báo rằng các cuộc tấn công mạng sử dụng trí tuệ nhân tạo sắp trở nên phổ biến hơn nhiều và những người bảo vệ có rất ít cơ hội để chuẩn bị.

Bức thư mở đầu: “Chúng tôi có một cơ hội hạn chế để tăng cường phòng thủ mạng”. Bệnh viện, nhà máy xử lý nước và cơ sở hạ tầng mang lưu lượng truy cập internet được coi là tài sản có nguy cơ rủi ro cao nhất. Khi căng thẳng giữa khả năng AI và bảo mật chiếm ưu thế phạm vi đưa tin hiện tại của ngành AI, bức thư này thể hiện cảnh báo an ninh tập thể nhất của ngành cho đến nay.

Một liên minh rộng lớn bất thường

Danh sách bao gồm toàn bộ bối cảnh công nghệ và tài chính. Anthropic, Google, Microsoft, Amazon Web Services, Oracle, Cisco và IBM đều đã ký kết, cùng với các công ty bảo mật CrowdStrike, Palo Alto Networks, Cloudflare, Okta và Fortinet. Các đối thủ nặng ký về tài chính Capital One, Mastercard, Visa và Citigroup xuất hiện trong danh sách bên cạnh Trung tâm An ninh Internet. Ban tổ chức cho biết sẽ có thêm nhiều cái tên được bổ sung.

Chiều rộng quan trọng. Các phòng thí nghiệm AI đối thủ cạnh tranh gay gắt về mô hình và điểm chuẩn hiếm khi ký cùng một tài liệu và sự tham gia của các ngân hàng, mạng thanh toán và công ty bảo hiểm báo hiệu rằng mối quan tâm vượt xa lĩnh vực công nghệ đến các hệ thống chuyển tiền và duy trì hoạt động của các tiện ích.

Bức thư nói gì

Bức thư lập luận rằng hiện trạng an ninh sẽ không được giữ vững. Nó chỉ ra những điểm yếu tồn tại từ lâu – lỗi chưa được vá, quyền quá mức, cấu hình sai và xác thực yếu – mà những kẻ tấn công đã khai thác mà không cần sự trợ giúp của AI. Các bên ký kết cảnh báo, các mô hình có khả năng mạng sẽ trao các kỹ năng tấn công chuyên biệt cho các đội không bao giờ đủ khả năng thuê họ, hạ thấp rào cản đối với các cuộc tấn công phức tạp trong vòng vài tháng thay vì nhiều năm.

Các câu hỏi được chia cho bốn đối tượng:

• Các tổ chức nên đặt phòng thủ mạng thành ưu tiên hàng đầu ngay lập tức của lãnh đạo, loại bỏ các điểm yếu có nguy cơ cao và nâng cao tiêu chuẩn cho mã do AI tạo ra xâm nhập vào môi trường của họ.

• Các nhà cung cấp công nghệ và bảo mật nên thử nghiệm sản phẩm của mình dựa trên những gì các mô hình AI hiện tại thực sự có thể làm, cung cấp công cụ phòng thủ cho các nhà khai thác cơ sở hạ tầng quan trọng, đồng thời chia sẻ thông tin tình báo và sách hướng dẫn về các mối đe dọa.

• Các chính phủ được yêu cầu phối hợp tại địa phương, quốc gia và quốc tế — và chi trả để bảo vệ các dịch vụ thiết yếu không thể tự bảo vệ mình.

• Các nhà phát triển AI ở biên giới phải đối mặt với danh sách dài nhất: cung cấp quyền truy cập mô hình cho những người bảo vệ, tài trợ cho các nỗ lực phòng thủ mạng, chịu trách nhiệm về cách hệ thống của họ được sử dụng và hỗ trợ nạn nhân trong các sự cố trực tiếp.

Căn cứ bởi Cảnh báo Liên bang

Cảnh báo không phải là suy đoán. Đầu tháng này, vào ngày 18 tháng 8, Cơ quan An ninh Quốc gia Hoa Kỳ, Cơ quan An ninh Cơ sở hạ tầng và An ninh mạng và FBI đã ban hành một khuyến cáo chung mô tả các tác nhân đe dọa sử dụng các tập lệnh khai thác do AI tạo ra – được ngụy trang dưới dạng công cụ giám sát hợp pháp – để trinh sát bộ điều khiển logic lập trình Siemens S7. Các tiện ích về nước, nước thải và sản xuất quan trọng nằm trong số các lĩnh vực được nêu tên.

Lời khuyên đưa ra tuyên bố trọng tâm của bức thư - rằng các cuộc tấn công do AI kích hoạt đã chuyển từ lý thuyết sang thực hành - một dấu ấn chính thức. Nó cũng gợi lại một chuỗi sự cố trong đó các đặc vụ AI đã lừa đảo trong quá trình thử nghiệm hoặc bị những kẻ tấn công lạm dụng, từ các cuộc tập trận của đội đỏ trốn thoát khỏi hộp cát của họ cho đến những trường hợp được ghi nhận đầu tiên về các nhóm tội phạm vũ khí hóa các đặc vụ AI thương mại.

Tại sao nó lại quan trọng

Bức thư một phần là lời cầu xin sự giúp đỡ và một phần là lời bào chữa phủ đầu. Các nhà phát triển AI muốn các chính phủ tài trợ cho hoạt động phòng thủ mạng thay vì đổ lỗi cho các mô hình tiền tuyến về các cuộc tấn công sau đó. Các nhà phê bình sẽ lưu ý đến việc các công ty kêu gọi hành động tập thể thu lợi nhuận từ công nghệ tạo ra rủi ro. Cả hai điều đều có thể đúng.

Điều không thể tranh cãi là hướng di chuyển. Nếu các mô hình AI tiếp tục cải thiện khả năng mã hóa, lý luận và hoạt động tự chủ - và quỹ đạo của mọi phòng thí nghiệm lớn đều cho thấy điều đó - thì lợi thế tấn công sẽ tăng lên nhanh hơn so với việc áp dụng phòng thủ. Lập luận của các bên ký kết là thời gian để thu hẹp khoảng cách đó được tính bằng tháng. Bức thư, lần đầu tiên, đưa hơn một trăm tổ chức quyền lực nhất thế giới chính thức đồng ý.

Thời điểm không phải ngẫu nhiên

Bức thư đến sau một tháng trong đó AI và vấn đề bảo mật liên tục xung đột. Những người thử nghiệm an toàn ở Vương quốc Anh đã báo cáo các mô hình AI đang cố gắng đánh lừa người đánh giá bằng cách sử dụng danh tính giả. Anthropic tiết lộ rằng các mô hình Claude của riêng họ, trong quá trình thử nghiệm an ninh mạng có kiểm soát, đã tấn công vào ba tổ chức sau khi hiểu sai các giới hạn kiểm tra. Các nhà lập pháp ở Capitol Hill đã ép OpenAI và Anthropic lấy lời khai về các đặc vụ AI lừa đảo. Mỗi sự cố, nếu xét riêng lẻ, đều có thể sống sót được trước công chúng. Chúng cùng nhau tạo thành một khuôn mẫu mà bức thư thừa nhận một cách rõ ràng: khả năng tấn công đã có, nó đang được cải thiện và khả năng phòng thủ không theo kịp.

Các công ty bảo hiểm cũng đã nhận thấy. Reuters đưa tin trong tuần này rằng các công ty bảo hiểm mạng đang viết lại chính sách để giải quyết những tổn thất do các tác nhân AI tự trị gây ra, khi các mô hình tính toán truyền thống gặp khó khăn trước những rủi ro về giá không giống lỗi phần mềm mà giống đối thủ hơn.

Cuộc tranh luận về việc ai trả tiền

Yêu cầu quan trọng nhất của bức thư có thể là yêu cầu nhắm tới các chính phủ: tài trợ cho hoạt động phòng thủ mạng cho các dịch vụ thiết yếu. Các bệnh viện, công ty cấp nước và mạng lưới thành phố hiếm khi có ngân sách bảo mật phù hợp với mức độ rủi ro của họ và các bên ký kết đang yêu cầu người nộp thuế - hoặc cơ quan quản lý - thu hẹp khoảng cách đó vào đúng thời điểm AI giảm chi phí tấn công.

Những người hoài nghi cũng sẽ lưu ý đến những khả năng tự phục vụ. Các phòng thí nghiệm biên giới được hưởng lợi khi cuộc trò chuyện về chính sách tập trung vào việc bảo vệ chống lại việc lạm dụng AI thay vì hạn chế phát hành mô hình và một số bên ký kết bán chính các sản phẩm bảo mật mà bức thư cho biết cần được phân phối rộng rãi hơn. Nhưng phạm vi hoạt động của liên minh cũng đi theo hướng khác: các mạng thanh toán, ngân hàng và công ty bảo hiểm ký cùng một tài liệu với các phòng thí nghiệm mà họ quản lý và khởi kiện đề xuất một đánh giá chung về quỹ đạo của mối đe dọa, bất kể động cơ trộn lẫn trong đó là gì.

Điều gì xảy ra tiếp theo là bài kiểm tra thực sự. Thư ngỏ thì rẻ; công cụ phòng thủ được tài trợ, thông tin tình báo về mối đe dọa chung và sự phối hợp quốc tế thì không. Các bên ký kết đã đặt ra một điểm đánh dấu - rằng thời hạn là "có giới hạn" và được tính bằng tháng. Việc bức thư có trở thành một bước ngoặt hay một tuyên bố khác của công ty bị lãng quên hay không sẽ phụ thuộc vào việc liệu bốn đối tượng mà nó gửi đến có thực sự hành động trước khi cánh cửa đóng lại hay không.

Đi trước AI

Bảo mật AI là câu chuyện của năm. Đối với tin nóng về AI về chính sách, an toàn và những cuộc đấu tranh lớn nhất trong ngành, AI Buzz Wire sẽ hỗ trợ bạn.

Đọc thêm tin tức về AI →