Khi các tác nhân AI chuyển từ bản demo sang sử dụng hàng ngày, một trong những nhà phát triển nổi tiếng nhất trong lĩnh vực này đang gióng lên hồi chuông cảnh báo về một rủi ro trần tục nhưng đau đớn: tiền bạc. Simon Willison, nhà phát triển nổi tiếng với việc đồng sáng tạo Django và với bài viết có ảnh hưởng của ông về các mô hình ngôn ngữ lớn, đã xuất bản một bài đăng được chia sẻ rộng rãi vào ngày 3 tháng 10, lập luận rằng các dịch vụ đám mây trả tiền theo mức sử dụng cần "giới hạn ngân sách cứng mặc định" - một tính năng mà ông nói rằng thế giới sẽ cần "nhiều hơn nữa trong những tháng và năm tới".

Bài viết gây chấn động. Cuộc thảo luận về Hacker News đã thu hút khoảng 430 điểm, một trong những câu chuyện công nghệ được cộng đồng bình chọn nhiều nhất vào cuối tuần, khi các nhà phát triển trao đổi câu chuyện về các dịch vụ chạy trốn và các hóa đơn bất ngờ. For more context on this story, see our ongoing breaking AI news.

Vấn đề: Đại lý tiêu tiền

Lập luận của Willison bắt đầu từ những gì các tác nhân mã hóa và các tác nhân cá nhân thực sự làm. Chúng giảm đáng kể sự cản trở khi quay vòng mã có thể thực hiện những việc hữu ích — và một số trong những điều hữu ích đó sẽ tốn tiền, cho dù đó là lệnh gọi đến API trả phí, ứng dụng web được lưu trữ hay hệ thống tính phí cho bộ nhớ và tính toán bổ sung. Một đại lý hoạt động nhanh chóng có thể tích lũy phí nhanh chóng.

Yêu cầu cốt lõi của ông là giới hạn chi tiêu phải là giới hạn cứng, không phải giới hạn tư vấn. “Softcap — 'sau X $/tháng, hãy gửi cho tôi một email cảnh báo' — sẽ không hiệu quả," anh viết, phác họa ra một kịch bản quen thuộc hiện nay: không ai muốn thức dậy với một email cảnh báo lúc nửa đêm và nhận ra rằng, trong khi họ đang ngủ, một dịch vụ lừa đảo đã tiêu tốn hàng trăm hoặc vài nghìn đô la sử dụng.

Willison đoán trước được sự phản đối rõ ràng - rằng các doanh nghiệp không muốn các ứng dụng được lưu trữ trên máy chủ của họ gặp lỗi do vượt quá một số ngân sách - và bác bỏ nó. Theo quan điểm của ông, hầu hết các doanh nghiệp và cá nhân đều thích một dịch vụ ngừng hoạt động hơn là một hóa đơn bất ngờ từ 10.000 USD trở lên.

Chọn không tham gia, không chọn tham gia

Đề xuất này có hình thức đơn giản: mũ cứng phải là mặc định và sống nguy hiểm cần phải có một quyết định có chủ ý. Willison phác thảo loại hộp kiểm nổi bật mà anh ấy muốn thấy: "Xóa giới hạn ngân sách. Ứng dụng của tôi sẽ không bị tắt nếu tôi vượt quá giới hạn ngân sách đã định cấu hình và tôi sẽ chịu trách nhiệm về các khoản phí tiếp theo."

Sự đảo ngược đó quan trọng. Theo hiện trạng, việc bảo vệ khỏi việc chi tiêu vượt mức là điều mà người dùng phải tìm kiếm và định cấu hình, thường được chôn trong bảng điều khiển thanh toán. Cách lập luận của Willison khiến việc chi tiêu không giới hạn trở thành một việc đòi hỏi sự lựa chọn rõ ràng và sáng suốt.

Nhà cung cấp đám mây đã di chuyển

Yêu cầu không phải là giả thuyết. Willison chỉ ra rằng hai nền tảng đám mây lớn nhất đều hướng tới tính năng này trong những tháng gần đây. AWS đã đưa ra giới hạn chi tiêu hàng tháng vào giữa tháng 9 như một phần của trải nghiệm trình xây dựng mới: khi mức sử dụng của dự án đạt đến giới hạn chi tiêu, dự án sẽ bị tạm dừng trong tháng — một giới hạn cứng thực sự, mặc dù AWS lưu ý rằng trải nghiệm mới vẫn đang được triển khai cho một số lượng khách hàng hạn chế. Google Cloud đã ra mắt một tính năng tương tự vào tháng 7, được gọi là Mũ chi tiêu, cho phép người dùng đặt giới hạn tài chính hàng tháng cho các dịch vụ cụ thể trong một dự án.

Nói cách khác, như Willison nói, đây là "trở thành xu hướng" — nhưng chưa phải là mặc định ở mọi nơi và chưa có sẵn thống nhất trên tất cả các loại tài khoản.

Tại sao lại là bây giờ: Thời đại của những sai lầm đắt giá

Thời điểm đăng bài không phải là ngẫu nhiên. Các công cụ mã hóa tác nhân đã phổ biến trong năm qua và cùng với chúng là những câu chuyện về những hóa đơn hấp dẫn. Một trường hợp được báo cáo rộng rãi vào mùa hè này liên quan đến một nhiệm vụ nội bộ của Amazon đã đốt 1,8 triệu USD cho một nhiệm vụ mã hóa Claude, vượt quá ngân sách hàng trăm phần trăm. Những sự cố như thế đã biến việc bội chi của đặc vụ từ một rủi ro lý thuyết thành một mối nguy hiểm cụ thể, được đặt tên - kịch bản chính xác mà đề xuất của Willison được thiết kế để biến nó thành không thể thay vì đơn thuần là không thể xảy ra.

Ngoài ra còn có góc độ bảo vệ người tiêu dùng. Những người xây dựng mới và thiếu kinh nghiệm chính xác là những người được trao quyền sử dụng các công cụ đại lý để vận chuyển mọi thứ - và chính xác là những người được trang bị ít nhất để dự đoán những gì một dịch vụ chưa được khai thác có thể khiến họ phải trả giá. Willison kết thúc bằng một đề xuất nhắm đến đối tượng đó: trong một thế giới lý tưởng, bản thân các đại lý sẽ thiên về việc giới thiệu các nhà cung cấp có giới hạn ngân sách cứng và cảnh báo các nhà xây dựng thiếu kinh nghiệm không nên triển khai các ứng dụng trên các dịch vụ chưa được khai thác có thể khiến họ gặp rắc rối.

Món ăn mang đi

Bài đăng của Willison là một yêu cầu tính năng, nhưng nó giống một dự đoán hơn. Khi các đại lý đảm nhận công việc tự chủ hơn - viết mã, cung cấp cơ sở hạ tầng, gọi các dịch vụ trả phí - ngành sẽ xây dựng các biện pháp bảo vệ tài chính cứng rắn cho các nền tảng mà họ chạy trên đó hoặc tiếp tục gánh chịu chi phí của những nền tảng vượt qua. Những động thái gần đây của gã khổng lồ đám mây cho thấy kỷ nguyên lan can đã bắt đầu. Câu hỏi còn lại là liệu giới hạn có xuất hiện như một tính năng an toàn được chọn tham gia hay không, như Willison khẳng định là phải như vậy, hay vẫn là một cài đặt khó hiểu mà hầu hết người dùng không bao giờ tìm thấy.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →