Apabila ejen AI beralih daripada tunjuk cara kepada penggunaan harian, salah satu pembangun terkenal bidang itu membunyikan penggera tentang risiko biasa tetapi menyakitkan: wang. Simon Willison, pembangun yang paling terkenal kerana mencipta bersama Django dan untuk penulisannya yang berpengaruh pada model bahasa besar, menerbitkan siaran yang dikongsi secara meluas pada 3 Oktober dengan alasan bahawa perkhidmatan awan bayar demi penggunaan memerlukan "batas bajet keras lalai" — ciri yang dia katakan dunia akan memerlukan "lebih banyak lagi dalam beberapa bulan dan tahun akan datang."
Jawatan itu mengejutkan. Perbincangan Hacker News memperoleh kira-kira 430 mata, salah satu cerita teknologi yang paling mendapat undian komuniti pada hujung minggu, ketika pembangun memperdagangkan kisah perkhidmatan lari dan invois kejutan. For more context on this story, see our ongoing more AI stories.
Masalahnya: Ejen Yang Menghabiskan Wang
Hujah Willison bermula dengan perkara yang sebenarnya dilakukan oleh ejen pengekodan dan ejen peribadi. Mereka secara mendadak mengurangkan geseran memutar kod yang boleh melakukan perkara yang berguna — dan beberapa perkara berguna itu memerlukan wang, sama ada panggilan ke API berbayar, aplikasi web yang dihoskan atau sistem yang mengebilkan storan dan pengiraan tambahan. Ejen yang berfungsi dengan cepat boleh mengumpul caj dengan cepat.
Tuntutan terasnya ialah had perbelanjaan adalah had yang sukar, bukan had nasihat. "Soft caps - 'selepas $X/month, hantar saya e-mel amaran' - tidak akan memotongnya," tulisnya, melakar senario yang kini biasa: tiada siapa yang mahu bangun dengan e-mel amaran tengah malam dan mendapati bahawa, semasa mereka tidur, perkhidmatan penyangak menghabiskan beberapa ratus atau beberapa ribu dolar penggunaan.
Willison menjangkakan bantahan yang jelas — bahawa perniagaan tidak mahu aplikasi yang dihoskan mereka membuang ralat kerana beberapa belanjawan telah melebihi — dan menolaknya. Pada pandangannya, kebanyakan perniagaan dan individu lebih suka perkhidmatan yang berhenti bekerja daripada bil mengejut sebanyak $10,000 atau lebih.
Pilih Keluar, Jangan Ikut serta
Cadangan itu mempunyai bentuk yang mudah: topi keras harus menjadi lalai, dan hidup berbahaya harus memerlukan keputusan yang disengajakan. Willison melakar jenis kotak pilihan yang menonjol yang ingin dilihatnya: "Alih keluar had belanjawan. Aplikasi saya tidak akan ditutup jika saya melebihi had belanjawan yang dikonfigurasikan dan saya akan bertanggungjawab untuk caj berikutnya."
Penyongsangan itu penting. Di bawah status quo, perlindungan terhadap perbelanjaan lari adalah sesuatu yang perlu dicari dan dikonfigurasikan oleh pengguna, selalunya terkubur dalam konsol pengebilan. Pembingkaian Willison menjadikan perbelanjaan tanpa had sebagai perkara yang memerlukan pilihan yang jelas dan termaklum.
Pembekal Awan Sudah Bergerak
Permintaan itu bukan hipotesis. Willison menegaskan bahawa dua platform awan terbesar kedua-duanya telah mengetepikan ciri ini dalam beberapa bulan kebelakangan ini. AWS melancarkan had perbelanjaan bulanan pada pertengahan September sebagai sebahagian daripada pengalaman pembina baharu: apabila penggunaan projek mencapai had perbelanjaannya, projek itu dijeda untuk bulan itu — had keras yang tulen, walaupun AWS menyatakan bahawa pengalaman baharu itu masih dilancarkan kepada bilangan pelanggan yang terhad. Google Cloud melancarkan ciri serupa pada bulan Julai, yang dipanggil Had Perbelanjaan, yang membolehkan pengguna menetapkan had kewangan bulanan pada perkhidmatan tertentu dalam projek.
Dalam erti kata lain, seperti yang dinyatakan oleh Willison, ini "menjadi trend" — tetapi belum lagi menjadi lalai di mana-mana, dan belum tersedia secara seragam merentas semua jenis akaun.
Mengapa Sekarang: Zaman Kesilapan Mahal
Masa siaran bukan kebetulan. Alat pengekodan agen telah berkembang pesat sepanjang tahun lalu, dan bersama mereka, kisah-kisah bil yang menarik perhatian. Satu kes yang dilaporkan secara meluas pada musim panas ini melibatkan tugas dalaman Amazon yang membakar $1.8 juta pada satu tugas pengekodan Claude, mendarat ratusan peratus melebihi bajet. Insiden seperti itu menjadikan ejen berbelanja berlebihan daripada risiko teori kepada bahaya yang konkrit, dinamakan bahaya — senario tepat cadangan Willison direka untuk membuat mustahil dan bukannya tidak mungkin.
Terdapat juga sudut perlindungan pengguna. Pembina baharu dan tidak berpengalaman ialah alat ejen orang yang memperkasakan untuk menghantar barangan — dan orang yang paling kurang berkelengkapan untuk meramalkan kos perkhidmatan yang tidak terhad. Willison menutup dengan cadangan yang ditujukan kepada khalayak itu: dalam dunia yang ideal, ejen sendiri akan berat sebelah terhadap mengesyorkan penyedia yang mempunyai had belanjawan yang sukar, dan memberi amaran kepada pembina yang tidak berpengalaman supaya tidak menggunakan aplikasi pada perkhidmatan yang tidak terhad yang mungkin menyebabkan mereka menghadapi masalah.
The Takeaway
Willison's post is a feature request, but it reads more like a prediction. As agents take on more autonomous work — writing code, provisioning infrastructure, calling paid services — the industry will either build hard financial guardrails into the platforms they run on, or keep absorbing the costs of the ones that slip through. The cloud giants' recent moves suggest the guardrail era has started. The remaining question is whether caps arrive as an opt-in safety feature, as Willison insists they must, or stay an obscure setting most users never find.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
