Ketika agen AI beralih dari demo ke penggunaan sehari-hari, salah satu pengembang paling terkenal di bidangnya memperingatkan tentang risiko yang biasa namun menyakitkan: uang. Simon Willison, pengembang yang terkenal karena ikut menciptakan Django dan karena tulisannya yang berpengaruh pada model bahasa besar, menerbitkan sebuah posting yang dibagikan secara luas pada tanggal 3 Oktober berargumentasi bahwa layanan cloud bayar per penggunaan memerlukan "batas anggaran baku" — sebuah fitur yang menurutnya dunia akan membutuhkan "lebih banyak lagi dalam beberapa bulan dan tahun mendatang."
Postingan itu mengejutkan. Diskusi Hacker News menarik sekitar 430 poin, salah satu cerita teknologi yang paling banyak mendapat dukungan komunitas pada akhir pekan, ketika para pengembang saling bertukar cerita tentang layanan yang tidak dapat digunakan dan faktur kejutan. For more context on this story, see our ongoing artificial intelligence updates.
Masalahnya: Agen Yang Menghabiskan Uang
Argumen Willison dimulai dengan apa yang sebenarnya dilakukan oleh agen pengkodean dan agen pribadi. Mereka secara dramatis mengurangi hambatan dalam menjalankan kode yang dapat melakukan hal-hal berguna — dan beberapa dari hal-hal berguna tersebut membutuhkan biaya, baik itu panggilan ke API berbayar, aplikasi web yang dihosting, atau sistem yang memerlukan penyimpanan dan komputasi tambahan. Agen yang bekerja dengan cepat dapat mengumpulkan tagihan dengan cepat.
Tuntutan utamanya adalah agar batasan pengeluaran menjadi batasan yang tegas, bukan batasan yang bersifat nasihat. "Soft caps — 'setelah $X/bulan, kirimi saya email peringatan' — tidak akan cukup," tulisnya, menggambarkan skenario yang sekarang sudah umum: tak seorang pun ingin bangun dan menerima email peringatan tengah malam dan mendapati bahwa, saat mereka tidur, layanan nakal menghabiskan penggunaan beberapa ratus atau beberapa ribu dolar.
Willison mengantisipasi keberatan yang jelas — bahwa bisnis tidak ingin aplikasi yang dihostingnya menimbulkan kesalahan karena sejumlah anggaran terlampaui — dan menolaknya. Dalam pandangannya, sebagian besar bisnis dan individu lebih memilih layanan yang tidak berfungsi jika tagihan mendadak sebesar $10.000 atau lebih.
Tidak ikut serta, jangan ikut serta
Proposal tersebut memiliki bentuk yang sederhana: hard caps harus menjadi standarnya, dan hidup dalam bahaya memerlukan keputusan yang disengaja. Willison membuat sketsa kotak centang menonjol yang ingin dilihatnya: "Hapus batas anggaran. Aplikasi saya tidak akan ditutup jika saya melebihi batas anggaran yang dikonfigurasi, dan saya akan bertanggung jawab atas tagihan berikutnya."
Pembalikan itu penting. Dalam status quo, perlindungan terhadap pembelanjaan yang tidak terkendali adalah sesuatu yang harus dicari dan dikonfigurasi oleh pengguna, yang sering kali terkubur di konsol penagihan. Pembingkaian Willison menjadikan pembelanjaan tanpa batas sebagai sesuatu yang memerlukan pilihan yang eksplisit dan berdasarkan informasi.
Penyedia Cloud Sudah Bergerak
Permintaan tersebut tidak bersifat hipotetis. Willison menunjukkan bahwa dua platform cloud terbesar telah mendekati fitur ini dalam beberapa bulan terakhir. AWS meluncurkan batas pembelanjaan bulanan pada pertengahan September sebagai bagian dari pengalaman pembangun baru: ketika penggunaan proyek mencapai batas pembelanjaannya, proyek tersebut dijeda untuk bulan tersebut — sebuah batasan yang nyata, meskipun AWS mencatat bahwa pengalaman baru tersebut masih diluncurkan ke sejumlah pelanggan terbatas. Google Cloud meluncurkan fitur serupa pada bulan Juli, yang disebut Batas Pembelanjaan, yang memungkinkan pengguna menetapkan batas finansial bulanan pada layanan tertentu dalam suatu proyek.
Dengan kata lain, seperti yang dikatakan Willison, hal ini "menjadi tren" — namun belum menjadi standar di semua tempat, dan belum tersedia secara seragam di semua jenis akun.
Mengapa Sekarang: Era Kesalahan yang Mahal
Penentuan waktu postingan ini bukanlah suatu kebetulan. Alat pengkodean agen telah berkembang pesat selama setahun terakhir, dan seiring dengan itu, banyak pula cerita tentang tagihan yang menggiurkan. Salah satu kasus yang dilaporkan secara luas pada musim panas ini melibatkan tugas internal Amazon yang menghabiskan $1,8 juta untuk satu tugas pengkodean Claude, yang menyebabkan ratusan persen melebihi anggaran. Insiden-insiden seperti ini mengubah agen yang mengeluarkan uang terlalu banyak dari sebuah risiko teoritis menjadi sebuah bahaya yang konkrit – sebuah skenario yang dirancang untuk dibuat menjadi tidak mungkin oleh proposal Willison, bukan sekadar tidak mungkin terjadi.
Ada juga sudut perlindungan konsumen. Para pembangun baru dan belum berpengalaman adalah orang-orang yang merupakan alat agen yang diberdayakan untuk mengirimkan barang — dan orang-orang yang paling tidak memiliki kemampuan untuk memprediksi berapa biaya yang mungkin timbul dari layanan yang belum dibatasi. Willison menutup dengan saran yang ditujukan untuk audiens tersebut: dalam dunia yang ideal, agen sendiri akan bias dalam merekomendasikan penyedia dengan batasan anggaran yang ketat, dan memperingatkan pembangun yang tidak berpengalaman agar tidak menerapkan aplikasi pada layanan yang tidak memiliki batasan yang dapat membuat mereka mendapat masalah.
Yang Dapat Dibawa Pulang
Postingan Willison adalah permintaan fitur, tetapi lebih mirip prediksi. Ketika para agen melakukan pekerjaan yang lebih mandiri – menulis kode, menyediakan infrastruktur, menghubungi layanan berbayar – industri akan membangun batasan keuangan yang ketat pada platform yang mereka jalankan, atau terus menanggung biaya platform yang tidak mereka jalani. Pergerakan raksasa awan baru-baru ini menunjukkan bahwa era pagar pembatas telah dimulai. Pertanyaan yang tersisa adalah apakah penutup hadir sebagai fitur keselamatan opsional, seperti yang ditegaskan Willison, atau tetap menjadi pengaturan yang tidak jelas yang tidak pernah ditemukan oleh sebagian besar pengguna.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
