Zatímco agenti umělé inteligence přecházejí z ukázek do každodenního používání, jeden z nejznámějších vývojářů v oboru bije na poplach před světským, ale bolestivým rizikem: penězi. Simon Willison, vývojář nejlépe známý pro spoluvytváření Djanga a pro jeho vlivné psaní na velkých jazykových modelech, publikoval 3. října široce sdílený příspěvek, ve kterém tvrdil, že cloudové služby s placením podle použití potřebují „výchozí pevné rozpočtové stropy“ – což je funkce, o které říká, že svět bude v nadcházejících měsících a letech potřebovat „mnohem více“.

Příspěvek zasáhl nervy. Diskuse Hacker News přinesla zhruba 430 bodů, jeden z nejvíce podporovaných technologických příběhů tohoto víkendu v komunitě, když vývojáři obchodovali s příběhy o nekontrolovaných službách a překvapivých fakturách. For more context on this story, see our ongoing more AI stories.

Problém: Agenti, kteří utrácejí peníze

Willisonův argument začíná tím, co kódovací agenti a osobní agenti skutečně dělají. Dramaticky snižují tření při roztočení kódu, který může dělat užitečné věci – a některé z těchto užitečných věcí stojí peníze, ať už jde o volání placených rozhraní API, hostované webové aplikace nebo systémy, které účtují další úložiště a výpočty. Agent, který pracuje rychle, může stejně rychle akumulovat poplatky.

Jeho hlavním požadavkem je, aby výdajové limity byly tvrdé limity, nikoli poradní. „Softcaps – ,po $X/měsíc, pošlete mi varovný e-mail‘ – to nezvládne,“ napsal a načrtl dnes již známý scénář: nikdo se nechce probudit půlnočním varovným e-mailem a zjistit, že když spali, nepoctivá služba spotřebovala několik set nebo několik tisíc dolarů.

Willison předvídá zřejmou námitku – že podniky nechtějí, aby jejich hostované aplikace vyvolávaly chyby, protože byl překročen určitý rozpočet – a odmítá ji. Podle jeho názoru by většina podniků a jednotlivců dala přednost službě, která přestane fungovat, kvůli překvapivému účtu ve výši 10 000 $ nebo více.

Odhlásit se, nepřihlásit se

Návrh má jednoduchý tvar: standardem by měly být pevné čepice a život nebezpečně by měl vyžadovat promyšlené rozhodnutí. Willison načrtne takové výrazné zaškrtávací políčko, které by rád viděl: „Odstranit rozpočtový strop. Moje aplikace nebude ukončena, pokud překročím nastavený limit rozpočtu, a budu odpovědný za následné poplatky.“

Na té inverzi záleží. Za současného stavu je ochrana proti nekontrolovaným výdajům něco, co uživatelé musí hledat a konfigurovat, často pohřbené ve fakturačních konzolách. Willisonovo rámování dělá z neomezených výdajů věc, která vyžaduje výslovnou a informovanou volbu.

Poskytovatelé cloudu se již stěhují

Žádost není hypotetická. Willison poukazuje na to, že dvě největší cloudové platformy se v posledních měsících k této funkci přiblížily. AWS spustilo měsíční limity útraty v polovině září jako součást nového prostředí pro tvorbu: když využití projektu dosáhne limitu útraty, projekt se na měsíc pozastaví – skutečné pevné omezení, ačkoli AWS poznamenává, že nové prostředí je stále k dispozici omezenému počtu zákazníků. Google Cloud spustil podobnou funkci v červenci s názvem Spend Caps, která uživatelům umožňuje nastavit měsíční finanční strop na konkrétní služby v rámci projektu.

Jinými slovy, jak říká Willison, toto se „stává trendem“ – ale ještě to není výchozí všude a ještě není jednotně dostupné pro všechny typy účtů.

Proč teď: Věk drahých chyb

Načasování příspěvku není náhodné. Nástroje pro agentní kódování se za poslední rok rozmohly a s nimi i příběhy o účtech, které lákají oči. Jeden široce hlášený případ letos v létě se týkal interního úkolu Amazonu, který vypálil 1,8 milionu dolarů na jediném úkolu s kódováním Clauda a překročil rozpočet o stovky procent. Incidenty, jako je tento, proměnily nadměrné utrácení agentů z teoretického rizika na konkrétní, pojmenované nebezpečí – přesný scénář Willisonův návrh je navržen tak, aby byl spíše nemožný než pouze nepravděpodobný.

Existuje také úhel ochrany spotřebitele. Noví a nezkušení stavitelé jsou přesně ty nástroje agentů lidí, které umožňují doručovat věci – a přesně ti lidé, kteří jsou nejméně vybaveni k předpovědi, kolik je může stát služba bez omezení. Willison končí návrhem zaměřeným na toto publikum: v ideálním světě by samotní agenti zaujatě doporučovali poskytovatele s pevnými rozpočtovými limity a varovali nezkušené tvůrce před nasazením aplikací na neomezené služby, které by je mohly dostat do problémů.

Jídlo s sebou

Willisonův příspěvek je žádost o funkci, ale čte se spíše jako předpověď. Jak agenti převezmou více autonomní práce – psaní kódu, zřizování infrastruktury, volání placených služeb – průmysl buď zabuduje tvrdé finanční mantinely do platforem, na kterých běží, nebo bude nadále absorbovat náklady těch, které proklouznou. Nedávné pohyby cloudových obrů naznačují, že začala éra zábradlí. Zbývající otázkou je, zda čepice přicházejí jako volitelná bezpečnostní funkce, jak Willison trvá na tom, že musí, nebo zůstávají nejasným nastavením, které většina uživatelů nikdy nenajde.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →