Поки агенти ШІ переходять від демонстрацій до щоденного використання, один із найвідоміших розробників галузі б’є на сполох про буденний, але болісний ризик: гроші. Саймон Віллісон, розробник, відомий тим, що став співавтором Django та своїми впливовими роботами про великі мовні моделі, 3 жовтня опублікував поширений пост, в якому стверджував, що хмарні сервіси з оплатою за використання потребують «жорстких бюджетних обмежень за замовчуванням» — ця функція, за його словами, світ потребуватиме «набагато більше протягом найближчих місяців і років».
Пост вразив нерв. Обговорення Hacker News набрало приблизно 430 балів, що стало однією з найбільш популярних історій спільноти про технології за вихідні, оскільки розробники обмінювалися історіями про невикористані послуги та несподівані рахунки-фактури. For more context on this story, see our ongoing breaking AI news.
Проблема: агенти, які витрачають гроші
Аргумент Віллісона починається з того, що насправді роблять агенти кодування та персональні агенти. Вони значно зменшують тертя, пов’язане з розгортанням коду, який може робити корисні речі — і деякі з цих корисних речей коштують грошей, будь то виклики платних API, розміщені веб-програми або системи, які стягують рахунки за додаткове сховище та обчислення. Агент, який працює швидко, може так само швидко накопичувати витрати.
Його основна вимога полягає в тому, щоб ліміти витрат були жорсткими, а не рекомендаційними. «М’які обмеження — «після X доларів США на місяць надішліть мені електронний лист із попередженням» — не підійдуть», — написав він, описуючи вже знайомий сценарій: ніхто не хоче прокинутися від опівнічного електронного попередження та виявити, що поки вони спали, шахрайська служба витратила кілька сотень або кілька тисяч доларів.
Віллісон передбачає очевидне заперечення — що підприємства не хочуть, щоб їхні розміщені програми видавали помилки через перевищення бюджету — і відхиляє його. На його думку, більшість компаній і фізичних осіб віддадуть перевагу службі, яка перестане працювати, а не несподіваному рахунку в 10 000 доларів або більше.
Відмова від участі, не підключення
Пропозиція має просту форму: за замовчуванням мають бути жорсткі обмеження, а небезпечне життя потребує обдуманого рішення. Віллісон малює вид помітного прапорця, який він хотів би бачити: «Зніміть обмеження бюджету. Моя програма не буде закрита, якщо я перевищу налаштований ліміт бюджету, і я буду нести відповідальність за наступні витрати».
Ця інверсія має значення. За нинішнього статус-кво користувачі повинні шукати та налаштовувати захист від непомірних витрат, який часто ховається в платіжних консолях. Фреймінг Віллісона робить необмежені витрати тим, що вимагає чіткого, усвідомленого вибору.
Хмарні постачальники вже переходять
Запит не є гіпотетичним. Віллісон зазначає, що обидві найбільші хмарні платформи почали використовувати цю функцію за останні місяці. AWS запустив місячні ліміти витрат у середині вересня як частину нового досвіду розробки: коли використання проекту досягає ліміту витрат, проект призупиняється на місяць — справжнє жорстке обмеження, хоча AWS зазначає, що новий досвід все ще розгортається для обмеженої кількості клієнтів. Google Cloud запустив подібну функцію в липні під назвою Spend Caps, яка дозволяє користувачам встановлювати місячний фінансовий ліміт на певні послуги в рамках проекту.
Іншими словами, за словами Віллісона, це «стає тенденцією» — але ще не скрізь за замовчуванням і ще не однаково доступно для всіх типів облікових записів.
Чому зараз: епоха дорогих помилок
Час публікації не випадковий. Інструменти для кодування агентів поширилися за останній рік, а разом з ними й історії про приголомшливі рахунки. Один випадок, про який широко повідомлялося цього літа, стосувався внутрішнього завдання Amazon, яке спалило 1,8 мільйона доларів на одне завдання кодування Claude, перевищивши бюджет на сотні відсотків. Подібні випадки перетворили перевитрати агента з теоретичного ризику на конкретну, названу небезпеку — точний сценарій, який пропонує Віллісон, покликаний зробити неможливим, а не просто малоймовірним.
Є також кут захисту споживачів. Нові та недосвідчені будівельники — це саме ті інструменти для доставки людей, які дають змогу доставляти речі — і саме ті люди, які найменше спроможні передбачити, скільки їм може коштувати необмежена послуга. Віллісон закінчує пропозицією, спрямованою на цю аудиторію: в ідеальному світі самі агенти будуть упереджено рекомендувати постачальників із жорсткими обмеженнями бюджету та застерігатимуть недосвідчених розробників від розгортання програм на необмежених службах, що може призвести до проблем.
Винос
Публікація Віллісона є запитом на функцію, але вона більше схожа на передбачення. Коли агенти візьмуться за більш автономну роботу — написання коду, створення інфраструктури, виклик платних служб — індустрія або створюватиме жорсткі фінансові огорожі на платформах, на яких вони працюють, або продовжуватиме поглинати витрати тих, хто проскочить. Останні кроки хмарних гігантів свідчать про початок ери огорож. Питання, що залишилося, полягає в тому, чи обмеження з’являються як функція безпеки за бажанням, як наполягає Віллісон, чи залишаються незрозумілою настройкою, яку більшість користувачів ніколи не знаходять.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
