По мере того как агенты ИИ переходят от демонстрационных версий к повседневному использованию, один из самых известных разработчиков в этой области бьет тревогу по поводу обыденного, но болезненного риска: денег. Саймон Уиллисон, разработчик, наиболее известный как соавтор Django и влиятельные статьи о больших языковых моделях, 3 октября опубликовал широко распространенную публикацию, в которой утверждается, что облачным сервисам с оплатой по факту использования нужны «жесткие ограничения бюджета по умолчанию» — функция, которая, по его словам, миру понадобится «намного больше в ближайшие месяцы и годы».

Пост задел нервы. Дискуссия Hacker News набрала около 430 баллов, что стало одной из самых популярных технологических историй сообщества за выходные, когда разработчики обменивались историями о неконтролируемых услугах и неожиданных счетах. Подробнее об этой истории — в нашем больше статей об ИИ.

Проблема: агенты, которые тратят деньги

Аргументация Уиллисона начинается с того, что на самом деле делают агенты кодирования и персональные агенты. Они значительно уменьшают сложность создания кода, который может делать полезные вещи, а некоторые из этих полезных вещей стоят денег, будь то вызовы платных API, размещенные веб-приложения или системы, которые взимают плату за дополнительное хранилище и вычисления. Агент, который работает быстро, может так же быстро накапливать начисления.

Его основное требование состоит в том, чтобы лимиты расходов были жесткими, а не рекомендательными. «Мягкие ограничения — «после X долларов в месяц пришлите мне электронное письмо с предупреждением» — не помогут», — написал он, обрисовывая теперь знакомый сценарий: никто не хочет проснуться и услышать полуночное электронное письмо с предупреждением и обнаружить, что, пока они спали, мошенническая служба потратила несколько сотен или нескольких тысяч долларов использования.

Уиллисон предвидит очевидное возражение — что компании не хотят, чтобы их размещенные приложения выдавали ошибки из-за превышения некоторого бюджета — и отклоняет его. По его мнению, большинство предприятий и частных лиц предпочтут услугу, которая перестает работать, неожиданному счету в размере 10 000 долларов и более.

Отказаться, не соглашаться

Предложение имеет простую форму: жесткие ограничения должны быть установлены по умолчанию, а опасная жизнь должна требовать обдуманного решения. Уиллисон рисует заметный флажок, который он хотел бы видеть: «Уберите ограничение бюджета. Мое приложение не будет закрыто, если я превышу настроенный лимит бюджета, и я буду нести ответственность за последующие расходы».

Эта инверсия имеет значение. В нынешних условиях пользователям приходится искать и настраивать защиту от неконтролируемых расходов, часто скрытую в биллинговых консолях. По мнению Уиллисона, неограниченные расходы требуют явного и осознанного выбора.

Облачные провайдеры уже переезжают

Запрос не гипотетический. Уиллисон отмечает, что две крупнейшие облачные платформы в последние месяцы приблизились к этой функции. AWS запустила ежемесячные лимиты расходов в середине сентября в рамках нового опыта разработки: когда использование проекта достигает лимита расходов, проект приостанавливается на месяц — настоящий жесткий предел, хотя AWS отмечает, что новый интерфейс все еще распространяется на ограниченное число клиентов. В июле Google Cloud запустил аналогичную функцию под названием Spend Caps, которая позволяет пользователям устанавливать ежемесячный финансовый лимит на определенные услуги в рамках проекта.

Другими словами, как выразился Уиллисон, это «становится тенденцией», но еще не везде по умолчанию и еще не доступно единообразно для всех типов учетных записей.

Почему сейчас: эпоха дорогостоящих ошибок

Время для публикации выбрано не случайно. За последний год распространились инструменты агентного кодирования, а вместе с ними и истории о невероятных счетах. Один широко известный случай этим летом связан с внутренним заданием Amazon, в результате которого на одну задачу по кодированию Клода было потрачено 1,8 миллиона долларов, что превысило бюджет на сотни процентов. Подобные инциденты превратили перерасход агентов из теоретического риска в конкретную, названную опасностью — именно этот сценарий предложение Уиллисона призвано сделать невозможным, а не просто маловероятным.

Существует также аспект защиты потребителей. Новые и неопытные разработчики — это именно те люди, которые с помощью агентских инструментов могут доставлять вещи, и именно те люди, которые меньше всего способны предсказать, во что им может обойтись услуга без ограничений. В заключение Уиллисон делает предложение, адресованное этой аудитории: в идеальном мире сами агенты склонны рекомендовать поставщиков с жесткими бюджетными ограничениями и предостерегают неопытных разработчиков от развертывания приложений на сервисах без ограничений, которые могут вызвать у них проблемы.

Вывод

Сообщение Уиллисона — это запрос на добавление функции, но он больше похож на прогноз. По мере того, как агенты берут на себя более автономную работу — написание кода, обеспечение инфраструктуры, вызов платных услуг — индустрия либо встраивает жесткие финансовые барьеры в платформы, на которых они работают, либо продолжает поглощать затраты на те, которые ускользают. Недавние действия облачных гигантов позволяют предположить, что наступила эра ограждений. Остается вопрос: станут ли колпачки дополнительной функцией безопасности, как настаивает Уиллисон, или останутся неясной настройкой, которую большинство пользователей никогда не найдут.

---

Будьте в курсе ИИ

Последние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.

Читать больше новостей об ИИ →