Стоимость ИИ-функции почти никогда не равна счёту от провайдера модели. Счёт — это верхушка: к нему добавляются инфраструктура, проверка качества и время людей, которые разбирают спорные случаи. Если считать только токены, экономика проекта будет выглядеть отлично ровно до первого квартального отчёта.

Из чего складывается цена одного запроса

  • Входные токены: инструкция, история диалога и найденные фрагменты документов. В RAG-системах это обычно основная часть счёта.
  • Выходные токены: они дороже входных, поэтому длина ответа — управляемый параметр, а не свойство природы.
  • Повторные вызовы: переформулировка запроса, вызовы инструментов, самопроверка. Один «запрос пользователя» легко превращается в три-пять обращений к модели.
  • Хранилище и поиск: векторная база, переиндексация при обновлении документов.
  • Человек в контуре: время эксперта на проверку доли ответов.

Практический приём: логируйте стоимость каждого обращения с первого дня пилота и складывайте её не по запросам к модели, а по завершённым задачам пользователя. Бизнес считает задачи, а не токены.

Три рычага, которые реально снижают счёт

Первый — кэширование. Если инструкция и база знаний стабильны, их не нужно оплачивать заново при каждом обращении. Второй — маршрутизация: простые запросы обрабатывает модель попроще, сложные уходят наверх. Третий — длина контекста: аккуратный поиск, который приносит пять релевантных фрагментов вместо тридцати «на всякий случай», часто сокращает счёт в разы и попутно улучшает качество.

Как считать окупаемость

Возьмите один процесс и измерьте его в часах до внедрения: сколько задач в месяц, сколько минут на задачу, сколько стоит час сотрудника. Это база. После пилота измерьте то же самое: часть задач система закроет полностью, часть ускорит, часть придётся переделывать за ней — последнее тоже идёт в расходы.

Экономика считается на разнице между «было» и «стало» в одном и том же процессе, а не на обещанной производительности модели.

Дальше простая арифметика: экономия часов минус стоимость запросов, инфраструктуры и проверки. Если разница положительная и устойчивая два-три месяца — решение можно масштабировать. Если она держится только при идеальных запросах, вы пока измеряете демо, а не процесс.

Чего не стоит обещать

Не считайте в модели окупаемости «высвобожденных сотрудников», пока не понятно, чем они займутся. Считайте пропускную способность: сколько заявок, договоров или обращений команда проводит за месяц тем же составом. Этот показатель проверяется и не вызывает споров.