Почему счёт за модели больше, чем «цена за токен × число запросов»
Повторы, запасной поставщик, длина системной инструкции и доля отказов умножают счёт в разы. Калькулятор считает стоимость запроса, дня и месяца по вашим ценам — прямо в браузере.
Потому что оплачивается каждая попытка, а не каждый ответ. Прайс поставщика описывает один удачный вызов; счёт складывается из повторов при таймауте, обращений к запасному поставщику, системной инструкции, которая уходит с каждым запросом целиком, и запросов, закончившихся отказом, — за них тоже платят.
Наш случай: 636 771 запрос за четверо суток
Мы держим общий шлюз, через который ходят все наши продукты. За 05–08.08.2026 через него прошло 636 771 обращение: от 87 до 239 тысяч в сутки. Платными из них — то есть ушедшими на платный ключ — были от 854 до 44 288 в сутки.
Разброс в пятьдесят раз при почти одинаковом числе запросов — это и есть предмет разговора. Он не про трафик. Он про то, сколько запросов не получилось с первого раза.
Что именно стоило денег
- Повтор при таймауте. Запрос, оборвавшийся на 20-й секунде, уже оплачен: модель его обработала, вы просто не дождались. Повтор — вторая оплата того же самого.
- Запасной поставщик. Когда основной молчит, запрос идёт ко второму. Если основной при этом всё-таки ответил — заплачено дважды.
- Системная инструкция. Она уходит с КАЖДЫМ запросом целиком. Инструкция на 2 000 знаков при коротких пользовательских запросах на 200 знаков означает, что 90 % оплаченного входа — ваш собственный текст, одинаковый каждый раз.
- Отказы. Модель, ответившая «не могу», стоит столько же, сколько ответившая по делу.
Минимальное воспроизведение
Не нужен ни наш шлюз, ни наши объёмы. Возьмите свой журнал за сутки и посчитайте отношение числа обращений к поставщику к числу ответов, дошедших до пользователя. Если оно больше единицы — разница и есть переплата, и она измеряется, а не оценивается.
У нас это отношение считается по журналу шлюза: обращения к поставщикам против записей с успешным ответом. Именно оно, а не число посетителей, объясняет разницу между 854 и 44 288 платными запросами в сутки.
Калькулятор стоимости
Подставьте свои числа. Считается в браузере: введённое никуда не отправляется.
Как читать результат
- Множитель важнее суммы. Сумма зависит от прайса и устареет. Множитель — нет: он показывает, во сколько раз ваша эксплуатация дороже идеального случая «один запрос — один удачный ответ».
- Доля системной инструкции выше половины — повод её сокращать. Она уходит с каждым запросом целиком, и на коротких пользовательских запросах вы оплачиваете в основном свой собственный текст.
- «Впустую» — не потеря, а цена надёжности. Повторы и запасной поставщик существуют, чтобы пользователь получил ответ. Вопрос не в том, чтобы свести их к нулю, а в том, чтобы знать их цену заранее.
Где этот расчёт неприменим
- Картинки, звук и видео тарифицируются иначе — по секундам, кадрам или мегапикселям, а не по знакам. Здесь их нет вовсе.
- Кэширование части запроса у некоторых поставщиков удешевляет повторяющийся вход в разы. Если оно у вас включено, реальный счёт будет ниже расчётного — и это тот случай, когда ошибаться приятно.
- Знаки — не токены. Соотношение зависит от языка: у русского текста токенов на тот же объём заметно больше, чем у английского. Если ваш прайс в токенах, переведите его в знаки по своим замерам, а не по расхожему коэффициенту.
- Средние значения скрывают хвост. Если у вас есть редкие, но очень длинные запросы, считайте их отдельной строкой: среднее по ним врёт сильнее всего.
Разбор подготовила QueryPort Engineering — команда, которая обслуживает описанный шлюз. Числа взяты из его журнала за 05–08.08.2026. Нашли ошибку — напишите, поправим и укажем, что поправили.
Связанные разборы
Если множитель у вас получился больше двух — это не повод менять поставщика. Обычно дело в том, где стоят повторы и какой у них предел. Мы разбираем это на аудите: считаем стоимость запроса до внедрения и записываем, при каких условиях она вырастет.