Лимиты · UltraGPT API

Лимиты

Лимиты запросов в минуту и одновременных запросов действуют на ключ и одинаковы для всех — без уровней. Дневной лимит расходов (аккаунт) и месячный (ключ) задаёте вы сами (см. Модели). Каждый ответ /v1 содержит x-ratelimit-limit-requests, x-ratelimit-remaining-requests и x-ratelimit-reset-requests; при 429 добавляется retry-after.

У каждого ключа также есть лимит токенов в минуту (вход + выход, заголовки x-ratelimit-*-tokens; ключ может только уменьшить его) и лимит расходов со сбросом каждый день, неделю (понедельник, UTC), месяц или без сброса — предоплаченный бюджет для одного клиента. GET /key показывает limit, limit_remaining и расход по периодам.

# A key for one customer: $20 per week, 30k tokens per minute
curl https://api.ultragpt.pro/v1/keys -H "Authorization: Bearer $ULTRAGPT_MANAGEMENT_KEY" \
  -H "Content-Type: application/json" \
  -d '{ "name": "customer-42", "limit": 20, "limit_reset": "weekly", "tpm_limit": 30000 }'

# What the calling key has left
curl https://api.ultragpt.pro/v1/key -H "Authorization: Bearer $ULTRAGPT_API_KEY"
# -> { "data": { "limit": 20, "limit_reset": "weekly", "limit_remaining": 13.4,
#               "usage_daily": 1.2, "usage_weekly": 6.6, "usage_monthly": 18.1, ... } }