Стриминг · UltraGPT API

Стриминг

При stream: true приходят события chat.completion.chunk, в конце — data: [DONE]. Добавьте stream_options: {"include_usage": true}, чтобы получить финальный чанк с расходом и стоимостью. Если отключиться посреди стрима, генерация всё равно завершится и будет оплачена полностью, по точному расходу. Отправьте X-UltraGPT-Abort-On-Disconnect: true, чтобы вместо этого остановить её: оплачивается только выданный до отключения ответ (оценочно — поставщик не сообщает расход прерванного стрима).

curl https://api.ultragpt.pro/v1/chat/completions \
  -H "Authorization: Bearer $ULTRAGPT_API_KEY" \
  -H "Content-Type: application/json" \
  -N -d '{
    "model": "grok-4.7",
    "stream": true,
    "messages": [{ "role": "user", "content": "Write a haiku about APIs" }]
  }'