Стриминг · UltraGPT API
Стриминг
При stream: true приходят события chat.completion.chunk, в конце — data: [DONE]. Добавьте stream_options: {"include_usage": true}, чтобы получить финальный чанк с расходом и стоимостью. Если отключиться посреди стрима, генерация всё равно завершится и будет оплачена полностью, по точному расходу. Отправьте X-UltraGPT-Abort-On-Disconnect: true, чтобы вместо этого остановить её: оплачивается только выданный до отключения ответ (оценочно — поставщик не сообщает расход прерванного стрима).
curl https://api.ultragpt.pro/v1/chat/completions \
-H "Authorization: Bearer $ULTRAGPT_API_KEY" \
-H "Content-Type: application/json" \
-N -d '{
"model": "grok-4.7",
"stream": true,
"messages": [{ "role": "user", "content": "Write a haiku about APIs" }]
}'