Chat completions · UltraGPT API

Chat completions

POST /chat/completions принимает:

modelОбязательно. Id модели из /models или @preset/<slug>. Суффиксы: :online (веб-поиск), :nitro (быстрейший поставщик), :floor (дешевле всего), :exacto (лучший вызов инструментов), :thinking (рассуждения).
presetСлаг пресета; поля запроса важнее.
messagesОбязательно. Формат OpenAI: text, image_url и file; сообщения tool.
modelsДо 2 резервных моделей, по порядку при сбое основной.
stream, stream_options.include_usageServer-sent events; финальный чанк с расходом и стоимостью.
max_tokens / max_completion_tokensЛимит генерации; также определяет нужный для запроса баланс.
temperature, top_p, top_k, min_p, stop, seedПараметры сэмплинга (зависят от модели).
presence_penalty, frequency_penalty, repetition_penalty, logit_biasШтрафы токенов.
tools, tool_choice, parallel_tool_callsВызов функций.
response_formatjson_object или json_schema (структурированный вывод).
reasoning, reasoning_effort, include_reasoningМодели с рассуждениями.
pluginsweb (поиск), response-healing (починка JSON), context-compression (сжатие длинных промптов). У каждого есть "enabled": false.
transforms["middle-out"] — то же, что context-compression; [] отключает.
safety_identifier, prompt_cache_keyId конечного пользователя (видно в активности) и подсказка кэша OpenAI.
providerНастройки маршрутизации (см. ниже).
logprobs, top_logprobs, modalities, prediction, userПередаются, где поддерживаются.

Неизвестные параметры игнорируются и перечисляются в заголовке x-ultragpt-ignored-params ; n должно быть 1. У каждого ответа свой id (также в x-ultragpt-generation-id), модель, которая ответила, и usage.cost — списанная сумма в USD.