LlamaIndex
SDK и фреймворкиRAG и агенты над вашими данными, LLM через OpenAILike.
Подставить ваши значения
Остаётся в этой вкладке браузера — мы его никуда не отправляем и не храним. Войдите, чтобы создать
Настройка
- 1Установите
llama-index-llms-openai-likeи сделайте его LLM по умолчанию.
# pip install llama-index-llms-openai-like llama-index-embeddings-openai
import os
from llama_index.core import Settings
from llama_index.llms.openai_like import OpenAILike
from llama_index.embeddings.openai import OpenAIEmbedding
Settings.llm = OpenAILike(
model="grok-4.7",
api_base="https://api.ultragpt.pro/v1",
api_key=os.environ["ULTRAGPT_API_KEY"],
is_chat_model=True,
is_function_calling_model=True,
context_window=128000,
)
Settings.embed_model = OpenAIEmbedding(
model_name="qwen3-embedding-8b",
api_base="https://api.ultragpt.pro/v1",
api_key=os.environ["ULTRAGPT_API_KEY"],
)Советы
- Подойдёт любой id со страницы Модели ; работают и суффиксы вроде :online (веб-поиск) и :nitro.
- Выдайте каждому инструменту свой ключ с лимитом — расход будет виден отдельно в Активности.
- Что-то не так? Коды ошибок · Поддержка