Текстовая модель · zai

GLM-5.2

glm-5.2

GLM-5.2 — текстовая модель от zai, доступная через единый Ranvik API. Контекстное окно — 1M токенов. Максимум выходных токенов за один запрос — 128k. Поддерживаемые возможности: function_calling, prompt_caching, reasoning, streaming, structured_output.

от 266 ₽ / 1M

Карточка модели

Технические характеристики

МодальностьТекстовая модель

Провайдерzai

Контекст1 000 000 токенов

Max output128 000 токенов

СтатусАктивна

ID для запросовglm-5.2

Возможности

Prompt caching— Повторно используемые префиксы (системный промпт, документы) кэшируются — цена в 5-10× ниже.

Зачем

Если ты отправляешь один и тот же системный промпт + документы на каждом запросе — модель повторно тратит compute на их обработку. Prompt caching сохраняет эти токены и заряжает 10× меньше при попадании.

Базовая формула экономии:

Cache write — обычно 1.25× цены input (5-минутный TTL) или 2× (1-часовой).
Cache hit — 0.1× цены input.
Окупается с 2-3 повторений того же префикса в течение TTL.

Что кэшируется

Префикс должен быть идентичным byte-в-byte: системный промпт, статические документы, фиксированные few-shot примеры. Динамическая часть (юзер-промпт, переменные) идёт ПОСЛЕ кэшированной.

Когда использовать

RAG: документы в context каждого запроса (кэшируй документы).
Агенты: длинная инструкция системы (кэшируй её).
Few-shot prompting: фиксированные примеры (кэшируй блок примеров).

Streaming (SSE)— Получение ответа по мере генерации — токен за токеном через Server-Sent Events.

Как работает

Передай stream: true в теле запроса — сервер вернёт SSE-поток с заголовком content-type: text/event-stream. Каждый чанк — строка вида data: {...}\n\n. Конец потока — data: [DONE]\n\n.

curl -N https://api.ranvik.ru/v1/chat/completions \
  -H "Authorization: Bearer rk_live_..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-5",
    "messages": [{"role": "user", "content": "Привет"}],
    "stream": true,
    "stream_options": {"include_usage": true}
  }'

Каждый чанк содержит choices[0].delta — частичные данные. Последний чанк перед [DONE] (если включить stream_options.include_usage: true) содержит usage с реальным числом токенов — используй для биллинг-учёта на клиенте.

Когда использовать

Чат-интерфейсы, где важна перцептивная скорость отклика.
Длинные ответы (> 1000 токенов) — пользователь видит прогресс.
Streaming tool-calls — delta.tool_calls[i].function.arguments приходят инкрементально.

Когда НЕ использовать

Backend-to-backend интеграции, где нужен только финальный JSON — добавляет парсинг SSE без выгод.
Когда обязательно знать стоимость до отправки в БД — без include_usage затраты неизвестны.

Function Calling
Prompt Caching
Reasoning
Streaming
Structured Output

Цены

Единица	Цена
за 1М cache read · единый	53.2 ₽
за 1М input · единый	266 ₽
за 1М output · единый	848 ₽

Цены указаны в рублях. Списываются с баланса проекта при каждом успешном запросе.

Поддерживаемые параметры

Параметры передаются вендору как есть (pure proxy) — мы не валидируем их у себя на стороне. Если вендор не примет — вернётся его ошибка.

Параметр	Тип	Диапазон / values	Default	Описание
`messages`required	array	—	—	Сообщения в OpenAI-compatible формате.
`max_tokens`	integer	min: 1 · max: 128000	8192	—
`temperature`	number	min: 0 · max: 2	1	—
`top_p`	number	min: 0 · max: 1	1	—
`stop`	array of strings	—	—	—
`tools`	array	—	—	OpenAI-compatible function definitions.
`tool_choice`	string	—	—	auto, none, required или выбор функции.
`response_format`	object	—	—	json_object или json_schema.
`stream`	boolean	—	false	—
`stream_options`	object	—	—	Для финального usage используйте include_usage=true.

Пример запроса

from openai import OpenAI

client = OpenAI(api_key="rk_live_...", base_url="https://api.ranvik.ru/v1")
resp = client.chat.completions.create(
    model="glm-5.2",
    messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)

Замените rk_live_... на ваш ключ из кабинета.