GPT-6.2 Astra
gpt-6.2-astra
GPT-6.2 Astra — текстовая модель от OpenAI, доступная через единый Ranvik API. Контекстное окно — 1.1M токенов. Максимум выходных токенов за один запрос — 128k. Поддерживаемые возможности: computer_use, file_search, function_calling, prompt_caching, reasoning, streaming, structured_output, vision, web_search.
от 1 064 ₽ / 1 млн входных токенов
Технические характеристики
gpt-6.2-astraВозможности
Prompt caching— Повторно используемые префиксы (системный промпт, документы) кэшируются — цена в 5-10× ниже.
Зачем
Если ты отправляешь один и тот же системный промпт + документы на каждом запросе — модель повторно тратит compute на их обработку. Prompt caching сохраняет эти токены и заряжает 10× меньше при попадании.
Базовая формула экономии:
- Cache write — обычно 1.25× цены input (5-минутный TTL) или 2× (1-часовой).
- Cache hit — 0.1× цены input.
- Окупается с 2-3 повторений того же префикса в течение TTL.
Что кэшируется
Префикс должен быть идентичным byte-в-byte: системный промпт, статические документы, фиксированные few-shot примеры. Динамическая часть (юзер-промпт, переменные) идёт ПОСЛЕ кэшированной.
Когда использовать
- RAG: документы в context каждого запроса (кэшируй документы).
- Агенты: длинная инструкция системы (кэшируй её).
- Few-shot prompting: фиксированные примеры (кэшируй блок примеров).
Особенности у OpenAI
Автоматический — включается при ≥1024 токенов в начале запроса.
Кэш живёт 5-10 минут (точное время не документировано). Хит виден в ответе как
usage.prompt_tokens_details.cached_tokens. Цена кэшированного — cache_read
($0.125/1M для gpt-5, $0.50/1M для o3).
Streaming (SSE)— Получение ответа по мере генерации — токен за токеном через Server-Sent Events.
Как работает
Передай stream: true в теле запроса — сервер вернёт SSE-поток с заголовком
content-type: text/event-stream. Каждый чанк — строка вида data: {...}\n\n.
Конец потока — data: [DONE]\n\n.
curl -N https://api.ranvik.ru/v1/chat/completions \
-H "Authorization: Bearer rk_live_..." \
-H "Content-Type: application/json" \
-d '{
"model": "gpt-5",
"messages": [{"role": "user", "content": "Привет"}],
"stream": true,
"stream_options": {"include_usage": true}
}'
Каждый чанк содержит choices[0].delta — частичные данные. Последний чанк перед
[DONE] (если включить stream_options.include_usage: true) содержит usage
с реальным числом токенов — используй для биллинг-учёта на клиенте.
Когда использовать
- Чат-интерфейсы, где важна перцептивная скорость отклика.
- Длинные ответы (> 1000 токенов) — пользователь видит прогресс.
- Streaming tool-calls —
delta.tool_calls[i].function.argumentsприходят инкрементально.
Когда НЕ использовать
- Backend-to-backend интеграции, где нужен только финальный JSON — добавляет парсинг SSE без выгод.
- Когда обязательно знать стоимость до отправки в БД — без
include_usageзатраты неизвестны.
Особенности у OpenAI
Стандарт. include_usage: true обязателен для получения final usage в
последнем чанке.
Vision (анализ изображений)— Картинки на вход вместе с текстом — OCR, распознавание объектов, описание сцен, анализ графиков.
Как передать изображение
Через массив content в сообщении вместо строки. Поддерживается URL и base64
(data URI).
{
"model": "gpt-5",
"messages": [{
"role": "user",
"content": [
{"type": "text", "text": "Что на этой схеме?"},
{"type": "image_url", "image_url": {"url": "https://.../diagram.png"}}
]
}]
}
Для base64: "url": "data:image/png;base64,iVBOR...". Размер ограничен ~20MB.
Оплата изображений
Картинка считается как input-токены — точное число зависит от размера и
detail. Грубо: 512×512 ≈ 250 токенов, 2048×2048 ≈ 1500. Минимизируй размер
если нужно много кадров.
Что НЕ умеют vision-модели
- Точные измерения (расстояния, размеры в пикселях).
- Распознавание текста на сложных шрифтах при низком DPI — лучше OCR-модель.
- Деанонимизация лиц / людей — модели отказываются.
Особенности у OpenAI
Параметр detail: "low" | "high" | "auto". low фиксирует обработку под
85 токенов (грубее, дешевле); high — сетка 512×512 кропов до 1500+ токенов.
Default auto решает по размеру.
- Computer Use
- File Search
- Вызов функций
- Кэширование промпта
- Рассуждения
- Потоковый ответ
- Structured Output
- Анализ изображений
- Поиск в интернете
Цены
| Единица | Цена |
|---|---|
| за 1 млн кэшированных входных токенов · <=272k default | 53.2 ₽ |
| за 1 млн кэшированных входных токенов · <=272k priority | 106 ₽ |
| за 1 млн кэшированных входных токенов · >272k default | 106 ₽ |
| за 1 млн кэшированных входных токенов · <=272k ultrafast | 160 ₽ |
| за 1 млн кэшированных входных токенов · >272k priority | 213 ₽ |
| за 1 млн кэшированных входных токенов · >272k ultrafast | 319 ₽ |
| за 1 млн входных текстовых токенов · <=272k default | 1 064 ₽ |
| за 1 млн записанных в кэш токенов · <=272k default 30m | 1 330 ₽ |
| за 1 млн входных текстовых токенов · <=272k priority | 2 128 ₽ |
| за 1 млн входных текстовых токенов · >272k default | 2 128 ₽ |
| за 1 млн записанных в кэш токенов · <=272k default 12h | 2 660 ₽ |
| за 1 млн записанных в кэш токенов · <=272k priority 30m | 2 660 ₽ |
| за 1 млн записанных в кэш токенов · >272k default 30m | 2 660 ₽ |
| за 1 млн входных текстовых токенов · <=272k ultrafast | 3 192 ₽ |
| за 1 млн записанных в кэш токенов · <=272k ultrafast 30m | 3 990 ₽ |
| за 1 млн входных текстовых токенов · >272k priority | 4 256 ₽ |
| за 1 млн записанных в кэш токенов · <=272k priority 12h | 5 320 ₽ |
| за 1 млн записанных в кэш токенов · >272k default 12h | 5 320 ₽ |
| за 1 млн записанных в кэш токенов · >272k priority 30m | 5 320 ₽ |
| за 1 млн выходных текстовых токенов · <=272k default | 5 320 ₽ |
| за 1 млн входных текстовых токенов · >272k ultrafast | 6 384 ₽ |
| за 1 млн записанных в кэш токенов · <=272k ultrafast 12h | 7 980 ₽ |
| за 1 млн записанных в кэш токенов · >272k ultrafast 30m | 7 980 ₽ |
| за 1 млн выходных текстовых токенов · >272k default | 7 980 ₽ |
| за 1 млн записанных в кэш токенов · >272k priority 12h | 10 640 ₽ |
| за 1 млн выходных текстовых токенов · <=272k priority | 10 640 ₽ |
| за 1 млн записанных в кэш токенов · >272k ultrafast 12h | 15 960 ₽ |
| за 1 млн выходных текстовых токенов · <=272k ultrafast | 15 960 ₽ |
| за 1 млн выходных текстовых токенов · >272k priority | 15 960 ₽ |
| за 1 млн выходных текстовых токенов · >272k ultrafast | 23 940 ₽ |
| web search | 1.33 ₽ |
| code interpreter | 3.99 ₽ |
Цены указаны в рублях. Списываются с баланса проекта при каждом успешном запросе.
Поддерживаемые параметры
Параметры передаются вендору как есть (pure proxy) — мы не валидируем их у себя на стороне. Если вендор не примет — вернётся его ошибка.
| Параметр | Тип | Диапазон / values | Default | Описание |
|---|---|---|---|---|
messagesrequired | array | — | — | История диалога OpenAI. Поддерживаются текст и изображения. |
max_completion_tokens | integer | min: 1 · max: 128000 | 8192 | Лимит ответа вместе с рассуждениями. |
reasoning_effort | enum | low, medium, high, xhigh, max | medium | Уровень рассуждений. none не поддерживается. |
stream | boolean | — | false | Потоковый ответ SSE. |
stream_options.include_usage | boolean | — | — | Итоговая статистика токенов в SSE. |
tools | array | — | — | Для инструментов используйте /v1/responses. |
response_format | object | — | — | Структурированный ответ. |
prompt_cache_options.ttl | enum | 30m, 12h | — | Срок хранения кеша. Запись кеша тарифицируется отдельно. |
service_tier | enum | auto, default, priority, ultrafast | — | Режим обработки. Ускоренные режимы имеют отдельную цену. |
safety_identifier | string | — | — | Стабильный обезличенный идентификатор конечного пользователя. |
Пример запроса
from openai import OpenAI
client = OpenAI(api_key="rk_live_...", base_url="https://api.ranvik.ru/v1")
resp = client.chat.completions.create(
model="gpt-6.2-astra",
messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)
# ── С веб-поиском ──
resp = client.responses.create(
model="gpt-6.2-astra",
input="Что нового в AI сегодня?",
tools=[{"type": "web_search"}],
)
print(resp.output_text)
# Генерация файла: client.responses.create(model="gpt-6.2-astra", input="...", tools=[{"type":"code_interpreter"}]) Замените rk_live_... на ваш ключ из кабинета.
О провайдере: OpenAI
OpenAI — американская компания, создатель ChatGPT и серии моделей GPT. Один из лидеров индустрии генеративного ИИ. Модели OpenAI отличаются балансом скорости, качества и широкой поддержкой инструментов (function calling, vision, structured output).
Официальный сайт: https://openai.com
Документация модели у вендора: https://developers.openai.com/api/docs/models/gpt-6.2-astra