Alltokens

Текстовые completions

API, быстрый старт и гайды. Совместимо с OpenAI-форматом запросов и потоковыми ответами.

Create a completion

POST https://api.alltokens.ru/api/v1/completions
Content-Type: application/json

Запрос текстового дополнения (completion) по одному промпту. Без массива сообщений.

Заголовки

ЗаголовокОбязательный
Authorization: Bearer <API_KEY>Да
Content-Type: application/jsonДа

Тело запроса

ПолеТипОписание
modelstringИдентификатор модели или алиас (router, auto, free)
promptstringТекст для дополнения
streambooleantrue — потоковый ответ. По умолчанию false
temperaturenumber0..2
max_tokensintegerМаксимум токенов в ответе
stopstring | string[]Опционально. Строка(и) остановки
top_pnumberОпционально
frequency_penaltynumberОпционально
presence_penaltynumberОпционально
metadataobjectОпционально. Параметры маршрутизации
extra_bodyobjectОпционально. Параметры маршрутизации

Пример (curl)

bash
curl -X POST "https://api.alltokens.ru/api/v1/completions" \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "router",
    "prompt": "The capital of France is",
    "max_tokens": 10,
    "stream": false
  }'

Ответ (200, non-streaming)

ПолеТипОписание
idstringID генерации
modelstringМодель
choicesarrayМассив вариантов (см. ниже)
usageobjectprompt_tokens, completion_tokens, total_tokens, cost и т.д.

choices[]

ПолеТипОписание
textstringТекст дополнения
indexnumberИндекс
finish_reasonstringstop, length и т.д.
logprobsobject | nullОпционально

Route proof больше не подмешивается в ответ автоматически. Если нужны метаданные маршрута, используйте Route proof, Generation или Route explain по id из ответа.

Коды ответов

КодОписание
200Успех
400Неверные параметры
401Не авторизован
404Модель не найдена
429Лимит запросов
500Внутренняя ошибка