В чем главное отличие версии 16k от обычной GPT-3.5 Turbo?

Основное отличие заключается в увеличенном в четыре раза объеме контекстного окна, что позволяет модели анализировать и генерировать гораздо более длинные тексты без потери нити повествования.

Какие параметры управления доступны для этой модели на alltokens?

Модель поддерживает широкий спектр настроек, включая температуру, штрафы за повторы (frequency_penalty), инструменты (tools) и структурированный вывод (structured_outputs).

Подходит ли модель для написания программного кода?

Да, модель хорошо справляется с базовыми задачами программирования и рефакторинга, а расширенный контекст позволяет загружать в запрос целые файлы с кодом.

OpenAI: GPT-3.5 Turbo 16k

OpenaiОбновлено: 28 августа 2023 г.

Улучшенная версия классической модели GPT-3.5 Turbo с расширенным контекстным окном до 16 тысяч токенов. Она способна обрабатывать до 20 страниц текста за один запрос, сохраняя высокую скорость генерации и точность следования инструкциям.

Использовать через API

Метрики

Вход

359 ₽/M

Выход

479 ₽/M

Контекст

16k tokens

Параметры

Релиз

28 августа 2023 г.

Поддерживаемые параметры

frequency_penaltylogit_biaslogprobsmax_completion_tokensmax_tokenspresence_penaltyresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_logprobstop_p

Технический обзор

Эта модель предлагает в четыре раза больший объем контекста по сравнению с gpt-3.5-turbo, что позволяет обрабатывать около 20 страниц текста за один запрос при более высокой стоимости. Данные для обучения ограничены сентябрем 2021 года.

Кодинг

Инструменты

Длинный контекст

Мультимодальность

Веб-автоматизация

Смежные подборки

OpenAI модели

Сравнение с похожими моделями

Модель

Для чего

Контекст

Цена ₽

Модель

OpenAI: GPT-3.5 Turbo 16kТекущая

Для чего

Контекст

16k

Цена ₽

359 / 479

OpenAI: GPT-3.5 Turbo 16kТекущая

16k

359 / 479

Модель

Z.ai: GLM 5 Turbo

Для чего

Обе модели относятся к категории производительных турбо-решений среднего сегмента с сопоставимой скоростью обработки данных.

Контекст

203k

Цена ₽

144 / 479

Z.ai: GLM 5 Turbo

203k

144 / 479

Модель

Writer: Palmyra X5

Для чего

Является альтернативой для работы с текстовым контентом, предлагая схожий баланс между качеством генерации и производительностью.

Контекст

Цена ₽

72 / 718

Writer: Palmyra X5

72 / 718

Когда выбирать

Необходимо обрабатывать объемные документы или длинные цепочки диалогов, не умещающиеся в стандартный контекст
Требуется стабильная работа с системными промптами и структурированными форматами вывода
Нужна проверенная временем архитектура от OpenAI для интеграции в существующие рабочие процессы через alltokens

Когда не выбирать

Требуется выполнение сложнейших логических задач, с которыми лучше справляются модели четвертого поколения
Необходима работа с мультимодальным контентом, таким как изображения или аудио
Объем входных данных значительно превышает лимит в 16 тысяч токенов