Arcee AI: Virtuoso Large

Virtuoso-Large — это флагманская универсальная языковая модель от Arcee с 72 миллиардами параметров, оптимизированная для решения задач междисциплинарного логического вывода, креативного письма и корпоративных ответов на вопросы. В отличие от многих аналогов в категории 70B, она сохраняет контекстное окно в 128 000 токенов, унаследованное от архитектуры Qwen 2.5, что позволяет ей целиком обрабатывать книги, кодовые базы или финансовую отчетность. Процесс обучения включал дистилляцию знаний из DeepSeek R1, многоэтапную контролируемую тонкую настройку и финальную стадию выравнивания через DPO/RLHF, что обеспечило высокие результаты в тестах BIG-Bench-Hard, GSM-8K и испытаниях на поиск информации в длинном контексте. Компании используют Virtuoso-Large на платформе alltokens в качестве основного вычислительного узла в конвейерах Conductor, когда малые языковые модели показывают низкую уверенность в ответе. Несмотря на внушительный размер, агрессивная оптимизация KV-кэша позволяет сохранять задержку до генерации первого токена в пределах нескольких секунд на узлах с 8 картами H100, что делает модель практичным и мощным инструментом для промышленной эксплуатации.