Meituan: LongCat Flash Chat

LongCat-Flash-Chat — это крупномасштабная модель с архитектурой смеси экспертов (MoE), содержащая в общей сложности 560 миллиардов параметров. Для обработки каждого входного сигнала динамически активируется от 18,6 до 31,3 миллиарда параметров (в среднем около 27 миллиардов). В модели реализована архитектура MoE с прямыми соединениями (shortcut-connected), что снижает затраты на передачу данных и обеспечивает высокую пропускную способность. Стабильность обучения достигается за счет передовых стратегий масштабирования, включая перенос гиперпараметров, детерминированные вычисления и многоэтапную оптимизацию.

Данная версия LongCat-Flash-Chat представляет собой базовую модель без механизмов «рассуждения» (non-thinking), оптимизированную для диалоговых задач и работы в качестве ИИ-агента. Модель поддерживает длинный контекст до 128 000 токенов и демонстрирует конкурентные результаты в тестах на логику, написание кода и следование инструкциям. Особое преимущество модели проявляется в использовании инструментов и сложных многошаговых взаимодействиях. Доступ к модели осуществляется через API alltokens.