EleutherAI: Llemma 7b

Llemma 7B — это языковая модель, разработанная специально для решения математических задач. Она базируется на весах Code Llama 7B и прошла дополнительное обучение на наборе данных Proof-Pile-2 объемом 200 миллиардов токенов. Модели семейства Llemma демонстрируют высокие результаты в логических рассуждениях по принципу цепочки мыслей, а также эффективно используют вычислительные инструменты, такие как язык программирования Python и формальные системы доказательства теорем.