Для каких задач лучше всего подходит Llama Guard 3 8B?

Модель специально обучена для классификации безопасности контента. Она идеально подходит для выявления токсичности, опасного контента и других нарушений в текстовых данных через alltokens.

Можно ли использовать эту модель как обычный чат-бот?

Нет, Llama Guard 3 8B — это классификатор. Она предназначена для оценки текста, а не для ведения свободных диалогов или выполнения общих задач генерации.

Каков максимальный объем текста, который модель может проверить за раз?

Благодаря поддержке контекстного окна в 131 072 токена, модель способна анализировать очень длинные тексты, включая целые статьи или объемные логи переписки.

Llama Guard 3 8B

Meta-llamaОбновлено: 12 февраля 2025 г.

Llama Guard 3 8B — это специализированная модель на базе архитектуры Llama-3.1, оптимизированная для классификации безопасности контента. Она эффективно анализирует как входящие промпты пользователей, так и ответы языковых моделей на предмет нарушений политик безопасности.

Использовать через API

Метрики

Вход

61 ₽/M

Выход

4 ₽/M

Контекст

131k tokens

Параметры

Релиз

12 февраля 2025 г.

Поддерживаемые параметры

frequency_penaltylogit_biasmax_tokensmin_ppresence_penaltyrepetition_penaltyseedstoptemperaturetop_ktop_p

Технический обзор

Llama Guard 3 — это предварительно обученная модель на базе Llama-3.1-8B, доработанная для классификации безопасности контента. Как и предыдущие версии, она может использоваться для анализа как входящих запросов к языковым моделям, так и их ответов. Модель работает по принципу LLM: она генерирует текст, указывающий, является ли запрос или ответ безопасным или небезопасным. В случае обнаружения нарушений модель также перечисляет категории контента, которые были нарушены. Llama Guard 3 настроена для защиты от рисков согласно стандартизированной таксономии MLCommons и оптимизирована для поддержки возможностей Llama 3.1. В частности, она обеспечивает модерацию контента на 8 языках и адаптирована для обеспечения безопасности при использовании инструментов поиска и интерпретатора кода. На alltokens модель доступна для интеграции в системы фильтрации трафика.

Кодинг

Инструменты

Длинный контекст

Мультимодальность

Веб-автоматизация

Смежные подборки

Модели для программирования

Сравнение с похожими моделями

Модель

Для чего

Контекст

Цена ₽

Модель

Llama Guard 3 8BТекущая

Для чего

Контекст

131k

Цена ₽

61 / 4

Llama Guard 3 8BТекущая

131k

61 / 4

Модель

IBM: Granite 4.0 Micro

Для чего

Обе модели являются компактными решениями для специфических задач фильтрации и классификации текстовых данных.

Контекст

131k

Цена ₽

3 / 14

IBM: Granite 4.0 Micro

131k

3 / 14

Модель

LiquidAI: LFM2-8B-A1B

Для чего

Модели имеют схожий объем параметров (8B) и ориентированы на высокую производительность при обработке длинных контекстов.

Контекст

33k

Цена ₽

2 / 3

LiquidAI: LFM2-8B-A1B

33k

2 / 3

Когда выбирать

Необходима автоматическая модерация пользовательских запросов в реальном времени
Требуется проверка ответов других ИИ на соответствие этическим нормам
Нужна поддержка огромного контекстного окна до 128 тысяч токенов для анализа длинных документов

Когда не выбирать

Требуется генерация творческого контента или написание программного кода
Необходима модель для ведения сложных ролевых диалогов
Задача подразумевает глубокий логический анализ или решение математических уравнений