Meta: LlamaGuard 2 8B

Meta: LlamaGuard 2 8B — это передовая модель защиты с 8 миллиардами параметров, основанная на архитектуре семейства Llama 3. Подобно своему предшественнику, LlamaGuard 1, эта модель превосходно справляется как с классификацией запросов, так и с классификацией ответов, обеспечивая безопасность контента в различных приложениях. Работая подобно стандартной большой языковой модели (LLM), LlamaGuard 2 генерирует текстовый вывод, указывающий, считается ли данный ввод или вывод безопасным или небезопасным. Важно отметить, что если контент классифицируется как небезопасный, модель дополнительно указывает категории контента, которые были нарушены. Для оптимальной производительности рекомендуется использовать необработанный ввод запроса или конечную точку `/completions`, а не API чата. Эта модель продемонстрировала высокую производительность в человеческих оценках, конкурируя с ведущими закрытыми аналогами. С окном контекста в 8K токенов и максимальным выводом в 4K токенов, LlamaGuard 2 предлагает эффективную обработку. Она поддерживает возможности потоковой передачи и доступна для бесплатного доступа на Multi AI по цене $0.20 за 1 миллион входных токенов и $0.20 за 1 миллион выходных токенов. Использование регулируется Политикой допустимого использования Meta.