Meta: LlamaGuard 2 8B

Meta: LlamaGuard 2 8B est un modèle de protection avancé de 8 milliards de paramètres, s'appuyant sur l'architecture de la famille Llama 3. Similaire à son prédécesseur, LlamaGuard 1, ce modèle excelle à la fois dans la classification des invites et des réponses, garantissant la sécurité du contenu dans diverses applications. Fonctionnant comme un modèle de langage étendu (LLM) standard, LlamaGuard 2 génère une sortie textuelle indiquant si une entrée ou une sortie donnée est jugée sûre ou dangereuse. Crucialement, si le contenu est classé comme dangereux, le modèle spécifie en outre les catégories de contenu qui ont été violées. Pour des performances optimales, il est recommandé d'utiliser une entrée d'invite brute ou le point de terminaison `/completions` plutôt que l'API de chat. Ce modèle a démontré de solides performances lors d'évaluations humaines, rivalisant avec les principales alternatives propriétaires. Avec une fenêtre contextuelle de 8K tokens et une sortie maximale de 4K tokens, LlamaGuard 2 offre un traitement efficace. Il prend en charge les capacités de streaming et est disponible en accès gratuit sur Multi AI, au prix de 0,20 $ par million de tokens d'entrée et 0,20 $ par million de tokens de sortie. L'utilisation est soumise à la politique d'utilisation acceptable de Meta.