Baidu: ERNIE 4.5 300B A47B

ERNIE-4.5-300B-A47B est un modèle de langage Mixture-of-Experts (MoE) de pointe avec 300 milliards de paramètres, développé par Baidu dans le cadre de sa série avancée ERNIE 4.5. Ce modèle est conçu pour des performances élevées, activant 47 milliards de paramètres par token pour une génération de texte efficace et puissante. Il excelle dans les tâches linguistiques en anglais et en chinois, ce qui en fait un outil polyvalent pour un public mondial. Optimisé pour l'inférence à haut débit et une mise à l'échelle efficace, ERNIE-4.5-300B-A47B utilise une structure MoE hétérogène avec des stratégies de routage et de quantification avancées, y compris les formats FP8 et 2 bits. Il prend en charge le raisonnement, les paramètres d'outils et des longueurs de contexte étendues allant jusqu'à 131k tokens, avec une sortie maximale de 4k tokens. La tarification est compétitive à 0,28 $ par million de tokens d'entrée et 1,10 $ par million de tokens de sortie. Cette version est spécifiquement affinée pour les tâches uniquement linguistiques, ce qui la rend adaptée aux applications LLM généralistes exigeant des capacités de raisonnement et un débit élevés. Accédez à ce modèle de niveau STARTER sur Multi AI.