Baidu: ERNIE 4.5 VL 28B A3B

Baidu: ERNIE 4.5 VL 28B A3B est un modèle de chat multimodal Mixture-of-Experts (MoE) de pointe, doté de 28 milliards de paramètres au total, avec 3 milliards activés par token. Sa structure MoE hétérogène innovante avec routage isolé par modalité assure une compréhension supérieure du texte et de la vision, le rendant très efficace pour les tâches complexes. Construit sur une infrastructure efficace en termes de mise à l'échelle, ERNIE 4.5 VL 28B A3B prend en charge l'entraînement et l'inférence à haut débit. Il utilise des techniques de post-entraînement avancées, notamment SFT, DPO et UPO, pour des performances optimisées. Avec une longueur de contexte impressionnante de 131K et un alignement RLVR, il excelle dans le raisonnement et la génération cross-modaux. Il offre des capacités de vision, de fonctions et de streaming. Fenêtre de contexte : 30K tokens, Sortie maximale : 4K tokens. Tarification : 0,14 $/0,56 $ par million de tokens (entrée/sortie).