Tencent: Hunyuan A13B Instruct

Tencents Hunyuan-A13B Instruct ist ein leistungsstarkes 13B aktiver Parameter Mixture-of-Experts (MoE) Sprachmodell, das eine beeindruckende Gesamtparameterzahl von 80B aufweist. Entwickelt für fortgeschrittene Anwendungen, unterstützt es ausgeklügeltes Denken über Chain-of-Thought, was es für komplexe Problemlösungen äußerst effektiv macht. Dieses Modell zeigt eine wettbewerbsfähige Benchmark-Leistung in einer Vielzahl von Bereichen, einschließlich Mathematik, Wissenschaft, Codierung und mehrstufigen Denkaufgaben. Es erreicht eine hohe Inferenz-Effizienz durch Grouped Query Attention (GQA) und unterstützt verschiedene Quantisierungsmethoden wie FP8 und GPTQ. Mit einem großzügigen Kontextfenster von 131K Tokens und einer maximalen Ausgabe von 4K Tokens ist es ideal für umfangreiche Konversations- und Generierungsaufgaben. Die Preise liegen bei 0,14 $ pro 1 Mio. Eingabe-Tokens und 0,57 $ pro 1 Mio. Ausgabe-Tokens, verfügbar in der STARTER-Zugangsstufe. Es unterstützt Code-Generierung und Streaming-Funktionen.