Tencent: Hunyuan A13B Instruct

Hunyuan-A13B Instruct от Tencent — это мощная языковая модель Mixture-of-Experts (MoE) с 13B активными параметрами, обладающая впечатляющим общим количеством параметров в 80B. Разработанная для передовых приложений, она поддерживает сложное рассуждение через Chain-of-Thought, что делает ее очень эффективной для решения комплексных задач. Эта модель демонстрирует конкурентоспособную производительность в бенчмарках по широкому кругу областей, включая математику, науку, кодирование и многошаговое рассуждение. Она достигает высокой эффективности вывода благодаря Grouped Query Attention (GQA) и поддерживает различные методы квантования, такие как FP8 и GPTQ. С большим окном контекста в 131K токенов и максимальным выходом в 4K токенов, она идеально подходит для обширных диалоговых и генеративных задач. Стоимость составляет $0.14 за 1M входных токенов и $0.57 за 1M выходных токенов, доступна на уровне STARTER. Поддерживает генерацию кода и потоковую передачу.