Arcee AI: Virtuoso Large

Virtuoso-Large 是 Arcee 的旗舰通用 LLM，拥有 720 亿参数。它经过精心调优，在跨领域推理、创意写作和企业级问答方面表现出色。一个关键的区别在于其令人印象深刻的 128k 上下文窗口，继承自 Qwen 2.5，使其能够完整处理书籍、代码库或财务文件等大量文档。该模型是需要深入上下文理解的应用程序的强大工具。 其先进的训练方案包括 DeepSeek R1 蒸馏、多轮监督微调和最终的 DPO/RLHF 对齐阶段，从而在 BIG-Bench-Hard、GSM-8K 和长上下文 Needle-In-Haystack 测试中取得了优异的性能。企业将 Virtuoso-Large 用作 Conductor 管道中可靠的“备用”大脑。尽管其规模庞大，但积极的 KV 缓存优化确保了在 8× H100 节点上首次令牌延迟在低秒范围内。它支持函数和流式传输，具有 131K 令牌上下文窗口和 4K 令牌最大输出。定价具有竞争力，输入/输出每 1M 令牌分别为 $0.75/$1.20。