阿里云表示,其 Zhenwu M890 ...
阿里云表示,其 Zhenwu M890 超节点实例已实现对 Kimi K3 的 Day-0 适配,成为首个运行近3万亿参数模型的国产超节点。阿里云、芯片子公司平头哥以及 Kimi 团队在软件栈和算子层面进行了深度联合优化;Qianwen AI 平台和阿里云百炼将提供 Kimi K3 模型的 API。据报道,针对 Kimi K3 架构的核心算子优化提升了推理计算和带宽效率,可稳定支持高达 100 万 Token 的上下文;测试显示,首 Token 延迟降低约 35%,单 GPU 解码吞吐量提升了 1.8 倍。