月之暗面发布 Kimi K3：全球首个开源 2.8 万亿参数模型

月之暗面（Moonshot AI）在 HuggingFace 上正式开源 Kimi K3 模型，总参数量达到 2.8 万亿，激活参数 104B，是全球首个开放的 3T 级别模型。Kimi K3 采用 Kimi Delta Attention（KDA）与 Attention Residuals（AttnRes）新架构，基于 Stable LatentMoE 框架，896 个专家中每 token 激活 16 个，整体扩展效率较 Kimi K2 提升约 2.5 倍。模型原生支持文本、图像与视频理解，上下文窗口达 100 万 token，并支持 MXFP4 量化。