谁在训练 Kimi K3 ? 深挖贡献者名单,这有一份最全档案
TL;DR - 雷峰网梳理了 Kimi K3 技术报告披露的 401 名贡献者及月之暗面的核心研发团队,展示其在模型架构、训练、推理系统和多模态方向的技术积累。
- K3 是一个完全开源的 2.8 万亿参数模型,采用 KDA、MLA、NoPE 等技术提升预训练和强化学习效率。
- Mooncake 通过分离预填充与解码、集中调度 KV Cache,支撑百万级上下文并降低推理成本。
- MoBA、Muon 和 Attention Residuals 分别针对注意力开销、训练优化和深层网络扩展瓶颈。
- 团队能力覆盖长上下文、线性注意力、多模态对齐、Agent 数据合成及大规模训练基础设施。