7月27日，月之暗面官方宣布正式开源KimiK3模型，这是首个达到2.8万亿参数规模的开源模型。KimiK3基于KDA混合线性注意力机制和注意力残差技术构建，原生支持视觉理解，并拥有100万token上下文窗口。在过去12个月中的9个月里，Kimi模型保持着开源模型的规模上限。KimiK3进一步扩大了Mixture of Experts的稀疏度，结合StableLatentMoE框架后，模型可以在896个专家中高效激活16个。这些结构性改进让KimiK3相比K2的整体扩展效率提升约2.5倍，能更有效地把算力转化为能力。

KimiK3具备很强的长程编码能力，在极少人工监督的情况下，可以持续完成长时间工程任务，理解和处理大型代码库，并协调使用终端工具。KimiK3也擅长结合软件工程与视觉推理的任务，能够利用截图和视觉反馈，优化游戏开发、前端和CAD等场景。官方还公布了支撑KimiK3训练的三项Infra技术：MoonEP、FlashKDA和AgentEnv，覆盖从高性能通信、高性能算子到分布式RL环境的关键链路。其中FlashKDA此前已开源，MoonEP和AgentEnv则随本次发布正式开源。