月之暗面开源 Kimi K3 模型,2.8 万亿参数
最新 7 月 27 日消息,月之暗面官方今晚正式开源 Kimi K3 模型。官方发布了 Kimi K3 的模型权重、技术报告,并开源支撑 Kimi K3 模型训练的关键 Infra 技术:MoonEP、FlashKDA 和 AgentEnv。
Kimi K3 是一个 2.8 万亿参数模型,基于 KDA 混合线性注意力机制(Kimi Delta Attention)和注意力残差(Attention Residuals)技术构建,原生支持视觉理解,并拥有 100 万 token 上下文窗口。
官方表示,Kimi K3 是首个达到 2.8 万亿参数规模的开源模型,在过去 12 个月中的 9 个月里,Kimi 模型都保持着开源模型的规模上限。

Kimi 还进一步扩大了 Mixture of Experts(MoE)的稀疏度:结合 Stable LatentMoE 框架后,模型可以在 896 个专家中高效激活 16 个。再加上训练方法和数据配方的优化,这些结构性改进让 Kimi K3 相比 K2 的整体扩展效率提升约 2.5 倍,能更有效地把算力转化为能力。

据介绍,Kimi K3 具备很强的长程编码能力。在极少人工监督的情况下,它可以持续完成长时间工程任务,理解和处理大型代码库,并协调使用终端工具;Kimi K3 也擅长结合软件工程与视觉推理的任务。它能够利用截图和视觉反馈,优化游戏开发、前端和 CAD 等场景。
官方此前表示,虽然 Kimi K3 的整体表现仍落后于最强的闭源模型 Claude Fable 5 和 GPT-5.6 Sol,但在整套评测中展现出前沿水平的能力,并稳定超过了其他所有模型。


官方还公布了支撑 Kimi K3 训练的三项 Infra 技术:MoonEP、FlashKDA 和 AgentEnv,覆盖从高性能通信、高性能算子到分布式 RL 环境的关键链路。其中 FlashKDA 此前已开源,MoonEP 和 AgentEnv 则随本次发布正式开源。
最新附开源链接:
Hugging Face:https://huggingface.co/moonshotai/Kimi-K3
GitHub:https://github.com/MoonshotAI/Kimi-K3
《月之暗面开源 Kimi K3 模型,2.8 万亿参数》转载自互联网,如有侵权,联系我们删除,QQ:369-8522。
相关图文
-
贾跃亭称聚焦 EAI 机器人战略后,法拉第未来经营基本面进入历史上最好时期
贾跃亭今日发布视频,称聚焦 EAI 机器人战略之后,法拉第未来的经营基本面由于机器人业务快速发展,已经进入了历史上最好的时期。另外,贾跃亭还谈及了 FFAI 此次合股。他表示,由于现在已经出现了连续 10 个交易日等于或低于 0.10 美元可能触发的纳斯达克退市风险,于是实施了合股方案。... -
韩国 SK 电信斥资 7500 亿韩元成立 SK Hyper 子公司,计划建设 15GW 的 AI 数据中心
SK 电信成立子公司 SK Hyper,专注于 AI 数据中心业务。计划到 2030 年投资 7500 亿韩元,先在 2029 年建成 5 吉瓦容量,随后根据需求在 2035 年前扩容至 15 吉瓦。公司将在蔚山、忠清等地建设基础设施,推动韩国 AI 算力发展。#AI数据中心# #SK电信#... -
消息称英伟达与 OpenAI 洽谈,拟为其“全球最大”数据中心项目提供 2500 亿美元担保
据《华尔街日报》报道,英伟达正与 OpenAI 谈判,拟为其租赁软银旗下 10GW 级数据中心项目提供约 2500 亿美元的融资担保。该项目总投资超 5000 亿美元,或成全球最大数据中心。Anthropic、微软、谷歌等企业也对该项目表现出兴趣。#AI算力#... -
英伟达用 Vera 处理器加速下一代 CPU 和 GPU 设计,EDA 应用提速最高 1.5 倍
英伟达联合楷登、新思科技优化 EDA 应用适配 Vera CPU,部署该架构加速自有下一代 CPU、GPU 的芯片研发流程... -
进一步增强逻辑性能:三星电子计划在 HBM5 内存导入 2nm 基础裸片
HBM5 的运行速率预计将较 HBM4E 提升 50% 以上,其基础裸片将支持更高密度的硅通孔 (TSV) 以满足行业需求。...












