月之暗面公司近日正式推出新一代大模型Kimi K3,这款模型凭借2.8万亿参数规模和100万token的上下文窗口,一经发布便在全球科技圈引发广泛关注。作为全球首个开源的3万亿级别模型,Kimi K3在参数规模和开源策略上均实现了重大突破,其原生支持的视觉理解能力更使其成为多模态AI领域的标杆产品。
特斯拉创始人马斯克在社交平台对Kimi K3给予高度评价,称其"令人印象深刻"。这已是马斯克第二次公开认可该团队成果——今年3月,Kimi团队发布改进ResNet残差连接的技术论文时,就曾获得马斯克"令人印象深刻的工作"的赞誉。当时Kimi官方账号以幽默方式回应:"你的火箭造得也不错",此次互动成为科技圈热议话题。
技术架构方面,Kimi K3创新性地采用KDA混合线性注意力机制与注意力残差技术,配合Stable LatentMoE框架实现高效计算。该模型在896个专家模块中动态激活16个,通过架构优化使训练效率较前代提升2.5倍。其100万token的上下文处理能力,可支持超长文本的深度分析,在知识推理、编程开发等场景展现显著优势。
在月之暗面公布的基准测试中,Kimi K3的综合性能仅次于Claude Fable 5和GPT-5.6 Sol两款闭源模型,在编程开发、视觉理解等专项测试中表现突出。特别是在软件工程领域,该模型能够结合源代码、运行日志和测试反馈进行代码迭代优化,已成功应用于前端开发、游戏制作和科研编程等多个场景。
本次发布最引人注目的创新,是Kimi K3完成了AI自主设计芯片的概念验证。在48小时持续运行中,该模型利用开源EDA工具和Nangate 45nm工艺库,独立完成从芯片设计到验证的全流程。最终设计的芯片面积4平方毫米,集成146万个标准单元,在100MHz频率下实现每秒8700 token的解码吞吐量,验证了AI模型在硬件研发领域的可行性。
尽管验证芯片采用45nm成熟工艺,与量产级AI芯片存在代际差距,但这次尝试仍具有里程碑意义。传统AI芯片研发需要数年周期和庞大团队,而Kimi K3的快速原型验证,展示了长文本大模型在复杂工程领域的创新潜力。作为全球首个开放权重的3万亿参数模型,Kimi K3将于7月27日向全球开发者开放完整模型权重,这一举措被业界视为推动AI技术普惠的重要里程碑。











