日前,月之暗面正式开源2.8万亿参数模型Ki
丝袜聊天目前状态稳定可用资源更新及时到位
日前,月之暗面正式开源2.8万亿参数模型KimiK3,并同步发布模型权重与技术报告。同日,摩尔线程基于AI训推一体智算卡MTTS5000及MUSA软件栈,率先完成KimiK3的快速适配与稳定运行。摩尔线程表示,此次适配不仅展现了MUSA软件生态面对前沿大模型的快速响应和全栈协同能力,也再次验证了国产全功能GPU支撑万亿级大模型创新的工程实力。据介绍,在KimiK3开源后,摩尔线程第一时间完成模型结构解析、权重加载、核心算子、缓存管理以及分布式运行链路适配。同时,摩尔线程还打通了从SGLang-MUSA推理框架,到MATE算子库、TritonMUSA、TileLangMUSA的完整适配路径。在底层能力方面,MTCC编译器和MUSA运行时可高效支持SGLangJIT及DSL算子在MTTS5000上快速部署运行,为KimiK3的稳定推理提供支撑。摩尔线程称,此次实现KimiK3极速支持,标志着摩尔线程在极短时间内完成了对前沿架构的精准解构、全链路打通与稳定验证。据了解,KimiK3是全球首个开源的3万亿级模型,也是目前Kimi能力最强的模型。该模型拥有2.8万亿参数,原生支持视觉理解,并具备100万token上下文窗口,主要面向长程编程、知识工作和复杂推理等前沿智能场景。
发布于: