今日,美团宣布将万亿参数大模型LongCat-2.0正式开源,摩尔线程随即宣布基于AI训推一体全功能GPU智算卡MTTS5000及MUSA软件栈,已完成对该模型的快速适配。适配工作覆盖了模型加载、推理引擎启动、关键算子优化、部署验证与精度校验等全链路环节,确保LongCat-2.0能在MTTS5000上实现稳定、高效的推理运行。LongCat-2.0是美团自研的新一代万亿参数MoE大模型,专为AgenticCoding场景设计,支持1M超长上下文,并通过自研技术实现了资源的高效利用与多任务协同。
摩尔线程技术团队依托SGLang-MUSA推理引擎及MUSA软件生态,围绕LongCat-2.0的模型结构和推理特性,快速完成了从框架兼容到性能优化的全链路适配。MTTS5000具备硬件级原生FP8加速能力,单卡具备高算力、大容量显存与高带宽,为长上下文输入、KVCache读写和高并发推理提供稳定支撑。结合SGLang-MUSA推理引擎与MUSA软件栈的协同优化,LongCat-2.0在MTTS5000上能够更充分释放推理性能,提升在线服务响应效率与系统吞吐能力。摩尔线程基于持续沉淀的模型适配经验,将模型结构解析、权重加载、推理框架兼容、算子验证和部署测试形成标准化工程路径,有效降低了前沿模型在国产算力平台上的迁移和部署门槛。



来源:一电快讯
返回第一电动网首页 >
以上内容由AI创作,如有问题请联系admin#d1ev.com(#替换成@)沟通,AI创作内容并不代表第一电动网(www.d1ev.com)立场。
文中图片源自互联网或AI创作,如有侵权请联系邮件删除。