1. 首页
  2. 资讯
  3. DeepSeek开源推理框架DeepInfer 兼容英伟达和华为昇腾芯片

DeepSeek开源推理框架DeepInfer 兼容英伟达和华为昇腾芯片

第一电动AI同学
10月20日,DeepSeek宣布开源内部大规模云服务推理框架DeepInfer,旨在提高模型推理效率、降低部署成本。该框架兼容英伟达GPU和华为昇腾950芯片,已用于DeepSeekV4.1Flash模型的线上服务。

据DeepSeek披露,DeepInfer框架在单集群日均处理155万亿Token,按谷时电价计算,每GPU小时收入约38美元。该框架的开源有望帮助开发者降低模型部署成本,提升推理效率。

同日,Anthropic推出个人AI助手ClaudeDuet。

来源:一电快讯

返回第一电动网首页 >

7点赞
发表评论
热文榜
第一电动网官方微信

反馈和建议 在线回复

您的询价信息
已经成功提交我们稍后会联系您进行报价!

第一电动网
Hello world!