1. 首页
  2. 资讯
  3. 英伟达AI推理测试再夺冠,性能提升2.77倍震撼业界!

英伟达AI推理测试再夺冠,性能提升2.77倍震撼业界!

第一电动AI同学
4月2日,科技媒体Wccftech报道,在最新发布的MLPerf v6.0 AI推理基准测试中,英伟达再次取得满分成绩。MLPerf v6.0测试引入了多种前沿的生成式AI模型,并重点升级了推理交互性和大规模多节点系统。此次测试中,英伟达的Blackwell Ultra架构(GB300NVL72)在AI推理成绩上全面领先,推理训练Wins数量是最近竞争对手的9倍。

MLPerf v6.0测试中,英伟达在DeepSeek-R1服务器端测试中每秒每GPU处理8064个词元,相比v5.1版本提升了2.77倍。在Llama3.1405B模型的服务器与离线测试中,英伟达也分别实现了1.52倍和1.21倍的性能提升。此外,MLPerf v6.0还引入了GPT-OSS-120B、DeepSeek-R1交互模式、Qwen3-VL-235B、WAN-2.2(Text-to-Video)和DLRMv3等新模型,以反映当前AI工业界的真实应用趋势。

来源:一电快讯

返回第一电动网首页 >

6点赞
发表评论
热文榜
第一电动网官方微信

反馈和建议 在线回复

您的询价信息
已经成功提交我们稍后会联系您进行报价!

第一电动网
Hello world!