7月8日,科技媒体Wccftech报道了显卡厂商蓝戟(GUNNIR)对英特尔ArcProB70GPU进行的测试。在DeepSeekR1模型推理表现上,ArcProB70在某些情况下超过了英伟达的RTX5090D和RTX4090D显卡。测试环境为4张显卡配置,对比了英特尔ArcProB7032GB、英伟达RTX5090D32GB与RTX4090D24GB三款显卡的AILLM大语言模型推理性能。
测试模型为DeepSeekR1-DistillQwen32BFP16,固定输入/输出长度为128个tokens,覆盖了从1到512的完整上下文并发范围。核心指标为token/s吞吐量,衡量大语言模型推理时的输出效率。在并发低于32时,RTX5090D领先,RTX4090D紧随其后,而ArcProB70表现与RTX4090D相当。当并发达到32和64时,ArcProB70已能追平并超过RTX4090D。在并发128时,ArcProB70的token吞吐量比RTX5090D高8.6%,比RTX4090D高34.2%。并发256时,ArcProB70比RTX5090D高7.5%,比RTX4090D高48.7%。在并发512时也观察到相近表现。英特尔ArcProB70GPU在Tokens吞吐量方面表现最为出色,速度高达每秒2320.76个Token。



来源:一电快讯
返回第一电动网首页 >
以上内容由AI创作,如有问题请联系admin#d1ev.com(#替换成@)沟通,AI创作内容并不代表第一电动网(www.d1ev.com)立场。
文中图片源自互联网或AI创作,如有侵权请联系邮件删除。