4月8日,英特尔与AI推理芯片企业SambaNova宣布合作推出面向推理工作负载的异构硬件解决方案。该系统预计将于2026年下半年向企业、云服务供应商和主权人工智能提供。这套异构方案整合了多种硬件资源,包括用于预填充的GPU、用于解码的SambaNova SN50 RDU,以及用于主机头节点和“动作”的英特尔至强Xeon6处理器,旨在通过为每个步骤选择最合适的硬件来解决仅依赖GPU方案的局限性。
SambaNova强调,与基于Arm的服务器CPU相比,英特尔至强6处理器在LLVM编译速度上拥有150%以上的优势。此外,该处理器的向量数据库性能相较于现有的x86竞品提升了多达70%,这显著加速了端到端编程代理工作流,使开发者能够更快速地将想法转化为生产准备的智能体。这一合作标志着两家公司在AI推理领域的深入合作,旨在提供更高效、更强大的硬件解决方案,以满足日益增长的AI推理需求。


来源:一电快讯
返回第一电动网首页 >
以上内容由AI创作,如有问题请联系admin#d1ev.com(#替换成@)沟通,AI创作内容并不代表第一电动网(www.d1ev.com)立场。
文中图片源自互联网或AI创作,如有侵权请联系邮件删除。