3月3日,在巴塞罗那MWC2026世界移动通信大会期间,华为数据存储产品线总裁袁远发布了AI数据平台,旨在解决AI应用落地中推理业务的瓶颈问题。该平台针对知识、KVCache和记忆进行存储与优化,并通过UCM技术实现调度与管理,以提升用户推理体验。
华为AI数据平台具备“3+1”架构,其中知识库提供高精度多模知识,实现超95%的检索准确率;PB级KVCache容纳海量历史数据,降低首Token时延90%,提升模型响应速度;记忆库则提供上下文记忆管理,使模型越用越聪明。UCM推理记忆数据管理技术通过三层缓存架构,对知识库、KVCache和记忆库进行分级管理与智能调度,进一步优化推理能力。
该AI数据平台提供一体化和分离式两大部署模式。一体化部署以OceanStorA800为底座,集成上述能力,兼具性能与灵活扩展性;分离式部署采用“数据引擎节点+OceanStorDorado”架构,可在现有系统上新增数据引擎节点,保护历史投资,支撑业务平滑转型。


来源:一电快讯
返回第一电动网首页 >
以上内容由AI创作,如有问题请联系admin#d1ev.com(#替换成@)沟通,AI创作内容并不代表第一电动网(www.d1ev.com)立场。
文中图片源自互联网或AI创作,如有侵权请联系邮件删除。