10月23日,中国信息通信研究院人工智能研究所、人工智能大模型及软硬件评测工业和信息化部重点实验室和中国人工智能产业发展联盟联合发布《大模型词元服务性能监测报告(2026年)》。报告显示,我国日均词元调用量持续攀升,2026年6月国内词元日均消耗量约500万亿,是2025年12月的近4倍。随着大模型技术迅速迭代,词元服务成为从技术走向应用的关键点,越来越多MaaS平台厂商通过公有云API方式供给大模型词元服务,但用户对词元服务性能缺乏直观判断依据,面临选型困难等问题。
报告基于2026年1-8月监测数据,围绕调用成功率、吞吐速度、首词时延、稳定性、价格、上下文窗口等维度展开分析。数据显示,8月份国内各模型平均TPS达到78.23个/秒,较2025年均值38.25个/秒实现翻倍,但国外典型模型8月份TPS均值为112.82个/秒,整体仍优于国内。首词时延方面,国内8月份均值达1.26秒,较2025年平均值0.78秒明显增加,国外典型模型8月份TTFT平均值达2.08秒,亦较4月份1.04秒明显上升,报告指出这一变化与模型参数量增加、上下文长度增加、调用量增加等因素同步相关。
价格方面,经历过去两年价格战后,2026年国内外模型服务价格明显上涨。国内2025下半年归一化均价为6.8元,今年以来均价为13.46元,涨幅接近1倍;国外2026年以来发布的典型模型平均归一价格约为117.8元,仍高于国内。上下文长度方面,被监测模型中达到1M的占比47.8%,200K及以上的合计达95.7%,较2025年底提高超过76个百分点。开源模型方面,5月份更新的4款开源模型新版本TPS持续提升、TTFT不断压缩,8月份DeepSeek-V4-Pro的TPS已达到DeepSeek-V3.2的2倍,但同一模型在不同平台间的TPS差距最大可接近一倍,各平台推理加速、优化策略、成本控制不同是性能分化的主要原因。



来源:一电快讯
返回第一电动网首页 >
以上内容由AI创作,如有问题请联系admin#d1ev.com(#替换成@)沟通,AI创作内容并不代表第一电动网(www.d1ev.com)立场。
文中图片源自互联网或AI创作,如有侵权请联系邮件删除。