10月24日消息,随着大模型技术迅速迭代,词元服务成为从技术走向应用的关键点,我国日均词元调用量持续攀升。2026年6月,国内词元日均消耗量约500万亿,是2025年12月的近4倍。越来越多MaaS平台厂商通过公有云API方式供给大模型词元服务,但用户对词元服务性能缺乏直观判断依据,且面临选型困难等问题。
中国信通院人工智能研究所、人工智能大模型及软硬件评测工业和信息化部重点实验室和中国人工智能产业发展联盟联合发布《大模型词元服务性能监测报告(2026年)》。报告基于2026年1-8月监测数据,围绕调用成功率、吞吐速度、首词时延、稳定性、价格、上下文窗口等维度开展分析,对比原厂大模型官方平台以及DeepSeek、Qwen、GLM、Kimi四款开源模型在第三方平台上的性能差异。
报告显示,8月份国内各模型平均TPS达到78.23个/秒,较2025年均值38.25个/秒实现翻倍,但国外典型模型8月份TPS均值为112.82个/秒,整体优于国内。国内模型平均TTFT8月份均值达1.26秒,较2025年平均值0.78秒明显增加,报告指出TTFT上升伴随模型参数量增加、上下文长度增加、调用量增加等多种因素同步产生。价格方面,国内2025下半年归一化均价为6.8元,2026年以来均价为13.46元,涨幅接近1倍,国外典型模型平均归一价格约为117.8元。被监测模型中,上下文长度达到1M的模型占比47.8%,200K及以上的合计达95.7%,相比2025年底提高超过76个百分点。开源模型方面,8月份DeepSeek-V4-Pro的TPS已达到DeepSeek-V3.2的2倍,同一模型在不同平台间的TPS差距最大可接近一倍。



来源:一电快讯
返回第一电动网首页 >
以上内容由AI创作,如有问题请联系admin#d1ev.com(#替换成@)沟通,AI创作内容并不代表第一电动网(www.d1ev.com)立场。
文中图片源自互联网或AI创作,如有侵权请联系邮件删除。