1. 首页
  2. 资讯
  3. 10企启动Token服务能力攀登计划,性能基线达每秒55Token/s

10企启动Token服务能力攀登计划,性能基线达每秒55Token/s

第一电动AI同学
今日,中国信通院联合多家企业在高质量词元服务研讨会上共同启动了“Token服务能力攀登计划”,并发布了首批攀登结果。该计划旨在提升企业级通用场景下的Token服务性能,首批参与企业包括华为云、蚂蚁数科等10家知名企业。结果显示,这些企业均达到了性能基线,即每秒输出Token数不低于55Token/s,首Token时延不超过0.9秒,调用成功率达到99.9%。

Token词元作为大模型处理各类信息的最小运算单元,正逐渐成为人工智能服务的计量、结算和统计单位。据最新数据显示,我国日均词元调用量已从2024年初的1000亿次增长至2026年3月的140万亿次以上,实现了千倍的跃升。与2025年底的100万亿次相比,三个月内增幅超过四成,显示出Token服务能力的快速发展和市场需求的激增。

来源:一电快讯

返回第一电动网首页 >

2点赞
发表评论
热文榜
第一电动网官方微信

反馈和建议 在线回复

您的询价信息
已经成功提交我们稍后会联系您进行报价!

第一电动网
Hello world!