今日，理想汽车被曝正在探索自研云端推理芯片，该项目采用与智驾芯片相同的数据流架构，目前仍处于早期阶段。云端推理芯片旨在承接部分原本在GPU上运行的推理任务，包括智驾模型的数据处理、测试、仿真，以及大语言模型的请求处理。尽管模型训练中涉及参数更新的部分仍需训练芯片，但在云端使用数据流架构技术上是可行的。

理想汽车的云端推理芯片计划复用车端NPU的计算设计，通过将多个AI计算晶粒封装在一起，并配套高带宽内存和高速互联，组成规模更大的推理芯片。这样的设计使得车端和云端可以复用部分设计和软件工具，从而分摊研发成本。云端芯片与车端芯片相比，需要处理更多模型，模型更新更快，输入长度和并发请求波动更大，还涉及高带宽内存、多芯片互联、动态批处理和集群调度等技术挑战。

今年早些时候，理想汽车在ISCA2026上发表了题为《马赫M100：面向通用AI计算的编排式数据流架构》的主题演讲，与谷歌、Meta等科技公司研究者探讨AI计算架构的未来方向。马赫M100是全球首款基于数据流架构的大算力端侧推理芯片，采用5nm车规级工艺，单芯片算力1280TOPS，算力利用率达82%，并搭载8通道LPDDR5X内存，峰值带宽273GB/s；CPU侧配备24核ARM Cortex-A78AE处理器集群。