2024年5月，理想汽车被曝正在探索自研云端推理芯片，核心技术特征是沿用其车端智驾芯片的数据流架构。这一动作表明其在自动驾驶算力布局上，正从单一车端计算向车云协同计算演进，试图从底层硬件层面解决自动驾驶数据闭环的瓶颈。
理解该技术路线需要明确数据流架构与传统冯诺依曼架构的差异。传统云端推理芯片多采用冯诺依曼架构，计算单元与存储单元分离。在处理自动驾驶端到端大模型时，海量张量数据在内存与计算单元之间频繁搬运，导致内存墙问题，算力利用率往往不足50%。数据流架构将计算与存储深度融合，通过细粒度的数据流动直接触发计算。在数据流架构中，数据一旦计算完成即刻触发下游节点，无需等待整个批次或整个层级的计算结束。这种细粒度的流水线设计，极大缓解了传统架构中由于数据等待造成的计算单元空闲问题。理想汽车在车端智驾芯片上验证了该架构处理多路摄像头和激光雷达点云数据时的高吞吐优势。将架构平移到云端，云端推理芯片可直接处理车端回流的原始传感器数据，减少数据格式转换的算力损耗。为直观理解数据流架构在推理任务中的调度逻辑，以下提供一段基于Python的伪代码示例，展示如何构建数据流调度的计算图，用于处理多模态传感器数据的融合推理。import dataflow_engine as dfefrom sensor_modules import CameraNode, LidarNodefrom model_modules import BEVFusionNodedef buildcloudinference_graph(): graph = dfe.Graph(name=‘cloudmultimodal_fusion’) cam_stream = dfe.DataStream(dtype=‘float16’, shape=[8, 3, 224, 224]) lidar_stream = dfe.DataStream(dtype=‘float16’, shape=[8, 10000, 4]) camnode = CameraNode(inputstream=camstream, parallelthreads=4) lidarnode = LidarNode(inputstream=lidarstream, parallelthreads=4) fusion_node = BEVFusionNode( inputs=[camnode.output, lidarnode.output], memorypool=‘sharedhbm’ ) graph.addnodes([camnode, lidarnode, fusionnode]) graph.compile(target=‘customdataflowsilicon’) return graphif name == ‘main’: inferencegraph = buildcloudinferencegraph() inferencegraph.execute(batchsize=8)上述代码展示了数据流引擎的核心逻辑。通过定义DataStream，数据在节点之间以流的形式传递。在自动驾驶场景中，摄像头图像数据与激光雷达点云数据在时间戳和空间坐标系上存在天然差异，数据流架构允许在节点级别进行时间同步和空间对齐，而无需将全部数据先写入全局内存再统一读取。BEVFusionNode直接接收前序节点的输出，并指定使用共享高带宽内存池（sharedhbm）。这种设计避免了传统架构中频繁的数据拷贝，是自研芯片试图在云端实现的硬件级优化。通过parallelthreads参数设置为4，开发者可精确控制每个传感器数据流的处理并发度，从而最大化硬件计算单元的利用率。batch_size设置为8则定义了单次推理的批次大小，dtype指定为float16以平衡推理精度与显存带宽占用。这一技术路线对行业内的不同角色产生了直接且具体的影响。对自动驾驶算法工程师而言，车云采用同构的数据流架构，意味着在车端部署的算子和模型，可以无缝迁移到云端进行大规模训练和验证。工程师无需再针对云端GPU和车端NPU编写两套不同的底层优化代码，减少了跨架构移植的适配成本，可以将更多精力集中在模型结构优化和训练策略调整上。对新能源车企来说，自研云端推理芯片能够降低对通用GPU的采购依赖。通用GPU在设计时需考虑通用计算场景，而专用数据流芯片针对自动驾驶张量计算进行定制，公开报道未披露具体单卡价格，但能预期将单卡推理成本控制在更合理的区间，提高整体算力集群的吞吐量，降低海量数据回传后的处理成本。对普通消费者而言，虽然无法直接购买这块云端芯片，但可通过日常用车场景感受到体验提升。云端推理芯片将加速理想汽车端到端自动驾驶大模型的训练效率。这意味着普通车主在后续收到的OTA升级中，能获得更拟人化的无图NOA自动辅助导航驾驶体验。车辆在复杂路口的博弈、无保护左转以及动态变道逻辑将更加平滑，减少急刹和顿挫。基于云端高效推理支撑的车载语音助手，其响应延迟将进一步降低。大语言模型在云端的推理速度提升，使得多轮对话的上下文理解能力增强，普通人可通过更自然的语音指令完成车控、导航设置以及复杂的信息查询，无需再使用固定的指令模板。车云同构算力架构是智能汽车发展的技术趋势。理想汽车此次探索自研云端推理芯片，是为了打通自动驾驶数据闭环的底层硬件瓶颈。在影子模式下，车端产生的海量长尾场景数据可实时回传至云端，利用同构的数据流芯片进行快速推理和真值比对，从而加速模型迭代。随着大模型参数量的持续增加，专用数据流芯片在能效比上的优势将更加明显。这种从底层硬件到上层应用的垂直整合，将构成车企在智能化竞争中的技术基础。如果你对数据流架构在自动驾驶中的应用或计算图调度有更多疑问，欢迎在评论区交流你的看法。