如何评价智能驾驶计算芯片性能？

原创汽车电子设计 2024-01-25 12:15

【TI资料】基于新型C29内核的MCU技术资料 如何增强能源基础设施的实时控制？

芝能智芯出品

在智能座舱里，大家都知道高通的芯片是目前的主流，比如高通8155，高通8295，车企不断的宣传让我们知道了芯片的重要性。那么在智能驾驶领域里，到底什么是重要的呢，评估面向自动驾驶的计算芯片性能时，有没有什么科学的依据呢？我们今天来解读一下“车载异构计算测评规范”的标准，这个标准非常详细地规定了测试的各个方面。

2022年7月，中国电子技术标准化研究院牵头制定了《面向自动驾驶应用的计算芯片》系列团体标准，并在中国电子工业标准化技术协会正式立项，在2023年4月发布了该系列团体标准的征求意见稿，并拟于2023年发布该系列标准。该系列标准包含技术要求、车载异构计算测评规范、人工智能应用工具链、传感器接口要求等四个部分。我们今天把“车载异构计算测评规范”这部分单独摘录出来进行探讨。

在这里主要提出了三个方面算力性能、智能驾驶场景AI性能和兼顾AI性能和整体端到端数据流处理能力。

Part 1

算力性能评估

在这里，普通消费者最为熟悉的TOPS，是算力的数据类型和算力单位。采用的是Tera Operations Per Second（TOPS）作为单位，表示每秒进行的计算次数。不同的数据类型包括INT4、INT8、INT16、FP16等，而在智能驾驶领域，以INT8数据类型的稠密算力为代表。

这里首先是稠密算力 vs. 稀疏算力的问题，稀疏算力和稠密算力是计算机科学中描述计算资源利用程度的两个关键概念。

● 稀疏算力表示在任务执行中，计算资源利用率较低，主要出现在处理低密度数据或低复杂度任务时。

● 稠密算力表示计算资源利用率较高，通常出现在处理高密度数据或高复杂度任务时。

在实际场景中，稀疏算力和稠密算力存在互补关系。合理的任务分配可以根据特定任务的特点和需求，使稀疏算力和稠密算力得到有效利用。例如，低优先级、低复杂度的任务可分配给稀疏算力服务器，而高优先级、高复杂度的任务则交给稠密算力服务器。这种合理分配有助于提高整体计算效率。

稀疏算力和稠密算力之间存在转换关系。通过调整任务优先级、复杂度或采用动态调度算法等手段，可以实现它们之间的转换。在云计算平台中，根据用户需求变化，系统可动态调整服务器算力分配，实现稀疏算力和稠密算力的灵活转换。

在标准中采用稠密算力方式进行评估的必要性。相对于稀疏算力，稠密算力更具有普适性，避免了准确度下降的问题，同时可以更好地满足计算准确度的要求。

注意，实际芯片对于不同数据类型的性能差异。虽然INT4、FP32等数据类型各有优势，但INT8数据类型更被广泛采用，因为它在效率和泛用性方面取得了平衡。为了规范业内智驾芯片的算力对比，采用INT8稠密算力为代表，并通过明确的标准来兼顾其他量化精度类型，避免了算力虚标和对比条件不统一造成的问题。

Part 2

智能驾驶场景AI性能评价

智能驾驶芯片性能不仅取决于硬件算力数值，还与软硬件协同后的实际能力相关。在特定智能驾驶场景下，车辆是否能够达到较高的芯片使用效率至关重要。

我们需要注意推理吞吐率（FPS）的重要性，AI推理性能需要了解评估这一性能的指标，时延（Latency）和吞吐量（Throughput）是常用于衡量AI推理程序性能的两个重要指标。

● 时延： 衡量处理单个单位数据的速度，即单一事件的处理速度。

● 吞吐量： 衡量在单位时间内处理的数据量，即整个系统处理事件的效率。

时延评估的是单一事件的处理速度，吞吐量评估的是整个系统处理事件的效率。时延高低与吞吐量大小有关系，但二者不是直接的线性关系，评价性能时，需要同时关注时延和吞吐量这两个指标。采用推理吞吐率（FPS）作为主要评价方法，因为它更能反映车载智能芯片的真实计算性能。为了真实反映整体处理性能，可以选择智能驾驶场景中最典型的模型进行性能测试。