Cadence：Tensilica Vision C5 DSP不同于神经网络加速器

在硅谷2017夏季拜访Cadence总部时，刚刚发布不久的Cadence Tensilica Vision C5 DSP再一次被该公司的产品市场负责人提起，他们向电子工程专辑强调，Vision C5 DSP不是一个普通的神经网络加速器，而是专门针对神经网络进行了特定优化的DSP，可以实现全神经网络层的计算加速（卷积层、全连接层、池化层和归一化层），而不仅仅是卷积层的加速。

之前电子工程专辑记者邵乐峰曾经撰写过C5 DSP的报道，“神经网络DSP市场凑齐一桌麻将，Cadence Tensilica一落座就准备听牌”，但是这家公司的外国市场部的同事在看完文章后更糊涂了。“我们没有在打麻将，我们在认真做神经网络。”Pulin Desai，Cadence旗下Tensilica IVP事业部产品市场总监笑着回应了我们之前的报道。

这位印度裔的技术市场男显然没有搞懂我们中国记者同事的梗。麻将在美国越来越普遍，听说过麻将的美国人也非常多。但是他没能理解DSP跟麻将之间有什么关系。

图：Cadence旗下Tensilica IVP事业部产品市场总监Pulin Desai在硅谷总部介绍Vision DSP产品 P5、P6和C5 DSP。

Cadence Tensilica Vision C5 DSP，面向对神经网络计算能力有极高要求的视觉设备、雷达/光学雷达和融合传感器等应用量身优化。针对车载、监控安防、无人机和移动/可穿戴设备应用，Vision C5 DSP 1TMAC/s的计算能力完全能够胜任所有神经网络的计算任务。

Pulin Desai再次向电子工程专辑记者解释了Vision C5 DSP与神经网络加速器的区别。

神经网络DSP vs. 神经网络加速器*

图1：C5 DSP与神经网络加速器的区别

基于摄像头的视觉系统在汽车、无人机和安防领域最为常见，这种架构需要两种最基础的视觉优化计算模式。首先，利用传统视觉算法对摄像头捕捉到的照片或图像进行增强；其次，使用基于神经网络的认知算法对物体进行检测和识别。现有的神经网络加速器解决方案皆依赖与图像DSP连接的硬件加速器；神经网络代码被分为两部分，一部分网络层运行在DSP上，卷积层则运行在硬件加速器上。这种架构不但效率低下，且耗能较高。

Vision C5 DSP是专门针对神经网络进行了特定优化的DSP，可以实现全神经网络层的计算加速（卷积层、全连接层、池化层和归一化层），而不仅仅是卷积层的加速。因此，主视觉/图像DSP能力得以释放，独立运行图像增强应用，Vision C5 DSP则负责执行神经网络任务。通过移除神经网络DSP和主视觉/图像DSP之间的冗余数据传输，Vision C5 DSP的功耗远低于现有的神经网络加速器。同时，Vision C5 DSP还提供针对神经网络的单核编程模型。

为了让读者更快地明白这两者的区别，电子工程专辑记者还是打算再添几张PPT：

区别2：神经网络、加速器与神经网络DSP的区别

再附上一张Vision C5 DSP与目前商用的GPU的对比

图：Vision C5 DSP跟CPU、GPU、神经网络加速器在嵌入式系统中的应用场合对比

Pulin Desai总结：Vision C5 DSP是一款灵活前瞻的永不过时（future-proof）解决方案，支持各类内核尺寸、深度和输入规格。Vision C5 DSP采用多项系数压缩／解压技术，支持未来添加的新计算层。与之相反，CNN硬件加速器由于程序重编能力有限，扩展能力较差。

已经公布的Vision DSP 生态伙伴。不过小编没有看到有中国国内的公司。这也侧面说明中国的神经网络研究的步伐可能还有点落后吧。

最后附上Vision C5 DSP的参数与性能说明

依托独立引擎，Vision C5 DSP具备领先的神经网络性能：

• 不到1mm2的芯片面积可以实现1TMAC／秒的计算能力（吞吐量较Vision P6 DSP提高4倍），为深度学习内核提供极高的计算吞吐量

• 1024 8-bit MAC或512 16-bit MAC 确保8-bit 和16-bit精度的出色性能

• 128路8-bit SIMD或64路16-bit SIMD的VLIW SIMD架构

• 专为多核设计打造，以极少的资源代价获得NxTMAC的处理能力

• 内置iDMA和AXI4总线接口

• 使用与Vision P5和P6 DSP一致的经验证软件工具包

• 基于业界知名的AlexNet CNN Benchmark，Vision C5 DSP的计算速度较业界的GPU最快提高6倍；Inception V3 CNN benchmark，有9倍的性能提升。

Vision C5 DSP搭载Cadence神经网络Mapping工具链，可将Caffe和TensorFlow等映射为在Vision C5 DSP上高度优化过的可执行代码，充分发挥手动优化神经网络库的丰富功能。

本文为《电子工程专辑》原创，版权所有，转载请注明出处并附链接

关注最前沿的电子设计资讯，请关注“电子工程专辑微信公众号”。