赛灵思公司日前宣布推出Kria自适应系统模块(SOM)产品组合,这款可量产化的小尺寸嵌入式板卡具备完整的软件堆栈与预构建的加速应用,可在基于边缘的应用中实现快速部署。赛灵思工业、视觉、医疗及科学(ISM)市场总监Chetan Khona在接受媒体采访时表示,与芯片缩减设计(chip-down design)相比,Kria SOM允许开发者从设计周期中更为成熟的节点入手,进而将部署时间缩短多达9个月。
SOM的准确定义是“位于系统核心的小尺寸嵌入式PCB(包括处理器、DDR、外设)”,属于板卡级而非芯片级设计,直接插入最终产品即可进行生产部署。这与赛灵思面向数据中心推出Alveo解决方案的思路一致,都是希望能够加快部署速度,并通过前期对软件工具的大量投入,让没有FPGA开发背景的软件开发人员同样可以在设计环境里对赛灵思的Alveo/SOM做后续的开发。
Chetan Khona援引相关机构的预测数据称,SOM市场正以每年约11%的速度增长,预计到2025年,该市场总收入将达到 23亿美元。
Kria SOM产品组合中的首款产品Kria K26,是专门针对智慧城市和智能工厂中的视觉AI应用打造的。当然,在赛灵思规划的路线图上,我们还看到了面向尺寸和成本受限型应用的成本优化型SOM,以及能够为开发者提供每瓦更高实时计算能力的高性能模块。
之所以选择视觉AI领域入手,Chetan Khona解释说,视觉市场总体呈现多样化、碎片化的特点,超过70种的视觉用例缺乏统一解决方案。另一方面,精度越来越高的AI模型在早期开发时,并没有考虑到如何在尺寸和功耗都受到限制的边缘设备上进行部署。所以,打造一个拥有更好落地基础,具备“生产就绪型”特征的视觉AI方案,是赛灵思推出Kria K26的初衷所在。
Kria K26 SOM构建在Zynq UltraScale+ MPSoC架构之上,该架构具有四核ARM Cortex A53处理器、超过25 万个逻辑单元和H.264/265视频编解码器。SOM还具备4GB DDR4内存和245个 IO,使其可以适应几乎任何传感器或接口。与基于GPU的SOM相比,凭借1.4 TOPS的AI算力,Kria K26 SOM使开发者可以创建能以更低时延和功耗提供3倍以上性能的视觉AI应用。对于安全、交通及城市摄像头、零售分析、机器视觉和视觉引导机器人在内的智能视觉应用而言,这一点至关重要。
下图对比了基于K26和GPU的SOM在车牌识别应用中的性能差异。可以看出,凭借33帧/秒、5瓦功耗、3流数量等指标,K26 SOM在实现1.5倍性能增长的同时,将每视频流功耗和成本都降低了50%。而且,当用户AI模型发生变化时,Kria SOM还能够凭借自适应优势实现灵活调整。
如前文所述,近几年里,赛灵思在自身工具流方面大力投入,使自适应计算更易于为不具备硬件专业知识的AI和软件开发者所使用。这些交钥匙应用免除了所有FPGA硬件设计工作,只需软件开发者集成其定制AI模型、应用代码,并使用熟悉的设计环境,如TensorFlow、Pytorch或Caffe框架,以及C、C++、OpenCL和Python编程语言,通过Vitis统一软件开发平台和库对视觉处理流进行选择性修改。
与此同时,借助这一面向基于软件设计的加速应用新范例,赛灵思宣布推出首个针对边缘应用的嵌入式应用商店。除了面向数据中心的Alveo应用目录,赛灵思应用商店目前还为客户提供了来自赛灵思及其生态系统合作伙伴的广泛Kria SOM应用选择。赛灵思所提供的是开源加速应用,不仅免费提供,而且涵盖范围从智能摄像头跟踪和人脸检测到具备智能视觉的自然语言处理。
通过支持标准的基于Yocto的PetaLinux,Kria SOM还能助力嵌入式开发者实现定制和优化。赛灵思有史以来首次宣布将与Canonical合作支持Ubuntu Linux,这个Linux 发行版深受欢迎且广为AI开发者使用,这也为AI开发者提供了广泛的熟悉度,以及与现有应用之间的互操作性。客户可以在任何一个环境中进行开发,也可以选用任何一种方式进行生产,两种环境都预构建了软件基础设施和实用工具。
以下图的智能摄像头应用为例,用户可以通过四种方式与其进行交互:第一种就是简单的编写软件;第二种是将设备中原有的AI模型用客户自主训练过的AI模型来取代;第三种是用户可以使用Python、C、C++、OpenCL等语言对FPGA的设计进行改动。在这一过程中,用户不一定要非常熟悉FPGA语言,因为Vitis工具已经提供了包括OpenCB在内的通用功能的库;第四种则是通过赛灵思提供的设计模型工具对全栈进行修改。
Kria KV260视觉AI入门套件为设计视觉应用提供了一款经济实惠且易于使用的开发平台,完全开箱即用,即便在不了解FPGA或FPGA工具的情况下,也能在一小时内启动和运行。该入门套件定价为199美元,用户可以在此基础上无缝过渡到Kria K26量产版SOM,包含定价为250美元的商业版和350美元的工业版。根据计划,KV260视觉入门套件已经上市;商业级 Kria K26 SOM将于5月出货,工业级K26 SOM将于今年夏天出货;基于 Kria K26 SOM的Ubuntu Linux预计将于2021年7月问世。
Chetan Khona并不认为Kria SOM的出现会与合作伙伴的方案形成竞争关系,反而会形成双赢的局面。而且,与其他单纯基于硬件的方案相比,具备应用加速功能的Kria SOM有着自己的价值主张,没有与合作伙伴形成竞争。