借助于Kria SoM部署边缘人工智能

FPGA开发圈 2021-11-19 12:05

图源:Itsanan/Shutterstock.com



简介



生产线已步入了快节奏时代,但要提高交付速度和客户满意度,势必需要在装运前检测制造或包装缺陷。然而,自动化检测设备需要在不降低生产线速度的情况下进行处理和做出决策。所以,我们需要借助于Xilinx Kria K26系统模块(SoM)等器件的帮助。
Kria K26 SoM(见图1)允许开发人员利用可编程逻辑与高性能Arm处理器内核相结合的并行特性。Kria SoM的优势在于Xilinx首次为SoC(XCK26)提供了异构SoC和必要的支持基础设施,如4GB DDR4内存、16GB eMMC、512Mb QSPI、TPM安全模块以及必要的电源基础设施。

图1:Kria SoM

为便于与应用接口,此器件提供了可拆分成245个IO的两个240针连接器。

Xilinx还提供了Kria KV260视觉AI入门套件,让开发人员能够快速开始设计。该套件为开发人员提供了拥有以下接口的SoM载卡:

  • 3个MIPI接口

  • USB

  • HDMI

  • 显示端口

  • 1GB以太网

  • Pmod

此入门套件还随附了一系列应用示例,帮助用户了解开发基于视觉的人工智能应用是一件非常轻松的工作。Kria视觉AI入门套件非常适合需要快速图像处理的应用,例如检测标签是否已正确应用于生产线上的装运箱。



01

制造业应用案例


接下来让我们将详细地介绍Kria KV260视觉入门套件如何用于制造行业。创建此类应用并不一定需要可编程逻辑设计。然而,却需要进行软件开发,并具有使用Xilinx Vitis AI培训和编译新机器学习模型的能力。首先,我们需要安装和配置Vitis AI。

 物料清单 

  • Kria KV260视觉AI入门套件



02

创建虚拟机


我们需要本地Linux机器或运行受支持的Linux发行版的虚拟机来运行Vitis AI。
在安装完成后,下载Ubuntu Linux磁盘映像,以便在虚拟机上安装Linux系统。此项目所使用的Ubuntu版本是Ubuntu-18.04.4 Desktop-amd64.iso,点击此处即可下载。👈
现在可以开始构建虚拟机了。第一步,在VirtualBox Manager中单击New。
这时将显示一个对话框,用于创建新的虚拟机(见图2)。输入虚拟机名称,并将类型和版本分别设置为Linux和64位Linux版本。此外,还可以设置与虚拟机共享的系统内存大小(见图3)。

图2:创建虚拟机
单击Create按钮,将显示虚拟硬盘的设置。选择512GB,以允许动态分配物理存储空间。随着磁盘使用量的增加,虚拟硬盘大小将扩展到512GB。该项目将外部固态USB C驱动器用作虚拟硬盘,以确保有足够的可用空间。

图3:设置存储空间
配置好虚拟机后,接下来就要安装操作系统了。选中新创建的虚拟机,然后单击start按钮启动VM 9(见图4)。

图4:启动虚拟机
在启动虚拟机时,会要求安装之前下载的Ubuntu ISO(见图5)。

图5:选择安装盘
在虚拟硬盘上安装Ubuntu操作系统。选择安装Ubuntu(见图6)。

图6:安装Ubuntu
在选择好Ubuntu的位置和配置选项后,进行键盘配置(见图7)。

图7:选择本地化设置
选择最小安装(见图8),因为我们不需要使用办公软件、媒体播放器或玩游戏。

图8:选择最小安装
在安装期间擦除磁盘并安装Ubuntu(见图9)。

图9:擦除磁盘
单击continue继续操作(见图10)。

图10:启用磁盘改写
选择您所在的地理位置与时区(见图11)。

图11:设置时区
最后,输入Ubuntu计算机名、用户名及密码(见图12)。

图12:设置帐户名和密码
安装完成后,重启虚拟机(见图13)。

图13:重启虚拟机
重启后,登录并开始安装Vitis AI(见图14)。

图14:登录



03

安装Vitis和Vitis AI‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍


于运行Linux的虚拟机,接下来需要安装Vitis和Vitis AI。安装Vitis时,需要用到在下载时创建的Xilinx帐户。Vitis安装时间较长,所以我们会先安装它。
打开Xilinx下载页面,选择Linux Self Extracting Web Installer(见图15)。

图15:Xilinx Linux Installer
下载web安装程序后,找到下载位置,选择应用程序,右键单击以更改权限,使其能够作为应用程序执行(见图16)。

图16:设置适当权限
现在可以使用终端窗口来安装Vitis,所需时间取决于虚拟机和internet连接性能。
通过以下sudo命令来安装此工具(见图17)。
sudo ./Xilinx_Unified_2020.2_1118_1232_Lin64.bin
图17:运行安装程序
此时将启动Vitis Installer(见图18)。

图18:启动安装程序
登录您的帐户(见图19)。

图19:登录您的Xilinx帐户
选择Vitis作为目标应用程序,同时还会安装Vivado(见图20)。

图20:安装Vitis与Vivado
为了节省安装空间,应取消选择除SoC以外的所有设备(见图21)。

图21:最大程度节省安装空间
接受安装条件和条款(见图22)。

图22:接受安装条件和条款
选择安装目录,建议使用默认位置(见图23)。
图23:选择安装位置
在Installation Summary中,选择Install并等待安装完毕(见图24)。

图24:完成安装

安装完成后,需要运行以下脚本以安装所有相关项:

sudo <install_dir>/Vitis/<release>/scripts/installLibs.sh


接下来,安装Vitis AI。在本例中,我们将安装Vitis AI以从CPU而不是GPU运行,因而会影响训练性能。
首先要安装docker,请按照此处的说明进行操作。注意,可能需要在安装完成后重启虚拟机。

接下来,请使用以下命令安装Git:sudo apt update sudo apt install git选择/创建Vitis-AI的安装目录。使用以下命令克隆Vitis-AI:git clone https://github.com/Xilinx/Vitis-AI.git一旦克隆好Vitis-AI存储库,请将其改为存储目录,并提取docker映像。cd Vitis-AI docker pull xilinx/vitis-ai:latest从docker下载最新的Vitis-AI映像将需要几分钟的时间。在提取docker映像之后,我们需要构建交叉编译系统。可以通过运行Vitis-AI/setup/mpsoc/VART中的脚本来完成此操作(见图25)。cd Vitis-AI/setup/mpsoc/VART ./host_cross_compiler_setup_2020.2.sh
图25:安装SDK路径
运行脚本后,请确保运行指定的命令以启用交叉编译环境。
我们可以通过编译一个演示程序来测试是否正确安装了Vitis AI。在本例中,我们采用的是demo/VART/Resnet50目录下提供的resnet50应用程序。请使用以下命令编译应用程序:
Bash -x build.sh
如果您在终端窗口中没有看到错误,并且可执行文件出现在目录中,则说明Vitis AI安装成功(见图26):

图26:编译引擎

现在,我们需要开发数据集,以显示正确和错误黏贴的标签。


04

创建数据集


为了训练神经网络,我们首先需要一组正确和错误图像的数据集。我们以几个正确和错误地黏贴了贸泽标签的箱子为例。为了获得多样化的图像,我们从多个角度拍摄了正确和错误黏贴标签的箱子(见图27和28)。

图27:正确的图像

图28:错误的图像
这些图像被整理成两个目录——一个是正确的标签,另一个是错误的标签。
对于捕获到的图像,我们需要训练一个神经网络。在本例中,我们将使用Edge Impulse。请注意,您需要为Edge Impulse创建一个免费的帐户。
在Edge Impulse端,首先要创建一个新项目(见图29)。

图29:创建Edge Impulse项目
新项目创建后,可以上传标记为正确和错误的图像文件夹。首先选择正确目录中的所有文件并进行上传,标记为Label_Correct。随后,上传错误的图像并将其标记为Label_Incorrect(见图30)。

图30:上传数据
所有图像都上传完成后,接下来就要定义Impulse。选择宽度和高度均为224像素的输入图像。选择图像,输入Transfer Learning,然后保存Impulse(见图31)。

图31:设置Impulse
然后,我们可以通过生成特征和训练Impulse来训练模型(见图32)。

图32:生成特征

选择模型MobileNetV2 160x160 1.0,等效模型位于Xilinx Model Zoo下(见图33)。

图33:选择正确的模型
可能需要几分钟的时间来训练模型。训练完成后,返回概览页面,选择下载迁移学习模型(见图34)。
这将包括保存的模型和.zip文件中的变量(检查点)。

图34:下载保存的模型



05

量化并编译模型


接下来使用Vitis AI对模型进行量化和编译。在虚拟机中,我们可以通过发出以下命令来运行Vitis AI(见图35)。

./docker_runs.sh Xilinx/vitis-ai-cpu:latest


图35:启动Vitis AI

加载Vitis AI后,使用以下命令激活TensorFlow(见图36)。

conda activate vitis-ai-tensorflow


图36:激活Vitis AI TensorFlow
接下来,冻结将检查点的信息合并到冻结模型文件的模型(见图37)。

图37:编译冻结模型

一旦模型作为冻结模型输出,我们就可以使用编译器编译输出模型,以部署到系统中。

我们可以从Xilinx Model Zoo中包含的YAML文件中了解输出节点的信息(见图38)。

图38:探索模型
要检查冻结的网表,则需要安装Netron。此外,理解量化过程的输入和输出节点名称也很重要(见图39)。

图39:安装Netron
有了量化网表,我们可以将量化网表编译为部署在Kria SoM上的模型(见图40)。

图40:编译模型

借助于SCP/FTP,我们可以将编译后的模型上载到以下目录中的Kria文件系统:

/usr/share/vitis_ai_library/models/
上传好模型后,可以生成一个软件应用程序,用于测试神经网络。这时,我们可以将几个正确和错误的图像上载到Kria SoM,来测试应用程序(见图41和42)。

图41:识别错误的标签

图42:识别正确的标签



结语



该项目展示了对于工业AI/ML应用,在Kria SoM中训练和部署神经网络是一件非常简单的事情,其应用潜力也是无限的。未来可能需要更新软件以利用gstreamer框架,并像在生产线上一样对实时图像进行分类。




Adam Taylor
作者介绍

Adam Taylor非常擅长为多种最终应用开发嵌入式系统和FPGA。在他的职业生涯中,Adam使用FPGA实现了多种多样的解决方案,涵盖雷达系统、安全关键型控制系统(SIL4)和卫星系统等领域,同时他对图像处理和密码学方面也有所涉猎。

Adam从事过多个经理职位,带领过多家大型跨国公司实现长足发展。多年来,他在航天工业中扮演着重要角色。他曾担任Astrium卫星有效负载处理组的设计主管达6年之久,此外还在一家空间影像公司担任了三年的首席工程师,负责了多个影响深远的项目。
FPGA是Adam最早接触的领域。他撰写过许多有关电子设计和FPGA设计的文章和论文,包括330多篇博客文章,并且通过2500多万条评论阐释了如何使用Xilinx的Zynq和Zynq MPSoC。
Adam是一位特许工程师。他是IET英国工程技术学会的会员、林肯大学和Arm Innovator项目的嵌入式系统客座教授,同时还是工程和咨询公司Adiuvo Engineering and Training的所有者。


FPGA开发圈 这里介绍、交流、有关FPGA开发资料(文档下载,技术解答等),提升FPGA应用能力。
评论
  • 概述 说明(三)探讨的是比较器一般带有滞回(Hysteresis)功能,为了解决输入信号转换速率不够的问题。前文还提到,即便使能滞回(Hysteresis)功能,还是无法解决SiPM读出测试系统需要解决的问题。本文在说明(三)的基础上,继续探讨为SiPM读出测试系统寻求合适的模拟脉冲检出方案。前四代SiPM使用的高速比较器指标缺陷 由于前端模拟信号属于典型的指数脉冲,所以下降沿转换速率(Slew Rate)过慢,导致比较器检出出现不必要的问题。尽管比较器可以使能滞回(Hysteresis)模块功
    coyoo 2024-12-03 12:20 116浏览
  • 遇到部分串口工具不支持1500000波特率,这时候就需要进行修改,本文以触觉智能RK3562开发板修改系统波特率为115200为例,介绍瑞芯微方案主板Linux修改系统串口波特率教程。温馨提示:瑞芯微方案主板/开发板串口波特率只支持115200或1500000。修改Loader打印波特率查看对应芯片的MINIALL.ini确定要修改的bin文件#查看对应芯片的MINIALL.ini cat rkbin/RKBOOT/RK3562MINIALL.ini修改uart baudrate参数修改以下目
    Industio_触觉智能 2024-12-03 11:28 87浏览
  • 11-29学习笔记11-29学习笔记习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习笔记&记录学习习笔记&记学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&学习学习笔记&记录学习学习笔记&记录学习学习笔记&记
    youyeye 2024-12-02 23:58 73浏览
  • RDDI-DAP错误通常与调试接口相关,特别是在使用CMSIS-DAP协议进行嵌入式系统开发时。以下是一些可能的原因和解决方法: 1. 硬件连接问题:     检查调试器(如ST-Link)与目标板之间的连接是否牢固。     确保所有必要的引脚都已正确连接,没有松动或短路。 2. 电源问题:     确保目标板和调试器都有足够的电源供应。     检查电源电压是否符合目标板的规格要求。 3. 固件问题: &n
    丙丁先生 2024-12-01 17:37 102浏览
  • TOF多区传感器: ND06   ND06是一款微型多区高集成度ToF测距传感器,其支持24个区域(6 x 4)同步测距,测距范围远达5m,具有测距范围广、精度高、测距稳定等特点。适用于投影仪的无感自动对焦和梯形校正、AIoT、手势识别、智能面板和智能灯具等多种场景。                 如果用ND06进行手势识别,只需要经过三个步骤: 第一步&
    esad0 2024-12-04 11:20 58浏览
  •         温度传感器的精度受哪些因素影响,要先看所用的温度传感器输出哪种信号,不同信号输出的温度传感器影响精度的因素也不同。        现在常用的温度传感器输出信号有以下几种:电阻信号、电流信号、电压信号、数字信号等。以输出电阻信号的温度传感器为例,还细分为正温度系数温度传感器和负温度系数温度传感器,常用的铂电阻PT100/1000温度传感器就是正温度系数,就是说随着温度的升高,输出的电阻值会增大。对于输出
    锦正茂科技 2024-12-03 11:50 111浏览
  • 作为优秀工程师的你,已身经百战、阅板无数!请先醒醒,新的项目来了,这是一个既要、又要、还要的产品需求,ARM核心板中一个处理器怎么能实现这么丰富的外围接口?踌躇之际,你偶阅此文。于是,“潘多拉”的魔盒打开了!没错,USB资源就是你打开新世界得钥匙,它能做哪些扩展呢?1.1  USB扩网口通用ARM处理器大多带两路网口,如果项目中有多路网路接口的需求,一般会选择在主板外部加交换机/路由器。当然,出于成本考虑,也可以将Switch芯片集成到ARM核心板或底板上,如KSZ9897、
    万象奥科 2024-12-03 10:24 68浏览
  • 光伏逆变器是一种高效的能量转换设备,它能够将光伏太阳能板(PV)产生的不稳定的直流电压转换成与市电频率同步的交流电。这种转换后的电能不仅可以回馈至商用输电网络,还能供独立电网系统使用。光伏逆变器在商业光伏储能电站和家庭独立储能系统等应用领域中得到了广泛的应用。光耦合器,以其高速信号传输、出色的共模抑制比以及单向信号传输和光电隔离的特性,在光伏逆变器中扮演着至关重要的角色。它确保了系统的安全隔离、干扰的有效隔离以及通信信号的精准传输。光耦合器的使用不仅提高了系统的稳定性和安全性,而且由于其低功耗的
    晶台光耦 2024-12-02 10:40 120浏览
  • 当前,智能汽车产业迎来重大变局,随着人工智能、5G、大数据等新一代信息技术的迅猛发展,智能网联汽车正呈现强劲发展势头。11月26日,在2024紫光展锐全球合作伙伴大会汽车电子生态论坛上,紫光展锐与上汽海外出行联合发布搭载紫光展锐A7870的上汽海外MG量产车型,并发布A7710系列UWB数字钥匙解决方案平台,可应用于数字钥匙、活体检测、脚踢雷达、自动泊车等多种智能汽车场景。 联合发布量产车型,推动汽车智能化出海紫光展锐与上汽海外出行达成战略合作,联合发布搭载紫光展锐A7870的量产车型
    紫光展锐 2024-12-03 11:38 101浏览
  • 最近几年,新能源汽车愈发受到消费者的青睐,其销量也是一路走高。据中汽协公布的数据显示,2024年10月,新能源汽车产销分别完成146.3万辆和143万辆,同比分别增长48%和49.6%。而结合各家新能源车企所公布的销量数据来看,比亚迪再度夺得了销冠宝座,其10月新能源汽车销量达到了502657辆,同比增长66.53%。众所周知,比亚迪是新能源汽车领域的重要参与者,其一举一动向来为外界所关注。日前,比亚迪汽车旗下品牌方程豹汽车推出了新车方程豹豹8,该款车型一上市就迅速吸引了消费者的目光,成为SUV
    刘旷 2024-12-02 09:32 119浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦