试试在只有150MHz的MCU上跑通全套时装识别系统~

嵌入式资讯精选 2021-12-02 11:41


它不是传说,它就在这儿


如果说,在一个只有150MHz主频,256KB闪存,96KB RAM,没有摄像头接口,没有显示接口,朴实无华的MCU上,实现一整套应用人工智能技术的时装识别系统,包括采集时装图像,识别时装种类,并把结果以每秒30帧以上流畅的显示出来,是不是可以干脆利落地回怼“臣妾做不到啊!”。 
但是,如果是LPC5500的话,那就不一样了,回答一定是干脆响亮的“小case!” 
咱不吹牛,上图上视频为证: 
先是一个极客范儿十足的硬件: 

这是一个扩展了LCD和摄像头的LPC55S69-EVK开发板,图中的摄像头模块是OV7670。

下面这张是一张运行中的特写: 

在150MHz的LPC5500上只花了21ms就完成了识别,小编还学到了英语,“Sandal”是凉鞋的意思。 

再来一个T恤:


同样是21ms。

这不但显示出LPC5500可以绝对实时地识别,还有就是深度学习识别具有几乎完美的“时间确定性”:对于任何输入,都在固定的时间内给出输出。 

这个模型总共能识别十种时装,分别是: 

  1. T-shirt/top(T恤) 

  2. Trouser(裤子) 

  3. Pullover(套衫) 

  4. Dress(裙子) 

  5. Coat(外套) 

  6. Sandal(凉鞋) 

  7. Shirt(汗衫) 

  8. Sneaker(运动鞋) 

  9. Bag(包) 

  10. Ankle boot(踝靴) 

训练模型使用了是经过数据增广后的fashion-mnist数据集。 

先来看看这个方案的演示视频:

真是令人不禁感叹,这世道真是变了,竟然还有如此神奇的MCU! 

其实,说神奇也不神奇,你只要会用,你就能创造神奇!这里用到的都是NXP已经推出很久的技术,只是把它们有机地组合在一起了,且看小编一一道来。



没有摄像头接口?
LPC5500有一颗魔术师之心


这是咋回事?原来,LPC5500内部有一个可编程的专用处理模块,它最擅长的地方在于可以得心应手地操作GPIO口(其中有32个GPIO口支持单周期翻转和读取)来生成或者识别多种多样、光怪陆离的时序波形,还可以花式传输数据,充当一个智能DMA,甚至可以在CPU休眠的时候打点很多外设的基本操作与数据收发。

对于时装识别的系统,我们使用这个专用处理模块去识别来自OV7670摄像头的波形,并提取出内部的图像数据。详情点击Camera Interface in LPC55(S)xx (nxp.com.cn)。 

这个模块还没有通用的编程工具,但NXP为客户常常用到的时序和总线协议开发了相应的库,支持的功能除了在本文中的摄像头接口,还包括LCD的显示、多线SPI协议、5.1声道I2S输出、旋转编码器、简易的的2D像素处理管线等,可以通过查看应用笔记和咨询分销商来了解更多。 



没有LCD接口?
高速SPI来救场


虽然LPC5500没有直接与裸LCD屏打交道的并行接口,但凭借最高50MHz频率的SPI,搭配SPI LCD模块,可以在320x240的分辨率下达到视频中流畅的刷新效果。

有了专用处理模块实现的摄像头接口和高速SPI的加持,使得LPC5500可以在不少微型计算机视觉任务中媲美更高端的微控制器,并且极富性价比。 



没有充足的算力和空间?
专业模型瘦身术加持


和动辄几个T的NPU相比,LPC5500在150MHz下的理论最大算力也只有0.0003T,比四两和千金还鲜明。在这种平台上部署深度学习,是痴人说梦吗?
其实,不要被华丽的宣传所迷惑,深度学习对于不同任务所需要的算力相差6个数量级都是很正常的,而且常常出现算力和存储空间要求有天壤之别的模型,因为架构的合理性和对执行硬件的适应性不同,而有差不多的表现。 

对于这次识别时尚装备的任务,我们通过用步幅为2的卷积来替换池化;拆解大的卷积为空间卷积+通道线性组合,这样几乎是“嗖”地一下,就降低了模型算力要求和内存规模。

另外为了保证精度,我们用修改图片背景、增加多个缩放级别、添加随机噪声等增强数据集的方法,使得原本纯黑底色的fashion-mnist数据集,也可以识别丰富背景下大小不同的时装,最终得到的模型只有不到16K参数,在150MHz的LPC5500上运行一次只需21ms,占用内存不到80KB。即使这样,识别精度也还保持在88%。 



MCU上无法运行TF或PyTorch?
用eIQ推理技术来搞定


模型推理技术负责贯彻执行神经网络模型中的计算操作。
在PC上,既可以使用流行的Tensorflow、PyTorch等框架来训练和推理,也可以安装专用的推理引擎(比如TensorRT等),但它们无法运行在Cortex-M设备上。
不过,NXP的eIQ机器学习套件支持了3套专门为微控制器量身定做的推理技术,分别是:
  • 开源的Tensorflow Lite for Microcontrollers (TFLm),

  • 原版开源但经过NXP深度优化过的GLOW,

  • 以及可以在MCU和MPU上通用的DeepView-RT。

在这个demo中,我们选用了我们最熟悉的和ARM CMSIS-NN库配合使用的TFLm,配合在GCC和KEIL下支持的“.incbin”伪指令,直接像包含头文件一样包含模型文件到工程里,方便实验。 



总结


从这个项目可以看出,LPC5500确实是在“大路货”的微控制器中有不平凡的潜能,在关键时刻或许能顶得上一个高端微控制器。
而且,深度学习技术也并没有很多吃瓜小伙伴们想象得那么高不可攀,通过合理化简模型架构和改进数据集的质量,可以大幅减少对算力和存储器的需求。
简单地说,对于中小规模的图像分类,语音口令检测,基于运动传感器或AD采集数据的一些分类和异常判断,一般的主流Cortex微控制器大多能支持,可能缺少摄像头接口或显示接口反而是硬伤,而这一切在NXP的LPC5500面前都不是事儿。 

1.还在写大量 if 来判断?试试用一个规则执行器来替代它

2.深度学习的热与冷~

3.杨福宇专栏|TESLA EV突然加速,特别是加速踏板开度100%问题的讨论~

4.嵌入式工程师,一起来探索深度学习领域吧~

5.RISC-V嵌入式开发线上课程授课内容早知道!

6.转发周立功先生的朋友圈~

免责声明:本文系网络转载,版权归原作者所有。如涉及作品版权问题,请与我们联系,我们将根据您提供的版权证明材料确认版权并支付稿酬或者删除内容。


嵌入式资讯精选 掌握最鲜资讯,尽领行业新风
评论
  • PLC组态方式主要有三种,每种都有其独特的特点和适用场景。下面来简单说说: 1. 硬件组态   定义:硬件组态指的是选择适合的PLC型号、I/O模块、通信模块等硬件组件,并按照实际需求进行连接和配置。    灵活性:这种方式允许用户根据项目需求自由搭配硬件组件,具有较高的灵活性。    成本:可能需要额外的硬件购买成本,适用于对系统性能和扩展性有较高要求的场合。 2. 软件组态   定义:软件组态主要是通过PLC
    丙丁先生 2025-01-06 09:23 88浏览
  •     为控制片内设备并且查询其工作状态,MCU内部总是有一组特殊功能寄存器(SFR,Special Function Register)。    使用Eclipse环境调试MCU程序时,可以利用 Peripheral Registers Viewer来查看SFR。这个小工具是怎样知道某个型号的MCU有怎样的寄存器定义呢?它使用一种描述性的文本文件——SVD文件。这个文件存储在下面红色字体的路径下。    例:南京沁恒  &n
    电子知识打边炉 2025-01-04 20:04 101浏览
  • 彼得·德鲁克被誉为“现代管理学之父”,他的管理思想影响了无数企业和管理者。然而,关于他的书籍分类,一种流行的说法令人感到困惑:德鲁克一生写了39本书,其中15本是关于管理的,而其中“专门写工商企业或为企业管理者写的”只有两本——《为成果而管理》和《创新与企业家精神》。这样的表述广为流传,但深入探讨后却发现并不完全准确。让我们一起重新审视这一说法,解析其中的矛盾与根源,进而重新认识德鲁克的管理思想及其著作的真正价值。从《创新与企业家精神》看德鲁克的视角《创新与企业家精神》通常被认为是一本专为企业管
    优思学院 2025-01-06 12:03 135浏览
  • By Toradex 秦海1). 简介嵌入式平台设备基于Yocto Linux 在开发后期量产前期,为了安全以及提高启动速度等考虑,希望将 ARM 处理器平台的 Debug Console 输出关闭,本文就基于 NXP i.MX8MP ARM 处理器平台来演示相关流程。 本文所示例的平台来自于 Toradex Verdin i.MX8MP 嵌入式平台。  2. 准备a). Verdin i.MX8MP ARM核心版配合Dahlia载板并
    hai.qin_651820742 2025-01-07 14:52 62浏览
  • 这篇内容主要讨论三个基本问题,硅电容是什么,为什么要使用硅电容,如何正确使用硅电容?1.  硅电容是什么首先我们需要了解电容是什么?物理学上电容的概念指的是给定电位差下自由电荷的储藏量,记为C,单位是F,指的是容纳电荷的能力,C=εS/d=ε0εrS/4πkd(真空)=Q/U。百度百科上电容器的概念指的是两个相互靠近的导体,中间夹一层不导电的绝缘介质。通过观察电容本身的定义公式中可以看到,在各个变量中比较能够改变的就是εr,S和d,也就是介质的介电常数,金属板有效相对面积以及距离。当前
    知白 2025-01-06 12:04 188浏览
  • 每日可见的315MHz和433MHz遥控模块,你能分清楚吗?众所周知,一套遥控设备主要由发射部分和接收部分组成,发射器可以将控制者的控制按键经过编码,调制到射频信号上面,然后经天线发射出无线信号。而接收器是将天线接收到的无线信号进行解码,从而得到与控制按键相对应的信号,然后再去控制相应的设备工作。当前,常见的遥控设备主要分为红外遥控与无线电遥控两大类,其主要区别为所采用的载波频率及其应用场景不一致。红外遥控设备所采用的射频信号频率一般为38kHz,通常应用在电视、投影仪等设备中;而无线电遥控设备
    华普微HOPERF 2025-01-06 15:29 138浏览
  • 根据环洋市场咨询(Global Info Research)项目团队最新调研,预计2030年全球无人机锂电池产值达到2457百万美元,2024-2030年期间年复合增长率CAGR为9.6%。 无人机锂电池是无人机动力系统中存储并释放能量的部分。无人机使用的动力电池,大多数是锂聚合物电池,相较其他电池,锂聚合物电池具有较高的能量密度,较长寿命,同时也具有良好的放电特性和安全性。 全球无人机锂电池核心厂商有宁德新能源科技、欣旺达、鹏辉能源、深圳格瑞普和EaglePicher等,前五大厂商占有全球
    GIRtina 2025-01-07 11:02 93浏览
  • 根据Global Info Research项目团队最新调研,预计2030年全球封闭式电机产值达到1425百万美元,2024-2030年期间年复合增长率CAGR为3.4%。 封闭式电机是一种电动机,其外壳设计为密闭结构,通常用于要求较高的防护等级的应用场合。封闭式电机可以有效防止外部灰尘、水分和其他污染物进入内部,从而保护电机的内部组件,延长其使用寿命。 环洋市场咨询机构出版的调研分析报告【全球封闭式电机行业总体规模、主要厂商及IPO上市调研报告,2025-2031】研究全球封闭式电机总体规
    GIRtina 2025-01-06 11:10 112浏览
  • 本文介绍编译Android13 ROOT权限固件的方法,触觉智能RK3562开发板演示,搭载4核A53处理器,主频高达2.0GHz;内置独立1Tops算力NPU,可应用于物联网网关、平板电脑、智能家居、教育电子、工业显示与控制等行业。关闭selinux修改此文件("+"号为修改内容)device/rockchip/common/BoardConfig.mkBOARD_BOOT_HEADER_VERSION ?= 2BOARD_MKBOOTIMG_ARGS :=BOARD_PREBUILT_DTB
    Industio_触觉智能 2025-01-08 00:06 38浏览
  • 村田是目前全球量产硅电容的领先企业,其在2016年收购了法国IPDiA头部硅电容器公司,并于2023年6月宣布投资约100亿日元将硅电容产能提升两倍。以下内容主要来自村田官网信息整理,村田高密度硅电容器采用半导体MOS工艺开发,并使用3D结构来大幅增加电极表面,因此在给定的占位面积内增加了静电容量。村田的硅技术以嵌入非结晶基板的单片结构为基础(单层MIM和多层MIM—MIM是指金属 / 绝缘体/ 金属) 村田硅电容采用先进3D拓扑结构在100um内,使开发的有效静电容量面积相当于80个
    知白 2025-01-07 15:02 96浏览
  • 大模型的赋能是指利用大型机器学习模型(如深度学习模型)来增强或改进各种应用和服务。这种技术在许多领域都显示出了巨大的潜力,包括但不限于以下几个方面: 1. 企业服务:大模型可以用于构建智能客服系统、知识库问答系统等,提升企业的服务质量和运营效率。 2. 教育服务:在教育领域,大模型被应用于个性化学习、智能辅导、作业批改等,帮助教师减轻工作负担,提高教学质量。 3. 工业智能化:大模型有助于解决工业领域的复杂性和不确定性问题,尽管在认知能力方面尚未完全具备专家级的复杂决策能力。 4. 消费
    丙丁先生 2025-01-07 09:25 89浏览
  • 本文介绍Linux系统更换开机logo方法教程,通用RK3566、RK3568、RK3588、RK3576等开发板,触觉智能RK3562开发板演示,搭载4核A53处理器,主频高达2.0GHz;内置独立1Tops算力NPU,可应用于物联网网关、平板电脑、智能家居、教育电子、工业显示与控制等行业。制作图片开机logo图片制作注意事项(1)图片必须为bmp格式;(2)图片大小不能大于4MB;(3)BMP位深最大是32,建议设置为8;(4)图片名称为logo.bmp和logo_kernel.bmp;开机
    Industio_触觉智能 2025-01-06 10:43 87浏览
  • 在智能家居领域中,Wi-Fi、蓝牙、Zigbee、Thread与Z-Wave等无线通信协议是构建短距物联局域网的关键手段,它们常在实际应用中交叉运用,以满足智能家居生态系统多样化的功能需求。然而,这些协议之间并未遵循统一的互通标准,缺乏直接的互操作性,在进行组网时需要引入额外的网关作为“翻译桥梁”,极大地增加了系统的复杂性。 同时,Apple HomeKit、SamSung SmartThings、Amazon Alexa、Google Home等主流智能家居平台为了提升市占率与消费者
    华普微HOPERF 2025-01-06 17:23 172浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦