智能车大赛AI视觉组参考答案

TsinghuaJoking 2021-01-22 00:00

  礼让动物采摘水果——最近, 智能车大赛AI视觉组 的题目已经发布,我们先为大家探探路。

  • 智能车大赛AI视觉组:
    https://zhuoqing.blog.csdn.net/article/details/111352093

  前一期,逐飞科技给大家带来了一篇开幕大作:智能车竞赛,AI视觉组赛题浅析 ,对该组别的核心赛题任务进行了拆解详述。其中一个重中之重,想必也是大家最为关心的一个赛题,图案识别,可以说这也是这个组别中最有AI味道的部分。

  • 智能车竞赛,AI视觉组赛题浅析:
    https://zhuoqing.blog.csdn.net/article/details/112306548

  那么这次,小编就为大家带来如何制备数据集并将其部署在i.MX RT上。

01 简单的题目


  首先,请大家允许小编简要的“吐槽“下这个简单而又复杂的任务,任务本体是对动物和水果进行分类,其中动物类包括:狗、猫、马、猪、牛五类,水果类包括:苹果、橘子、葡萄、香蕉、榴莲五类。

  大家可能也注意到了,小编使用了一对完全对立的词汇形容这次任务。简单vs复杂,还请听小编徐徐道来。

  说任务简单,首先从所要识别的图像本身来说,比赛所用到的图像均为全身或是整体图片,我们可以窥探出两点小秘密:

  • 其一,待检测图片内部只包含其中一种物体,也就是说不会涉及到多物体检测,不用采用OD类模型(OD是object detection的简称,一般模型体量会比较大,执行耗时比可比图像分类多几十倍,但好处在于可以一次性检出画面上所有的待检物体,并且提供位置信息)来做。

  • 其二,待检测图片背景不复杂,通俗点讲,全图只有待检物体本身,大大降低背景噪声的引入对分类模型的影响。

02 复杂的任务


  现在再来说说为什么任务复杂。任务本身是一个典型的十分类问题。CNN领域有一些经典的十分类问题,拿最耳熟能详的例子,cifar10和LeNet-5为例,数据集本身的体量很大,每一子类都有1w的可用数据,而本次比赛,我们能够提供的预制数据集数量不会很大,每一类仅有400+。

▲ Cifar10数据集和LeNet-5结构

  同时,尽管i.MX RT目前被称作地表最强MCU,但毕竟是MCU。对于一些体量比较大的模型,还是会有点捉襟见肘,颇有一种心有余而力不足的挫败感,这里,小编也要强调一下,这种挫败感的根源,不是来自于对大模型的不支持,而是说,处理的速度会比较慢,会耗费大量的时间来进行目标的识别。

  当然了,算力和模型精度是一对欢喜冤家,往往好的模型,体量都不会太小,这也就使得,同学们在设计模型的时候,要通盘考虑,如何设计出一款小而精的模型,脱颖而出。

03 粮草先行


  赛题分析至此,干货开始,以下所提到的代码或是数据集,都可以在github上找到,链接:https://github.com/CristXu/smartcar.git。同时,所涉及到的一些专业知识,小编只会简单描述,感兴趣的亲们,可以自行查阅理解,或是私信小编。

  首先,我们要找“粮食”——数据集,这是深度学习赖以生存的基础,好的数据集往往能够达到事半功倍的效果。比较通用的一个查找数据集的方法,是利用一类叫做“爬虫“的工具。

  网络爬虫实际上就是一个自动提取网页的程序,通过读取网页的URL代码,获取我们想要的图片信息。小编已经为大家准备了一些待训练图片,放到了网上,感兴趣的同学可以优先动手。当然,如果发现训练的效果不是很好,鼓励大家自己对数据集进行扩充。

04 升旗点将


  有了后勤补给,可以开始整军备战了。首先要派出我们的将军,负责统战全局。这里小编推荐Keras担此大任。

  Keras是一个用python编写的深度学习API,在机器学习平台Tensorflow上运行,换句话说他以Tensorflow为后端,作为神经网络的推理引擎。最近的Tensorflow也“高清复刻“了Keras的API。

  Keras的API非常直奔主题,可以让人尽快地将构想转变为结果,简化研究过程。正如官网对他的评价:简单,灵活,强大。

  这里要提醒一下版本匹配,这是开源软件的常见槽点。我们用的是,Keras:2.2.4,Tensorflow: 1.14.0,有条件的同学也可以安装Tensorflow的GPU版本,请注意保持版本一致。

  下面开始介绍如何让这位将军听话,乖乖带兵打仗而不会拥兵自重。

05 排兵布阵


  Keras有两种排兵布阵的方式,一种是Sequential方式,一种是Function方式。

  前者像是穿冰糖葫芦,每一个小兵都是一个单独的个体,小兵之间是顺序排列的,不能前后颠倒,不能互通有无,可以想象成排队报数。而Function方式,像是食堂放饭,各自为战,各自组队,可以一起吃,也可以分开吃,但是,不管怎样,最终我们还是一个整体,还是要去攻占敌军山头的。

  简单的说,Sequential方式使用简单,但是,只能搭建那些串行网络。而Function方式,则可以根据不同需求,进行排列布阵,形成各种各样的阵型,搭配到一起使用,就像是编程时候用到的函数。

  本文将主要介绍如何利用Sequential方式进行派兵布阵。

  为了留给大家足够的发挥空间,小编先抛出一块简陋的砖:定制一个具有3层卷积+1层全连接的简单卷积神经网络。

06 清点装备


  战前准备,用过python的同学都知道,我们要去军火库抬装备:

  有了装备和人员编制,食物也要备好。

  这里要介绍一个数据预处理的概念,在进行深度神经网络训练时,一般往往要求输入的数据范围在(-1,1)或(0,1)之间,因此,我们要对数据进行归一化处理,并将标签数据转换为one-hot码.

  举个栗子,本文要训练一个10分类的网络(对10种物体进行分类),那么要将标签(图片所对应的类别号)转换为长度为10,并且仅有其所对应的类别号的位置的数据为1,其余均为0,这样一组n维向量就被称为one-hot码,以方便网络进行迭代学习。

  同时,需要对数据集进行拆分,将其划分为训练集与测试集,训练集用于模型自身迭代,测试集用于诊断模型能力。

07 列队出征


  粮食备好了,到了号令全军的时候了,拿虎符:

虎符 功能
model  = Sequential() 声明模型构建模式为Sequential形式

  布阵, 相信不用再一一报数了,至此我们构建了一个拥有3Conv+1Dense的CNN:

  阵型有了,谁来让他们听话呢?政委:优化器要粉墨登场了, 负责模型的调优,这里要强调一点,学习率(lr)的设置有讲究,过大的学习率会提高模型的学习速度,但是太大了可能反而适得其反,还可能会导致模型无法得到最优解;而过小的学习率,会导致训练速度过慢,陷入局部最优不能自拔,选择上要进行试错调整:

08 沙盘演练


  指挥官一声令下,等待号令,这里的评价标准,我们选择categorical_crossentropy,这也是专门适用于多分类问题的损失函数:

  全军操练, 这里的epochs代表总共迭代遍历数据集多少多少次,batch_size为一次迭代需要使用多少数据。小了能让模型迭代快,但是训练效果容易震荡,还妨碍学到全局特征;大了能让学习过程更平稳,但模型收敛效率会下降,还可能陷入局部最优。

  在这里,还要介绍一位好朋友,

  这个函数负责模型的保存,会将训练过程中遇到的最好结果即时保存下来。

09 稳扎稳打


  经过一段等待,我们会得到如下一个喜人的结果,我们的模型在训练集上达到了接近100%的精度,但在测试集上约有68.85%的top1精度,看似不太好。不过,考虑到数据集的质量,还是可以接受的,而且,对于赛题要求,只要top5正确就可以了。当然了,这只是一块砖,期待同学们能弄出更加厉害的模型:

  看上面那个不断下降的”loss”,就是在训练集上对误差最主要的评估。

  不出意外的话,会在.models/这个文件夹下见到中途保存的模型文件,接下来,我们来介绍如何进行模型的部署。这个模型很小,所以咱们优先使用性能最佳的nncu工具,对于10层以上的大模型,就可能是在大模型上偏重精度的tf更合适了。

  同学们应该是已经了解或是知道一个叫做NNCU的传奇工具,可以参考AI机器学习实战之电磁智能车篇,这篇推文里面有对于如何使用NNCU工具的说明。

  在此,假设同学们已经转换出了模型,命名曰:model.nncu,c语言形式的调用方式,亦请参考推文。

  本文中,为了方便同学们使用,小编和战友们特意添加了python形式的API进行调用,软件会适配在openART套件中,到时,可以联合本教程一同享用。

  1. 模块导入:import nncu、   2. 模型导入:nncu.load(path,[weit_cache=])

  4. 执行:nncu.classify(net, img, [roi=, min_scale=, scale_mul=, x_overlap=, y_overlap=, enable=])

10 战况回放


  实机运行结果如下,模型文件名称为_qm_model_22_0.6979_xxxx.nncu,还有需要注意的是标签文件路径需要动态调整,例如小编将标签文件放到了位于flash上的文件系统,如果同学们插入了sd卡,这个路径要相应的修改为/sd/animal_fruits.txt:

11 期待您的参与


  至此,完成了从数据集制备到模型部署的所有工作,同学们是不是已经迫不及待要上手一试了呢?

  没有板子的同学,可以先在PC上优化模型,代码可参考我传到github的代码,train.py 和test.py分别用来模型的训练以及测试,欢迎大家踊跃提问,文中所有用到的模型,数据集,以及脚本文件均存放于github上。

  再重复一遍链接:https://github.com/CristXu/smartcar.git


注:本文来自于恩智浦MCU加油站的推文:智能车大赛AI视觉组参考答案

TsinghuaJoking 这是一个公众号,它不端、不装,与你同游在课下、课上。 卓晴博士,清华大学中央主楼 626A。010-62773349, 13501115467,zhuoqing@tsinghua.edu.cn
评论
  • RK3506 是瑞芯微推出的MPU产品,芯片制程为22nm,定位于轻量级、低成本解决方案。该MPU具有低功耗、外设接口丰富、实时性高的特点,适合用多种工商业场景。本文将基于RK3506的设计特点,为大家分析其应用场景。RK3506核心板主要分为三个型号,各型号间的区别如下图:​图 1  RK3506核心板处理器型号场景1:显示HMIRK3506核心板显示接口支持RGB、MIPI、QSPI输出,且支持2D图形加速,轻松运行QT、LVGL等GUI,最快3S内开
    万象奥科 2024-12-11 15:42 83浏览
  • 习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习笔记&记录学习习笔记&记学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记
    youyeye 2024-12-12 10:13 9浏览
  • 在智能化技术快速发展当下,图像数据的采集与处理逐渐成为自动驾驶、工业等领域的一项关键技术。高质量的图像数据采集与算法集成测试都是确保系统性能和可靠性的关键。随着技术的不断进步,对于图像数据的采集、处理和分析的需求日益增长,这不仅要求我们拥有高性能的相机硬件,还要求我们能够高效地集成和测试各种算法。我们探索了一种多源相机数据采集与算法集成测试方案,能够满足不同应用场景下对图像采集和算法测试的多样化需求,确保数据的准确性和算法的有效性。一、相机组成相机一般由镜头(Lens),图像传感器(Image
    康谋 2024-12-12 09:45 74浏览
  • 一、SAE J1939协议概述SAE J1939协议是由美国汽车工程师协会(SAE,Society of Automotive Engineers)定义的一种用于重型车辆和工业设备中的通信协议,主要应用于车辆和设备之间的实时数据交换。J1939基于CAN(Controller Area Network)总线技术,使用29bit的扩展标识符和扩展数据帧,CAN通信速率为250Kbps,用于车载电子控制单元(ECU)之间的通信和控制。小北同学在之前也对J1939协议做过扫盲科普【科普系列】SAE J
    北汇信息 2024-12-11 15:45 108浏览
  • 应用环境与极具挑战性的测试需求在服务器制造领域里,系统整合测试(System Integration Test;SIT)是确保产品质量和性能的关键步骤。随着服务器系统的复杂性不断提升,包括:多种硬件组件、操作系统、虚拟化平台以及各种应用程序和服务的整合,服务器制造商面临着更有挑战性的测试需求。这些挑战主要体现在以下五个方面:1. 硬件和软件的高度整合:现代服务器通常包括多个处理器、内存模块、储存设备和网络接口。这些硬件组件必须与操作系统及应用软件无缝整合。SIT测试可以帮助制造商确保这些不同组件
    百佳泰测试实验室 2024-12-12 17:45 13浏览
  • 全球智能电视时代来临这年头若是消费者想随意地从各个通路中选购电视时,不难发现目前市场上的产品都已是具有智能联网功能的智能电视了,可以宣告智能电视的普及时代已到临!Google从2021年开始大力推广Google TV(即原Android TV的升级版),其他各大品牌商也都跟进推出搭载Google TV操作系统的机种,除了Google TV外,LG、Samsung、Panasonic等大厂牌也开发出自家的智能电视平台,可以看出各家业者都一致地看好这块大饼。智能电视的Wi-Fi连线怎么消失了?智能电
    百佳泰测试实验室 2024-12-12 17:33 17浏览
  • 时源芯微——RE超标整机定位与解决详细流程一、 初步测量与问题确认使用专业的电磁辐射测量设备,对整机的辐射发射进行精确测量。确认是否存在RE超标问题,并记录超标频段和幅度。二、电缆检查与处理若存在信号电缆:步骤一:拔掉所有信号电缆,仅保留电源线,再次测量整机的辐射发射。若测量合格:判定问题出在信号电缆上,可能是电缆的共模电流导致。逐一连接信号电缆,每次连接后测量,定位具体哪根电缆或接口导致超标。对问题电缆进行处理,如加共模扼流圈、滤波器,或优化电缆布局和屏蔽。重新连接所有电缆,再次测量
    时源芯微 2024-12-11 17:11 106浏览
  • 铁氧体芯片是一种基于铁氧体磁性材料制成的芯片,在通信、传感器、储能等领域有着广泛的应用。铁氧体磁性材料能够通过外加磁场调控其导电性质和反射性质,因此在信号处理和传感器技术方面有着独特的优势。以下是对半导体划片机在铁氧体划切领域应用的详细阐述: 一、半导体划片机的工作原理与特点半导体划片机是一种使用刀片或通过激光等方式高精度切割被加工物的装置,是半导体后道封测中晶圆切割和WLP切割环节的关键设备。它结合了水气电、空气静压高速主轴、精密机械传动、传感器及自动化控制等先进技术,具有高精度、高
    博捷芯划片机 2024-12-12 09:16 80浏览
  • 近日,搭载紫光展锐W517芯片平台的INMO GO2由影目科技正式推出。作为全球首款专为商务场景设计的智能翻译眼镜,INMO GO2 以“快、准、稳”三大核心优势,突破传统翻译产品局限,为全球商务人士带来高效、自然、稳定的跨语言交流体验。 INMO GO2内置的W517芯片,是紫光展锐4G旗舰级智能穿戴平台,采用四核处理器,具有高性能、低功耗的优势,内置超微高集成技术,采用先进工艺,计算能力相比同档位竞品提升4倍,强大的性能提供更加多样化的应用场景。【视频见P盘链接】 依托“
    紫光展锐 2024-12-11 11:50 69浏览
  • 本文介绍瑞芯微RK3588主板/开发板Android12系统下,APK签名文件生成方法。触觉智能EVB3588开发板演示,搭载了瑞芯微RK3588芯片,该开发板是核心板加底板设计,音视频接口、通信接口等各类接口一应俱全,可帮助企业提高产品开发效率,缩短上市时间,降低成本和设计风险。工具准备下载Keytool-ImportKeyPair工具在源码:build/target/product/security/系统初始签名文件目录中,将以下三个文件拷贝出来:platform.pem;platform.
    Industio_触觉智能 2024-12-12 10:27 12浏览
  • 习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习笔记&记录学习习笔记&记学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记
    youyeye 2024-12-11 17:58 83浏览
  • 首先在gitee上打个广告:ad5d2f3b647444a88b6f7f9555fd681f.mp4 · 丙丁先生/香河英茂工作室中国 - Gitee.com丙丁先生 (mr-bingding) - Gitee.com2024年对我来说是充满挑战和机遇的一年。在这一年里,我不仅进行了多个开发板的测评,还尝试了多种不同的项目和技术。今天,我想分享一下这一年的故事,希望能给大家带来一些启发和乐趣。 年初的时候,我开始对各种开发板进行测评。从STM32WBA55CG到瑞萨、平头哥和平海的开发板,我都
    丙丁先生 2024-12-11 20:14 68浏览
  • 天问Block和Mixly是两个不同的编程工具,分别在单片机开发和教育编程领域有各自的应用。以下是对它们的详细比较: 基本定义 天问Block:天问Block是一个基于区块链技术的数字身份验证和数据交换平台。它的目标是为用户提供一个安全、去中心化、可信任的数字身份验证和数据交换解决方案。 Mixly:Mixly是一款由北京师范大学教育学部创客教育实验室开发的图形化编程软件,旨在为初学者提供一个易于学习和使用的Arduino编程环境。 主要功能 天问Block:支持STC全系列8位单片机,32位
    丙丁先生 2024-12-11 13:15 63浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦