RT-Thread AI Kit 之 RISC-V 插件初体验

原创 RTThread物联网操作系统 2021-06-17 18:30

应广大开发者要求,我们加班加点推出了 RT-AK(RT-AK:RT-Thread AI Kit 简称) 支持的第二个插件:支持基于 K210 芯片等一些开发板,目前RT-AK已经能够在嘉楠堪智的 KD233 和亚博 YB-DKA01 上正常工作。





说明1:一直致力于推出保姆级教程

说明2:RT-AK 之 K210 插件地址:

https://github.com/RT-Thread/RT-AK-plugin-k210

说明3:本文章中的项目代码地址:https://githuib.com/EdgeAIWithRTT/Project4-Mnist_RT-AK_K210

在该片文章引用的例程中,没有用到摄像头和 LCD。但是在项目中,有包含 LCD 的例程。

克隆下载即可使用,欢迎 fork、star、watch 三连~

1. 运行 RT-AK 前的准备工作

准备以下几份重要重要重要(重要的事情说3遍)的材料:

1.1 BSP

硬件

嘉楠堪智的 KD233 或者亚博 YB-DKA01,或其它基于 K210 芯片的开发板(可能需要定制 BSP,请与我们联系)

这里,我们准备好了一份 BSP

下载地址:http://117.143.63.254:9012/www/RT-AK/sdk-bsp-k210.zip

交叉编译工具链 (Windows)

xpack-riscv-none-embed-gcc-8.3.0-1.2-win32-x64.zip | Version: v8.3.0-1.2

链接:(请复制外部浏览器打开)https://github.com/xpack-dev-tools/riscv-none-embed-gcc-xpack/releases/download/v8.3.0-1.2/xpack-riscv-none-embed-gcc-8.3.0-1.2-win32-x64.zip

1.2 RT-AK 准备

RT-AK 克隆到本地

1$ git clone https://github.com/RT-Thread/RT-AK.git edge-ai

1.3 神经网络模型

由于 k210 原厂工具仅支持三种模型格式:TFLiteCaffeONNX

所以提前将 keras 神经网络模型转换成了 tflite 模型,位于 RT-AK/rt_ai_tools/Models/mnist.tflite

如果没有找到该模型,请更新 RT-AK 仓库

或者在此处可见:

https://github.com/EdgeAIWithRTT/Project5-Mnist_RT-AK_K210/tree/master/models

1.4 原厂工具

1.NNCase

已经提前下载好,位于 RT-AK/rt_ai_tools/platforms/plugin_k210/k_tools 路径下

2.K-Flash 烧录工具,下载请选择 K-Flash.zip

Github 下载地址: https://github.com/kendryte/kendryte-flash-windows/releases

2. 执行步骤

代码将会自动使用 NNCase 模型转换工具,获得一个集成了 AI 的 BSP

内部的流程请看源码或者 plugin_k210 仓库下的 readme 文档

2.1 基础运行命令

请在 edge-ai/RTAK/tools 路径下运行该程序。

RT-AK 运行的过程中

  1. 会自动拉取 K210 插件的仓库到 RT-AK/rt_ai_tools/platforms 路径下

  2. BSP 基础上将会集成 AI 模型的,不包括模型推理等应用代码,应用代码请看下文

  3. RT-AK/rt_ai_tools/platforms/plugin_k210 路径下会生成 .kmodelconvert_report.txt 两个文件

  • .kmodel AI 模型转换之后的 kmodel 模型

  • convert_report.txt AI 模型转换过程的 log 日志



1# 基础运行命令
2python aitools.py --project=<your_project_path> --model=<your_model_path> --model_name=<your_model_name> --platform=k210 --clear
3
4#
 示例
5$ D:\Project\edge-ai\RT-AK\rt_ai_tools>python aitools.py --project=D:\Project\K210_Demo\k210_rthread_bsp --model=.\Models\mnist.tflite --model_name=mnist --platform=k210 --embed_gcc=D:\Project\k210_third_tools\xpack-riscv-none-embed-gcc-8.3.0-1.2\bin --dataset=.\platforms\plugin_k210\datasets\mnist_datasets

RT-AKK210 插件示例 Demo 运行成功界面:

2.2 其他运行命令补充说明

 1# 非量化,不使用 KPU 加速, --inference_type
2$ python aitools.py --project=<your_project_path> --model=<your_model_path> --platform=k210  --inference_type=float
3
4# 非量化,指定交叉编译工具链路径
5$ python aitools.py --project=<your_project_path> --model=<your_model_path> --platform=k210 --embed_gcc=<your_RISCV-GNU-Compiler_path> --inference_type=float
6
7# 量化为 uint8,使用 KPU 加速,量化数据集为图片
8$ python aitools.py --project=<your_project_path> --model=<your_model_path> --platform=k210 --embed_gcc=<your_RISCV-GNU-Compiler_path> --dataset=<your_val_dataset>
9
10# 量化为 uint8,使用 KPU 加速,量化数据集为音频之类非图片,--dataset_format
11$ python aitools.py --project=<your_project_path> --model=<your_model_path> --platform=k210 --embed_gcc=<your_RISCV-GNU-Compiler_path> --dataset=<your_val_dataset> --dataset_format=raw
12
13# 示例(量化模型,图片数据集)
14$ python aitools.py --project="D:\Project\k210_val" --model="./Models/facelandmark.tflite" --model_name=facelandmark --platform=k210 --embed_gcc="D:\Project\k210_third_tools\xpack-riscv-none-embed-gcc-8.3.0-1.2\bin" --dataset="./platforms/plugin_k210/datasets/images"

2.3 运行参数说明

RT-AK 中的参数包含了两部分,

  • 基础参数

  • K210 插件参数

基础参数详见 https://github.com/RT-Thread/RT-AK/tree/main/RT-AK/rt_ai_tools 中的 0x03 参数说明

插件参数详见 https://github.com/RT-Thread/RT-AK-plugin-k210/README.md 中的 3. 命令行参数详细说明

上述示例命令行的参数说明

3. 编译 & 下载

如果在执行 RT-AK 得过程中添加了 --embed_gcc 这个参数,可跳过以下部分:

设置编译环境

方法一:set RTT_EXEC_PATH=

方法二:修改 rtconfig.py 文件,在第22行新增 os.environ['RTT_EXEC_PATH'] = r'your_toolchains'


编译:

1scons -j 6    

如果编译正确无误,会产生 rtthread.elfrtthread.bin文件。

其中 rtthread.bin 需要烧写到设备中进行运行。

下载:

可以看到,下载后得显示界面并没有什么变化,

那是因为 RT-AK 内部不提供应用程序代码,想要让 AI 模型成功运行,需要开发者们自行编写,在本文得末尾,我们提供了一份示例代码。

4. 示例应用代码说明

我们提供了一份运行模型推理的示例应用代码,

下载地址: http://117.143.63.254:9012/www/RT-AK/mnist_app_k210.zip

下载解压,放置到 <BSP>/applications 路径下

编译烧录即可。

4.1 代码流程

系统内部初始化

  • 系统时钟初始化

RT-AK Lib 模型加载并运行

  • 注册模型(代码自动注册,无需修改)

  • 找到注册模型

  • 初始化模型,挂载模型信息,准备运行环境

  • 运行(推理)模型

  • 获取输出结果

4.2 核心代码

 1// main.c
2/* Set CPU clock */
3sysctl_clock_enable(SYSCTL_CLOCK_AI);  // 使能系统时钟(系统时钟初始化)
4...
5
6// 注册模型的代码在 rt_ai_mnist_model.c 文件下的第31行,代码自动执行
7// 模型的相关信息在 rt_ai_mnist_model.h 文件
8/* AI modol inference */
9mymodel = rt_ai_find(MY_MODEL_NAME);  // 找到注册模型
10if (rt_ai_init(mymodel, (rt_ai_buffer_t *)IMG9_CHW) != 0)  // 初始化模型,传入输入数据
11...
12if(rt_ai_run(mymodel, ai_done, NULL) != 0)    // 模型推理一次
13...
14output = (float *)rt_ai_output(mymodel, 0);  // 获取模型输出结果
15
16/* 对模型输出结果进行处理,该实验是Mnist,输出结果为10个概率值,选出其中最大概率即可 */
17for(int i = 0; i < 10 ; i++)
18{
19    // printf("pred: %d, scores: %.2f%%\n", i, output[i]*100);
20    if(output[i] > scores  && output[i] > 0.2)
21    {
22        prediction = i;
23        scores = output[i];
24    }
25}

如何更换模型输入数据补充说明

示例数据在 applications 文件夹下,模型不用重新训练,只需更改第18行和第51行即可

详细得 Mnist Demo 工程链接,包括训练和数据处理。

Github:https://github.com/EdgeAIWithRTT/Project4-Mnist_RT-AK_K210

4.3 结果显示



你可以添加微信17775982065为好友,注明:公司+姓名,拉进 RT-Thread 官方微信交流群!



RTThread物联网操作系统 帮助您了解RT-Thread相关的资讯.
评论
  • 一、SAE J1939协议概述SAE J1939协议是由美国汽车工程师协会(SAE,Society of Automotive Engineers)定义的一种用于重型车辆和工业设备中的通信协议,主要应用于车辆和设备之间的实时数据交换。J1939基于CAN(Controller Area Network)总线技术,使用29bit的扩展标识符和扩展数据帧,CAN通信速率为250Kbps,用于车载电子控制单元(ECU)之间的通信和控制。小北同学在之前也对J1939协议做过扫盲科普【科普系列】SAE J
    北汇信息 2024-12-11 15:45 91浏览
  • 习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习笔记&记录学习习笔记&记学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记
    youyeye 2024-12-11 17:58 20浏览
  • 铁氧体芯片是一种基于铁氧体磁性材料制成的芯片,在通信、传感器、储能等领域有着广泛的应用。铁氧体磁性材料能够通过外加磁场调控其导电性质和反射性质,因此在信号处理和传感器技术方面有着独特的优势。以下是对半导体划片机在铁氧体划切领域应用的详细阐述: 一、半导体划片机的工作原理与特点半导体划片机是一种使用刀片或通过激光等方式高精度切割被加工物的装置,是半导体后道封测中晶圆切割和WLP切割环节的关键设备。它结合了水气电、空气静压高速主轴、精密机械传动、传感器及自动化控制等先进技术,具有高精度、高
    博捷芯划片机 2024-12-12 09:16 14浏览
  • 时源芯微——RE超标整机定位与解决详细流程一、 初步测量与问题确认使用专业的电磁辐射测量设备,对整机的辐射发射进行精确测量。确认是否存在RE超标问题,并记录超标频段和幅度。二、电缆检查与处理若存在信号电缆:步骤一:拔掉所有信号电缆,仅保留电源线,再次测量整机的辐射发射。若测量合格:判定问题出在信号电缆上,可能是电缆的共模电流导致。逐一连接信号电缆,每次连接后测量,定位具体哪根电缆或接口导致超标。对问题电缆进行处理,如加共模扼流圈、滤波器,或优化电缆布局和屏蔽。重新连接所有电缆,再次测量
    时源芯微 2024-12-11 17:11 90浏览
  • 全球知名半导体制造商ROHM Co., Ltd.(以下简称“罗姆”)宣布与Taiwan Semiconductor Manufacturing Company Limited(以下简称“台积公司”)就车载氮化镓功率器件的开发和量产事宜建立战略合作伙伴关系。通过该合作关系,双方将致力于将罗姆的氮化镓器件开发技术与台积公司业界先进的GaN-on-Silicon工艺技术优势结合起来,满足市场对高耐压和高频特性优异的功率元器件日益增长的需求。氮化镓功率器件目前主要被用于AC适配器和服务器电源等消费电子和
    电子资讯报 2024-12-10 17:09 91浏览
  • 近日,搭载紫光展锐W517芯片平台的INMO GO2由影目科技正式推出。作为全球首款专为商务场景设计的智能翻译眼镜,INMO GO2 以“快、准、稳”三大核心优势,突破传统翻译产品局限,为全球商务人士带来高效、自然、稳定的跨语言交流体验。 INMO GO2内置的W517芯片,是紫光展锐4G旗舰级智能穿戴平台,采用四核处理器,具有高性能、低功耗的优势,内置超微高集成技术,采用先进工艺,计算能力相比同档位竞品提升4倍,强大的性能提供更加多样化的应用场景。【视频见P盘链接】 依托“
    紫光展锐 2024-12-11 11:50 53浏览
  • 【萤火工场CEM5826-M11测评】OLED显示雷达数据本文结合之前关于串口打印雷达监测数据的研究,进一步扩展至 OLED 屏幕显示。该项目整体分为两部分: 一、框架显示; 二、数据采集与填充显示。为了减小 MCU 负担,采用 局部刷新 的方案。1. 显示框架所需库函数 Wire.h 、Adafruit_GFX.h 、Adafruit_SSD1306.h . 代码#include #include #include #include "logo_128x64.h"#include "logo_
    无垠的广袤 2024-12-10 14:03 71浏览
  • 首先在gitee上打个广告:ad5d2f3b647444a88b6f7f9555fd681f.mp4 · 丙丁先生/香河英茂工作室中国 - Gitee.com丙丁先生 (mr-bingding) - Gitee.com2024年对我来说是充满挑战和机遇的一年。在这一年里,我不仅进行了多个开发板的测评,还尝试了多种不同的项目和技术。今天,我想分享一下这一年的故事,希望能给大家带来一些启发和乐趣。 年初的时候,我开始对各种开发板进行测评。从STM32WBA55CG到瑞萨、平头哥和平海的开发板,我都
    丙丁先生 2024-12-11 20:14 19浏览
  • 习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习笔记&记录学习习笔记&记学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记
    youyeye 2024-12-10 16:13 110浏览
  • 天问Block和Mixly是两个不同的编程工具,分别在单片机开发和教育编程领域有各自的应用。以下是对它们的详细比较: 基本定义 天问Block:天问Block是一个基于区块链技术的数字身份验证和数据交换平台。它的目标是为用户提供一个安全、去中心化、可信任的数字身份验证和数据交换解决方案。 Mixly:Mixly是一款由北京师范大学教育学部创客教育实验室开发的图形化编程软件,旨在为初学者提供一个易于学习和使用的Arduino编程环境。 主要功能 天问Block:支持STC全系列8位单片机,32位
    丙丁先生 2024-12-11 13:15 50浏览
  • RK3506 是瑞芯微推出的MPU产品,芯片制程为22nm,定位于轻量级、低成本解决方案。该MPU具有低功耗、外设接口丰富、实时性高的特点,适合用多种工商业场景。本文将基于RK3506的设计特点,为大家分析其应用场景。RK3506核心板主要分为三个型号,各型号间的区别如下图:​图 1  RK3506核心板处理器型号场景1:显示HMIRK3506核心板显示接口支持RGB、MIPI、QSPI输出,且支持2D图形加速,轻松运行QT、LVGL等GUI,最快3S内开
    万象奥科 2024-12-11 15:42 74浏览
  • 我的一台很多年前人家不要了的九十年代SONY台式组合音响,接手时只有CD功能不行了,因为不需要,也就没修,只使用收音机、磁带机和外接信号功能就够了。最近五年在外地,就断电闲置,没使用了。今年9月回到家里,就一个劲儿地忙着收拾家当,忙了一个多月,太多事啦!修了电气,清理了闲置不用了的电器和电子,就是一个劲儿地扔扔扔!几十年的“工匠式”收留收藏,只能断舍离,拆解不过来的了。一天,忽然感觉室内有股臭味,用鼻子的嗅觉功能朝着臭味重的方向寻找,觉得应该就是这台组合音响?怎么会呢?这无机物的东西不会腐臭吧?
    自做自受 2024-12-10 16:34 146浏览
  • 在智能化技术快速发展当下,图像数据的采集与处理逐渐成为自动驾驶、工业等领域的一项关键技术。高质量的图像数据采集与算法集成测试都是确保系统性能和可靠性的关键。随着技术的不断进步,对于图像数据的采集、处理和分析的需求日益增长,这不仅要求我们拥有高性能的相机硬件,还要求我们能够高效地集成和测试各种算法。我们探索了一种多源相机数据采集与算法集成测试方案,能够满足不同应用场景下对图像采集和算法测试的多样化需求,确保数据的准确性和算法的有效性。一、相机组成相机一般由镜头(Lens),图像传感器(Image
    康谋 2024-12-12 09:45 4浏览
  • 智能汽车可替换LED前照灯控制运行的原理涉及多个方面,包括自适应前照灯系统(AFS)的工作原理、传感器的应用、步进电机的控制以及模糊控制策略等。当下时代的智能汽车灯光控制系统通过车载网关控制单元集中控制,表现特殊点的有特斯拉,仅通过前车身控制器,整个系统就包括了灯光旋转开关、车灯变光开关、左LED前照灯总成、右LED前照灯总成、转向柱电子控制单元、CAN数据总线接口、组合仪表控制单元、车载网关控制单元等器件。变光开关、转向开关和辅助操作系统一般连为一体,开关之间通过内部线束和转向柱装置连接为多,
    lauguo2013 2024-12-10 15:53 90浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦