解决方案|基于瑞萨RA8MCU的语音麦轮小车解决方案介绍

瑞萨MCU小百科 2024-06-18 12:00

今天给大家介绍瑞萨合作伙伴逐飞科技开发的一款基于RA8系列微处理器的RA8D1为主控的一台智能语音小车,该小车搭载多种传感器模块,能够实现精确的姿态控制、姿态调整、无线图像传输与显示、语音识别和自动抓取等功能。


语音麦轮小车方案


1

 小车硬件框架


硬件部分主要以瑞萨RA8D1 MCU为核心,围绕其设计的核心板和扩展板拥有丰富的外设接口和扩展能力。主板通过外部的3S锂电池进行供电,通过高效的LDO为系统提供6V、5V和3.3V等多级电压输出,以满足不同模块的特定供电要求。为简化各个模块的连接,主板的接口按照模块的接口形式进行划分,并确保所有模块的控制线路与核心板已分配引脚进行连接。



2

 小车任务概括


小车任务是围绕智能语音交互完成抓取任务,且设计有人机交互,通过屏幕实现信息的输入输出、并且监控车模的姿态、状态以及实时显示由车载摄像头捕获的图像。小车系统内部自动完成的姿态闭环控制,能对车模进行精准的操作。支持局域网内无线图传以及通过语音命令控制车模。在发现目标物体后,通过对小车和机械臂的控制,自动实现对空间物体的定位和抓取。


3

 小车主要硬件介绍


RA8微处理器

瑞萨电子RA8D1 MCU系列是业界首款基于Arm® Cortex®-M85(CM85)内核的32位图形微控制器(MCU),能够在480 MHz频率下实现超过3000 CoreMark分数的突破性性能,可支持高分辨率显示和视觉AI应用的卓越图形功能。此系列属于通用型MCU器件,适用于工业自动化、家用电器、智能家居、消费品、楼宇/家居自动化和医疗/保健细分市场中的各种高性能和计算密集型应用场景。


RA8D1 MCU集成了高性能CM85内核和大内存,以及丰富的外设集,包括带并行RGB和MIPI-DSI接口的高分辨率TFT-LCD控制器、2D绘图引擎、16位摄像头接口和多个外部内存接口,经过优化可满足各种图形和视觉AI应用的需求。此类MCU采用176引脚和224引脚封装。


RA8D1

https://www.renesas.cn/cn/zh/products/microcontrollers-microprocessors/ra-cortex-m-mcus/ra8d1-480-mhz-arm-cortex-m85-based-graphics-microcontroller-helium-and-trustzone



RA8核心板

核心板基于RA8芯片进行设计制作,核心板包含晶振、复位、SDRAM、FLASH、BOOT电路,引出了的下载调试接口、TF卡接口、SD卡接口,其他引脚作为连接主板引出。RA8芯片支持外接高达32M的SDRAM作为内存拓展,核心板布局如下图所示:



RA8扩展板

扩展板则基于RA8核心板制作,根据已分配的外设引脚,留出相应的接口,方便后续连接外设模块。扩展板的布局如下图所示:



屏幕模块

RA8芯片带有LCD的MIPI接口,MIPI协议采用了高速差分信号传输技术,可以减少信号干扰和噪声。使用的资源上,MIPI接口的引脚比SPI屏幕更少,通信速度也比常规的SPI或者并口通信快很多,所以方案中选用MIPI接口的3.1寸的IPS屏幕,像素大小为800*480。经过测试,纯刷屏速度能达到50fps+。结合触摸面板,便可以做到非常好的交互体验。


电机驱动模块

麦轮小车有4个电机,在小车上采用两块DRV8701E双H桥电机驱动模块来驱动车模的四个轮子,实现了对每个轮子的独立电机控制,在方案中使用RA8的General PWM Timer(GPT)外设作为PWM输出控制,对每一路的PWM输出精确控制。


摄像头模块

选用了OV2640彩色摄像头,它支持直接输出JPEG格式的图像数据。这一特性极大地简化了图像处理流程,RA8的16位摄像头接口CEU,不管是摄像头的RGB数据还是JPEG数据,都能通过CEU外设进行采集。通过CEU,最大可以采集2560*1920分辨率的图像。


4

 小车主要软件介绍


软件流程

RA8配套的支持包中就包含了多个系统的支持,在工程创建的过程中选择需要使用的系统,后续便自动将对应的系统文件添加到工程中。方案中选择了FreeRTOS系统作为整体任务的分配以及管理,任务如下图所示:



屏幕GUI控制

该方案为了实现更为直观和用户友好的操作体验,利用了图形用户界面(GUI)组件来展示摄像头捕获的实时图像以及关键参数。通过GUI的设计,不仅能够确保图像的清晰显示,还能够对界面布局和参数展示进行优化,从而提升视觉效果和用户交互的便捷性。


在GUI的设计上,选择了LVGL作为框架,并利用GUI-Guider软件进行初步设计。通过这个软件,能够快速搭建出所需的界面布局,随后将生成的源代码集成到项目中,随后为界面元素添加了参数设置和按键操作的回调函数来实现完整的交互功能。


语音处理

语音命令包括“前进”、“后退”、“左移”、“右移”、“左转”、“右转”、“停止”、“抓取”。在上位机中点击录音,然后对着麦克风口述上述命令之一,上位机会通过WIFI下方音频数据。单片机接收到音频数据后,在本地完成语音识别的算法,并根据命令来控制车模运动。


本方案通过电脑采集音频数据,进行幅值归一化处理后,通过WIFI发送到车模单片机。通过RA8单片机使用WIFI-UART模块和DMA接收数据,并通过运行在RA8上的语音识别算法进行处理。语音识别算法采用将音频信号转换为语谱图,再利用卷积神经网络(CNN)模型进行识别的方法。模型训练后,提取网络结构和权重参数,RA8单片机根据模型输出的向量确定命令,然后将识别结果显示在屏幕上,最后由控制线程完成小车的控制和机械臂抓取控制。


5

 总结


以上便是此次基于瑞萨RA8的麦轮语音小车方案的技术分享,本项目使用了Arm® Cortex®-M85内核的RA8D1作为主控芯片,制作了一辆集成了多种功能的语音麦轮小车。


方案利用RA8芯片的强大性能和丰富外设接口,实现了一个语音命令的闭环控制系统,通过陀螺仪和编码器数据进行实时计算和调整,确保了车模的精确控制。通过RA8独有的CEU外设和芯片的高性能实现图像的实时获取、传输以及解压显示。此外,方案还采用了基于梅尔倒谱系数(MFCC)算法和卷积神经网络(CNN)模型的语音识别技术,实现了对语音命令的快速识别和响应,使得小车能够根据语音指令进行相应的动作,展示了RA8 MCU在智能设备领域的强大应用潜力。


需要技术支持?

如您在使用瑞萨MCU/MPU产品中有任何问题,可识别下方二维码或复制网址到浏览器中打开,进入瑞萨技术论坛寻找答案或获取在线技术支持。

https://community-ja.renesas.com/zh/forums-groups/mcu-mpu/



1

END

1


推荐阅读

解决方案 | 基于RA8D1 MIPI DSI实现LVGL显示

解决方案 | 瑞萨RA8D1&RA8M1产品方案分享

基于RA8D1 MIPI DSI实现LVGL

更多精彩,敬请关注

评论
  • 概述 通过前面的研究学习,已经可以在CycloneVGX器件中成功实现完整的TDC(或者说完整的TDL,即延时线),测试结果也比较满足,解决了超大BIN尺寸以及大量0尺寸BIN的问题,但是还是存在一些之前系列器件还未遇到的问题,这些问题将在本文中进行详细描述介绍。 在五代Cyclone器件内部系统时钟受限的情况下,意味着大量逻辑资源将被浪费在于实现较大长度的TDL上面。是否可以找到方法可以对此前TDL的长度进行优化呢?本文还将探讨这个问题。TDC前段BIN颗粒堵塞问题分析 将延时链在逻辑中实现后
    coyoo 2024-12-10 13:28 101浏览
  • 智能汽车可替换LED前照灯控制运行的原理涉及多个方面,包括自适应前照灯系统(AFS)的工作原理、传感器的应用、步进电机的控制以及模糊控制策略等。当下时代的智能汽车灯光控制系统通过车载网关控制单元集中控制,表现特殊点的有特斯拉,仅通过前车身控制器,整个系统就包括了灯光旋转开关、车灯变光开关、左LED前照灯总成、右LED前照灯总成、转向柱电子控制单元、CAN数据总线接口、组合仪表控制单元、车载网关控制单元等器件。变光开关、转向开关和辅助操作系统一般连为一体,开关之间通过内部线束和转向柱装置连接为多,
    lauguo2013 2024-12-10 15:53 78浏览
  • 肖特基具有很多的应用场景, 可以做同步整流,防止电流倒灌和电源反接等,但是随着电源电流的增大,肖特基导通正向压降0.3~0.7v的劣势也越发明显,产生了很多的热,对于工程师的散热设计是个考验,增加了工程师的设计难度和产品成本,目前一种新的理想二极管及其控制器,目前正在得到越来越广泛的应用- BMS,无人机,PLC,安防,家电,电动工具,汽车等都在快速普及理想二极管有三种架构,内置电荷泵的类似无锡明芯微MX5050T这种,驱动能力会弱点,静态功耗200uA,外置电荷泵MX74700T的这种驱动能力
    王萌 2024-12-10 08:51 85浏览
  • 习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习笔记&记录学习习笔记&记学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记
    youyeye 2024-12-10 16:13 105浏览
  • 全球知名半导体制造商ROHM Co., Ltd.(以下简称“罗姆”)宣布与Taiwan Semiconductor Manufacturing Company Limited(以下简称“台积公司”)就车载氮化镓功率器件的开发和量产事宜建立战略合作伙伴关系。通过该合作关系,双方将致力于将罗姆的氮化镓器件开发技术与台积公司业界先进的GaN-on-Silicon工艺技术优势结合起来,满足市场对高耐压和高频特性优异的功率元器件日益增长的需求。氮化镓功率器件目前主要被用于AC适配器和服务器电源等消费电子和
    电子资讯报 2024-12-10 17:09 84浏览
  • 我的一台很多年前人家不要了的九十年代SONY台式组合音响,接手时只有CD功能不行了,因为不需要,也就没修,只使用收音机、磁带机和外接信号功能就够了。最近五年在外地,就断电闲置,没使用了。今年9月回到家里,就一个劲儿地忙着收拾家当,忙了一个多月,太多事啦!修了电气,清理了闲置不用了的电器和电子,就是一个劲儿地扔扔扔!几十年的“工匠式”收留收藏,只能断舍离,拆解不过来的了。一天,忽然感觉室内有股臭味,用鼻子的嗅觉功能朝着臭味重的方向寻找,觉得应该就是这台组合音响?怎么会呢?这无机物的东西不会腐臭吧?
    自做自受 2024-12-10 16:34 136浏览
  • 时源芯微——RE超标整机定位与解决详细流程一、 初步测量与问题确认使用专业的电磁辐射测量设备,对整机的辐射发射进行精确测量。确认是否存在RE超标问题,并记录超标频段和幅度。二、电缆检查与处理若存在信号电缆:步骤一:拔掉所有信号电缆,仅保留电源线,再次测量整机的辐射发射。若测量合格:判定问题出在信号电缆上,可能是电缆的共模电流导致。逐一连接信号电缆,每次连接后测量,定位具体哪根电缆或接口导致超标。对问题电缆进行处理,如加共模扼流圈、滤波器,或优化电缆布局和屏蔽。重新连接所有电缆,再次测量
    时源芯微 2024-12-11 17:11 70浏览
  •         在有电流流过的导线周围会感生出磁场,再用霍尔器件检测由电流感生的磁场,即可测出产生这个磁场的电流的量值。由此就可以构成霍尔电流、电压传感器。因为霍尔器件的输出电压与加在它上面的磁感应强度以及流过其中的工作电流的乘积成比例,是一个具有乘法器功能的器件,并且可与各种逻辑电路直接接口,还可以直接驱动各种性质的负载。因为霍尔器件的应用原理简单,信号处理方便,器件本身又具有一系列的du特优点,所以在变频器中也发挥了非常重要的作用。  &nb
    锦正茂科技 2024-12-10 12:57 76浏览
  • 一、SAE J1939协议概述SAE J1939协议是由美国汽车工程师协会(SAE,Society of Automotive Engineers)定义的一种用于重型车辆和工业设备中的通信协议,主要应用于车辆和设备之间的实时数据交换。J1939基于CAN(Controller Area Network)总线技术,使用29bit的扩展标识符和扩展数据帧,CAN通信速率为250Kbps,用于车载电子控制单元(ECU)之间的通信和控制。小北同学在之前也对J1939协议做过扫盲科普【科普系列】SAE J
    北汇信息 2024-12-11 15:45 73浏览
  • 天问Block和Mixly是两个不同的编程工具,分别在单片机开发和教育编程领域有各自的应用。以下是对它们的详细比较: 基本定义 天问Block:天问Block是一个基于区块链技术的数字身份验证和数据交换平台。它的目标是为用户提供一个安全、去中心化、可信任的数字身份验证和数据交换解决方案。 Mixly:Mixly是一款由北京师范大学教育学部创客教育实验室开发的图形化编程软件,旨在为初学者提供一个易于学习和使用的Arduino编程环境。 主要功能 天问Block:支持STC全系列8位单片机,32位
    丙丁先生 2024-12-11 13:15 45浏览
  • RK3506 是瑞芯微推出的MPU产品,芯片制程为22nm,定位于轻量级、低成本解决方案。该MPU具有低功耗、外设接口丰富、实时性高的特点,适合用多种工商业场景。本文将基于RK3506的设计特点,为大家分析其应用场景。RK3506核心板主要分为三个型号,各型号间的区别如下图:​图 1  RK3506核心板处理器型号场景1:显示HMIRK3506核心板显示接口支持RGB、MIPI、QSPI输出,且支持2D图形加速,轻松运行QT、LVGL等GUI,最快3S内开
    万象奥科 2024-12-11 15:42 66浏览
  • 【萤火工场CEM5826-M11测评】OLED显示雷达数据本文结合之前关于串口打印雷达监测数据的研究,进一步扩展至 OLED 屏幕显示。该项目整体分为两部分: 一、框架显示; 二、数据采集与填充显示。为了减小 MCU 负担,采用 局部刷新 的方案。1. 显示框架所需库函数 Wire.h 、Adafruit_GFX.h 、Adafruit_SSD1306.h . 代码#include #include #include #include "logo_128x64.h"#include "logo_
    无垠的广袤 2024-12-10 14:03 69浏览
  • 近日,搭载紫光展锐W517芯片平台的INMO GO2由影目科技正式推出。作为全球首款专为商务场景设计的智能翻译眼镜,INMO GO2 以“快、准、稳”三大核心优势,突破传统翻译产品局限,为全球商务人士带来高效、自然、稳定的跨语言交流体验。 INMO GO2内置的W517芯片,是紫光展锐4G旗舰级智能穿戴平台,采用四核处理器,具有高性能、低功耗的优势,内置超微高集成技术,采用先进工艺,计算能力相比同档位竞品提升4倍,强大的性能提供更加多样化的应用场景。【视频见P盘链接】 依托“
    紫光展锐 2024-12-11 11:50 44浏览
  •         霍尔传感器是根据霍尔效应制作的一种磁场传感器。霍尔效应是磁电效应的一种,这一现象是霍尔(A.H.Hall,1855—1938)于1879年在研究金属的导电机构时发现的。后来发现半导体、导电流体等也有这种效应,而半导体的霍尔效应比金属强得多,利用这现象制成的各种霍尔元件,广泛地应用于工业自动化技术、检测技术及信息处理等方面。霍尔效应是研究半导体材料性能的基本方法。通过霍尔效应实验测定的霍尔系数,能够判断半导体材料的导电类型、载流子浓度及载流子
    锦正茂科技 2024-12-10 11:07 64浏览
  • 本文介绍Linux系统(Ubuntu/Debian通用)挂载exfat格式U盘的方法,触觉智能RK3562开发板演示,搭载4核A53处理器,主频高达2.0GHz;内置独立1Tops算力NPU,可应用于物联网网关、平板电脑、智能家居、教育电子、工业显示与控制等行业。修改对应的内核配置文件# 进入sdk目录cdrk3562_linux# 编辑内核配置文件vi./kernel-5.10/arch/arm64/configs/rockchip_linux_defconfig注:不清楚内核使用哪个defc
    Industio_触觉智能 2024-12-10 09:44 90浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦