解决方案|基于瑞萨RA8MCU的语音麦轮小车解决方案介绍

瑞萨MCU小百科 2024-06-18 12:00

今天给大家介绍瑞萨合作伙伴逐飞科技开发的一款基于RA8系列微处理器的RA8D1为主控的一台智能语音小车,该小车搭载多种传感器模块,能够实现精确的姿态控制、姿态调整、无线图像传输与显示、语音识别和自动抓取等功能。


语音麦轮小车方案


1

 小车硬件框架


硬件部分主要以瑞萨RA8D1 MCU为核心,围绕其设计的核心板和扩展板拥有丰富的外设接口和扩展能力。主板通过外部的3S锂电池进行供电,通过高效的LDO为系统提供6V、5V和3.3V等多级电压输出,以满足不同模块的特定供电要求。为简化各个模块的连接,主板的接口按照模块的接口形式进行划分,并确保所有模块的控制线路与核心板已分配引脚进行连接。



2

 小车任务概括


小车任务是围绕智能语音交互完成抓取任务,且设计有人机交互,通过屏幕实现信息的输入输出、并且监控车模的姿态、状态以及实时显示由车载摄像头捕获的图像。小车系统内部自动完成的姿态闭环控制,能对车模进行精准的操作。支持局域网内无线图传以及通过语音命令控制车模。在发现目标物体后,通过对小车和机械臂的控制,自动实现对空间物体的定位和抓取。


3

 小车主要硬件介绍


RA8微处理器

瑞萨电子RA8D1 MCU系列是业界首款基于Arm® Cortex®-M85(CM85)内核的32位图形微控制器(MCU),能够在480 MHz频率下实现超过3000 CoreMark分数的突破性性能,可支持高分辨率显示和视觉AI应用的卓越图形功能。此系列属于通用型MCU器件,适用于工业自动化、家用电器、智能家居、消费品、楼宇/家居自动化和医疗/保健细分市场中的各种高性能和计算密集型应用场景。


RA8D1 MCU集成了高性能CM85内核和大内存,以及丰富的外设集,包括带并行RGB和MIPI-DSI接口的高分辨率TFT-LCD控制器、2D绘图引擎、16位摄像头接口和多个外部内存接口,经过优化可满足各种图形和视觉AI应用的需求。此类MCU采用176引脚和224引脚封装。


RA8D1

https://www.renesas.cn/cn/zh/products/microcontrollers-microprocessors/ra-cortex-m-mcus/ra8d1-480-mhz-arm-cortex-m85-based-graphics-microcontroller-helium-and-trustzone



RA8核心板

核心板基于RA8芯片进行设计制作,核心板包含晶振、复位、SDRAM、FLASH、BOOT电路,引出了的下载调试接口、TF卡接口、SD卡接口,其他引脚作为连接主板引出。RA8芯片支持外接高达32M的SDRAM作为内存拓展,核心板布局如下图所示:



RA8扩展板

扩展板则基于RA8核心板制作,根据已分配的外设引脚,留出相应的接口,方便后续连接外设模块。扩展板的布局如下图所示:



屏幕模块

RA8芯片带有LCD的MIPI接口,MIPI协议采用了高速差分信号传输技术,可以减少信号干扰和噪声。使用的资源上,MIPI接口的引脚比SPI屏幕更少,通信速度也比常规的SPI或者并口通信快很多,所以方案中选用MIPI接口的3.1寸的IPS屏幕,像素大小为800*480。经过测试,纯刷屏速度能达到50fps+。结合触摸面板,便可以做到非常好的交互体验。


电机驱动模块

麦轮小车有4个电机,在小车上采用两块DRV8701E双H桥电机驱动模块来驱动车模的四个轮子,实现了对每个轮子的独立电机控制,在方案中使用RA8的General PWM Timer(GPT)外设作为PWM输出控制,对每一路的PWM输出精确控制。


摄像头模块

选用了OV2640彩色摄像头,它支持直接输出JPEG格式的图像数据。这一特性极大地简化了图像处理流程,RA8的16位摄像头接口CEU,不管是摄像头的RGB数据还是JPEG数据,都能通过CEU外设进行采集。通过CEU,最大可以采集2560*1920分辨率的图像。


4

 小车主要软件介绍


软件流程

RA8配套的支持包中就包含了多个系统的支持,在工程创建的过程中选择需要使用的系统,后续便自动将对应的系统文件添加到工程中。方案中选择了FreeRTOS系统作为整体任务的分配以及管理,任务如下图所示:



屏幕GUI控制

该方案为了实现更为直观和用户友好的操作体验,利用了图形用户界面(GUI)组件来展示摄像头捕获的实时图像以及关键参数。通过GUI的设计,不仅能够确保图像的清晰显示,还能够对界面布局和参数展示进行优化,从而提升视觉效果和用户交互的便捷性。


在GUI的设计上,选择了LVGL作为框架,并利用GUI-Guider软件进行初步设计。通过这个软件,能够快速搭建出所需的界面布局,随后将生成的源代码集成到项目中,随后为界面元素添加了参数设置和按键操作的回调函数来实现完整的交互功能。


语音处理

语音命令包括“前进”、“后退”、“左移”、“右移”、“左转”、“右转”、“停止”、“抓取”。在上位机中点击录音,然后对着麦克风口述上述命令之一,上位机会通过WIFI下方音频数据。单片机接收到音频数据后,在本地完成语音识别的算法,并根据命令来控制车模运动。


本方案通过电脑采集音频数据,进行幅值归一化处理后,通过WIFI发送到车模单片机。通过RA8单片机使用WIFI-UART模块和DMA接收数据,并通过运行在RA8上的语音识别算法进行处理。语音识别算法采用将音频信号转换为语谱图,再利用卷积神经网络(CNN)模型进行识别的方法。模型训练后,提取网络结构和权重参数,RA8单片机根据模型输出的向量确定命令,然后将识别结果显示在屏幕上,最后由控制线程完成小车的控制和机械臂抓取控制。


5

 总结


以上便是此次基于瑞萨RA8的麦轮语音小车方案的技术分享,本项目使用了Arm® Cortex®-M85内核的RA8D1作为主控芯片,制作了一辆集成了多种功能的语音麦轮小车。


方案利用RA8芯片的强大性能和丰富外设接口,实现了一个语音命令的闭环控制系统,通过陀螺仪和编码器数据进行实时计算和调整,确保了车模的精确控制。通过RA8独有的CEU外设和芯片的高性能实现图像的实时获取、传输以及解压显示。此外,方案还采用了基于梅尔倒谱系数(MFCC)算法和卷积神经网络(CNN)模型的语音识别技术,实现了对语音命令的快速识别和响应,使得小车能够根据语音指令进行相应的动作,展示了RA8 MCU在智能设备领域的强大应用潜力。


需要技术支持?

如您在使用瑞萨MCU/MPU产品中有任何问题,可识别下方二维码或复制网址到浏览器中打开,进入瑞萨技术论坛寻找答案或获取在线技术支持。

https://community-ja.renesas.com/zh/forums-groups/mcu-mpu/



1

END

1


推荐阅读

解决方案 | 基于RA8D1 MIPI DSI实现LVGL显示

解决方案 | 瑞萨RA8D1&RA8M1产品方案分享

基于RA8D1 MIPI DSI实现LVGL

更多精彩,敬请关注

评论
  • 2024年是很平淡的一年,能保住饭碗就是万幸了,公司业绩不好,跳槽又不敢跳,还有一个原因就是老板对我们这些员工还是很好的,碍于人情也不能在公司困难时去雪上加霜。在工作其间遇到的大问题没有,小问题还是有不少,这里就举一两个来说一下。第一个就是,先看下下面的这个封装,你能猜出它的引脚间距是多少吗?这种排线座比较常规的是0.6mm间距(即排线是0.3mm间距)的,而这个规格也是我们用得最多的,所以我们按惯性思维来看的话,就会认为这个座子就是0.6mm间距的,这样往往就不会去细看规格书了,所以这次的运气
    wuliangu 2025-01-21 00:15 649浏览
  • 故障现象 一辆2007款日产天籁车,搭载VQ23发动机(气缸编号如图1所示,点火顺序为1-2-3-4-5-6),累计行驶里程约为21万km。车主反映,该车起步加速时偶尔抖动,且行驶中加速无力。 图1 VQ23发动机的气缸编号 故障诊断接车后试车,发动机怠速运转平稳,但只要换挡起步,稍微踩下一点加速踏板,就能感觉到车身明显抖动。用故障检测仪检测,发动机控制模块(ECM)无故障代码存储,且无失火数据流。用虹科Pico汽车示波器测量气缸1点火信号(COP点火信号)和曲轴位置传感器信
    虹科Pico汽车示波器 2025-01-23 10:46 255浏览
  • 数字隔离芯片是一种实现电气隔离功能的集成电路,在工业自动化、汽车电子、光伏储能与电力通信等领域的电气系统中发挥着至关重要的作用。其不仅可令高、低压系统之间相互独立,提高低压系统的抗干扰能力,同时还可确保高、低压系统之间的安全交互,使系统稳定工作,并避免操作者遭受来自高压系统的电击伤害。典型数字隔离芯片的简化原理图值得一提的是,数字隔离芯片历经多年发展,其应用范围已十分广泛,凡涉及到在高、低压系统之间进行信号传输的场景中基本都需要应用到此种芯片。那么,电气工程师在进行电路设计时到底该如何评估选择一
    华普微HOPERF 2025-01-20 16:50 181浏览
  • 现在为止,我们已经完成了Purple Pi OH主板的串口调试和部分配件的连接,接下来,让我们趁热打铁,完成剩余配件的连接!注:配件连接前请断开主板所有供电,避免敏感电路损坏!1.1 耳机接口主板有一路OTMP 标准四节耳机座J6,具备进行音频输出及录音功能,接入耳机后声音将优先从耳机输出,如下图所示:1.21.2 相机接口MIPI CSI 接口如上图所示,支持OV5648 和OV8858 摄像头模组。接入摄像头模组后,使用系统相机软件打开相机拍照和录像,如下图所示:1.3 以太网接口主板有一路
    Industio_触觉智能 2025-01-20 11:04 230浏览
  • 嘿,咱来聊聊RISC-V MCU技术哈。 这RISC-V MCU技术呢,简单来说就是基于一个叫RISC-V的指令集架构做出的微控制器技术。RISC-V这个啊,2010年的时候,是加州大学伯克利分校的研究团队弄出来的,目的就是想搞个新的、开放的指令集架构,能跟上现代计算的需要。到了2015年,专门成立了个RISC-V基金会,让这个架构更标准,也更好地推广开了。这几年啊,这个RISC-V的生态系统发展得可快了,好多公司和机构都加入了RISC-V International,还推出了不少RISC-V
    丙丁先生 2025-01-21 12:10 1145浏览
  • 项目展示①正面、反面②左侧、右侧项目源码:https://mbb.eet-china.com/download/316656.html前言为什么想到要做这个小玩意呢,作为一个死宅,懒得看手机,但又想要抬头就能看见时间和天气信息,于是就做个这么个小东西,放在示波器上面正好(示波器外壳有个小槽,刚好可以卡住)功能主要有,获取国家气象局的天气信息,还有实时的温湿度,主控采用ESP32,所以后续还可以开放更多奇奇怪怪的功能,比如油价信息、股票信息之类的,反正能联网可操作性就大多了原理图、PCB、面板设计
    小恶魔owo 2025-01-25 22:09 375浏览
  • 临近春节,各方社交及应酬也变得多起来了,甚至一月份就排满了各式约见。有的是关系好的专业朋友的周末“恳谈会”,基本是关于2025年经济预判的话题,以及如何稳定工作等话题;但更多的预约是来自几个客户老板及副总裁们的见面,他们为今年的经济预判与企业发展焦虑而来。在聊天过程中,我发现今年的聊天有个很有意思的“点”,挺多人尤其关心我到底是怎么成长成现在的多领域风格的,还能掌握一些经济趋势的分析能力,到底学过哪些专业、在企业管过哪些具体事情?单单就这个一个月内,我就重复了数次“为什么”,再辅以我上次写的:《
    牛言喵语 2025-01-22 17:10 399浏览
  • 不让汽车专美于前,近年来哈雷(Harley-Davidson)和本田(Honda)等大型重型机车大厂的旗下车款皆已陆续配备车载娱乐系统与语音助理,在路上也有越来越多的普通机车车主开始使用安全帽麦克风,在骑车时透过蓝牙连线执行语音搜寻地点导航、音乐播放控制或免持拨打接听电话等各种「机车语音助理」功能。客户背景与面临的挑战以本次分享的客户个案为例,该客户是一个跨国车用语音软件供货商,过往是与车厂合作开发前装车机为主,且有着多年的「汽车语音助理」产品经验。由于客户这次是首度跨足「机车语音助理」产品,因
    百佳泰测试实验室 2025-01-24 17:00 157浏览
  •     IPC-2581是基于ODB++标准、结合PCB行业特点而指定的PCB加工文件规范。    IPC-2581旨在替代CAM350格式,成为PCB加工行业的新的工业规范。    有一些免费软件,可以查看(不可修改)IPC-2581数据文件。这些软件典型用途是工艺校核。    1. Vu2581        出品:Downstream     
    电子知识打边炉 2025-01-22 11:12 339浏览
  • 随着AI大模型训练和推理对计算能力的需求呈指数级增长,AI数据中心的网络带宽需求大幅提升,推动了高速光模块的发展。光模块作为数据中心和高性能计算系统中的关键器件,主要用于提供高速和大容量的数据传输服务。 光模块提升带宽的方法有两种:1)提高每个通道的比特速率,如直接提升波特率,或者保持波特率不变,使用复杂的调制解调方式(如PAM4);2)增加通道数,如提升并行光纤数量,或采用波分复用(CWDM、LWDM)。按照传输模式,光模块可分为并行和波分两种类型,其中并行方案主要应用在中短距传输场景中成本
    hycsystembella 2025-01-25 17:24 282浏览
  • 高速先生成员--黄刚这不马上就要过年了嘛,高速先生就不打算给大家上难度了,整一篇简单但很实用的文章给大伙瞧瞧好了。相信这个标题一出来,尤其对于PCB设计工程师来说,心就立马凉了半截。他们辛辛苦苦进行PCB的过孔设计,高速先生居然说设计多大的过孔他们不关心!另外估计这时候就跳出很多“挑刺”的粉丝了哈,因为翻看很多以往的文章,高速先生都表达了过孔孔径对高速性能的影响是很大的哦!咋滴,今天居然说孔径不关心了?别,别急哈,听高速先生在这篇文章中娓娓道来。首先还是要对各位设计工程师的设计表示肯定,毕竟像我
    一博科技 2025-01-21 16:17 220浏览
  • 书接上回:【2022年终总结】阳光总在风雨后,启航2023-面包板社区  https://mbb.eet-china.com/blog/468701-438244.html 总结2019,松山湖有个欧洲小镇-面包板社区  https://mbb.eet-china.com/blog/468701-413397.html        2025年该是总结下2024年的喜怒哀乐,有个好的开始,才能更好的面对2025年即将
    liweicheng 2025-01-24 23:18 252浏览
  • 前篇文章中『服务器散热效能不佳有解吗?』提到气冷式的服务器其散热效能对于系统稳定度是非常重要的关键因素,同时也说明了百佳泰对于散热效能能提供的协助与服务。本篇将为您延伸说明我们如何进行评估,同时也会举例在测试过程中发现的问题及改善后的数据。AI服务器的散热架构三大重点:GPU导风罩:尝试不同的GPU导风罩架构,用以集中服务器进风量,加强对GPU的降温效果。GPU托盘:改动GPU托盘架构,验证出风面积大小对GPU散热的影想程度。CPU导风罩:尝试封闭CPU导风罩间隙,集中风流,验证CPU降温效果。
    百佳泰测试实验室 2025-01-24 16:58 134浏览
  • 飞凌嵌入式基于瑞芯微RK3562系列处理器打造的FET3562J-C全国产核心板,是一款专为工业自动化及消费类电子设备设计的产品,凭借其强大的功能和灵活性,自上市以来得到了各行业客户的广泛关注。本文将详细介绍如何启动并测试RK3562J处理器的MCU,通过实际操作步骤,帮助各位工程师朋友更好地了解这款芯片。1、RK3562J处理器概述RK3562J处理器采用了4*Cortex-A53@1.8GHz+Cortex-M0@200MHz架构。其中,4个Cortex-A53核心作为主要核心,负责处理复杂
    飞凌嵌入式 2025-01-24 11:21 230浏览
  •  万万没想到!科幻电影中的人形机器人,正在一步步走进我们人类的日常生活中来了。1月17日,乐聚将第100台全尺寸人形机器人交付北汽越野车,再次吹响了人形机器人疯狂进厂打工的号角。无独有尔,银河通用机器人作为一家成立不到两年时间的创业公司,在短短一年多时间内推出革命性的第一代产品Galbot G1,这是一款轮式、双臂、身体可折叠的人形机器人,得到了美团战投、经纬创投、IDG资本等众多投资方的认可。作为一家成立仅仅只有两年多时间的企业,智元机器人也把机器人从梦想带进了现实。2024年8月1
    刘旷 2025-01-21 11:15 913浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦