无线与云连接技术专题之二:利用Opus在STM32WB上实现BLE全双工语音流

STM32单片机 2022-04-24 08:30

☝ 点击上方蓝字关注我们

‍‍‍‍‍‍‍‍





简介




在无线蓝牙领域,既能满足超低功耗,又能进行全双工语音通讯,一直是市场上的需求,比如:无线门铃,短距离对讲机等应用。针对BLE语音相关的应用场景,ST推出了FP-AUD-BVLINKWB1这个软件包供客户评估。

本文将对这个软件包展开介绍,该软件包主要包含以下特性:


  • 使用Opus v1.3编码和解码,通过BLE实现全双工立体音频流。

  • 使用自定义BlueVoiceOPUS协议,通过API即可使用Opus功能。

  • 源码包含数字音频捕获和处理。

  • 可以通过USB进行音频流的回放。

  • 可使用麦克风扩展板X-NUCLEO-CCA02M2 + Nucleo开发板P-NUCLEO-WB55的组合或者探索板STM32WB5MM-DK。

  • 兼容STBLESensor App。

  • 免费开源。



感兴趣的话欢迎下载该软件包进行评估
点击这里下载软件包

软件介绍


软件架构


图1.软件架构图


  • Hardware Abstraction:硬件抽象层,使用了STM32的HAL库提供底层的硬件驱动。

  • BSP层:在HAL层之上,提供了板级支持包,包含了SPI,ADC,LED和User Button等驱动。

  • Middleware层:中间件层,主要包含了以下内容:

    □ STM32 WPAN:提供BLE,Thread,Zigbee等协议相关的接口API,本应用只使用了BLE协议。

    □ USB Device:提供各种不同USB device类的实现,本应用中只使用了USB Audio类。

    □ PDM Lib:提供了数字麦克风PDM信号到PCM信号转换的软件实现。

    □ OPUS:开源第三方的OPUS库,版本v1.3。



Opus简介
Opus是完全开源免费的高通用性音频编解码协议,由Internet Engineering Task Force (IETF)标准化。

Opus可以处理广泛的音频应用,包括IP语音、视频会议、游戏内聊天,甚至远程现场音乐表演。它可以从低比特率窄带语音缩放到非常高质量的立体声音乐,并且具备以下特点:


  • 比特率范围:6kb /s到510 kb/s

  • 采样率范围:8khz(窄带)到48kHz(全带)

  • 帧大小:2.5 ms到60 ms

  • 比特率,采样率,帧大小动态可调节

  • 支持固定比特率(CBR)和可变比特率(VBR)

  • 支持语音和音乐

  • 支持单声道和立体声

  • 最多支持255个通道

  • 良好的鲁棒性和丢包隐藏能力

  • 支持浮点和定点



BlueVoiceOPUS协议
BlueVoiceOPUS是自定义的协议,Central和Peripheral是GAP层的角色,在点对点通讯中,主动发起连接请求的设备为Central。在GATT协议中,Server接受请求和命令,将数据保存在属性中。Client实施服务发现流程,并向Server请求数据。

如果是单向的非对称语音系统,那么具备麦克风的设备可以定义为Server,客户端可以主动或被动接收Server的语音数据流。

图2.GATT角色分配


如图2,FP-AUD-BVLINKWB1提供了双向的系统,双方设备都具备语音的能力,所以双方都实现了GATT Server以及Client的角色。并且,Server的语音数据基于notification性质,将以异步的方式主动发送给Client。




 BlueVoiceOPUS服务


ATT协议用于在设备中进行数据交换,ATT的最小实体称为属性。GATT服务由各种服务组成,其中服务由服务申明属性作为起始,每一个服务又包含若干特性,特性由任意属性或属性描述符组成。

表1是典型的BLE服务的属性表,其中包含了1个服务申明以及3个特性。Audio特性用来通知对方设备音频数据。Ctrl特性通知对方设备控制数据,比如播放,暂停等。Music特性用来通知对方音乐数据,该特性只在ST BLE Sensor APP中实现,取代Audio特性,用来传输压缩后的48KHz立体音乐。



表1.BlueVoiceOPUS服务属性表


 BLUEVoiceOPUS实现


在Middleware层,和BlueVoiceOPUS协议相关的文件包括:


  • bvopus_service_stm:该文件管理所有和BLE相关的功能,包括添加服务和添加特性,以及数据的接收和发送。其中包含了一个简单的数据封包和解析协议。

  • opus_interface_stm:该文件实现了Opus编码器和BlueVoiceOPUS服务的接口。提供简单的API用于Opus初始化,配置,数据压缩和解压等。



应用层介绍
在软件包中包含了三个主要的工程:


  • BVLCentral:作为主设备主动发起连接,并提供BlueVoiceOPUS服务。

  • BVLPeripheral:作为从设备广播,并提供BlueVoiceOPUS服务。

  • BVLPeripheral_FullBand:作为从设备广播,提供BlueVoiceOPUS服务, 可以通过BLE接收立体声音乐,但目前只能和ST BLE Sensor相连。



BVLCentral和BVLPeripheral分别烧录到WB55的开发板中,分别作为主机和从机,通过开启或停止音频通知,可以达到三种不同类型的通讯:单工,半双工和全双工。


  • 当设备在输出音频流时,应用层负责语音的获取,数据压缩和封包,然后通过BlueVoiceOPUS协议发送出去。

  • 当设备在接收音频流时,应用层通过从BlueVoiceOPUS协议中接收BLE数据包,然后解包和解码OPUS语音数据。



通过P-NUCLEO-WB55上的SW1控制打开或关闭语音流通道。

通过LED显示设备的状态。


  • 广播/发现状态:绿色LED闪烁

  • 连接状态:蓝色LED缓慢闪烁

  • 语音流状态:蓝色LED正常闪烁

  • 接收状态:蓝色LED稳定点亮(不闪烁)

  • 全双工状态:蓝色LED快速闪烁(双方设备)



BVLCentral可以由APP(ST BLE Sensor)代替,完成设备和手机端的全双工语音通讯。

图3.应用流程图

整个应用流程如图3所示,整个流程介绍如下:


  • 从设备广播,主设备发起连接,直到连接建立成功。

  • 双方互相完成服务和特性发现流程。

  • 从设备通过按钮,请求打开特性通知,主设备打开通知,从设备发送语音流,此时状态为语音流状态。

  • 相反地,主设备通过按钮,请求打开特性通知,从设备打开通知,主设备发送语音流,此时状态变为全双工状态。

  • 可以通过按钮,开关语音流,改变语音流状态。



系统部署指导


下面将从不同方面分别介绍Demo的部署流程。

两块STM32WB开发板之间的全双工音频流




图4.NUCLEO+CCA02M2的组合

如上图4 ,可以使用P-NUCLEO-WB55开发板与一块麦克风扩展板X-NUCLEO-CCA02M2进行组合。然后分别烧录BVLCentral工程和BVLPeripheral工程。当双方设备建立连接以后,通过Nucleo上的SW1按钮,就可以建立起半双工或全双工的语音流了。麦克风扩展板可以对语音信号以8kHz或16kHz进行采集,并通过BlueVoiceOPUS协议传输,当对方设备接收到语音数据后,也通过usb传输到PC,使用刻录软件(如audacity)进行刻录保存,然后使用Audacity或其他语音软件播放。

图5.STM325MM-DK探索板

如上图5,也可以使用STM32WB5MM-DK进行同样的操作,该开发板使用了STM32WB5MM的模组,并且板载了一块OLED显示屏供开发。

当然也可以使用图4和图5的组合,只要一块烧录的是主机程序,另一块烧录的是从机程序即可。

STM32WB开发板和手机之间的全双工音频流
除了上面的配置方法外,ST还提供了ST BLE Sensor手机APP供测试。

图6.手机和开发板之间的音频流

如图6,手机可以作为主设备,扫描然后连接STM32WB55开发板,建立全双工的音频流的BLE链路。语音信号可以从开发板采集,发送到手机侧进行播放。也可以从手机侧采集,发送到开发板后,再通过USB进行播放。

STM32WB开发板和手机之间的立体声音乐播放
上面介绍的都是8kHz/16kHz的语音流,该软件包还提供了全带(Full-Band)的48kHz立体声音乐流方案。

图7.48kHz立体声音乐流方案

如图7,手机扫描设备后,发起并建立连接,完成GATT服务发现流程,然后通过按钮打开特性的通知属性,建立全带音乐流。APP使用OPUS对手机内音乐进行压缩和封包,然后通过BLE发送给开发板。开发板通过USB将数据导出到PC上,最后使用Audacity或其他语音软件进行播放。




参考文档

✎ STM32CubeFunctionPack_BVLINKWB1_V2.0.0





END


相关阅读




▷  无线与云连接技术专题之一:STM32WL私有LoRa网络设计原理以及演示介绍


STM32单片机 ST MCU (产品+工具+资料+技术+市场+活动)x 您的关注x您的支持 = STM32 单片机蝴蝶乐园
评论
  • 根据环洋市场咨询(Global Info Research)项目团队最新调研,预计2030年全球中空长航时无人机产值达到9009百万美元,2024-2030年期间年复合增长率CAGR为8.0%。 环洋市场咨询机构出版了的【全球中空长航时无人机行业总体规模、主要厂商及IPO上市调研报告,2025-2031】研究全球中空长航时无人机总体规模,包括产量、产值、消费量、主要生产地区、主要生产商及市场份额,同时分析中空长航时无人机市场主要驱动因素、阻碍因素、市场机遇、挑战、新产品发布等。报告从中空长航时
    GIRtina 2025-01-09 10:35 100浏览
  • 光伏逆变器是一种高效的能量转换设备,它能够将光伏太阳能板(PV)产生的不稳定的直流电压转换成与市电频率同步的交流电。这种转换后的电能不仅可以回馈至商用输电网络,还能供独立电网系统使用。光伏逆变器在商业光伏储能电站和家庭独立储能系统等应用领域中得到了广泛的应用。光耦合器,以其高速信号传输、出色的共模抑制比以及单向信号传输和光电隔离的特性,在光伏逆变器中扮演着至关重要的角色。它确保了系统的安全隔离、干扰的有效隔离以及通信信号的精准传输。光耦合器的使用不仅提高了系统的稳定性和安全性,而且由于其低功耗的
    晶台光耦 2025-01-09 09:58 83浏览
  • Snyk 是一家为开发人员提供安全平台的公司,致力于协助他们构建安全的应用程序,并为安全团队提供应对数字世界挑战的工具。以下为 Snyk 如何通过 CircleCI 实现其“交付”使命的案例分析。一、Snyk 的挑战随着客户对安全工具需求的不断增长,Snyk 的开发团队面临多重挑战:加速交付的需求:Snyk 的核心目标是为开发者提供更快、更可靠的安全解决方案,但他们的现有 CI/CD 工具(TravisCI)运行缓慢,无法满足快速开发和部署的要求。扩展能力不足:随着团队规模和代码库的不断扩大,S
    艾体宝IT 2025-01-10 15:52 51浏览
  • 职场是人生的重要战场,既是谋生之地,也是实现个人价值的平台。然而,有些思维方式却会悄无声息地拖住你的后腿,让你原地踏步甚至退步。今天,我们就来聊聊职场中最忌讳的五种思维方式,看看自己有没有中招。1. 固步自封的思维在职场中,最可怕的事情莫过于自满于现状,拒绝学习和改变。世界在不断变化,行业的趋势、技术的革新都在要求我们与时俱进。如果你总觉得自己的方法最优,或者害怕尝试新事物,那就很容易被淘汰。与其等待机会找上门,不如主动出击,保持学习和探索的心态。加入优思学院,可以帮助你快速提升自己,与行业前沿
    优思学院 2025-01-09 15:48 102浏览
  • 车机导航有看没有懂?智能汽车语系在地化不可轻忽!随着智能汽车市场全球化的蓬勃发展,近年来不同国家地区的「Automotive Localization」(汽车在地化)布局成为兵家必争之地,同时也是车厂在各国当地市场非常关键的营销利器。汽车在地化过程中举足轻重的「汽车语系在地化」,则是透过智能汽车产品文字与服务内容的设计订制,以对应不同国家地区用户的使用习惯偏好,除了让当地车主更能清楚理解车辆功能,也能进一步提高品牌满意度。客户问题与难处某车厂客户预计在台湾市场推出新一代车款,却由于车机导航开发人
    百佳泰测试实验室 2025-01-09 17:47 30浏览
  • 在智能网联汽车中,各种通信技术如2G/3G/4G/5G、GNSS(全球导航卫星系统)、V2X(车联网通信)等在行业内被广泛使用。这些技术让汽车能够实现紧急呼叫、在线娱乐、导航等多种功能。EMC测试就是为了确保在复杂电磁环境下,汽车的通信系统仍然可以正常工作,保护驾乘者的安全。参考《QCT-基于LTE-V2X直连通信的车载信息交互系统技术要求及试验方法-1》标准10.5电磁兼容试验方法,下面将会从整车功能层面为大家解读V2X整车电磁兼容试验的过程。测试过程揭秘1. 设备准备为了进行电磁兼容试验,技
    北汇信息 2025-01-09 11:24 103浏览
  • 1月9日,在2025国际消费电子展览会(CES)期间,广和通发布集智能语音交互及翻译、4G/5G全球漫游、随身热点、智能娱乐、充电续航等功能于一体的AI Buddy(AI陪伴)产品及解决方案,创新AI智能终端新品类。AI Buddy是一款信用卡尺寸的掌中轻薄智能设备,为用户带来实时翻译、个性化AI语音交互助手、AI影像识别、多模型账户服务、漫游资费服务、快速入网注册等高品质体验。为丰富用户视觉、听觉的智能化体验,AI Buddy通过蓝牙、Wi-Fi可配套OWS耳机、智能眼镜、智能音箱、智能手环遥
    物吾悟小通 2025-01-09 18:21 38浏览
  • 一个真正的质量工程师(QE)必须将一件产品设计的“意图”与系统的可制造性、可服务性以及资源在现实中实现设计和产品的能力结合起来。所以,可以说,这确实是一种工程学科。我们常开玩笑说,质量工程师是工程领域里的「侦探」、「警察」或「律师」,守护神是"墨菲”,信奉的哲学就是「墨菲定律」。(注:墨菲定律是一种启发性原则,常被表述为:任何可能出错的事情最终都会出错。)做质量工程师的,有时会不受欢迎,也会被忽视,甚至可能遭遇主动或被动的阻碍,而一旦出了问题,责任往往就落在质量工程师的头上。虽然质量工程师并不负
    优思学院 2025-01-09 11:48 115浏览
  • 故障现象一辆2017款东风风神AX7车,搭载DFMA14T发动机,累计行驶里程约为13.7万km。该车冷起动后怠速运转正常,热机后怠速运转不稳,组合仪表上的发动机转速表指针上下轻微抖动。 故障诊断 用故障检测仪检测,发动机控制单元中无故障代码存储;读取发动机数据流,发现进气歧管绝对压力波动明显,有时能达到69 kPa,明显偏高,推断可能的原因有:进气系统漏气;进气歧管绝对压力传感器信号失真;发动机机械故障。首先从节气门处打烟雾,没有发现进气管周围有漏气的地方;接着拔下进气管上的两个真空
    虹科Pico汽车示波器 2025-01-08 16:51 117浏览
  • 1月7日-10日,2025年国际消费电子产品展览会(CES 2025)盛大举行,广和通发布Fibocom AI Stack,赋智千行百业端侧应用。Fibocom AI Stack提供集高性能模组、AI工具链、高性能推理引擎、海量模型、支持与服务一体化的端侧AI解决方案,帮助智能设备快速实现AI能力商用。为适应不同端侧场景的应用,AI Stack具备海量端侧AI模型及行业端侧模型,基于不同等级算力的芯片平台或模组,Fibocom AI Stack可将TensorFlow、PyTorch、ONNX、
    物吾悟小通 2025-01-08 18:17 87浏览
  • 在当前人工智能(AI)与物联网(IoT)的快速发展趋势下,各行各业的数字转型与自动化进程正以惊人的速度持续进行。如今企业在设计与营运技术系统时所面临的挑战不仅是技术本身,更包含硬件设施、第三方软件及配件等复杂的外部因素。然而这些系统往往讲究更精密的设计与高稳定性,哪怕是任何一个小小的问题,都可能对整体业务运作造成严重影响。 POS应用环境与客户需求以本次分享的客户个案为例,该客户是一家全球领先的信息技术服务与数字解决方案提供商,遭遇到一个由他们所开发的POS机(Point of Sal
    百佳泰测试实验室 2025-01-09 17:35 115浏览
  • 在过去十年中,自动驾驶和高级驾驶辅助系统(AD/ADAS)软件与硬件的快速发展对多传感器数据采集的设计需求提出了更高的要求。然而,目前仍缺乏能够高质量集成多传感器数据采集的解决方案。康谋ADTF正是应运而生,它提供了一个广受认可和广泛引用的软件框架,包含模块化的标准化应用程序和工具,旨在为ADAS功能的开发提供一站式体验。一、ADTF的关键之处!无论是奥迪、大众、宝马还是梅赛德斯-奔驰:他们都依赖我们不断发展的ADTF来开发智能驾驶辅助解决方案,直至实现自动驾驶的目标。从新功能的最初构思到批量生
    康谋 2025-01-09 10:04 99浏览
  • HDMI 2.2 规格将至,开启视听新境界2025年1月6日,HDMI Forum, Inc. 宣布即将发布HDMI规范2.2版本。新HDMI规范为规模庞大的 HDMI 生态系统带来更多选择,为创建、分发和体验理想的终端用户效果提供更先进的解决方案。新技术为电视、电影和游戏工作室等内容制作商在当前和未来提供更高质量的选择,同时实现多种分发平台。96Gbps的更高带宽和新一代 HDMI 固定比率速率传输(Fixed Rate Link)技术为各种设备应用提供更优质的音频和视频。终端用户显示器能以最
    百佳泰测试实验室 2025-01-09 17:33 124浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦