手把手教程:基于RT-Thread在单片机上部署大模型AI终端

RTThread物联网操作系统 2025-04-11 18:16

还在羡慕那些动辄几十GB显存的AI大佬?今天,就让你体验到与大语言模型畅聊的快感!谁说嵌入式设备只能闪烁LED?今天我们就要让它"口吐莲花"! 

从"Hello World"到"Hey, AI" 

记得刚入行时,点亮一个LED灯都激动半天。如今,我们的嵌入式设备已经可以直接和AI大模型对话了!这不仅是技术的进步,更是开发思路的革命。今天,我将手把手教大家如何在开发板上接入DeepSeek大模型,让你的单片机秒变"AI终端"!

本文将详细介绍如何利用RT-Thread操作系统和完善的网络协议栈, 让开发板成功接入DeepSeek大语言模型,实现实时对话功能,以FRDM-MCXN947为例。 

准备工作:工欲善其事,必先利其器~

硬件准备 

  • FRDM-MCXN947开发板:NXP的明星开发板, MCX系列最强王者,搭载150MHz Arm® Cortex®-M33内核 
  • 网络连接:RT-Thread RW007 WIFI模块 
  • USB TypeC 线:用于供电和调试 
图片
软件准备 
  • RT-Thread V5.2.0: RT-Thread 5.2.0版本 或者master最新分支

  • DeepSeek API Key: 用于访问DeepSeek大模型的API KEY, 见下节 

  • Keil
申请 DeepSeek API KEY 
首先,我们需要前往DeepSeek官网 :https://platform.deepseek.com/api_keys
1. 注册并登录DeepSeek账号 
2. 进入开发者控制台 
3. 创建新的API Key 
4. 复制并保存API Key(注意:这个Key只显示一次!)牢记你的API KEY! 
图片
环境配置 

1. 我们需要确保RT-Thread能够正常运行在MCXN947上,并且网络功能正常。这属于基础配置部分,已经有完善的教程,参见: NXP FRDM-MCXN947 上手指南. 这里不再赘述。

2. 进入RT-Thread env工具的menuconfig.
 在menuconfig中,我们需要启用以下功能: 
图片
  • 开启RT-Thread 大预言模型包:

    RT-Thread online packages → AI packages → Large Language Models(LLM) for RT-Thread 并且在config中输入自己的API KEY

图片
  • 开启Webclient组件:

    RT-Thread online packages → IoT - internet of things → WebClient: A HTTP/HTTPS Client for RT-Thread,选择 MbedTLS support 

图片
  • 退出保存配置,输入 pkgs --update 拉取软件包; 

  • 生成Keil工程 scons --target=mdk5 

  • 完成所有配置后,我们可以编译并运行程序,如果一切顺利,你应该能在串口终端看到RT-Thread的启动信息: 

首先先输入你的WiFi 用户名密码,先让板子上网: 

图片图片

 看到 Got IP address 说明已经成功通过WIFI模块连接到了网络, 下面,输入llm进入大模型对话框,然后就 可以和DeepSeek聊天啦:

图片

实际应用场景

将LLM功能集成到嵌入式设备中,可以开启许多有趣的应用场景:

1. 智能家居控制:通过自然语言控制家中设备 
2. 工业设备诊断:询问设备状态和故障诊断 
3. 教育辅助设备:创建交互式学习工具 
4. 智能客服终端:部署在公共场所的信息查询终端 

5. 辅助开发工具:在开发过程中提供代码建议和调试帮助 

优化与改进 

  • 现在只是串口终端交互,后期如果能改成语音交互,体验感就能更上一个层次了,可以做成一个超级“天猫精灵” 或者“小爱同学”

  • 目前这套代码并未细致的优化,所以大预言模型的反应速度比较慢,一般需要1-4秒,且RAM占用比较大 (160KB)左右,笔者曾经尝试移植到FRDM-MCXA156上(1MFlash, 128KB RAM),RAM就不够用了,目前还在 优化中-_-!
 结语与完整代码下载 

通过本文的实践,我们成功地将FRDM-MCXN947开发板变成了一个能与DeepSeek大模型对话的AI终端。这不仅展示了NXP MCU强大的网络通信能力,也为嵌入式设备的智能化应用开辟了新的可能性。

未来,随着边缘计算技术的发展,我们甚至可以期待在MCU上直接运行轻量级LLM模型,实现真正的本地AI推理。而现在通过API调用云端大模型,我们已经能够为嵌入式设备赋予"智慧"。

所有代码我已经上传到了百度网盘: 

链接: https://pan.baidu.com/s/19EYJJB953z-QtGr_zVz5MA 提取码: 92x2

 参考 
1. RT-Thread官方文档 (https://www.rt-thread.org/document/site/#/)
2. DeepSeek API文档 (https://api-docs.deepseek.com/zh-cn/)
3. FRDM-MCXN947开发板用户手册(https://www.nxp.com/)

——————End——————
图片
图片

想要在RT-Thread平台或社区投放内容?或想参与相关直播活动及赛事?RT-Thread已开放对接窗口,请通过邮件与我们取得联系,期待合作!

合作邮箱: tongfangyi@rt-thread.com 

RTThread物联网操作系统 帮助您了解RT-Thread相关的资讯.
评论 (0)
  •   陆地装备体系论证与评估综合平台系统解析   北京华盛恒辉陆地装备体系论证与评估综合平台系统是契合现代军事需求而生的专业系统,借助科学化、智能化手段,实现对陆地装备体系的全方位论证与评估,为军事决策和装备发展提供关键支撑。以下从功能、技术、应用及展望展开分析。   应用案例   目前,已有多个陆地装备体系论证与评估综合平台在实际应用中取得了显著成效。例如,北京华盛恒辉和北京五木恒润陆地装备体系论证与评估综合平台。这些成功案例为陆地装备体系论证与评估综合平台的推广和应用提供了有力支持。
    华盛恒辉l58ll334744 2025-04-24 10:53 125浏览
  • 引言在智能语音技术飞速发展的今天,语音交互已成为消费电子、智能家居、工业控制等领域的标配功能。传统的ISD系列录音芯片虽应用广泛,但其高成本与功能局限性逐渐难以满足市场对高性价比、高灵活性的需求。推出的WT2000P录音语音芯片,凭借其卓越性能、低功耗设计及高度可定制化特性,成为ISD系列芯片的理想替代方案,助力开发者突破产品创新瓶颈。一、WT2000P产品概述WT2000P是一款专为嵌入式语音场景设计的多功能录音芯片,采用ESOP8封装,体积小巧(尺寸仅4.9mm×3.9mm),集成度高,支持
    广州唯创电子 2025-04-25 08:44 40浏览
  •   电磁频谱数据综合管理平台系统解析   一、系统定义与目标   北京华盛恒辉电磁频谱数据综合管理平台融合无线传感器、软件定义电台等前沿技术,是实现无线电频谱资源全流程管理的复杂系统。其核心目标包括:优化频谱资源配置,满足多元通信需求;运用动态管理与频谱共享技术,提升资源利用效率;强化频谱安全监管,杜绝非法占用与干扰;为电子战提供频谱监测分析支持,辅助作战决策。   应用案例   目前,已有多个电磁频谱数据综合管理平台在实际应用中取得了显著成效。例如,北京华盛恒辉和北京五木恒润电磁频谱数
    华盛恒辉l58ll334744 2025-04-23 16:27 212浏览
  • 引言:语音交互的智能化跃迁在全球化与智能化深度融合的今天,语音交互设备的应用场景已从单一提示功能向多语言支持、情感化表达及AI深度交互演进。传统离线语音方案受限于语种单一、存储容量不足等问题,而纯在线方案又依赖网络稳定性,难以满足复杂场景需求。WT3000A离在线TTS方案,通过“本地+云端”双引擎驱动,集成16国语种、7种方言切换、AI大模型对话扩展等创新功能,重新定义语音提示器的边界,为智能硬件开发者提供更灵活、更具竞争力的语音交互解决方案。一、方案核心亮点离在线双模融合,场景全覆盖离线模式
    广州唯创电子 2025-04-25 09:14 52浏览
  •   海上训练与保障调度指挥平台系统解析   北京华盛恒辉海上训练与保障调度指挥平台系统是现代海上作战训练的核心枢纽,融合信息技术、GIS、大数据及 AI 等前沿技术,旨在实现海上训练高效组织、作战保障科学决策。以下从架构功能、应用场景、系统优势及发展挑战展开解读。   应用案例   目前,已有多个海上训练与保障调度指挥平台在实际应用中取得了显著成效。例如,北京华盛恒辉和北京五木恒润海上训练与保障调度指挥平台。这些成功案例为海上训练与保障调度指挥平台的推广和应用提供了有力支持。   一
    华盛恒辉l58ll334744 2025-04-24 15:26 131浏览
  •   高海拔区域勤务与装备保障调度系统平台解析   北京华盛恒辉高海拔区域勤务与装备保障调度系统平台专为高海拔特殊地理环境打造,致力于攻克装备适应、人员健康保障、物资运输及应急响应等难题。以下从核心功能、技术特点、应用场景及发展趋势展开全面解读。   应用案例   目前,已有多个高海拔区域勤务与装备保障调度系统在实际应用中取得了显著成效。例如,北京华盛恒辉和北京五木恒润高海拔区域勤务与装备保障调度系统。这些成功案例为高海拔区域勤务与装备保障调度系统的推广和应用提供了有力支持。   一、核心
    华盛恒辉l58ll334744 2025-04-24 10:13 123浏览
  •   后勤实验仿真系统平台深度解析   北京华盛恒辉后勤实验仿真系统平台依托计算机仿真技术,是对后勤保障全流程进行模拟、分析与优化的综合性工具。通过搭建虚拟场景,模拟资源调配、物资运输等环节,为后勤决策提供数据支撑,广泛应用于军事、应急管理等领域。   应用案例   目前,已有多个后勤实验仿真系统平台在实际应用中取得了显著成效。例如,北京华盛恒辉和北京五木恒润后勤实验仿真系统平台。这些成功案例为后勤实验仿真系统平台的推广和应用提供了有力支持。   一、核心功能   (一)后勤资源模拟
    华盛恒辉l58ll334744 2025-04-23 15:39 188浏览
  •   航空兵训练与战术对抗仿真平台系统解析   北京华盛恒辉航空兵训练与战术对抗仿真平台系统是现代军事训练的关键工具,借助计算机技术构建虚拟战场,支持多兵种协同作战模拟,为军事决策、训练及装备研发提供科学依据。   应用案例   目前,已有多个航空兵训练与战术对抗仿真平台在实际应用中取得了显著成效。例如,北京华盛恒辉和北京五木恒润航空兵训练与战术对抗仿真平台。这些成功案例为航空兵训练与战术对抗仿真平台的推广和应用提供了有力支持。   一、系统架构与核心功能   系统由模拟器、计算机兵力生
    华盛恒辉l58ll334744 2025-04-24 16:34 150浏览
  •   有效样本分析决策系统平台全面解析   一、引言   北京华盛恒辉有效样本分析决策系统在当今数据驱动的时代,企业、科研机构等面临着海量数据的处理与分析挑战。有效样本分析决策系统平台应运而生,它通过对样本数据的精准分析,为决策提供有力支持,成为提升决策质量和效率的关键工具。   应用案例   目前,已有多个有效样本分析决策系统在实际应用中取得了显著成效。例如,北京华盛恒辉和北京五木恒润有效样本分析决策系统。这些成功案例为有效样本分析决策系统的推广和应用提供了有力支持。   二、平台概述
    华盛恒辉l58ll334744 2025-04-24 11:13 117浏览
  • 2025-4-25全球信息报告出版商Global Info Research(环洋市场咨询)发布了【2025年全球市场高介电常数材料总体规模、主要生产商、主要地区、产品和应用细分研究报告】,报告主要调研全球高介电常数材料总体规模、主要地区规模、主要生产商规模和份额、产品分类规模、下游主要应用规模以及未来发展前景预测。统计维度包括销量、价格、收入,和市场份额。同时也重点分析全球市场主要厂商(品牌)产品特点、产品规格、价格、销量、销售收入及发展动态。历史数据为2020至2024年,预测数据为2025
    用户1745398400862 2025-04-25 08:48 54浏览
  • 最近,途虎养车发布的2024年财报数据,可谓相当吸睛。全年营收达到147.59亿元,同比增长8.5%,这个数字直观地展现了途虎在市场上的强大吸金能力,在行业里稳稳占据前列。利润方面同样出色,毛利37.46亿元,毛利率提升0.7个百分点至25.4%;经调整净利润6.24亿元,同比增长 29.7%,经营利润同比更是增长104%至3.31亿元,盈利能力显著增强,这样的利润增长幅度,在同行业中十分亮眼。在用户规模上,途虎养车同样成绩斐然。累计注册用户近1.4亿,同比增长20.4%,交易用户数达2410万
    用户1742991715177 2025-04-24 19:12 40浏览
  • 为通过金融手段积极推进全球绿色发展,国际金融论坛(IFF)于2020年创立了“IFF全球绿色金融奖”,旨在对全球绿色金融领域取得突出成绩的机构及创新性的解决方案进行表彰和奖励。该奖项依托IFF“高层次、高水平、国际化”一流智库资源优势,积极促进绿色金融领域的国际交流合作和创新实践,助力联合国可持续发展目标的实现。“IFF全球绿色金融奖”重点关注和鼓励那些促进经济增长模式转型、防治环境污染、应对气候变化,以及致力于提高能效水平、强化节能减排实效的绿色金融创新解决方案。该奖项面向全球,是对政策创新、
    华尔街科技眼 2025-04-24 20:43 23浏览
  •   通用装备论证与评估系统平台解析   北京华盛恒辉通用装备论证与评估系统平台是服务军事装备全生命周期管理的综合性信息化平台,通过科学化、系统化手段,实现装备需求论证、效能分析等核心功能,提升装备建设效益。   应用案例   目前,已有多个通用装备论证与评估系统在实际应用中取得了显著成效。例如,北京华盛恒辉和北京五木恒润通用装备论证与评估系统。这些成功案例为通用装备论证与评估系统的推广和应用提供了有力支持。   一、系统分层架构   (一)数据层   整合装备性能、作战、试验等多源异
    华盛恒辉l58ll334744 2025-04-24 16:14 141浏览
  • 随着轻薄笔记本的普及,再加上电竞玩家对于高画质音视频体验的需求日益高涨,如何让轻薄笔记本在兼顾轻便携带性的同时,还能提供足以支持3A(AAA/Triple-A game)大作的良好运算性能,便成为各家品牌急欲突破的共同难题。然而,对于主打轻巧便携的轻薄笔记本而言,若要内置独立显卡,势必要先突破空间受限的瓶颈,同时还需解决散热问题,确实难以兼顾两全!对此,“Thunderbolt”与“OCuLink”这两项技术应运而生。用户可以通过这两种传输接口,再搭配外接显卡盒(eGPU)及高性能显卡(如NVI
    百佳泰测试实验室 2025-04-24 17:56 39浏览
我要评论
0
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦