火爆全网的LLM在RT-ThreadOS中的应用探索

原创 RTThread物联网操作系统 2025-01-15 20:09

2025年伊始,硅谷顶级风投A16z最近发表了一篇名为《2025 Big ldeas in Tech》的文章,通过对其50位合伙人进行了采访,得出了50个对科技趋势发展的判断,其中有22个方向与AI有关。


其中部分技术方向和更是与嵌入式AI紧密关联,其中包括:
1. 实时AI,应用开发的下一个重要方向;
2. AI将开始主导决策环节;
3. 端侧AI开始崛起;
4. AI将与所有的电子硬件融合;
这些方向清晰的表明了一个变化:即AI主导决策以及AI与电子硬件融合等技术的出现,必将导致嵌入式系统的应用和开发将会以一种全新的方式出现在所有开发者面前。
回想过去的一年,人工智能领域除了大模型,最火的词莫过于具身智能,这标志着AI正在从以思维价值为主导的人工智能转变为与物理世界交互为主导的人工智能体。此外,人工智能领域的标志企业Open AI在2024年末推出的o3模型,在数学、代码、软件工程等领域再一次取得了突破性的进展,其在代码领域的成绩已经跻身全球前200名。这意味着在不远的未来,以Chatgpt-o3为代表的新一代编程模型,将在众多的编程环境中取代当前人类的工作。在这样一个背景下,对于传统的嵌入式开发人员,我们也必须要与时俱进,深刻的认识到在大模型驱动嵌入式软件开发的新时代,软件任务逻辑和驱动分离的设计思想必将成为未来嵌入式系统开发的主流道路。
RT-Thread作为一款为人熟知的国产实时操作系统,在嵌入式领域一直是国产开源软件中旗帜性的存在。近年来,我们在嵌入式系统和AI结合的领域不断探索和尝试,希望能够找到一个切实符合嵌入式系统走的AI路线。借助2024年的开发者大会,RT-Thread AI针对LLM在RT-Thread OS中的应用探索,进行了详细讨论,希望能够给广大开发者以启发,下面是报告原文。
经过多年在嵌入式领域的深耕,RT-Thread OS在系统内核、组件以及软件包三个维度为广大开发者提供了数以千计的API,这些API在传统的嵌入式软件开发阶段有力的支持了应用开发过程,节约了大量的开发时间,缩短了开发周期,这也是RT-Thread OS一直长青的根本原因。但是进入到大模型驱动嵌入式软件开发时代,这些API又将会起到怎样的作用呢?我们继续向下看。
下面PPT左侧图片是经典的大模型应用场景,这个例子是将法语翻译为英语。那么我们也可以依次类比,如果我们想要RT-Thread OS听懂我们的人类的话,我们需要将人类的自然语言翻译成什么呢?很明显,在这个过程中,传统的API就变成了RT-Thread OS所认识的“词汇”了。如果我们能够将我们的自然语言翻译成一个个API,那么我们就可以通过对话的形式控制RT-Thread OS了。也就是说:对于RT-Thread OS来说,代码就是人和RT-Thread OS交流的语言,而API则是其中的“词汇”。也就是说如果LLM掌握了所有的RT-Thread API,那么也就可以搭建起人和RT-Thread OS沟通的桥梁。
基于这样的一个思想,我们可以想象,随着LLM在编程能力上不断超越人类代码能力,我们必须要掌握逻辑和驱动分离的程序设计思想。将逻辑部分交给LLM来实现,而仅提供软硬件结合的部分,即和真实世界结合的驱动部分。就像下面这张PPT中所显示的一样,对于传统的嵌入式软件开发。我们从需求分析、任务拆解到最后的软件驱动、软件逻辑全部都由开发者完成。这样整个程序按照程序员的设计固化在了硬件中,虽然程序可以准确执行,却丧失了软件的灵活性。如果我们将整个软件的逻辑部分全部交给LLM来在运行期完成,而仅仅提供控制硬件的驱动,那么整个软件的灵活性则会大大提高。但是如果想完成这样一个转变,一个重要的步骤就是需要让LLM知道,在现实的世界中,存在诸如rt_led_turnon这一类数以千计的RT-Thread API是真实存在的。
针对这一问题,RT-Thread AI团队是从以下两个方向入手来解决问题的。首先,我们整理了当前RT-Thread OS的大部分API,包括内核层、组件层以及软件包层面的,形成了非常庞大的知识库/训练集。然后我们针对当前开源LLM在嵌入式领域的应用,分析了开源模型的问题,其中内存占用和算力需求时制约嵌入式端应用LLM的最大瓶颈。我们发现,对于一般人类交流,一个话题大概仅需500个字左右,而一个正常人的语速也仅在150-200字每分钟,所以对于当前开源的大模型,其最大序列长度对于嵌入式都是十分浪费且不别要的。此外,我们也发现对于嵌入式场景,90%以上的嵌入式设备都是指令式的,即听从人类指挥完成相应任务,而不需要进行复杂而繁琐的对话。而不到10%的嵌入式设备才需要对话,而进对于这种设备,我们才需要较长的最大序列长度来保证上下文对话的连续性。
对于我们RT-Thread OS应用的绝大多数场景,我们更希望设计一种更适合嵌入式系统的LLM,即Embedded GPT,而这种GPT实际上更多(90%以上嵌入式场景)是指令式,而不是对话式的需求。我们在这一部分已经形成了两部分路线。一种是在开源模型基础上进行微调,同时通过RAG的方式来补足API的快速更新。但是这种方式存在模型推理幻觉、计算量内存占用过大等方面的缺陷。而在另一种路线,我们已经开发了一个新的更适合嵌入式系统的GPT,即Embedded GPT,这个系统参数规模约500M,max_position_embeddings为1024,该模型在综合的效果上,已经完全满足嵌入式系统需求中的绝大场景。我们擅长嵌入式API数据集的收集和整理,大模型公司在最前沿的模型架构和训练算力方面的有领先优势,我们非常期待在这个极其富有想象力的领域建立市场合作,创造共赢。
最后,我们基于软件任务逻辑和驱动分离的设计思想,在我们的语音小车上完成了几个从简单到复杂的指令控制,整个过程中,我们将小车控制的最基础API交给了大模型,让大模型知道在真实世界中,通过以下几个API就可以控制小车执行诸如“前进”、“后退”、“左转”、“右转”等指令。然后在运行期,我们通过对话的方式,指挥小车进行“顺时针旋转”、“开启雷达导航”等动作,最终实现小车控制的灵活性。这样的一种开发新范式,最终会从根本上改变嵌入式软件开发的模式,在减轻嵌入式软件开发工程师工作负担的同时,还极大的增加了软件控制的灵活性,将大模型的能力发挥到极致。
最后我们也介绍了当前RT-Thread OS在嵌入式AI领域所提供的强有力的系统支持,包括虚拟化、异构等多种可以选择的端侧、边缘侧AI部署方案,将大模型从云端部署到端侧部署一网打尽。可以在众多既需要实时性又需要智能化的场景,为广大的开发者提供强有力的支持。
如对LLM感兴趣,欢迎添加企业微信

参考链接:
[1]https://mp.weixin.qq.com/s/1scM0xf9I4ArzNqgK5HOLw
——————End——————

👇 点击阅读原文进入官网

RTThread物联网操作系统 帮助您了解RT-Thread相关的资讯.
评论 (0)
  • 文/郭楚妤编辑/cc孙聪颖‍越来越多的企业开始蚕食动力电池市场,行业“去宁王化”态势逐渐明显。随着这种趋势的加强,打开新的市场对于宁德时代而言至关重要。“我们不希望被定义为电池的制造者,而是希望把自己称作新能源产业的开拓者。”4月21日,在宁德时代举行的“超级科技日”发布会上,宁德时代掌门人曾毓群如是说。随着宁德时代核心新品骁遥双核电池的发布,其搭载的“电电增程”技术也走进业界视野。除此之外,经过近3年试水,宁德时代在换电业务上重资加码。曾毓群认为换电是一个重资产、高投入、长周期的产业,涉及的利
    华尔街科技眼 2025-04-28 21:55 185浏览
  • 一、gao效冷却与控温机制‌1、‌冷媒流动设计‌采用低压液氮(或液氦)通过毛细管路导入蒸发器,蒸汽喷射至样品腔实现快速冷却,冷却效率高(室温至80K约20分钟,至4.2K约30分钟)。通过控温仪动态调节蒸发器加热功率,结合温度传感器(如PT100铂电阻或Cernox磁场不敏感传感器),实现±0.01K的高精度温度稳定性。2、‌宽温区覆盖与扩展性‌标准温区为80K-325K,通过降压选件可将下限延伸至65K(液氮模式)或4K(液氦模式)。可选配475K高温模块,满足材料在ji端温度下的性能测试需求
    锦正茂科技 2025-04-30 13:08 318浏览
  • 晶振在使用过程中可能会受到污染,导致性能下降。可是污染物是怎么进入晶振内部的?如何检测晶振内部污染物?我可不可以使用超声波清洗?今天KOAN凯擎小妹将逐一解答。1. 污染物来源a. 制造过程:生产环境不洁净或封装密封不严,可能导致灰尘和杂质进入晶振。b. 使用环境:高湿度、温度变化、化学物质和机械应力可能导致污染物渗入。c. 储存不当:不良的储存环境和不合适的包装材料可能引发化学物质迁移。建议储存湿度维持相对湿度在30%至75%的范围内,有助于避免湿度对晶振的不利影响。避免雨淋或阳光直射。d.
    koan-xtal 2025-04-28 06:11 158浏览
  • 在CAN总线分析软件领域,当CANoe不再是唯一选择时,虹科PCAN-Explorer 6软件成为了一个有竞争力的解决方案。在现代工业控制和汽车领域,CAN总线分析软件的重要性不言而喻。随着技术的进步和市场需求的多样化,单一的解决方案已无法满足所有用户的需求。正是在这样的背景下,虹科PCAN-Explorer 6软件以其独特的模块化设计和灵活的功能扩展,为CAN总线分析领域带来了新的选择和可能性。本文将深入探讨虹科PCAN-Explorer 6软件如何以其创新的模块化插件策略,提供定制化的功能选
    虹科汽车智能互联 2025-04-28 16:00 214浏览
  • 4月22日下午,备受瞩目的飞凌嵌入式「2025嵌入式及边缘AI技术论坛」在深圳深铁皇冠假日酒店盛大举行,此次活动邀请到了200余位嵌入式技术领域的技术专家、企业代表和工程师用户,共享嵌入式及边缘AI技术的盛宴!1、精彩纷呈的展区产品及方案展区是本场活动的第一场重头戏,从硬件产品到软件系统,从企业级应用到高校教学应用,都吸引了现场来宾的驻足观看和交流讨论。全产品矩阵展区展示了飞凌嵌入式丰富的产品线,从嵌入式板卡到工控机,从进口芯片平台到全国产平台,无不体现出飞凌嵌入式在嵌入式主控设备研发设计方面的
    飞凌嵌入式 2025-04-28 14:43 174浏览
  • 在智能硬件设备趋向微型化的背景下,语音芯片方案厂商针对小体积设备开发了多款超小型语音芯片方案,其中WTV系列和WT2003H系列凭借其QFN封装设计、高性能与高集成度,成为微型设备语音方案的理想选择。以下从封装特性、功能优势及典型应用场景三个方面进行详细介绍。一、超小体积封装:QFN技术的核心优势WTV系列与WT2003H系列均提供QFN封装(如QFN32,尺寸为4×4mm),这种封装形式具有以下特点:体积紧凑:QFN封装通过减少引脚间距和优化内部结构,显著缩小芯片体积,适用于智能门铃、穿戴设备
    广州唯创电子 2025-04-30 09:02 296浏览
  • 一、智能家居的痛点与创新机遇随着城市化进程加速,现代家庭正面临两大核心挑战:情感陪伴缺失:超60%的双职工家庭存在“亲子陪伴真空期”,儿童独自居家场景增加;操作复杂度攀升:智能设备功能迭代导致用户学习成本陡增,超40%用户因操作困难放弃高阶功能。而WTR096-16S录音语音芯片方案,通过“语音交互+智能录音”双核驱动,不仅解决设备易用性问题,更构建起家庭成员间的全天候情感纽带。二、WTR096-16S方案的核心技术突破1. 高保真语音交互系统动态情绪语音库:支持8种语气模板(温柔提醒/紧急告警
    广州唯创电子 2025-04-28 09:24 192浏览
  • 文/Leon编辑/cc孙聪颖‍2023年,厨电行业在相对平稳的市场环境中迎来温和复苏,看似为行业增长积蓄势能。带着对市场向好的预期,2024 年初,老板电器副董事长兼总经理任富佳为企业定下双位数增长目标。然而现实与预期相悖,过去一年,这家老牌厨电企业不仅未能达成业绩目标,曾提出的“三年再造一个老板电器”愿景,也因市场下行压力面临落空风险。作为“企二代”管理者,任富佳在掌舵企业穿越市场周期的过程中,正面临着前所未有的挑战。4月29日,老板电器(002508.SZ)发布了2024年年度报告及2025
    华尔街科技眼 2025-04-30 12:40 242浏览
  • 你是不是也有在公共场合被偷看手机或笔电的经验呢?科技时代下,不少现代人的各式机密数据都在手机、平板或是笔电等可携式的3C产品上处理,若是经常性地需要在公共场合使用,不管是工作上的机密文件,或是重要的个人信息等,民众都有防窃防盗意识,为了避免他人窥探内容,都会选择使用「防窥保护贴片」,以防止数据外泄。现今市面上「防窥保护贴」、「防窥片」、「屏幕防窥膜」等产品就是这种目的下产物 (以下简称防窥片)!防窥片功能与常见问题解析首先,防窥片最主要的功能就是用来防止他人窥视屏幕上的隐私信息,它是利用百叶窗的
    百佳泰测试实验室 2025-04-30 13:28 417浏览
  • 随着电子元器件的快速发展,导致各种常见的贴片电阻元器件也越来越小,给我们分辨也就变得越来越难,下面就由smt贴片加工厂_安徽英特丽就来告诉大家如何分辨的SMT贴片元器件。先来看看贴片电感和贴片电容的区分:(1)看颜色(黑色)——一般黑色都是贴片电感。贴片电容只有勇于精密设备中的贴片钽电容才是黑色的,其他普通贴片电容基本都不是黑色的。(2)看型号标码——贴片电感以L开头,贴片电容以C开头。从外形是圆形初步判断应为电感,测量两端电阻为零点几欧,则为电感。(3)检测——贴片电感一般阻值小,更没有“充放
    贴片加工小安 2025-04-29 14:59 259浏览
  • 浪潮之上:智能时代的觉醒    近日参加了一场课题的答辩,这是医疗人工智能揭榜挂帅的国家项目的地区考场,参与者众多,围绕着医疗健康的主题,八仙过海各显神通,百花齐放。   中国大地正在发生着激动人心的场景:深圳前海深港人工智能算力中心高速运转的液冷服务器,武汉马路上自动驾驶出租车穿行的智慧道路,机器人参与北京的马拉松竞赛。从中央到地方,人工智能相关政策和消息如雨后春笋般不断出台,数字中国的建设图景正在智能浪潮中徐徐展开,战略布局如同围棋
    广州铁金刚 2025-04-30 15:24 243浏览
  •  探针台的维护直接影响其测试精度与使用寿命,需结合日常清洁、环境控制、定期校准等多维度操作,具体方法如下:一、日常清洁与保养1.‌表面清洁‌l 使用无尘布或软布擦拭探针台表面,避免残留清洁剂或硬物划伤精密部件。l 探针头清洁需用非腐蚀性溶剂(如异丙醇)擦拭,检查是否弯曲或损坏。2.‌光部件维护‌l 镜头、观察窗等光学部件用镜头纸蘸取wu水jiu精从中心向外轻擦,操作时远离火源并保持通风。3.‌内部防尘‌l 使用后及时吹扫灰尘,防止污染物进入机械滑
    锦正茂科技 2025-04-28 11:45 121浏览
  • 网约车,真的“饱和”了?近日,网约车市场的 “饱和” 话题再度引发热议。多地陆续发布网约车风险预警,提醒从业者谨慎入局,这背后究竟隐藏着怎样的市场现状呢?从数据来看,网约车市场的“过剩”现象已愈发明显。以东莞为例,截至2024年12月底,全市网约车数量超过5.77万辆,考取网约车驾驶员证的人数更是超过13.48万人。随着司机数量的不断攀升,订单量却未能同步增长,导致单车日均接单量和营收双双下降。2024年下半年,东莞网约出租车单车日均订单量约10.5单,而单车日均营收也不容乐
    用户1742991715177 2025-04-29 18:28 252浏览
  • 贞光科技代理品牌紫光国芯的车规级LPDDR4内存正成为智能驾驶舱的核心选择。在汽车电子国产化浪潮中,其产品以宽温域稳定工作能力、优异电磁兼容性和超长使用寿命赢得市场认可。紫光国芯不仅确保供应链安全可控,还提供专业本地技术支持。面向未来,紫光国芯正研发LPDDR5车规级产品,将以更高带宽、更低功耗支持汽车智能化发展。随着智能网联汽车的迅猛发展,智能驾驶舱作为人机交互的核心载体,对处理器和存储器的性能与可靠性提出了更高要求。在汽车电子国产化浪潮中,贞光科技代理品牌紫光国芯的车规级LPDDR4内存凭借
    贞光科技 2025-04-28 16:52 295浏览
  • 在电子电路设计和调试中,晶振为电路提供稳定的时钟信号。我们可能会遇到晶振有电压,但不起振,从而导致整个电路无法正常工作的情况。今天凯擎小妹聊一下可能的原因和解决方案。1. 误区解析在硬件调试中,许多工程师在测量晶振时发现两端都有电压,例如1.6V,但没有明显的压差,第一反应可能是怀疑短路。晶振电路本质上是一个交流振荡电路。当晶振未起振时,两端会静止在一个中间电位,通常接近电源电压的一半。万用表测得的是稳定的直流电压,因此没有压差。这种情况一般是:晶振没起振,并不是短路。2. 如何判断真
    koan-xtal 2025-04-28 05:09 274浏览
我要评论
0
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦