基于VisionBoard的巡检除冰机器人

RTThread物联网操作系统 2025-02-25 18:28

介绍一下这个项目的基本情况,这个项目是关于电力高架线巡检的,主要任务就是负责巡检和除冰,巡检的主要内容就是看看线路的情况,有没有比较基本的故障,比如接地短路,断线故障,或者是一些个杂物等等,有了杂物之后通过机械臂进行清楚或一些其他处理,同时需要对线网的外观进行一些检测,看看有没有一些特别明显的熔断或者破损情况,由于这个机器人是在线上行进的,所以对比传统的线下人工巡检,从细节上讲,机器人的摄像头应该能更好的更清楚的发现一些问题,除了这两种功能以外,我还打算用Vision Board尝试一下用它检测线路上的结冰图像,主要用的就是tflite,和openmv的开发方式,基于RT-Thread为底层的micropython固件,由于项目本身的原因,对于Vision Board的使用主要集中在应用开发方面,包括线路识别,线路细节识别,杂物识别,结冰情况识别以及一些通信外设的使用,还有就是关于板子上自带的WiFi模块的图传功能,这也是项目本身需要的。

线路识别的基础就是看摄像头能不能识别出来高架线,对于直接架在线路上的机器人来说,摄像头所捕捉到的线路还是比较大的,所以Vision Board的板载摄像头应该是够的,为了简单起见,我先使用了openMV的程序,里面有比较方便的线路识别程序。

经过几次尝试,我感觉这个程序还是比较符合我的预期。

线段的起始位置点坐标,在实际运行的时候,其实并不需要这些坐标,因此要把代码中的打印删除,只需要保留一个判断存在不为空的语句就可以了。

这个功能最主要的目的是用来判断线路的断线或者短路情况,有时直接看照片会比较模糊,如果加上这样的线标在图片上,有助于观察线路的情况,比如出了断线或者短路接地等纵向或者横向故障,标出来就更一目了然了。

经过调试,发现识别线路在0.5mm左右感觉识别的效果最好

对于整体是有很多线段那种情况,我感觉实际应用工程中,如果讲摄像头云台调转到比较近的地方,基本上不需要识别出那么多的线段,最多也就两三条,如果是多分裂导线那么也就四五条的样子,Vision Board 的openmv固件几乎支持所有的基本识别函数,我用了另一个识别“线”的文件或者是函数,但是发现他是用来寻找直线的,而且必须最好是那种贯穿的直线,所以对于本项目那种需要识别出线段的情况其实不是很合适,一方面场景不对,另一方面用处不太合适,但是并不是是说这个板子识别的慢,我针对这个函数特意检测了一个电脑屏幕那样的,发现速度还是非常可观的,足以证明只要用好这个板子,可以胜任很多工作。

还有一个主要的功能是结冰识别和杂物识别,由于Vision Board 能使用Tflite这样的工具,我尝试能不能把他们放在一起进行识别,感觉这样是对芯片能力的一种考验吧。电力巡检常见的两种杂物,容易挂在线路上的,主要是塑料袋和鸟巢,因为数据集比较特殊,没有什么现成的数据集可以用,所以从百度上找了一些,看了几千张图片,发现符合我要求的并不多,感觉更对算法和芯片的能力提出了要求,因为之前我用k210弄的数字识别,相当不理想,这回看看瑞萨的怎么样(他甚至没有什么专门的神经网络硬件加速单元)

先放上点数据集的图,转换的时候有水印,但是最后发现一点也不影响。

用的是这个网站,感觉比k210的要好的多,不用排队,功能也强很多。

直接搜完注册就能用,没有什么门槛,也不收费,就是界面全是英文的,我当时是看的哔站上的这个up主的视频,我觉得非常好。

【【RA8D1-Vision Board】基于OpenMV 实现图像分类】

https://www.bilibili.com/video/BV1Rk7DeZETe


直接跟着操作就可以了,简直可以称得上是保姆级教程,有一点要提的是,图片的扩展名需要是一样的,我图方便就用的那种在软件商店里面下载的格式转换器,虽然有一点水印,但是最后的结果感觉几乎没有什么影响。

以下是我训练的一些配置:

这个部分在原来的视频当中没有出现,因为他视频里面选的是H7内核的那个,现在更新上来了,网站里已经有了配置,我是这么填的,感觉没出现什么错误,其他的都很正常。

之后是测试结果

可以看到它在检测鸟巢的时候准确率还是很好的,整体是在80-90%左右,刷新的很快,截图的时候就恰好是这个准确度,反正k210是达不到这个效果。

这是在识别结冰线路的时候的数据,准确度还是可以的。

由于我想收集和训练的数据其实是那种挂在高架线上的垃圾袋,为啥电力巡检有的时候要看这个,是因为有的时候,塑料袋加上雨天,可能会导致绝缘子闪络甚至击穿,或者是那种非永久性的短路,比如一重合闸就又好了,但是这些虽然听起来离谱,但是实际上确实要处理的,否则继保一跳闸,还是得去清理。找遍了网上发现复合要求的感觉不多,陆续在几个网站上看了几千张,几乎很少有那种“标准数据集”,只好用这些“飞舞的垃圾袋”代替,准确率也是很高的。

在识别到结冰图像的时候,我在Vision Board设置了一个引脚用来和电机控制板通信,之前想用串口来着,但是感觉一是不需要那么复杂的逻辑,还有就是要考虑到在高压电场和电晕放电下的对通信线路的干扰肯定会不小,所以定义了一个引脚,检测到结冰图片的时候,低电平,未检测到的时候就是默认高电平,这样抗干扰会好一些。

下面是识别的完整代码

# Edge Impulse - OpenMV Image Classification Exampleimport sensor, image, time, os, tf, uos, gcfrom pyb import Pinsensor.reset()                         # Reset and initialize the sensor.sensor.set_pixformat(sensor.RGB565)    # Set pixel format to RGB565 (or GRAYSCALE)sensor.set_framesize(sensor.QVGA)      # Set frame size to QVGA (320x240)sensor.set_windowing((240, 240))       # Set 240x240 window.sensor.skip_frames(time=2000)          # Let the camera adjust.#定义标志位引脚p_out = Pin(("GPIO_25",508), Pin.OUT_PP)net = Nonelabels = Nonetry:    # load the model, alloc the model file on the heap if we have at least 64K free after loading    net = tf.load("trained.tflite", load_to_fb=uos.stat('trained.tflite')[6] > (gc.mem_free() - (64*1024)))except Exception as e:    print(e)    raise Exception('Failed to load "trained.tflite", did you copy the .tflite and labels.txt file onto the mass-storage device? (' + str(e) + ')')try:    labels = [line.rstrip('\n') for line in open("labels.txt")]except Exception as e:    raise Exception('Failed to load "labels.txt", did you copy the .tflite and labels.txt file onto the mass-storage device? (' + str(e) + ')')clock = time.clock()while(True):    clock.tick()    img = sensor.snapshot()    # default settings just do one detection... change them to search the image...    for obj in net.classify(img, min_scale=1.0, scale_mul=0.8, x_overlap=0.5, y_overlap=0.5):        print("**********\nPredictions at [x=%d,y=%d,w=%d,h=%d]" % obj.rect())        img.draw_rectangle(obj.rect())        # This combines the labels and confidence values into a list of tuples        predictions_list = list(zip(labels, obj.output()))        for i in range(len(predictions_list)):            print("%s = %f" % (predictions_list[i][0], predictions_list[i][1]))            if predictions_list[2][1] >= 0.9:                p_out.value(0)            else:                p_out.value(1)#print(clock.fps(), "fps")————————————————版权声明:本文为RT-Thread论坛用户「单片机单片魂」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。原文链接:https://club.rt-thread.org/ask/article/d32afe940776f36e.html

最后要提一点的是,这个Vision Board的micro python库是基于RT-Thread的mpy固件,其中一些外设是做了适配的,这需要去看原来编译固件的时候的c的代码,其中一些细节,比如GPIO的名称,里面会有。

最后完成的整体图:

购买 Vision Board

图片

https://m.tb.cn/h.g0TaaKTnfx6iM2W?tk=lI8TWrhauqR 


——————End——————
图片
图片

想要在RT-Thread平台或社区投放内容?或想参与相关直播活动及赛事?RT-Thread已开放对接窗口,请通过邮件与我们取得联系,期待合作!

合作邮箱: tongfangyi@rt-thread.com 

↓ 点击“阅读原文”购买开发板


RTThread物联网操作系统 帮助您了解RT-Thread相关的资讯.
评论 (0)
  • 长期以来,智能家居对于大众家庭而言就像空中楼阁一般,华而不实,更有甚者,还将智能家居认定为资本家的营销游戏。商家们举着“智慧家居、智慧办公”的口号,将原本价格亲民、能用几十年的家电器具包装成为了高档商品,而消费者们最终得到的却是家居设备之间缺乏互操作性、不同品牌生态之间互不兼容的碎片化体验。这种早期的生态割裂现象致使消费者们对智能家居兴趣缺失,也造就了“智能家居无用论”的刻板印象。然而,自Matter协议发布之后,“命运的齿轮”开始转动,智能家居中的生态割裂现象与品牌生态之间的隔阂正被基于IP架
    华普微HOPERF 2025-03-27 09:46 109浏览
  • 在当今竞争激烈的工业环境中,效率和响应速度已成为企业制胜的关键。为了满足这一需求,我们隆重推出宏集Panorama COOX,这是Panorama Suite中首款集成的制造执行系统(MES)产品。这一创新产品将Panorama平台升级为全面的工业4.0解决方案,融合了工业SCADA和MES技术的双重优势,帮助企业实现生产效率和运营能力的全面提升。深度融合SCADA与MES,开启工业新纪元宏集Panorama COOX的诞生,源于我们对创新和卓越运营的不懈追求。通过战略性收购法国知名MES领域专
    宏集科技 2025-03-27 13:22 185浏览
  • ​2025年3月27日​,贞光科技授权代理品牌紫光同芯正式发布新一代汽车安全芯片T97-415E。作为T97-315E的迭代升级产品,该芯片以大容量存储、全球化合规认证、双SPI接口协同为核心突破,直击智能网联汽车"多场景安全并行"与"出口合规"两大行业痛点,助力车企抢占智能驾驶与全球化市场双赛道。行业趋势锚定:三大升级回应智能化浪潮1. 大容量存储:破解车联网多任务瓶颈随着​车机功能泛在化​(数字钥匙、OTA、T-BOX等安全服务集成),传统安全芯片面临存储资源挤占难题。T97-415E创新性
    贞光科技 2025-03-27 13:50 148浏览
  • 在智能语音产品的开发过程中,麦克风阵列的选型直接决定了用户体验的优劣。广州唯创电子提供的单麦克风与双麦克风解决方案,为不同场景下的语音交互需求提供了灵活选择。本文将深入解析两种方案的性能差异、适用场景及工程实现要点,为开发者提供系统化的设计决策依据。一、基础参数对比分析维度单麦克风方案双麦克风方案BOM成本¥1.2-2.5元¥4.8-6.5元信噪比(1m)58-62dB65-68dB拾音角度全向360°波束成形±30°功耗8mW@3.3V15mW@3.3V典型响应延迟120ms80ms二、技术原
    广州唯创电子 2025-03-27 09:23 154浏览
  • 文/陈昊编辑/cc孙聪颖‍2025 年,作为中国实施制造强国战略第一个十年计划的关键里程碑,被赋予了极为重大的意义。两会政府工作报告清晰且坚定地指出,要全力加速新质生产力的发展进程,推动传统产业全方位向高端化、智能化与绿色化转型。基于此,有代表敏锐提议,中国制造应从前沿技术的应用切入,逐步拓展至产业生态的构建,最终延伸到提升用户体验的维度,打出独树一帜、具有鲜明特色的发展牌。正是在这样至关重要的时代背景之下,于 AWE 2025(中国家电及消费电子博览会)这一备受瞩目的舞台上,高端厨房的中国方案
    华尔街科技眼 2025-03-25 16:10 82浏览
  • 在嵌入式语音系统的开发过程中,广州唯创电子推出的WT588系列语音芯片凭借其优异的音质表现和灵活的编程特性,广泛应用于智能终端、工业控制、消费电子等领域。作为该系列芯片的关键状态指示信号,BUSY引脚的设计处理直接影响着系统交互的可靠性和功能拓展性。本文将从电路原理、应用场景、设计策略三个维度,深入解析BUSY引脚的技术特性及其工程实践要点。一、BUSY引脚工作原理与信号特性1.1 电气参数电平标准:输出3.3V TTL电平(与VDD同源)驱动能力:典型值±8mA(可直接驱动LED)响应延迟:语
    广州唯创电子 2025-03-26 09:26 204浏览
  • WT588F02B是广州唯创电子推出的一款高性能语音芯片,广泛应用于智能家电、安防设备、玩具等领域。然而,在实际开发中,用户可能会遇到烧录失败的问题,导致项目进度受阻。本文将从下载连线、文件容量、线路长度三大核心因素出发,深入分析烧录失败的原因并提供系统化的解决方案。一、检查下载器与芯片的物理连接问题表现烧录时提示"连接超时"或"设备未响应",或烧录进度条卡顿后报错。原因解析接口错位:WT588F02B采用SPI/UART双模通信,若下载器引脚定义与芯片引脚未严格对应(如TXD/RXD交叉错误)
    广州唯创电子 2025-03-26 09:05 146浏览
  • 六西格玛首先是作为一个量度质量水平的指标,它代表了近乎完美的质量的水平。如果你每天都吃一个苹果,有一间水果店的老板跟你说,他们所卖的苹果,质量达到六西格玛水平,换言之,他们每卖一百万个苹果,只会有3.4个是坏的。你算了一下,发现你如果要从这个店里买到一个坏苹果,需要805年。你会还会选择其他店吗?首先发明六西格玛这个词的人——比尔·史密斯(Bill Smith)他是摩托罗拉(Motorloa)的工程师,在追求这个近乎完美的质量水平的时候,发明了一套方法模型,开始时是MAIC,后来慢慢演变成DMA
    优思学院 2025-03-27 11:47 149浏览
  • 在电子设计中,电磁兼容性(EMC)是确保设备既能抵御外部电磁干扰(EMI),又不会对自身或周围环境产生过量电磁辐射的关键。电容器、电感和磁珠作为三大核心元件,通过不同的机制协同作用,有效抑制电磁干扰。以下是其原理和应用场景的详细解析:1. 电容器:高频噪声的“吸尘器”作用原理:电容器通过“通高频、阻低频”的特性,为高频噪声提供低阻抗路径到地,形成滤波效果。例如,在电源和地之间并联电容,可吸收电源中的高频纹波和瞬态干扰。关键应用场景:电源去耦:在IC电源引脚附近放置0.1μF陶瓷电容,滤除数字电路
    时源芯微 2025-03-27 11:19 157浏览
  • 汽车导航系统市场及应用环境参照调研机构GII的研究报告中的市场预测,全球汽车导航系统市场预计将于 2030年达到472亿美元的市场规模,而2024年至2030年的年复合成长率则为可观的6.7%。汽车导航系统无疑已成为智能汽车不可或缺的重要功能之一。随着人们在日常生活中对汽车导航功能的日渐依赖,一旦出现定位不准确或地图错误等问题,就可能导致车主开错路线,平白浪费更多行车时间,不仅造成行车不便,甚或可能引发交通事故的发生。有鉴于此,如果想要提供消费者完善的使用者体验,在车辆开发阶段便针对汽车导航功能
    百佳泰测试实验室 2025-03-27 14:51 188浏览
  • 案例概况在丹麦哥本哈根,西门子工程师们成功完成了一项高安全设施的数据集成项目。他们利用宏集Cogent DataHub软件,将高安全设施内的设备和仪器与远程监控位置连接起来,让技术人员能够在不违反安全规定、不引入未经授权人员的情况下,远程操作所需设备。突破OPC 服务器的远程连接难题该项目最初看似是一个常规的 OPC 应用:目标是将高安全性设施中的冷水机(chiller)设备及其 OPC DA 服务器,与远程监控站的两套 SCADA 系统(作为 OPC DA 客户端)连接起来。然而,在实际实施过
    宏集科技 2025-03-27 13:20 109浏览
我要评论
0
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦