在LabVIEW中调用OpenVINO™模型|开发者实战

OpenCV学堂 2022-03-15 23:26

点击上方↑↑↑OpenCV学堂”关注我

来源:公众号 英特尔物联网 授权



1.1

什么是LabVIEW?


LabVIEW测试测量与自动化行业常用,图形化开发环境,其优点有:

1

图形化开发环境,学习容易入门快

2

自带机器视觉函数库,并提供OpenCV接口库,开发机器视觉与自动化应用程序速度快

使用LabVIEW调用OpenVINO IR模型,可以快速完成深度学习项目开发与交付。


LabVIEW详细介绍参考:

https://www.ni.com/zhcn/shop/labview.html


1.2

准备开发环境


要完成在LabVIEW中调用OpenVINO 模型,需要安装:

1

LabVIEW、Vision Development Module和NIVision OpenCV Utilities

2

Visual Studio 2019 Community;

3

OpenVINO 2021.4.2 LTS


1.2.1

安装LabVIEW


LabVIEW请从下列网址下载安装文件,通过NI Package Manager完成安装。

https://www.ni.com/zh-cn/support/downloads/software-products/download.labview.html#411431


需要注意的是:选择LabVIEW 64位版本,并同时安装Vision Development模块,安装完毕后至少保证如图1-1所示的打钩模块都已安装。


图1-1  安装LabVIEW和Vision Development模块


“以管理员身份运行”JKI VI Package Manager,搜索并安装NIVision OpenCV Utilities,如图1-2所示。


图1-2  安装NIVision OpenCV Utilities


从C:\Program Files\National Instruments\LabVIEW 2021\examples\Vision\NIVision OpenCV Utilities文件夹中打开任意一个范例程序,若成功运行,证明安装成功,如图1-3所示。


图1-3  安装NIVision OpenCV Utilities成功


1.2.1

安装Visual Studio 2019 Community

和OpenVINO™  工具套件


从https://visualstudio.microsoft.com/zh-hans/downloads/中下载并安装Visual Studio 2019 Community。


从https://www.intel.cn/content/www/cn/zh/developer/tools/openvino-toolkit/overview.html 中下载并安装OpenVINO™ 工具套件


1.3

准备OpenVINO IR模型


请参考本文的姊妹篇《PPYOLOv2模型从训练到OpenVINO部署-上篇》完成PPYOLOv2模型的部署,《PPYOLOv2模型从训练到OpenVINO部署-下篇》完成将PPYOLOv2飞桨模型转换为OpenVINO IR模型。


读者可以从https://github.com/dlod-openvino/ppyolov2_openvino_samples中下载已转换好的OpenVINO IR模型


1.4

编写OpenVINO API 的LabVIEW Wrapper


1.4.1

 定义存储Inference Engine的结构体


定义存储Inference Engine的结构体如代码清单1-1所示,方便创建和删除。


代码清单1-1  Inference Engine结构体

//定义结构体,存储与Inference Engine相关的变量

typedef struct lv_infer_engine {

    Core ie;                     //ie对象

    ExecutableNetwork exec_net; 

    InferRequest infer_request;

} InferEngineStruct;


1.4.2

创建ppyolov2_init函数


创建ppyolov2_init函数,主要是创建指向InferEngine的指针,并反回给LabVIEW。


代码清单1-2  ppyolov2_init函数

// 创建指向InferEngine的指针,并反馈给LabVIEW

EXTERN_C  NI_EXPORT void* ppyolov2_init(char* model_xml_file, char* device_name, NIErrorHandle errorHandle) {


    InferEngineStruct* p = new InferEngineStruct();

    p->exec_net = p->ie.LoadNetwork(model_xml_file, device_name);

    p->infer_request = p->exec_net.CreateInferRequest();


 return (void*)p;        

}


1.4.3

创建ppyolov2_predict函数


创建ppyolov2_predict函数,用于执行ppyolov2模型预测功能。


代码清单1-3  ppyolov2函数

EXTERN_C void NI_EXPORT ppyolov2_predict(NIImageHandle sourceHandle, void* pInferEngine, char* bbox_name, char* bbox_num_name, float* detections, NIErrorHandle errorHandle) {


    NIERROR error = NI_ERR_SUCCESS;

    ReturnOnPreviousError(errorHandle);


 try {

        NIImage source(sourceHandle);

        Mat sourceMat;

        InferEngineStruct* p = (InferEngineStruct*)pInferEngine;

  //从NIImage对象中浅拷贝图像数据到

Mat对象

        ThrowNIError(source.ImageToMat(sourceMat));

        auto type = source.type;

        Blob::Ptr image_blob = p->infer_request.GetBlob("image");

        auto input_H = image_blob->getTensorDesc().getDims()[2]; 

        auto input_W = image_blob->getTensorDesc().getDims()[3];  

    // 交换RB通道

        cv::Mat blob;

        cv::cvtColor(sourceMat, blob, cv::COLOR_BGRA2RGB); 

       // 放缩图片到(input_H,input_W)

        cv::resize(blob, blob, cv::Size(input_H, input_W), 0, 0, cv::INTER_LINEAR);

     // 图像数据归一化,减均值mean,除以方差std

  // PaddleDetection模型使用imagenet数据集的 Mean = [0.485, 0.456, 0.406]和 std = [0.229, 0.224, 0.225]

        vector mean_values{ 0.485 * 255, 0.456 * 255, 0.406 * 255 };

        vector std_values{ 0.229 * 255, 0.224 * 255, 0.225 * 255 };

        vector rgbChannels(3);

        split(blob, rgbChannels);

    for (auto i = 0; i < rgbChannels.size(); i++)

        {

            rgbChannels[i].convertTo(rgbChannels[i], CV_32FC1, 1.0 / std_values[i], (0.0 - mean_values[i]) / std_values[i]);

        }

        merge(rgbChannels, blob);


        fillBlobImage(image_blob, blob);


const float scale_h = float(input_H) / float(sourceMat.rows);

  const float scale_w = float(input_W) / float(sourceMat.cols);

    const pair scale_factor(scale_h, scale_w);

        auto scale_factor_blob = p->infer_request.GetBlob("scale_factor");

        fillBlobImInfo(scale_factor_blob, scale_factor);  

  const pair im_shape(input_H, input_W);

        auto im_shape_blob = p->infer_request.GetBlob("im_shape");

        fillBlobImInfo(im_shape_blob, im_shape);  


        p->infer_request.Infer();        

const float* infer_results = p->infer_request.GetBlob(bbox_name)->buffer().as();        

  const int* bbox_nums = p->infer_request.GetBlob(bbox_num_name)->buffer().as();


        auto bbox_num = bbox_nums[0];

    for (int i = 0; i < bbox_num; i++) {

            detections[i * 6 + 0] = infer_results[i * 6 + 0];

            detections[i * 6 + 1] = infer_results[i * 6 + 1];

            detections[i * 6 + 2] = infer_results[i * 6 + 2];

            detections[i * 6 + 3] = infer_results[i * 6 + 3];

            detections[i * 6 + 4] = infer_results[i * 6 + 4];

            detections[i * 6 + 5] = infer_results[i * 6 + 5];

        }


    }

  catch (NIERROR _err) {

        error = _err;

    }

  catch (...) {

        error = NI_ERR_OCV_USER;

    }

ProcessNIError(error, errorHandle);

}


1.4.4

创建ppyolov2_delete函数


创建ppyolov2_delete函数,用于释放ppyolov2_init创建的内存。


代码清单1-4  ppyolov2_delete函数

EXTERN_C void NI_EXPORT ppyolov2_delete(void* pInferEngine, NIErrorHandle errorHandle) {


NIERROR error = NI_ERR_SUCCESS;

ReturnOnPreviousError(errorHandle);


InferEngineStruct* p = (InferEngineStruct*)pInferEngine;

 delete p;

}


1.4.5

LabVIEW 中调用三个函数


在Visual Studio中将三个函数编译为dll,并在LabVIEW中调用,参考范例lv_opencv_demo.vi,运行结果如下所示。


图1-4  LabVIEW中调用三个API函数


以上代码可以从代码仓中下载:

https://github.com/dlod-openvino/ppyolov2_openvino_samples


OpenCV学堂 专注计算机视觉开发技术分享,技术框架使用,包括OpenCV,Tensorflow,Pytorch教程与案例,相关算法详解,最新CV方向论文,硬核代码干货与代码案例详解!作者在CV工程化方面深度耕耘15年,感谢您的关注!
评论
  • 曾经听过一个“隐形经理”的故事:有家公司,新人进来后,会惊讶地发现老板几乎从不在办公室。可大家依旧各司其职,还能在关键时刻自发协作,把项目完成得滴水不漏。新员工起初以为老板是“放羊式”管理,结果去茶水间和老员工聊过才发现,这位看似“隐形”的管理者其实“无处不在”,他提前铺好了企业文化、制度和激励机制,让一切运行自如。我的观点很简单:管理者的最高境界就是——“无为而治”。也就是说,你的存在感不需要每天都凸显,但你的思路、愿景、机制早已渗透到组织血液里。为什么呢?因为真正高明的管理,不在于事必躬亲,
    优思学院 2025-03-12 18:24 81浏览
  • 一、行业背景与需求痛点智能电子指纹锁作为智能家居的核心入口,近年来市场规模持续增长,用户对产品的功能性、安全性和设计紧凑性提出更高要求:极致空间利用率:锁体内部PCB空间有限,需高度集成化设计。语音交互需求:操作引导(如指纹识别状态、低电量提醒)、安全告警(防撬、试错报警)等语音反馈。智能化扩展能力:集成传感器以增强安全性(如温度监测、防撬检测)和用户体验。成本与可靠性平衡:在复杂环境下确保低功耗、高稳定性,同时控制硬件成本。WTV380-P(QFN32)语音芯片凭借4mm×4mm超小封装、多传
    广州唯创电子 2025-03-13 09:24 41浏览
  • 前言在快速迭代的科技浪潮中,汽车电子技术的飞速发展不仅重塑了行业的面貌,也对测试工具提出了更高的挑战与要求。作为汽车电子测试领域的先锋,TPT软件始终致力于为用户提供高效、精准、可靠的测试解决方案。新思科技出品的TPT软件迎来了又一次重大更新,最新版本TPT 2024.12将进一步满足汽车行业日益增长的测试需求,推动汽车电子技术的持续革新。基于当前汽车客户的实际需求与痛点,结合最新的技术趋势,对TPT软件进行了全面的优化与升级。从模型故障注入测试到服务器函数替代C代码函数,从更准确的需求链接到P
    北汇信息 2025-03-13 14:43 37浏览
  • 引言汽车行业正经历一场巨变。随着电动汽车、高级驾驶辅助系统(ADAS)和自动驾驶技术的普及,电子元件面临的要求从未如此严格。在这些复杂系统的核心,存在着一个看似简单却至关重要的元件——精密电阻。贞光科技代理品牌光颉科技的电阻选型过程,特别是在精度要求高达 0.01% 的薄膜和厚膜技术之间的选择,已成为全球汽车工程师的关键决策点。当几毫欧姆的差异可能影响传感器的灵敏度或控制系统的精确性时,选择正确的电阻不仅仅是满足规格的问题——它关系到车辆在极端条件下的安全性、可靠性和性能。在这份全面指南中,我们
    贞光科技 2025-03-12 17:25 92浏览
  • 北京时间3月11日,国内领先的二手消费电子产品交易和服务平台万物新生(爱回收)集团(纽交所股票代码:RERE)发布2024财年第四季度和全年业绩报告。财报显示,2024年第四季度万物新生集团总收入48.5亿元,超出业绩指引,同比增长25.2%。单季non-GAAP经营利润1.3亿元(non-GAAP口径,即经调整口径,均不含员工股权激励费用、无形资产摊销及因收购产生的递延成本,下同),并汇报创历史新高的GAAP净利润7742万元,同比增长近27倍。总览全年,万物新生总收入同比增长25.9%达到1
    华尔街科技眼 2025-03-13 12:23 47浏览
  • DeepSeek自成立之初就散发着大胆创新的气息。明明核心开发团队只有一百多人,却能以惊人的效率实现许多大厂望尘莫及的技术成果,原因不仅在于资金或硬件,而是在于扁平架构携手塑造的蜂窝创新生态。创办人梁文锋多次强调,与其与大厂竞争一时的人才风潮,不如全力培养自家的优质员工,形成不可替代的内部生态。正因这样,他对DeepSeek内部人才体系有着一套别具一格的见解。他十分重视中式教育价值,因而DeepSeek团队几乎清一色都是中国式学霸。许多人来自北大清华,或者在各种数据比赛中多次获奖,可谓百里挑一。
    优思学院 2025-03-13 12:15 47浏览
  • 文/Leon编辑/cc孙聪颖作为全球AI领域的黑马,DeepSeek成功搅乱了中国AI大模型市场的格局。科技大厂们选择合作,接入其模型疯抢用户;而AI独角兽们则陷入两难境地,上演了“Do Or Die”的抉择。其中,有着“大模型六小虎”之称的六家AI独角兽公司(智谱AI、百川智能、月之暗面、MiniMax、阶跃星辰及零一万物),纷纷开始转型:2025年伊始,李开复的零一万物宣布转型,不再追逐超大模型,而是聚焦AI商业化应用;紧接着,消息称百川智能放弃B端金融市场,聚焦AI医疗;月之暗面开始削减K
    华尔街科技眼 2025-03-12 17:37 145浏览
  • 在海洋监测领域,基于无人艇能够实现高效、实时、自动化的海洋数据采集,从而为海洋环境保护、资源开发等提供有力支持。其中,无人艇的控制算法训练往往需要大量高质量的数据支持。然而,海洋数据采集也面临数据噪声和误差、数据融合与协同和复杂海洋环境适应等诸多挑战,制约着无人艇技术的发展。针对这些挑战,我们探索并推出一套基于多传感器融合的海洋数据采集系统,能够高效地采集和处理海洋环境中的多维度数据,为无人艇的自主航行和控制算法训练提供高质量的数据支持。一、方案架构无人艇要在复杂海上环境中实现自主导航,尤其是完
    康谋 2025-03-13 09:53 44浏览
  •        随着人工智能算力集群的爆发式增长,以及5.5G/6G通信技术的演进,网络数据传输速率的需求正以每年30%的速度递增。万兆以太网(10G Base-T)作为支撑下一代数据中心、高端交换机的核心组件,其性能直接决定了网络设备的稳定性与效率。然而,万兆网络变压器的技术门槛极高:回波损耗需低于-20dB(比千兆产品严格30%),耐压值需突破1500V(传统产品仅为1000V),且需在高频信号下抑制电磁干扰。全球仅有6家企业具备规模化量产能力,而美信科
    中科领创 2025-03-13 11:24 40浏览
  • 一、行业背景与用户需求随着健康消费升级,智能眼部按摩仪逐渐成为缓解眼疲劳、改善睡眠的热门产品。用户对这类设备的需求不再局限于基础按摩功能,而是追求更智能化、人性化的体验,例如:语音交互:实时反馈按摩模式、操作提示、安全提醒。环境感知:通过传感器检测佩戴状态、温度、压力等,提升安全性与舒适度。低功耗长续航:适应便携场景,延长设备使用时间。高性价比方案:在控制成本的同时实现功能多样化。针对这些需求,WTV380-8S语音芯片凭借其高性能、多传感器扩展能力及超高性价比,成为眼部按摩仪智能化升级的理想选
    广州唯创电子 2025-03-13 09:26 33浏览
  • 在追求更快、更稳的无线通信路上,传统射频架构深陷带宽-功耗-成本的“不可能三角”:带宽每翻倍,系统复杂度与功耗增幅远超线性增长。传统方案通过“分立式功放+多级变频链路+JESD204B 接口”的组合试图平衡性能与成本,却难以满足实时性严苛的超大规模 MIMO 通信等场景需求。在此背景下,AXW49 射频开发板以“直采+异构”重构射频范式:基于 AMD Zynq UltraScale+™ RFSoC Gen3XCZU49DR 芯片的 16 通道 14 位 2.5GSPS ADC 与 16
    ALINX 2025-03-13 09:27 32浏览
  • 文/杜杰编辑/cc孙聪颖‍主打影像功能的小米15 Ultra手机,成为2025开年的第一款旗舰机型。从发布节奏上来看,小米历代Ultra机型,几乎都选择在开年发布,远远早于其他厂商秋季主力机型的发布时间。这毫无疑问会掀起“Ultra旗舰大战”,今年影像手机将再次被卷上新高度。无意臆断小米是否有意“领跑”一场“军备竞赛”,但各种复杂的情绪难以掩盖。岁岁年年机不同,但将2-3年内记忆中那些关于旗舰机的发布会拼凑起来,会发现,包括小米在内,旗舰机的革新点,除了摄影参数的不同,似乎没什么明显变化。贵为旗
    华尔街科技眼 2025-03-13 12:30 60浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦