在LabVIEW中调用OpenVINO™模型|开发者实战

OpenCV学堂 2022-03-15 23:26

点击上方↑↑↑OpenCV学堂”关注我

来源:公众号 英特尔物联网 授权



1.1

什么是LabVIEW?


LabVIEW测试测量与自动化行业常用,图形化开发环境,其优点有:

1

图形化开发环境,学习容易入门快

2

自带机器视觉函数库,并提供OpenCV接口库,开发机器视觉与自动化应用程序速度快

使用LabVIEW调用OpenVINO IR模型,可以快速完成深度学习项目开发与交付。


LabVIEW详细介绍参考:

https://www.ni.com/zhcn/shop/labview.html


1.2

准备开发环境


要完成在LabVIEW中调用OpenVINO 模型,需要安装:

1

LabVIEW、Vision Development Module和NIVision OpenCV Utilities

2

Visual Studio 2019 Community;

3

OpenVINO 2021.4.2 LTS


1.2.1

安装LabVIEW


LabVIEW请从下列网址下载安装文件,通过NI Package Manager完成安装。

https://www.ni.com/zh-cn/support/downloads/software-products/download.labview.html#411431


需要注意的是:选择LabVIEW 64位版本,并同时安装Vision Development模块,安装完毕后至少保证如图1-1所示的打钩模块都已安装。


图1-1  安装LabVIEW和Vision Development模块


“以管理员身份运行”JKI VI Package Manager,搜索并安装NIVision OpenCV Utilities,如图1-2所示。


图1-2  安装NIVision OpenCV Utilities


从C:\Program Files\National Instruments\LabVIEW 2021\examples\Vision\NIVision OpenCV Utilities文件夹中打开任意一个范例程序,若成功运行,证明安装成功,如图1-3所示。


图1-3  安装NIVision OpenCV Utilities成功


1.2.1

安装Visual Studio 2019 Community

和OpenVINO™  工具套件


从https://visualstudio.microsoft.com/zh-hans/downloads/中下载并安装Visual Studio 2019 Community。


从https://www.intel.cn/content/www/cn/zh/developer/tools/openvino-toolkit/overview.html 中下载并安装OpenVINO™ 工具套件


1.3

准备OpenVINO IR模型


请参考本文的姊妹篇《PPYOLOv2模型从训练到OpenVINO部署-上篇》完成PPYOLOv2模型的部署,《PPYOLOv2模型从训练到OpenVINO部署-下篇》完成将PPYOLOv2飞桨模型转换为OpenVINO IR模型。


读者可以从https://github.com/dlod-openvino/ppyolov2_openvino_samples中下载已转换好的OpenVINO IR模型


1.4

编写OpenVINO API 的LabVIEW Wrapper


1.4.1

 定义存储Inference Engine的结构体


定义存储Inference Engine的结构体如代码清单1-1所示,方便创建和删除。


代码清单1-1  Inference Engine结构体

//定义结构体,存储与Inference Engine相关的变量

typedef struct lv_infer_engine {

    Core ie;                     //ie对象

    ExecutableNetwork exec_net; 

    InferRequest infer_request;

} InferEngineStruct;


1.4.2

创建ppyolov2_init函数


创建ppyolov2_init函数,主要是创建指向InferEngine的指针,并反回给LabVIEW。


代码清单1-2  ppyolov2_init函数

// 创建指向InferEngine的指针,并反馈给LabVIEW

EXTERN_C  NI_EXPORT void* ppyolov2_init(char* model_xml_file, char* device_name, NIErrorHandle errorHandle) {


    InferEngineStruct* p = new InferEngineStruct();

    p->exec_net = p->ie.LoadNetwork(model_xml_file, device_name);

    p->infer_request = p->exec_net.CreateInferRequest();


 return (void*)p;        

}


1.4.3

创建ppyolov2_predict函数


创建ppyolov2_predict函数,用于执行ppyolov2模型预测功能。


代码清单1-3  ppyolov2函数

EXTERN_C void NI_EXPORT ppyolov2_predict(NIImageHandle sourceHandle, void* pInferEngine, char* bbox_name, char* bbox_num_name, float* detections, NIErrorHandle errorHandle) {


    NIERROR error = NI_ERR_SUCCESS;

    ReturnOnPreviousError(errorHandle);


 try {

        NIImage source(sourceHandle);

        Mat sourceMat;

        InferEngineStruct* p = (InferEngineStruct*)pInferEngine;

  //从NIImage对象中浅拷贝图像数据到

Mat对象

        ThrowNIError(source.ImageToMat(sourceMat));

        auto type = source.type;

        Blob::Ptr image_blob = p->infer_request.GetBlob("image");

        auto input_H = image_blob->getTensorDesc().getDims()[2]; 

        auto input_W = image_blob->getTensorDesc().getDims()[3];  

    // 交换RB通道

        cv::Mat blob;

        cv::cvtColor(sourceMat, blob, cv::COLOR_BGRA2RGB); 

       // 放缩图片到(input_H,input_W)

        cv::resize(blob, blob, cv::Size(input_H, input_W), 0, 0, cv::INTER_LINEAR);

     // 图像数据归一化,减均值mean,除以方差std

  // PaddleDetection模型使用imagenet数据集的 Mean = [0.485, 0.456, 0.406]和 std = [0.229, 0.224, 0.225]

        vector mean_values{ 0.485 * 255, 0.456 * 255, 0.406 * 255 };

        vector std_values{ 0.229 * 255, 0.224 * 255, 0.225 * 255 };

        vector rgbChannels(3);

        split(blob, rgbChannels);

    for (auto i = 0; i < rgbChannels.size(); i++)

        {

            rgbChannels[i].convertTo(rgbChannels[i], CV_32FC1, 1.0 / std_values[i], (0.0 - mean_values[i]) / std_values[i]);

        }

        merge(rgbChannels, blob);


        fillBlobImage(image_blob, blob);


const float scale_h = float(input_H) / float(sourceMat.rows);

  const float scale_w = float(input_W) / float(sourceMat.cols);

    const pair scale_factor(scale_h, scale_w);

        auto scale_factor_blob = p->infer_request.GetBlob("scale_factor");

        fillBlobImInfo(scale_factor_blob, scale_factor);  

  const pair im_shape(input_H, input_W);

        auto im_shape_blob = p->infer_request.GetBlob("im_shape");

        fillBlobImInfo(im_shape_blob, im_shape);  


        p->infer_request.Infer();        

const float* infer_results = p->infer_request.GetBlob(bbox_name)->buffer().as();        

  const int* bbox_nums = p->infer_request.GetBlob(bbox_num_name)->buffer().as();


        auto bbox_num = bbox_nums[0];

    for (int i = 0; i < bbox_num; i++) {

            detections[i * 6 + 0] = infer_results[i * 6 + 0];

            detections[i * 6 + 1] = infer_results[i * 6 + 1];

            detections[i * 6 + 2] = infer_results[i * 6 + 2];

            detections[i * 6 + 3] = infer_results[i * 6 + 3];

            detections[i * 6 + 4] = infer_results[i * 6 + 4];

            detections[i * 6 + 5] = infer_results[i * 6 + 5];

        }


    }

  catch (NIERROR _err) {

        error = _err;

    }

  catch (...) {

        error = NI_ERR_OCV_USER;

    }

ProcessNIError(error, errorHandle);

}


1.4.4

创建ppyolov2_delete函数


创建ppyolov2_delete函数,用于释放ppyolov2_init创建的内存。


代码清单1-4  ppyolov2_delete函数

EXTERN_C void NI_EXPORT ppyolov2_delete(void* pInferEngine, NIErrorHandle errorHandle) {


NIERROR error = NI_ERR_SUCCESS;

ReturnOnPreviousError(errorHandle);


InferEngineStruct* p = (InferEngineStruct*)pInferEngine;

 delete p;

}


1.4.5

LabVIEW 中调用三个函数


在Visual Studio中将三个函数编译为dll,并在LabVIEW中调用,参考范例lv_opencv_demo.vi,运行结果如下所示。


图1-4  LabVIEW中调用三个API函数


以上代码可以从代码仓中下载:

https://github.com/dlod-openvino/ppyolov2_openvino_samples


OpenCV学堂 专注计算机视觉开发技术分享,技术框架使用,包括OpenCV,Tensorflow,Pytorch教程与案例,相关算法详解,最新CV方向论文,硬核代码干货与代码案例详解!作者在CV工程化方面深度耕耘15年,感谢您的关注!
评论 (0)
  • 在CAN总线分析软件领域,当CANoe不再是唯一选择时,虹科PCAN-Explorer 6软件成为了一个有竞争力的解决方案。在现代工业控制和汽车领域,CAN总线分析软件的重要性不言而喻。随着技术的进步和市场需求的多样化,单一的解决方案已无法满足所有用户的需求。正是在这样的背景下,虹科PCAN-Explorer 6软件以其独特的模块化设计和灵活的功能扩展,为CAN总线分析领域带来了新的选择和可能性。本文将深入探讨虹科PCAN-Explorer 6软件如何以其创新的模块化插件策略,提供定制化的功能选
    虹科汽车智能互联 2025-04-28 16:00 230浏览
  • 在智能硬件设备趋向微型化的背景下,语音芯片方案厂商针对小体积设备开发了多款超小型语音芯片方案,其中WTV系列和WT2003H系列凭借其QFN封装设计、高性能与高集成度,成为微型设备语音方案的理想选择。以下从封装特性、功能优势及典型应用场景三个方面进行详细介绍。一、超小体积封装:QFN技术的核心优势WTV系列与WT2003H系列均提供QFN封装(如QFN32,尺寸为4×4mm),这种封装形式具有以下特点:体积紧凑:QFN封装通过减少引脚间距和优化内部结构,显著缩小芯片体积,适用于智能门铃、穿戴设备
    广州唯创电子 2025-04-30 09:02 324浏览
  • 文/Leon编辑/cc孙聪颖‍2023年,厨电行业在相对平稳的市场环境中迎来温和复苏,看似为行业增长积蓄势能。带着对市场向好的预期,2024 年初,老板电器副董事长兼总经理任富佳为企业定下双位数增长目标。然而现实与预期相悖,过去一年,这家老牌厨电企业不仅未能达成业绩目标,曾提出的“三年再造一个老板电器”愿景,也因市场下行压力面临落空风险。作为“企二代”管理者,任富佳在掌舵企业穿越市场周期的过程中,正面临着前所未有的挑战。4月29日,老板电器(002508.SZ)发布了2024年年度报告及2025
    华尔街科技眼 2025-04-30 12:40 274浏览
  • 贞光科技代理品牌紫光国芯的车规级LPDDR4内存正成为智能驾驶舱的核心选择。在汽车电子国产化浪潮中,其产品以宽温域稳定工作能力、优异电磁兼容性和超长使用寿命赢得市场认可。紫光国芯不仅确保供应链安全可控,还提供专业本地技术支持。面向未来,紫光国芯正研发LPDDR5车规级产品,将以更高带宽、更低功耗支持汽车智能化发展。随着智能网联汽车的迅猛发展,智能驾驶舱作为人机交互的核心载体,对处理器和存储器的性能与可靠性提出了更高要求。在汽车电子国产化浪潮中,贞光科技代理品牌紫光国芯的车规级LPDDR4内存凭借
    贞光科技 2025-04-28 16:52 325浏览
  • 4月22日下午,备受瞩目的飞凌嵌入式「2025嵌入式及边缘AI技术论坛」在深圳深铁皇冠假日酒店盛大举行,此次活动邀请到了200余位嵌入式技术领域的技术专家、企业代表和工程师用户,共享嵌入式及边缘AI技术的盛宴!1、精彩纷呈的展区产品及方案展区是本场活动的第一场重头戏,从硬件产品到软件系统,从企业级应用到高校教学应用,都吸引了现场来宾的驻足观看和交流讨论。全产品矩阵展区展示了飞凌嵌入式丰富的产品线,从嵌入式板卡到工控机,从进口芯片平台到全国产平台,无不体现出飞凌嵌入式在嵌入式主控设备研发设计方面的
    飞凌嵌入式 2025-04-28 14:43 180浏览
  • 你是不是也有在公共场合被偷看手机或笔电的经验呢?科技时代下,不少现代人的各式机密数据都在手机、平板或是笔电等可携式的3C产品上处理,若是经常性地需要在公共场合使用,不管是工作上的机密文件,或是重要的个人信息等,民众都有防窃防盗意识,为了避免他人窥探内容,都会选择使用「防窥保护贴片」,以防止数据外泄。现今市面上「防窥保护贴」、「防窥片」、「屏幕防窥膜」等产品就是这种目的下产物 (以下简称防窥片)!防窥片功能与常见问题解析首先,防窥片最主要的功能就是用来防止他人窥视屏幕上的隐私信息,它是利用百叶窗的
    百佳泰测试实验室 2025-04-30 13:28 495浏览
  • 一、gao效冷却与控温机制‌1、‌冷媒流动设计‌采用低压液氮(或液氦)通过毛细管路导入蒸发器,蒸汽喷射至样品腔实现快速冷却,冷却效率高(室温至80K约20分钟,至4.2K约30分钟)。通过控温仪动态调节蒸发器加热功率,结合温度传感器(如PT100铂电阻或Cernox磁场不敏感传感器),实现±0.01K的高精度温度稳定性。2、‌宽温区覆盖与扩展性‌标准温区为80K-325K,通过降压选件可将下限延伸至65K(液氮模式)或4K(液氦模式)。可选配475K高温模块,满足材料在ji端温度下的性能测试需求
    锦正茂科技 2025-04-30 13:08 385浏览
  • 文/郭楚妤编辑/cc孙聪颖‍越来越多的企业开始蚕食动力电池市场,行业“去宁王化”态势逐渐明显。随着这种趋势的加强,打开新的市场对于宁德时代而言至关重要。“我们不希望被定义为电池的制造者,而是希望把自己称作新能源产业的开拓者。”4月21日,在宁德时代举行的“超级科技日”发布会上,宁德时代掌门人曾毓群如是说。随着宁德时代核心新品骁遥双核电池的发布,其搭载的“电电增程”技术也走进业界视野。除此之外,经过近3年试水,宁德时代在换电业务上重资加码。曾毓群认为换电是一个重资产、高投入、长周期的产业,涉及的利
    华尔街科技眼 2025-04-28 21:55 200浏览
  • 浪潮之上:智能时代的觉醒    近日参加了一场课题的答辩,这是医疗人工智能揭榜挂帅的国家项目的地区考场,参与者众多,围绕着医疗健康的主题,八仙过海各显神通,百花齐放。   中国大地正在发生着激动人心的场景:深圳前海深港人工智能算力中心高速运转的液冷服务器,武汉马路上自动驾驶出租车穿行的智慧道路,机器人参与北京的马拉松竞赛。从中央到地方,人工智能相关政策和消息如雨后春笋般不断出台,数字中国的建设图景正在智能浪潮中徐徐展开,战略布局如同围棋
    广州铁金刚 2025-04-30 15:24 265浏览
  • 网约车,真的“饱和”了?近日,网约车市场的 “饱和” 话题再度引发热议。多地陆续发布网约车风险预警,提醒从业者谨慎入局,这背后究竟隐藏着怎样的市场现状呢?从数据来看,网约车市场的“过剩”现象已愈发明显。以东莞为例,截至2024年12月底,全市网约车数量超过5.77万辆,考取网约车驾驶员证的人数更是超过13.48万人。随着司机数量的不断攀升,订单量却未能同步增长,导致单车日均接单量和营收双双下降。2024年下半年,东莞网约出租车单车日均订单量约10.5单,而单车日均营收也不容乐
    用户1742991715177 2025-04-29 18:28 279浏览
  • 随着电子元器件的快速发展,导致各种常见的贴片电阻元器件也越来越小,给我们分辨也就变得越来越难,下面就由smt贴片加工厂_安徽英特丽就来告诉大家如何分辨的SMT贴片元器件。先来看看贴片电感和贴片电容的区分:(1)看颜色(黑色)——一般黑色都是贴片电感。贴片电容只有勇于精密设备中的贴片钽电容才是黑色的,其他普通贴片电容基本都不是黑色的。(2)看型号标码——贴片电感以L开头,贴片电容以C开头。从外形是圆形初步判断应为电感,测量两端电阻为零点几欧,则为电感。(3)检测——贴片电感一般阻值小,更没有“充放
    贴片加工小安 2025-04-29 14:59 305浏览
我要评论
0
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦