英伟达OpticalFlowSDK(光流追踪)

云深之无迹 2022-01-03 16:09


有一种计算机的技术,专门用于计算图像之间像素的相对运动。硬件使用复杂的算法来产生高度准确的流向量,这些向量对帧到帧的强度变化具有鲁棒性,并跟踪真实的物体运动。


这个可能用不在Jetson Nano上面,好难过。



难过的



好像是真的



首先需要是CUDA


https://docs.nvidia.com/video-technologies/optical-flow-sdk/read-me/index.html



获得关于我们视频技术的SDK文档



然后官网也可以下载到这个SDK


这个SDK的测试视频是真4K视频:


http://ultravideo.fi/#testsequences


可以选择各种的视频源



可以选择各种的大小



使用这个sony的电影摄影机获得



https://github.com/opencv/opencv_contrib


Opencv里面也集成了这个算法:



说这个东西,不怎么成熟


https://github.com/opencv/opencv_contrib/tree/4.x/modules/cudaoptflow


在这里


https://docs.opencv.org/4.x/dc/d9d/classcv_1_1cuda_1_1NvidiaOpticalFlow__1__0.html


CV文档在此




用枚举处理的



再看追踪



创建的函数在此



参数的说明


其实这个光流的API,我还没有找到API什么的,比较奇怪




https://about.gitlab.com/


这个SDK的源码需要使用Lab获得



写申请后,会自动把你的库关联一下



内容



好难过,就11个star



还有在线的IDE



我喝了杯奶茶。。。差不多才下载下来



里面两套不同版本的SDK


目前来说是下载到了源码,这边还有下载的SDK。



SDK内的东西



Nv是Nvidia的意思,OF是optical-flow的意思。



这是所有的API接口了




一开始就定义了一下要用的变量,我觉得这个习惯真好,大厂写的东西



俺不理解,哪家的写法,这个也要大写,这是调用的状态,还有很多。



这里是对布尔变量的支持,看看人家的真是怎么写的,真帅呢~



支持的缓冲区的格式


这里给你翻译一下



至于这个D3D,是微软的渲染引擎,数字是版本


可惜,没有源码,索然无味。


文章一开始,我就说好像是用不了这个光流追踪:


存在两种主要方法来跟踪视频中的对象。

  1. 在每一帧中检测:使用对象分类识别每一帧中感兴趣对象的边界框,并逐帧跟踪对象边界。

  2. 检测和跟踪:识别第一帧(或每n帧)中物体的边界框,并计算后续帧中属于该物体的像素(或块)的运动进行跟踪

第一种方法准确但计算复杂,因为需要在每一帧上运行对象分类(推理)。

第二种方法需要较少的计算,但依赖于连续帧之间像素(或块)的运动/流向量的准确估计。

通常用于对象跟踪的两种类型的光流包括密集光流和稀疏光流。后者很受欢迎,因为它的计算复杂度低,并且在 Kanade-Lucas-Tomashi (KLT) 特征跟踪器等方法中很有用。

密集光流方法提供更高的精度和更大的计算复杂度。因此,对于许多实际用例来说,密集光流计算是遥不可及的。光流的其他领域包括立体深度估计、视频帧插值和视频帧外插。

下面就是一些较老的GPU,嘤嘤嘤,有钱真好。


Maxwell、Pascal 和 Volta 系列的 NVIDIA GPU 包括一个或多个视频编码器 (NVENC) 引擎,这些引擎提供了一种称为仅运动估计模式的模式。


这种模式允许用户仅在 NVENC 上运行运动估计并检索结果运动矢量 (MV)。运动估计硬件搜索相邻区域,并选择最接近的匹配块。最接近匹配的标准被调整以优化编码成本,就是运动补偿后残差消耗的比特。由于这种方法,在许多需要跟踪精度的用例中,运动矢量可能不是很准确。在强度从一帧变化到下一帧的变化的光照条件下尤其如此。


NVENC是一种视频解码器,看看我有没有必要写一下。



就是一次可以64个像素作为一个处理单元运算,如果视频里面的追踪物体一直没有很大的跳动,那效果就很好。我就想着巡线这个问题,是不是会好很多呢?


而使用光流信息训练用于视频后处理的深度学习网络代表了一个常见的用法。由 GPU 的 NVDEC(片上视频解码器)引擎解码的视频帧可以传递到光流引擎,用于在所需的帧对之间生成光流向量图,作为训练的一部分。这些地图为视频后处理网络提供辅助信息。

将 NVDEC 解码的视频帧传递给光流引擎目前需要将使用 NVDECODE API 解码的视频帧复制到视频内存中,以供光流硬件处理。这可以按如下方式完成:

1.创建具有期望的帧的宽度和高度的光流对象NvOFObj

2.创建输入,输出的缓冲区

3.将要解码的帧处理为用于光流的灰度图像

4.cuda处理完的解码帧给给光流引擎,这个光流引擎要CUarray

5.启动异步复制

6.启动光流计算

我搞几天CUDA再来bb:

关于视频插帧:

硬件使用光流向量生成每个交替帧,以将视频的有效帧速率加倍。此技术可提高视频播放的流畅度或提高低端硬件上的游戏/图形渲染速度。

让我们来看看这是如何工作的。首先,图灵硬件计算第 1 帧和第 3 帧(两个连续渲染帧)之间的光流向量。

接下来,使用 API 返回的成本验证流向量的准确性和可靠性。此步骤可确保丢弃低置信度的异常值。

然后使用剩余的高置信度流向量在第 1 帧和第 3 帧之间的时间距离的一半处扭曲第 1 帧。


最后,使用宏块插值填充图像的缺失部分以构建完整的第 2 帧。相同的过程可以以相反的时间顺序应用(计算从第 3 帧到第 1 帧的流向量,然后构建中间帧)以进一步改进插值。额外的后处理可用于构建最终的视频帧 2。

骚年,学会没有?

如果使用Linux运行,需要安装这个库作为接口:

http://freeimage.sourceforge.net/download.html

https://freeimage.sourceforge.io/fip/index.html

开发文档

在SDK里面建立一个build文件夹:

cmake -DCMAKE_BUILD_TYPE=Release ..makesudo make install



看来这jetson就是个笑话。。。



倒是看这个说法,可以在maxwell上面运行

评论
  • By Toradex 秦海1). 简介嵌入式平台设备基于Yocto Linux 在开发后期量产前期,为了安全以及提高启动速度等考虑,希望将 ARM 处理器平台的 Debug Console 输出关闭,本文就基于 NXP i.MX8MP ARM 处理器平台来演示相关流程。 本文所示例的平台来自于 Toradex Verdin i.MX8MP 嵌入式平台。  2. 准备a). Verdin i.MX8MP ARM核心版配合Dahlia载板并
    hai.qin_651820742 2025-01-07 14:52 118浏览
  • 村田是目前全球量产硅电容的领先企业,其在2016年收购了法国IPDiA头部硅电容器公司,并于2023年6月宣布投资约100亿日元将硅电容产能提升两倍。以下内容主要来自村田官网信息整理,村田高密度硅电容器采用半导体MOS工艺开发,并使用3D结构来大幅增加电极表面,因此在给定的占位面积内增加了静电容量。村田的硅技术以嵌入非结晶基板的单片结构为基础(单层MIM和多层MIM—MIM是指金属 / 绝缘体/ 金属) 村田硅电容采用先进3D拓扑结构在100um内,使开发的有效静电容量面积相当于80个
    知白 2025-01-07 15:02 155浏览
  • 「他明明跟我同梯进来,为什么就是升得比我快?」许多人都有这样的疑问:明明就战绩也不比隔壁同事差,升迁之路却比别人苦。其实,之间的差异就在于「领导力」。並非必须当管理者才需要「领导力」,而是散发领导力特质的人,才更容易被晓明。许多领导力和特质,都可以通过努力和学习获得,因此就算不是天生的领导者,也能成为一个具备领导魅力的人,进而被老板看见,向你伸出升迁的橘子枝。领导力是什么?领导力是一种能力或特质,甚至可以说是一种「影响力」。好的领导者通常具备影响和鼓励他人的能力,并导引他们朝着共同的目标和愿景前
    优思学院 2025-01-08 14:54 93浏览
  • 光伏逆变器是一种高效的能量转换设备,它能够将光伏太阳能板(PV)产生的不稳定的直流电压转换成与市电频率同步的交流电。这种转换后的电能不仅可以回馈至商用输电网络,还能供独立电网系统使用。光伏逆变器在商业光伏储能电站和家庭独立储能系统等应用领域中得到了广泛的应用。光耦合器,以其高速信号传输、出色的共模抑制比以及单向信号传输和光电隔离的特性,在光伏逆变器中扮演着至关重要的角色。它确保了系统的安全隔离、干扰的有效隔离以及通信信号的精准传输。光耦合器的使用不仅提高了系统的稳定性和安全性,而且由于其低功耗的
    晶台光耦 2025-01-09 09:58 43浏览
  • 1月7日-10日,2025年国际消费电子产品展览会(CES 2025)盛大举行,广和通发布Fibocom AI Stack,赋智千行百业端侧应用。Fibocom AI Stack提供集高性能模组、AI工具链、高性能推理引擎、海量模型、支持与服务一体化的端侧AI解决方案,帮助智能设备快速实现AI能力商用。为适应不同端侧场景的应用,AI Stack具备海量端侧AI模型及行业端侧模型,基于不同等级算力的芯片平台或模组,Fibocom AI Stack可将TensorFlow、PyTorch、ONNX、
    物吾悟小通 2025-01-08 18:17 53浏览
  • 职场是人生的重要战场,既是谋生之地,也是实现个人价值的平台。然而,有些思维方式却会悄无声息地拖住你的后腿,让你原地踏步甚至退步。今天,我们就来聊聊职场中最忌讳的五种思维方式,看看自己有没有中招。1. 固步自封的思维在职场中,最可怕的事情莫过于自满于现状,拒绝学习和改变。世界在不断变化,行业的趋势、技术的革新都在要求我们与时俱进。如果你总觉得自己的方法最优,或者害怕尝试新事物,那就很容易被淘汰。与其等待机会找上门,不如主动出击,保持学习和探索的心态。加入优思学院,可以帮助你快速提升自己,与行业前沿
    优思学院 2025-01-09 15:48 47浏览
  • HDMI 2.2 规格将至,开启视听新境界2025年1月6日,HDMI Forum, Inc. 宣布即将发布HDMI规范2.2版本。新HDMI规范为规模庞大的 HDMI 生态系统带来更多选择,为创建、分发和体验理想的终端用户效果提供更先进的解决方案。新技术为电视、电影和游戏工作室等内容制作商在当前和未来提供更高质量的选择,同时实现多种分发平台。96Gbps的更高带宽和新一代 HDMI 固定比率速率传输(Fixed Rate Link)技术为各种设备应用提供更优质的音频和视频。终端用户显示器能以最
    百佳泰测试实验室 2025-01-09 17:33 55浏览
  • 在过去十年中,自动驾驶和高级驾驶辅助系统(AD/ADAS)软件与硬件的快速发展对多传感器数据采集的设计需求提出了更高的要求。然而,目前仍缺乏能够高质量集成多传感器数据采集的解决方案。康谋ADTF正是应运而生,它提供了一个广受认可和广泛引用的软件框架,包含模块化的标准化应用程序和工具,旨在为ADAS功能的开发提供一站式体验。一、ADTF的关键之处!无论是奥迪、大众、宝马还是梅赛德斯-奔驰:他们都依赖我们不断发展的ADTF来开发智能驾驶辅助解决方案,直至实现自动驾驶的目标。从新功能的最初构思到批量生
    康谋 2025-01-09 10:04 55浏览
  • 故障现象一辆2017款东风风神AX7车,搭载DFMA14T发动机,累计行驶里程约为13.7万km。该车冷起动后怠速运转正常,热机后怠速运转不稳,组合仪表上的发动机转速表指针上下轻微抖动。 故障诊断 用故障检测仪检测,发动机控制单元中无故障代码存储;读取发动机数据流,发现进气歧管绝对压力波动明显,有时能达到69 kPa,明显偏高,推断可能的原因有:进气系统漏气;进气歧管绝对压力传感器信号失真;发动机机械故障。首先从节气门处打烟雾,没有发现进气管周围有漏气的地方;接着拔下进气管上的两个真空
    虹科Pico汽车示波器 2025-01-08 16:51 107浏览
  • 在智能网联汽车中,各种通信技术如2G/3G/4G/5G、GNSS(全球导航卫星系统)、V2X(车联网通信)等在行业内被广泛使用。这些技术让汽车能够实现紧急呼叫、在线娱乐、导航等多种功能。EMC测试就是为了确保在复杂电磁环境下,汽车的通信系统仍然可以正常工作,保护驾乘者的安全。参考《QCT-基于LTE-V2X直连通信的车载信息交互系统技术要求及试验方法-1》标准10.5电磁兼容试验方法,下面将会从整车功能层面为大家解读V2X整车电磁兼容试验的过程。测试过程揭秘1. 设备准备为了进行电磁兼容试验,技
    北汇信息 2025-01-09 11:24 67浏览
  • 在当前人工智能(AI)与物联网(IoT)的快速发展趋势下,各行各业的数字转型与自动化进程正以惊人的速度持续进行。如今企业在设计与营运技术系统时所面临的挑战不仅是技术本身,更包含硬件设施、第三方软件及配件等复杂的外部因素。然而这些系统往往讲究更精密的设计与高稳定性,哪怕是任何一个小小的问题,都可能对整体业务运作造成严重影响。 POS应用环境与客户需求以本次分享的客户个案为例,该客户是一家全球领先的信息技术服务与数字解决方案提供商,遭遇到一个由他们所开发的POS机(Point of Sal
    百佳泰测试实验室 2025-01-09 17:35 54浏览
  • 根据环洋市场咨询(Global Info Research)项目团队最新调研,预计2030年全球中空长航时无人机产值达到9009百万美元,2024-2030年期间年复合增长率CAGR为8.0%。 环洋市场咨询机构出版了的【全球中空长航时无人机行业总体规模、主要厂商及IPO上市调研报告,2025-2031】研究全球中空长航时无人机总体规模,包括产量、产值、消费量、主要生产地区、主要生产商及市场份额,同时分析中空长航时无人机市场主要驱动因素、阻碍因素、市场机遇、挑战、新产品发布等。报告从中空长航时
    GIRtina 2025-01-09 10:35 60浏览
  •  在全球能源结构加速向清洁、可再生方向转型的今天,风力发电作为一种绿色能源,已成为各国新能源发展的重要组成部分。然而,风力发电系统在复杂的环境中长时间运行,对系统的安全性、稳定性和抗干扰能力提出了极高要求。光耦(光电耦合器)作为一种电气隔离与信号传输器件,凭借其优秀的隔离保护性能和信号传输能力,已成为风力发电系统中不可或缺的关键组件。 风力发电系统对隔离与控制的需求风力发电系统中,包括发电机、变流器、变压器和控制系统等多个部分,通常工作在高压、大功率的环境中。光耦在这里扮演了
    晶台光耦 2025-01-08 16:03 84浏览
  • 一个真正的质量工程师(QE)必须将一件产品设计的“意图”与系统的可制造性、可服务性以及资源在现实中实现设计和产品的能力结合起来。所以,可以说,这确实是一种工程学科。我们常开玩笑说,质量工程师是工程领域里的「侦探」、「警察」或「律师」,守护神是"墨菲”,信奉的哲学就是「墨菲定律」。(注:墨菲定律是一种启发性原则,常被表述为:任何可能出错的事情最终都会出错。)做质量工程师的,有时会不受欢迎,也会被忽视,甚至可能遭遇主动或被动的阻碍,而一旦出了问题,责任往往就落在质量工程师的头上。虽然质量工程师并不负
    优思学院 2025-01-09 11:48 82浏览
  • 本文介绍编译Android13 ROOT权限固件的方法,触觉智能RK3562开发板演示,搭载4核A53处理器,主频高达2.0GHz;内置独立1Tops算力NPU,可应用于物联网网关、平板电脑、智能家居、教育电子、工业显示与控制等行业。关闭selinux修改此文件("+"号为修改内容)device/rockchip/common/BoardConfig.mkBOARD_BOOT_HEADER_VERSION ?= 2BOARD_MKBOOTIMG_ARGS :=BOARD_PREBUILT_DTB
    Industio_触觉智能 2025-01-08 00:06 111浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦