在Xilinx平台使用V4L2框架编程实现视频输入

FPGA开发圈 2022-09-14 15:50
  1. 1、V4L2框架概述

  2. V4L2是Video for Linux2的简称,为Linux中关于视频设备的内核驱动。在Linux中,视频设备是设备文件,可以像访问普通文件一样对其进行读写。


  3. 1.1 V4L2设备应用层流程

  4.    注册的设备节点有/dev/video和/dev/v4l2-subdev;其应用层操作video设备主要流程如下:

  5.    1) 通过打开video设备设置video参数;

  6.    2) 设置采集方式;

  7.    3) 将数据取出、处理、放回,可循环处理;

  8.    4) 完成相应的任务后关闭。


  9. 1.2 内核V4L2模块

        应用层流程可以通过打开文件一样打开视频输入设备,并且配置设备相关参数, 这是由于内核相关模块做了很多基础工作。跟V4L2相关的模块如下图所示:

 

                   图1 V4L2基本框架

      1.3 典型捕获管道:

                          图2 Xilinx视频典型捕获管道

  1.   1、硬件视图

  2.       1)多种组合可以开发一个捕获管道;

  3.       2)使用标准化接口(AXI总线接口)在管道中缝合多个IP。

  4.   2、软件视图

  5.       1)复杂性存在于软件级别,以支持多种组合;

  6.       2)由于没有任何标准的方法来配置管道中的不同元素,这给软件开发人员带来了更大的复杂性。


  7.      1.4  具有流媒体和/或内存接口的基于帧的视频管道视频捕获设备:

  8.     1)视频存储器到存储器设备;

  9.     2)视频输出设备(无图形);

  10.     3)DMABUF:0拷贝缓冲区共享Media controller;

  11.     4)描述逻辑拓扑和数据流;

  12.     5)多媒体库 GStreamer、FFMPEG、OpenCV、OpenMAX、LibAV、VLC媒体播放器、MPlayers。


  13.                   图3 V4L2框架对应设备


  14.   2、 Xilinx 视频编解码

     在使用gst命令创建pipeline 完成视频输入到编码输出的过程如下:

           图4 Xilinx 视频输入设备及相关内核模块

     当使用gst 命令处理HDMI视频输入时,我们会使用下面的命令:gst-launch-1.0 -v v4l2src device=/dev/video0 io-mode=4 ! video/x-raw\(memory:XLNXLL\), format=NV16_10LE32, width=3840, height=2160, framerate=60/1 ! omxh265enc num-slices=8 periodicity-idr=240 cpb-size=500 gdr-mode=horizontal initial-delay=250 control-rate=low-latency prefetch-buffer=true target-bitrate=25000 gop-mode=low-delay-p ! video/x-h265, alignment=nal ! rtph265pay ! udpsink buffer-size=60000000 host=192.168.25.89 port=5004 async=false max-lateness=-1 qos-dscp=60 max-bitrate=120000000 -v
      其中/dev/video0设备对应我们的HDMI输入,使用omxh265enc进行编码,在使用rtph265pay完成RTP封装后,在通过udpsink使用udp将编码后的码流发送出去。这个实现我们可以通过V4L2接口来完成,本身gst 插件也是调用了V4L2接口完成,下面是使用V4L2接口完成上述工作的过程。
  1.     2.1 应用程序通过V4L2接口采集视频数据步骤

  2.      1)打开视频设备文件,通过视频采集的参数初始化, 通过V4L2接口设置视频图像属性;

  3.      2)申请若干视频采集的帧缓存区,并将这些帧缓冲区从内核空间映射到用户空间,便于应用程序读取/处理视频数据;

  4.      3)将申请到的帧缓冲区在视频采集输入队列排队,并启动视频采集;

  5.       4)驱动开始视频数据的采集,应用程序从视频采集输出队列中取出帧缓冲区,处理后,将帧缓冲区重新放入视频采集输入队列,循环往复采集连续的视频数据。最后停止视频采集。 

              流程图如下所示

  1.    2.2 V4L2 ioctl控制符

  2.   1)VIDIOC_QUERYCAP    查询设备的属性;

  3.   2)VIDIOC_ENUM_FMT 帧格式;

  4.   3)VIDIOC_S_FMT 设置视频帧格式,对应struct v4l2_format;

  5.   4)VIDIOC_G_FMT 获取视频帧格式等;

  6.   5)VIDIOC_REQBUFS 请求/申请若干个帧缓冲区,一般为不少于3个;

  7.   6)VIDIOC_QUERYBUF 查询帧缓冲区在内核空间的长度和偏移量;

  8.   7)VIDIOC_QBUF 将申请到的帧缓冲区全部放入视频采集输出队列;

  9.   8)VIDIOC_STREAMON 开始视频流数据的采集;

  10.   9)VIDIOC_DQBUF 应用程序从视频采集输出队列中取出已含有采集数据的帧缓冲区;

  11.   10)VIDIOC_STREAMOFF 应用程序将该帧缓冲区重新挂入输入队列。


  12.    2.3 控制字符解析和使用用例:

       1)VIDIOC_QUERYCAP-------->struct v4l2_capability
         例如:
         if ((cap.capabilities & V4L2_CAP_VIDEO_CAPTURE) == V4L2_CAP_VIDEO_CAPTURE)
           {
                    printf("Device %s: supports capture.\n", FILE_VIDEO);
            }
      if ((cap.capabilities & V4L2_CAP_STREAMING) == V4L2_CAP_STREAMING)
         {
          printf("Device %s: supports streaming.\n", FILE_VIDEO);
         }

    2)VIDIOC_ENUM_FMT-------->struct v4l2_fmtdesc

       //通过这个结构体,可以显示对应的摄像头所支持视频帧格式。例如

         struct v4l2_fmtdesc fmtdesc;
         fmtdesc.index = 0;
         fmtdesc.type = V4L2_BUF_TYPE_VIDEO_CAPTURE; 
         printf("Supportformat:/n");
         while(ioctl(fd, VIDIOC_ENUM_FMT, &fmtdesc) != -1)
         {
               printf("/t%d.%s/n",fmtdesc.index+1,fmtdesc.description);
               fmtdesc.index++;
          }
     3)VIDIOC_G_FMT-------->struct v4l2_format 查看视频帧格式
     4)VIDIOC_S_FMT 设置视频帧格式
     5) VIDIOC_CROPCAP-------->struct v4l2_cropcap结构体
     6) 设置Stream信息,主要设置帧率
              VIDIOC_G_PARM&VIDIOC_S_PARM-------->struct v4l2_streamparm
      7)设置Stream信息,主要设置帧率
               VIDIOC_G_PARM&VIDIOC_S_PARM-------->struct v4l2_streamparm
      8)设置Stream信息,主要设置帧率
              VIDIOC_G_PARM&VIDIOC_S_PARM-------->struct v4l2_streamparm
       9)申请和管理缓冲区         
                  VIDIOC_REQBUFS-------->struct v4l2_requestbuffers
      10) 应用程序从视频采集输出队列中取出已含有采集数据的帧缓冲区
          VIDIOC_QUERYBUF-------->struct v4l2_buffer
           应用程序从视频采集输出队列中取出已含有采集数据的帧缓冲区
            intioctl(int fd, VIDIOC_DQBUF, struct v4l2_buffer *argp)
       11) 开始视频采集和关闭视频采集
            VIDIOC_STREAMON&VIDIOC_STREAMOFF
           int ioctl(int fd, VIDIOC_STREAMON, const int *argp)
           int ioctl(int fd, VIDIOC_STREAMOFF, const int *argp)
         12) 应用程序将该帧缓冲区重新挂入输入队列VIDIOC_QBUF
            intioctl(int fd, VIDIOC_QBUF, struct v4l2_buffer *argp)

3、Xilinx V4L2 Demo


                     图5:Xilinx V4L2 demo


          图6:Xilinx V4L2 + CTRLSW encode

  1.       3.1 Xilinx使用V4L2实现视频输入的代码

  2.         


  3.       


3.2 应用程序将帧缓冲区重新排入输入队列

       ioctl(fd_v4l2, VIDIOC_QBUF, &buf)


  1.    3.3   开始视频流数据的采集

  2.   ioctl(fd_v4l2, VIDIOC_STREAMON, &type)


   

3.4 应用程序将视频采集输出队列中取出已含有采集数据的帧缓冲区           ioctl(fd_v4l2, VIDIOC_DQBUF, &buf)

  

3.5 停止视频采集
     ioctl(fd_v4l2, VIDIOC_STREAMOFF, &tpe)

上面为主要功能函数介绍,具体代码等等请参考如下链接:https://xilinx-wiki.atlassian.net/wiki/spaces/A/pages/1010303367/Zynq+UltraScale+MPSoC+VCU+TRD+2020.2+-+Xilinx+Low+Latency+PS+DDR+NV12+HDMI+Audio+Video+Capture+and+Display

      如果您在Xilinx Video for Linux (V4L2)方面有问题,欢迎联系:

                 simonyang@comtech.cn

          charlesxu@comtech.cn

FPGA开发圈 这里介绍、交流、有关FPGA开发资料(文档下载,技术解答等),提升FPGA应用能力。
评论
  • Snyk 是一家为开发人员提供安全平台的公司,致力于协助他们构建安全的应用程序,并为安全团队提供应对数字世界挑战的工具。以下为 Snyk 如何通过 CircleCI 实现其“交付”使命的案例分析。一、Snyk 的挑战随着客户对安全工具需求的不断增长,Snyk 的开发团队面临多重挑战:加速交付的需求:Snyk 的核心目标是为开发者提供更快、更可靠的安全解决方案,但他们的现有 CI/CD 工具(TravisCI)运行缓慢,无法满足快速开发和部署的要求。扩展能力不足:随着团队规模和代码库的不断扩大,S
    艾体宝IT 2025-01-10 15:52 49浏览
  • 根据环洋市场咨询(Global Info Research)项目团队最新调研,预计2030年全球中空长航时无人机产值达到9009百万美元,2024-2030年期间年复合增长率CAGR为8.0%。 环洋市场咨询机构出版了的【全球中空长航时无人机行业总体规模、主要厂商及IPO上市调研报告,2025-2031】研究全球中空长航时无人机总体规模,包括产量、产值、消费量、主要生产地区、主要生产商及市场份额,同时分析中空长航时无人机市场主要驱动因素、阻碍因素、市场机遇、挑战、新产品发布等。报告从中空长航时
    GIRtina 2025-01-09 10:35 99浏览
  • 1月9日,在2025国际消费电子展览会(CES)期间,广和通发布集智能语音交互及翻译、4G/5G全球漫游、随身热点、智能娱乐、充电续航等功能于一体的AI Buddy(AI陪伴)产品及解决方案,创新AI智能终端新品类。AI Buddy是一款信用卡尺寸的掌中轻薄智能设备,为用户带来实时翻译、个性化AI语音交互助手、AI影像识别、多模型账户服务、漫游资费服务、快速入网注册等高品质体验。为丰富用户视觉、听觉的智能化体验,AI Buddy通过蓝牙、Wi-Fi可配套OWS耳机、智能眼镜、智能音箱、智能手环遥
    物吾悟小通 2025-01-09 18:21 35浏览
  • 在过去十年中,自动驾驶和高级驾驶辅助系统(AD/ADAS)软件与硬件的快速发展对多传感器数据采集的设计需求提出了更高的要求。然而,目前仍缺乏能够高质量集成多传感器数据采集的解决方案。康谋ADTF正是应运而生,它提供了一个广受认可和广泛引用的软件框架,包含模块化的标准化应用程序和工具,旨在为ADAS功能的开发提供一站式体验。一、ADTF的关键之处!无论是奥迪、大众、宝马还是梅赛德斯-奔驰:他们都依赖我们不断发展的ADTF来开发智能驾驶辅助解决方案,直至实现自动驾驶的目标。从新功能的最初构思到批量生
    康谋 2025-01-09 10:04 99浏览
  • 职场是人生的重要战场,既是谋生之地,也是实现个人价值的平台。然而,有些思维方式却会悄无声息地拖住你的后腿,让你原地踏步甚至退步。今天,我们就来聊聊职场中最忌讳的五种思维方式,看看自己有没有中招。1. 固步自封的思维在职场中,最可怕的事情莫过于自满于现状,拒绝学习和改变。世界在不断变化,行业的趋势、技术的革新都在要求我们与时俱进。如果你总觉得自己的方法最优,或者害怕尝试新事物,那就很容易被淘汰。与其等待机会找上门,不如主动出击,保持学习和探索的心态。加入优思学院,可以帮助你快速提升自己,与行业前沿
    优思学院 2025-01-09 15:48 102浏览
  • HDMI 2.2 规格将至,开启视听新境界2025年1月6日,HDMI Forum, Inc. 宣布即将发布HDMI规范2.2版本。新HDMI规范为规模庞大的 HDMI 生态系统带来更多选择,为创建、分发和体验理想的终端用户效果提供更先进的解决方案。新技术为电视、电影和游戏工作室等内容制作商在当前和未来提供更高质量的选择,同时实现多种分发平台。96Gbps的更高带宽和新一代 HDMI 固定比率速率传输(Fixed Rate Link)技术为各种设备应用提供更优质的音频和视频。终端用户显示器能以最
    百佳泰测试实验室 2025-01-09 17:33 117浏览
  • 光伏逆变器是一种高效的能量转换设备,它能够将光伏太阳能板(PV)产生的不稳定的直流电压转换成与市电频率同步的交流电。这种转换后的电能不仅可以回馈至商用输电网络,还能供独立电网系统使用。光伏逆变器在商业光伏储能电站和家庭独立储能系统等应用领域中得到了广泛的应用。光耦合器,以其高速信号传输、出色的共模抑制比以及单向信号传输和光电隔离的特性,在光伏逆变器中扮演着至关重要的角色。它确保了系统的安全隔离、干扰的有效隔离以及通信信号的精准传输。光耦合器的使用不仅提高了系统的稳定性和安全性,而且由于其低功耗的
    晶台光耦 2025-01-09 09:58 81浏览
  • 车机导航有看没有懂?智能汽车语系在地化不可轻忽!随着智能汽车市场全球化的蓬勃发展,近年来不同国家地区的「Automotive Localization」(汽车在地化)布局成为兵家必争之地,同时也是车厂在各国当地市场非常关键的营销利器。汽车在地化过程中举足轻重的「汽车语系在地化」,则是透过智能汽车产品文字与服务内容的设计订制,以对应不同国家地区用户的使用习惯偏好,除了让当地车主更能清楚理解车辆功能,也能进一步提高品牌满意度。客户问题与难处某车厂客户预计在台湾市场推出新一代车款,却由于车机导航开发人
    百佳泰测试实验室 2025-01-09 17:47 30浏览
  • 一个真正的质量工程师(QE)必须将一件产品设计的“意图”与系统的可制造性、可服务性以及资源在现实中实现设计和产品的能力结合起来。所以,可以说,这确实是一种工程学科。我们常开玩笑说,质量工程师是工程领域里的「侦探」、「警察」或「律师」,守护神是"墨菲”,信奉的哲学就是「墨菲定律」。(注:墨菲定律是一种启发性原则,常被表述为:任何可能出错的事情最终都会出错。)做质量工程师的,有时会不受欢迎,也会被忽视,甚至可能遭遇主动或被动的阻碍,而一旦出了问题,责任往往就落在质量工程师的头上。虽然质量工程师并不负
    优思学院 2025-01-09 11:48 115浏览
  • 在当前人工智能(AI)与物联网(IoT)的快速发展趋势下,各行各业的数字转型与自动化进程正以惊人的速度持续进行。如今企业在设计与营运技术系统时所面临的挑战不仅是技术本身,更包含硬件设施、第三方软件及配件等复杂的外部因素。然而这些系统往往讲究更精密的设计与高稳定性,哪怕是任何一个小小的问题,都可能对整体业务运作造成严重影响。 POS应用环境与客户需求以本次分享的客户个案为例,该客户是一家全球领先的信息技术服务与数字解决方案提供商,遭遇到一个由他们所开发的POS机(Point of Sal
    百佳泰测试实验室 2025-01-09 17:35 114浏览
  • 在智能网联汽车中,各种通信技术如2G/3G/4G/5G、GNSS(全球导航卫星系统)、V2X(车联网通信)等在行业内被广泛使用。这些技术让汽车能够实现紧急呼叫、在线娱乐、导航等多种功能。EMC测试就是为了确保在复杂电磁环境下,汽车的通信系统仍然可以正常工作,保护驾乘者的安全。参考《QCT-基于LTE-V2X直连通信的车载信息交互系统技术要求及试验方法-1》标准10.5电磁兼容试验方法,下面将会从整车功能层面为大家解读V2X整车电磁兼容试验的过程。测试过程揭秘1. 设备准备为了进行电磁兼容试验,技
    北汇信息 2025-01-09 11:24 100浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦