基于ZYNQ的CameraLink图像采集与边缘检测开发详解

FPGA开发圈 2020-05-27 00:00

1.

案例说明

(1) PL端接入CameraLink相机,通过Base模式采集图像(1280*1024),然后通过VDMA缓存到PS端DDR。

(2) 使用AXI4-Stream Switch IP核将图像复分成两路,一路用于边缘检测处理(Sobel算法),另一路直接回显

(3) 利用Video Mixer IP核将图像叠加,通过HDMI输出原始图像或者算法处理后的图像。

      本案例支持CameraLink Base/Full模式、彩色/黑白相机。 

此开发详解基于创龙ZYNQ Z-7045/Z-7100评估板TLZ7xH-EVM展开。

 


TLZ7xH-EVM评估板

2.

案例框图

3.

申请IP核license

本开发案例使用的Video Mixer和Chroma Resampler IP核,需要到官网下载IP核免费license,否则将无法通过TcL脚本生成Vivado工程。

参照创龙TLZ7xH-EVM评估板(ZYNQ Z-7045/Z-7100)用户手册《Xilinx Vivado 2017.4及License安装教程》文档,导入IP核。

成功导入后,点击View License Status可以查看新添加的IP核license如下图。

4.

Vivado工程说明

参照创龙TLZ7xH-EVM评估板(ZYNQ Z-7045/Z-7100)《基于TcL脚本生成Vivado工程及编译》文档,使用TcL脚本生成Vivado工程。   

(1)生成评估板TLZ7xH-EVM、ZYNQ型号为xc7z100的Vivado工程:

Vivado# vivado -mode batch -source tl_cameralink_edge_display_project.tcl  -tclargs tlz7xh-evm  xc7z100ffg900-2 

(2)生成评估板TLZ7xH-EVM、ZYNQ型号为xc7z045的Vivado工程:

Vivado# vivado -mode batch -source tl_cameralink_display_project.tcl  -tclargs tlz7xh-evm  xc7z045ffg900-2

进入Vivado工程所在的runs路径,双击.xpr文件打开工程。

点击"IP INTEGRATOR -> Open Block Design",打开Vivado工程如下图所示。

Base模式

点击Address Editor选项,可以看到IP核分配的地址,在PS端可以通过配置这些地址(寄存器)来控制IP核。

5.

IP核与模块简介

lvds_n_x_1to7_sdr_rx模块

源码路径:

hw\src\hdl\lvds_n_x_1to7_sdr_rx.v

模块实现了将差分输入数据转化成并行数据,参考时钟delay_refclk_in需接200MHz或者300MHz,本例程使用PS端的200MHz的FCLK1。双击打开配置界面。参数N表示通道数,X表示每个通道的数据差分对数量。

根据CameraLink V2.0标准:

  • Lite/Base模式:单通道,每通道数据差分对为4对,需要1个连接器。

  • Medium模式:双通道,每通道数据差分对为4对,需要2个连接器。

  • Full/80bit模式:三通道,每通道数据差分对为4对,需要2个连接器。

配置N=1表示使用Base模式,N=2为Medium模式,N=3为Full模式。X固定为4。更详细的说明请查阅文档xapp585-lvds-source-synch-serdes-clock-multiplication.pdf。

cameralink_bit_allocation_rx模块

源码路径:

hw\src\hdl\cameralink_bit_allocation_rx.v

功能:将lvds_n_x_1to7_sdr_rx模块Serdes串并转换出来的数据进行重组,分离出行同步信号、场同步型号、数据有效信号和每个像素数据。参数N表示通道数量和lvds_n_x_1to7_sdr_rx模块功能一致。

  • N=1,Base模式,输出端PortA、PortB、PortC有效。

  • N=2,Meduim模式,输出端PortA、PortB、PortC、PortD、PortE、PortF有效。

  • N=3,Full模式,输出端PortA、PortB、PortC、PortD、PortE、PortF、PortG、PortH有效。

关键代码解释:

(1) data_in的数据排列格式(lvds_n_x_1to7_sdr_rx模块串转并后的数据)。

lvds_n_x_1to7_sdr_rx模块将每一对数据差分对转换后的数据如下(XAPP585文档):

CameraLink(LVDS视频)协议标准如下图所示。

结合CameraLink(LVDS视频)协议标准,得出4对数据通道转换后的数据在data_in数据的排列顺序如下。


(2) 分离出行场同步信号、数据有效信号和像素数据。

根据CameraLink协议:

  • RX24对应行有效信号LVAL(行同步信号)。

  • RX25对应帧有效信号FVAL(场同步信号)。

  • RX26对应数据有效信号DVAL。

其他对应关系如下图:

因此,根据上图即可将各信号分离出来。

Video In to AXI4-Stream IP核

Video In to AXI4-Stream IP核配置为Mono/Sensor视频格式Base模式2 pixels per clk,每个色彩数据位宽为8bits。关于IP核的详细技术说明可以查看《pg043_v_vid_in_axi4s.pdf》文档。

VDMA(AXI Video Direct Memory Access) IP核

VDMA IP核技术说明文档为《pg020_axi_vdma.pdf》。S2MM是将视频流传到DDR中,MM2S是从DDR中把图像数据传输出去。配置如下图所示。

配置VDMA为读写跟随模式

AXI4-Stream Subset Converter IP核

实现功能:Y转RGB

AXI4-Stream Switch IP核

实现功能:将图像复分成两路,一路用于边缘检测处理(Sobel算法),另一路直接回显。

YCrCb to RGB Color-Space Converter IP核

实现功能:RGB转YCrCb444

Chrome Resampler IP核

实现功能:YCbCr444转YCbCr422,输入24位YCbCr444数据,输出16位YCbCr422数据。

Image_filter IP核

Image_filter IP核源码是基于Xilinx的xapp1167的Sobel边缘检测算法例程,对应的HLS源码在FPGA-HLS-demos目录下,技术说明文档为《ug925-zynq-zc702-base-trd.pdf》

《ug925-zynq-zc702-base-trd.pdf》文档附录A:Register Description -> Sobel Filter Registers小节有相关寄存器说明。

  • 寄存器0x00:控制和状态寄存器,可控制IP核的停止和启动

  • 寄存器0x14:设置图像的行数(最大支持1920x1080)

  • 寄存器0x1c:设置图像的列数

  • 寄存器0xb4:Sobel滤波的高阈值

  • 寄存器0xbc:Sobel滤波的低阈值

  • 寄存器0xc4:反转Sobel滤波器的输出(黑白反转)


寄存器的定义也可以可查看以下文件:ip_package/xilinx_com_hls_image_filter_1_0/drivers/image_filter_v1_0/src/ximage_filter_hw.h

Video Mixer IP核

Video Mixer IP核可以对多路视频进行叠加输出,为OSD IP的升级版,功能和OSD相似。本例程的作用为,将相机输入的图像,通过Mixer IP核叠加到1920*1080的视频中,最终通过HDMI输出显示。需要通过PS端,配置寄存器使能Mixer。   

AXI Uartlite IP核

用于和CameraLink相机通信,PS端可通过该接口对CameraLink相机进行配置(分辨率、Base/Full模式等功能)。具体说明请参考pg142-axi-uartlite.pdf。

Video Timing Controller IP核

Video Timing Controller IP核用于产生分辨率为1080P60的时序,用于HDMI输出,关于IP核的详细技术说明可以查看《pg016_v_tc.pdf》文档。双击Vivado工程v_tc IP核框图。在弹出的界面,点击"Default/Constant",可以看到已将Video Timing Controller IP核配置成1080P60的时序,如下图所示。

AXI-Stream to video out IP核

AXI-Stream to video out IP核配置视频格式为RGB,1 pixels per clk,每个色彩数据位宽为8bits。关于IP核的详细技术说明可以查看《pg044_v_axis_vid_out.pdf》文档。双击v_axi4s_vid_out IP核框图,查看IP核具体配置如下图。

Clocking Wizard IP核

配置一路148.5MHz的时钟,用于HDMI输出。该时钟对应的是1080P60的像素时钟。

若输入其他分辨率的视频,则需要修改VDMA IP核中图像大小的配置、Video Timing Controller IP的时序和Clocking Wizard IP核输出的像素时钟。

6.

案例演示

实验硬件说明

CameraLink相机参考型号:

  • 彩色RS-A5241-CC107-S00,支持Full/Base,分辨率2560*2048,帧率107Hz

  • 黑白RS-A5241-CM107-S00,支持Full/Base,分辨率2560*2048,帧率107Hz

参考下表和图将相机接到评估板CameraLink接口,显示器接到HDMI OUT接口。

基于Linux系统测试

评估板上电启动进入文件系统,执行如下指令新建一个"/lib/firmware"文件夹。将由Vivado工程编译生成的xxx.bin文件传送到评估板文件系统的"/lib/firmware/"目录下,并重命名为system_wrapper.bin。

参考创龙TLZ7xH-EVM评估板(Z-7045/Z-7100)用户手册《生成PL设备树及动态加载PL程序和设备树》文档,生成设备树,然后将编译好的dtbo文件拷贝到文件系统"lib/firmware"目录下。

Target# mkdir -p /lib/firmware/

HDMI OUT芯片接的是PS端的I2C,需要加载PS端设备树,加载成功后如下图所示。

Target#  mkdir /configfs

Target#  mount -t configfs configfs /configfs

Target#  mkdir /configfs/device-tree/overlays/full

Target#  echo -n zynq-zc706-overlay.dtbo >  /configfs/device-tree/overlays/full/path

再加载PL端程序和设备树。可以看到AXI UART对应的节点为/dev/ttyUL1。

Target# mkdir /configfs/device-tree/overlays/cameralink

Target#  echo -n "pl.dtbo" > /configfs/device-tree/overlays/cameralink/path

将例程image目录下的脚本拷贝到文件系统,执行脚本进行配置,即可在显示器看到相机采集的视频。

Target#  ./camera_init.sh base  //初始化CameraLink相机

Base模式

脚本说明:

Target#  ./sil9022_i2c_1080p.sh  //初始化HDMI OUT

Target#  ./axi_vdma_cameralink.sh  //初始化VDMA

Target#  ./switch_video.sh 1  //配置AXI4-Stream Switch IP核,参数1为原始图像

Target# ./mixer_init.sh 1  //初始化Video Mixer IP核,参数1为原始图像

Target# ./sobel_filter_init.sh  //初始化Image_filter IP核

Target#  ./mixer_init.sh 2 && ./switch_video.sh 2  //切换到算法处理后的图像

对于RS-A5241的相机,Base模式下,1280*1024的分辨率状态下,图像帧率有120+帧,所以图像曝光短,图像较暗,增大Image_filter IP的阈值可以获得更好的效果。

Target#  devmem 0x43c000b4 w 0xff  //设置高阈值为0xff

Target#  devmem 0x43c000bc w 0xa0  //设置低阈值为0xa0

设置颜色反转

Target# devmem 0x43c000c4 w 1  //0xc4寄存器设置为1,边缘为白色,若为0;边缘为黑色

7.

资料下载

可点击以下链接或扫描二维码,获取TLZ7xH-EVM评估板详细资料案例源码

http://site.tronlong.com/pfdownload






想更多地了解创龙,欢迎与我们联系:

销售邮箱:sales@tronlong.com

技术邮箱:support@tronlong.com

创龙总机:020-8998-6280

技术热线:020-3893-9734

创龙官网:www.tronlong.com

技术论坛:www.51ele.net

官方商城:https://tronlong.taobao.com



创龙官网

创龙微信公众号

【长按识别二维码关注我们】












FPGA开发圈 这里介绍、交流、有关FPGA开发资料(文档下载,技术解答等),提升FPGA应用能力。
评论
  • 我的一台很多年前人家不要了的九十年代SONY台式组合音响,接手时只有CD功能不行了,因为不需要,也就没修,只使用收音机、磁带机和外接信号功能就够了。最近五年在外地,就断电闲置,没使用了。今年9月回到家里,就一个劲儿地忙着收拾家当,忙了一个多月,太多事啦!修了电气,清理了闲置不用了的电器和电子,就是一个劲儿地扔扔扔!几十年的“工匠式”收留收藏,只能断舍离,拆解不过来的了。一天,忽然感觉室内有股臭味,用鼻子的嗅觉功能朝着臭味重的方向寻找,觉得应该就是这台组合音响?怎么会呢?这无机物的东西不会腐臭吧?
    自做自受 2024-12-10 16:34 153浏览
  • 首先在gitee上打个广告:ad5d2f3b647444a88b6f7f9555fd681f.mp4 · 丙丁先生/香河英茂工作室中国 - Gitee.com丙丁先生 (mr-bingding) - Gitee.com2024年对我来说是充满挑战和机遇的一年。在这一年里,我不仅进行了多个开发板的测评,还尝试了多种不同的项目和技术。今天,我想分享一下这一年的故事,希望能给大家带来一些启发和乐趣。 年初的时候,我开始对各种开发板进行测评。从STM32WBA55CG到瑞萨、平头哥和平海的开发板,我都
    丙丁先生 2024-12-11 20:14 56浏览
  • 铁氧体芯片是一种基于铁氧体磁性材料制成的芯片,在通信、传感器、储能等领域有着广泛的应用。铁氧体磁性材料能够通过外加磁场调控其导电性质和反射性质,因此在信号处理和传感器技术方面有着独特的优势。以下是对半导体划片机在铁氧体划切领域应用的详细阐述: 一、半导体划片机的工作原理与特点半导体划片机是一种使用刀片或通过激光等方式高精度切割被加工物的装置,是半导体后道封测中晶圆切割和WLP切割环节的关键设备。它结合了水气电、空气静压高速主轴、精密机械传动、传感器及自动化控制等先进技术,具有高精度、高
    博捷芯划片机 2024-12-12 09:16 67浏览
  • 天问Block和Mixly是两个不同的编程工具,分别在单片机开发和教育编程领域有各自的应用。以下是对它们的详细比较: 基本定义 天问Block:天问Block是一个基于区块链技术的数字身份验证和数据交换平台。它的目标是为用户提供一个安全、去中心化、可信任的数字身份验证和数据交换解决方案。 Mixly:Mixly是一款由北京师范大学教育学部创客教育实验室开发的图形化编程软件,旨在为初学者提供一个易于学习和使用的Arduino编程环境。 主要功能 天问Block:支持STC全系列8位单片机,32位
    丙丁先生 2024-12-11 13:15 57浏览
  • 在智能化技术快速发展当下,图像数据的采集与处理逐渐成为自动驾驶、工业等领域的一项关键技术。高质量的图像数据采集与算法集成测试都是确保系统性能和可靠性的关键。随着技术的不断进步,对于图像数据的采集、处理和分析的需求日益增长,这不仅要求我们拥有高性能的相机硬件,还要求我们能够高效地集成和测试各种算法。我们探索了一种多源相机数据采集与算法集成测试方案,能够满足不同应用场景下对图像采集和算法测试的多样化需求,确保数据的准确性和算法的有效性。一、相机组成相机一般由镜头(Lens),图像传感器(Image
    康谋 2024-12-12 09:45 53浏览
  • 习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习笔记&记录学习习笔记&记学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记
    youyeye 2024-12-11 17:58 69浏览
  • RK3506 是瑞芯微推出的MPU产品,芯片制程为22nm,定位于轻量级、低成本解决方案。该MPU具有低功耗、外设接口丰富、实时性高的特点,适合用多种工商业场景。本文将基于RK3506的设计特点,为大家分析其应用场景。RK3506核心板主要分为三个型号,各型号间的区别如下图:​图 1  RK3506核心板处理器型号场景1:显示HMIRK3506核心板显示接口支持RGB、MIPI、QSPI输出,且支持2D图形加速,轻松运行QT、LVGL等GUI,最快3S内开
    万象奥科 2024-12-11 15:42 80浏览
  • 近日,搭载紫光展锐W517芯片平台的INMO GO2由影目科技正式推出。作为全球首款专为商务场景设计的智能翻译眼镜,INMO GO2 以“快、准、稳”三大核心优势,突破传统翻译产品局限,为全球商务人士带来高效、自然、稳定的跨语言交流体验。 INMO GO2内置的W517芯片,是紫光展锐4G旗舰级智能穿戴平台,采用四核处理器,具有高性能、低功耗的优势,内置超微高集成技术,采用先进工艺,计算能力相比同档位竞品提升4倍,强大的性能提供更加多样化的应用场景。【视频见P盘链接】 依托“
    紫光展锐 2024-12-11 11:50 62浏览
  • 时源芯微——RE超标整机定位与解决详细流程一、 初步测量与问题确认使用专业的电磁辐射测量设备,对整机的辐射发射进行精确测量。确认是否存在RE超标问题,并记录超标频段和幅度。二、电缆检查与处理若存在信号电缆:步骤一:拔掉所有信号电缆,仅保留电源线,再次测量整机的辐射发射。若测量合格:判定问题出在信号电缆上,可能是电缆的共模电流导致。逐一连接信号电缆,每次连接后测量,定位具体哪根电缆或接口导致超标。对问题电缆进行处理,如加共模扼流圈、滤波器,或优化电缆布局和屏蔽。重新连接所有电缆,再次测量
    时源芯微 2024-12-11 17:11 99浏览
  • 全球知名半导体制造商ROHM Co., Ltd.(以下简称“罗姆”)宣布与Taiwan Semiconductor Manufacturing Company Limited(以下简称“台积公司”)就车载氮化镓功率器件的开发和量产事宜建立战略合作伙伴关系。通过该合作关系,双方将致力于将罗姆的氮化镓器件开发技术与台积公司业界先进的GaN-on-Silicon工艺技术优势结合起来,满足市场对高耐压和高频特性优异的功率元器件日益增长的需求。氮化镓功率器件目前主要被用于AC适配器和服务器电源等消费电子和
    电子资讯报 2024-12-10 17:09 92浏览
  • 一、SAE J1939协议概述SAE J1939协议是由美国汽车工程师协会(SAE,Society of Automotive Engineers)定义的一种用于重型车辆和工业设备中的通信协议,主要应用于车辆和设备之间的实时数据交换。J1939基于CAN(Controller Area Network)总线技术,使用29bit的扩展标识符和扩展数据帧,CAN通信速率为250Kbps,用于车载电子控制单元(ECU)之间的通信和控制。小北同学在之前也对J1939协议做过扫盲科普【科普系列】SAE J
    北汇信息 2024-12-11 15:45 99浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦