基于FPGA的阵列相机的实时监测和大容量存储

FPGA技术江湖 2024-05-11 07:10

大侠好,欢迎来到FPGA技术江湖,江湖偌大,相见即是缘分。大侠可以关注FPGA技术江湖,在“闯荡江湖”、"行侠仗义"栏里获取其他感兴趣的资源,或者一起煮酒言欢。“煮酒言欢”进入IC技术圈,这里有近100个IC技术公众号。



第一部分 设计概述 /Design Introduction

1.1 设计目的

随着人们对于图像质量、视场、视距的要求越来越高,单目相机往往不能满足人们的需求,因此我们设计了阵列相机组,以此来获得更大的视场,视距和多角度的即时显示,同时提供同步存储功能,以便后期的下载和为各类图像处理算法提供完整的数据流。


1.2 应用领域

阵列相机可用作户外大角度全景和超远景监控等系列安防专用相机,极大地扩展了安防监控范围并大幅提高现有的安防等级能力。阵列相机可用作大视场超高清摄像机,不仅可帮助用户获得前所未有的超高清图像数据,更能通过后期图像处理,为用户提供更多层次的全方位个性化 视觉体验,同时也可以为用户提供更加智能、可靠的安防布控。


1.3 适用范围

本项目适用于对于实时监控视场大、图像分辨率要求高,视距远的场合, 在此类场合中,作品可以完全发挥优势,帮助使用者迅速方便获得各个视角的即时图像和实时存储。同时,为进行后续的各类图像处理算法构建了一个完整的硬件平台。

 

第二部分 系统组成及功能说明 /System Construction & Function Description

2.1 系统介绍

本系统由我们自主设计PCB,布局布线,由第三方厂商制版焊接完成了最终的系统的搭建,具体分为 NVIDIA TX1 + A7 100t 交互处理模块,Sparton6 转接模块,226 探测器接收模块,A7 35t 相机数据处理模块,A7 35t 数据存储模块和上位机模块。我们自订了基于高速同步串口发送的指令集,完成从 PC 到 TX1 到 100T 到 Sparton6 到 35T 的阵列级联控制;TX1 与 100T 通过基于 XDMA 的 PCIE 协议完成指令和数据的交互;100T 到 Sparton6 到 35T 通过 高速同步串口完成指令的下行,基于高速串口串并转化 SERDES 原语完成数据 上行;通过 35T 以 SPI 协议配置 Sony IMX226 相机工作在 Slave 模式下,并 4000*3000@20 的工作模式,通过 ISERDES 解串相机数据在 35T 的 DDR3 中 进行降采样缓存和原图缓存,然后根据指令读出缓存数据进行通向 100T 方向的显示回传或者进行本地 TF 卡模块的存储以便后续的下载;最后完成了 10 个 相机的同步显示和其中任意 1 个相机 1080P 显示;并外接 SDI 输出同步 1080P 显示,在上位机上通过下发指令可以实时的调整曝光,一定范围的每个相机的视场等相机参数,同时完成了 TF 卡的实时存储,下载,查询,清空等功能。


2.2 各模块介绍

2.2.1 GPU + A7 100t 交互处理模块

本模块完成了整个 FPGA 系统的主控和与 GPU 之间的通信,首先 PC 通过 TCP 协议和 TX1 在操作系统层次完成了指令和相关数据交互的简单交互,TX1 和 100T 之间通过 PCIE 驱动和 XDMA IP 进行通信,在这一部分,其中 AXI4 通道完成数据的传输,AXI4-Lite 通道完成指令的下发和当前 FPGA 状态的轮 询;在本模块将 PC 的指令根据指令集通过高速同步串口发出,对于回传的数 据通过 ISERDES 解串并在 100T 的 DDR3 中缓存,最终搬运到 GPU,再到 PC,在这部分同时也完成 SDI 的外接同步输出。这部分还设计支持外挂在 TX1 上的 USB,HDMI 等接口便于调试。


2.2.2 Sparton6 转接模块

本模块在整个系统中有两个,每个模块共有 6 个 LVDS 接口,其中一个和 100T 部分连接剩下的 5 个接口分别连一个相机前端模块,共连接 10 个;这部分通过指令集中的参数来完成指令下行的转接和回传数据的转接,同时通过 Sparton6 中的原语 ISERDES 和 OSERDES 完成最开始的通道矫正。


2.2.3 IMX226 探测器接收模块

本模块完成 Sony IMX 226 相机的外围电路设计和 SPI 的配置接口,35T 通过连接件去以 SPI 协议配置相机工作在 4000*3000@20fps 的 Slave 模式 下,相机数据输出模式为 10 通道的串行 LDVS 相机数据输出。


2.2.4 A7 35t 相机数据处理模块

本模块完成对于相机数据的解串并将数据缓存在 35T 的 DDR3 中,对于 DDR3 中的缓存我们分为 3 部分区域:降采样区域,原图区域,其他信息区 域,降采样区域读出后返回给 Sparton6 来实时显示,原图区域读出后进行 TF 卡的写入;将数据通过 OSERDES 发送出去连接到 Sparton6 部分的一个端口上。同时在本模块完成了动态调整相机参数,基于 SD3.0 协议的 TF 卡写入, 数据流的降采样,仲裁和前端主控状态机的实现等多个功能。


2.2.5 A7 35t 数据存储模块

本模块将 DDR3 的原图数据读出写入 4 张 TF 卡中,4 张卡并行写入以提高 写入带,并在接收到下载指令后将数据读出并回传,对于这部分我们自己做了一个简易的文件系统便于 TF 的管理和控制;TF 卡工作在在 SD 模式下的 UHSI Operation Modes 下 SDR104 模式;


2.2.6 上位机模块

该模块在 QT 环境下,完成了基于 TCP 的 PC 和 TX1 之间的通信和用户界面搭建;

 

第三部分 完成情况及性能参数 /Final Design & Performance Parameters

3.1 完成情况:

目前预计的各个功能基本完成,由于硬件设计的一些问题和焊接物料的 质量和焊接工艺的一些问题,整个系统的不是特别的稳定,偶尔会出现一些问 题,大部分时间都是可以正常工作;主要完成 10 个相机实时显示和任意 1 个相机的 1080P 显示,外接 SDI 同步显示;实时调整曝光,视场范围,并进行 实时存储,下载,查询余量,清空等功能;


3.2 性能参数:


第四部分 总结 /Conclusions

4.1 主要创新点

(1)本系统的控制基本全部由 FPGA 控制实现并且 PCB 都是自主设计, 可以达到较高的速度和完全自主的控制,充分的使用了 FPGA 的特性,用最少的成本搭建了一个较大的系统;

(2)本系统所有的数据流都是自主控制的,裸露的,我们可以将这套系统作为一套基本的传输控制系统,在后续的改良版中,可以做各种各样的升级;

(3)本系统使用纯逻辑控制 4 张 TF 的读写,并自订了一个简易的文件系统,TF 卡可以跑在一个较高的速度;并且使用 LVDS 串行传输,速度快,稳定 性好;

(4)本系统自订了一个阵列相机控制的指令集,在理论上可以支持更多级和更多目的阵列系统控制;

(5)本系统采用了 GPU+FPGA+PC 的构架,在后续的设计中,可以进行丰富的图像处理工作,比如 FPGA 预处理数据,GPU 加速,PC 跑算法等,具 有较强的完备性和可升级性;


4.2 可扩展之处

(1)硬件设计中存在很多问题,比如过多的接插件导致成品率低,FLASH 固化芯片不稳定,端接电阻不匹配,供电不稳定等很多问题都导致了系统的稳 定性下降,在以后的设计中可以修正。

(2)相机工作的模式可以继续提升,包括帧率的提升,这需要更大的 DDR3 带宽,SERDES 速度和硬件稳定性,实现更高的帧率,同时由于在设计之初没有注意到 226 是卷帘式曝光且工作在 Slave 模式下,所以目前的曝光的 积分时间调整只能工作在室内和室外两种模式下,可动态调整的是增益值;如 果需要改良可以通过让相机工作在 Master 模式下,实现更大的曝光范围调整。

(3)TF 没能跑到理论支持的最高带宽下,后期可以通过完善硬件设计或者工作在 DDR 模式下,提高写入带宽,使写入帧率提升。

(4)目前的 GPU 只是进行了简单的数据搬运,没有利用其图像处理的能 力,后续可以在 GPU 上完善各种各样的图像处理算法,因为数据在 GPU 上是完全裸露的。


4.3 项目经验

从项目筹备阶段,开始准备这套系统的搭建,从PCB 的设计到系统理论构架再到实现经历了太多的困难和改版,不断的遇到问题,解决问题, 改进问题,在目前的硬件条件下做到了能做到的最好,但仍然还有很多问题和不足的地方。同时也收获了很多,大量的 RTL 代码编写,尤其是中途出现 FPGA 资源不够用时,通过各种各样的方式去优化代码来降低资源利用率,极大的锻炼了代码能力。软硬件系统的交互和配合让项目实施者对于数字系统的设计和操作系统的认识等各个方面都有了很大的提升。在组装阶段更是折磨人,反复的测试和更换使其深刻体会到了一个好的硬件设计有多么重要,好在最后的结果是满意的!


- THE END -

🍁


往期精选 

 
 

【免费】FPGA工程师人才招聘平台

FPGA人才招聘,企业HR,看过来!

系统设计精选 | 基于FPGA的实时图像边缘检测系统设计(附代码)

基于原语的千兆以太网RGMII接口设计

时序分析理论和timequest使用_中文电子版

求职面试 | FPGA或IC面试题最新汇总篇

资料汇总|FPGA软件安装包、书籍、源码、技术文档…(2024.01.06更新)

FPGA就业班,05.04开班,新增课程内容不加价,高薪就业,线上线下同步!

FPGA技术江湖广发江湖帖

无广告纯净模式,给技术交流一片净土,从初学小白到行业精英业界大佬等,从军工领域到民用企业等,从通信、图像处理到人工智能等各个方向应有尽有,QQ微信双选,FPGA技术江湖打造最纯净最专业的技术交流学习平台。


FPGA技术江湖微信交流群

加群主微信,备注姓名+学校/公司+专业/岗位进群


FPGA技术江湖QQ交流群

备注姓名+学校/公司+专业/岗位进群

FPGA技术江湖 任何技术的学习就好比一个江湖,对于每一位侠客都需要不断的历练,从初入江湖的小白到归隐山林的隐世高人,需要不断的自我感悟自己修炼,让我们一起仗剑闯FPGA乃至更大的江湖。
评论 (0)
  • 前言本文主要演示基于TL3576-MiniEVM评估板HDMI OUT、DP 1.4和MIPI的多屏同显、异显方案,适用开发环境如下。Windows开发环境:Windows 7 64bit、Windows 10 64bitLinux开发环境:VMware16.2.5、Ubuntu22.04.5 64bitU-Boot:U-Boot-2017.09Kernel:Linux-6.1.115LinuxSDK:LinuxSDK-[版本号](基于rk3576_linux6.1_release_v
    Tronlong 2025-04-23 13:59 136浏览
  •   无人机结构仿真与部件拆解分析系统平台解析   北京华盛恒辉无人机结构仿真与部件拆解分析系统无人机技术快速发展的当下,结构仿真与部件拆解分析系统平台成为无人机研发测试的核心工具,在优化设计、提升性能、降低成本等方面发挥关键作用。以下从功能、架构、应用、优势及趋势展开解析。   应用案例   目前,已有多个无人机结构仿真与部件拆解分析系统在实际应用中取得了显著成效。例如,北京华盛恒辉和北京五木恒润无人机结构仿真与部件拆解分析系统。这些成功案例为无人机结构仿真与部件拆解分析系统的推广和应用提
    华盛恒辉l58ll334744 2025-04-23 15:00 201浏览
  •   高海拔区域勤务与装备保障调度系统平台解析   北京华盛恒辉高海拔区域勤务与装备保障调度系统平台专为高海拔特殊地理环境打造,致力于攻克装备适应、人员健康保障、物资运输及应急响应等难题。以下从核心功能、技术特点、应用场景及发展趋势展开全面解读。   应用案例   目前,已有多个高海拔区域勤务与装备保障调度系统在实际应用中取得了显著成效。例如,北京华盛恒辉和北京五木恒润高海拔区域勤务与装备保障调度系统。这些成功案例为高海拔区域勤务与装备保障调度系统的推广和应用提供了有力支持。   一、核心
    华盛恒辉l58ll334744 2025-04-24 10:13 91浏览
  • 故障现象一辆2016款奔驰C200L车,搭载274 920发动机,累计行驶里程约为13万km。该车组合仪表上的防侧滑故障灯、转向助力故障灯、安全气囊故障灯等偶尔异常点亮,且此时将挡位置于R挡,中控显示屏提示“后视摄像头不可用”,无法显示倒车影像。 故障诊断用故障检测仪检测,发现多个控制单元中均存储有通信类故障代码(图1),其中故障代码“U015587 与仪表盘的通信存在故障。信息缺失”出现的频次较高。 图1 存储的故障代码1而组合仪表中存储有故障代码“U006488 与用户界
    虹科Pico汽车示波器 2025-04-23 11:22 102浏览
  •   电磁频谱数据综合管理平台系统解析   一、系统定义与目标   北京华盛恒辉电磁频谱数据综合管理平台融合无线传感器、软件定义电台等前沿技术,是实现无线电频谱资源全流程管理的复杂系统。其核心目标包括:优化频谱资源配置,满足多元通信需求;运用动态管理与频谱共享技术,提升资源利用效率;强化频谱安全监管,杜绝非法占用与干扰;为电子战提供频谱监测分析支持,辅助作战决策。   应用案例   目前,已有多个电磁频谱数据综合管理平台在实际应用中取得了显著成效。例如,北京华盛恒辉和北京五木恒润电磁频谱数
    华盛恒辉l58ll334744 2025-04-23 16:27 190浏览
  •   有效样本分析决策系统平台全面解析   一、引言   北京华盛恒辉有效样本分析决策系统在当今数据驱动的时代,企业、科研机构等面临着海量数据的处理与分析挑战。有效样本分析决策系统平台应运而生,它通过对样本数据的精准分析,为决策提供有力支持,成为提升决策质量和效率的关键工具。   应用案例   目前,已有多个有效样本分析决策系统在实际应用中取得了显著成效。例如,北京华盛恒辉和北京五木恒润有效样本分析决策系统。这些成功案例为有效样本分析决策系统的推广和应用提供了有力支持。   二、平台概述
    华盛恒辉l58ll334744 2025-04-24 11:13 89浏览
  •   海上训练与保障调度指挥平台系统解析   北京华盛恒辉海上训练与保障调度指挥平台系统是现代海上作战训练的核心枢纽,融合信息技术、GIS、大数据及 AI 等前沿技术,旨在实现海上训练高效组织、作战保障科学决策。以下从架构功能、应用场景、系统优势及发展挑战展开解读。   应用案例   目前,已有多个海上训练与保障调度指挥平台在实际应用中取得了显著成效。例如,北京华盛恒辉和北京五木恒润海上训练与保障调度指挥平台。这些成功案例为海上训练与保障调度指挥平台的推广和应用提供了有力支持。   一
    华盛恒辉l58ll334744 2025-04-24 15:26 79浏览
  •   陆地装备体系论证与评估综合平台系统解析   北京华盛恒辉陆地装备体系论证与评估综合平台系统是契合现代军事需求而生的专业系统,借助科学化、智能化手段,实现对陆地装备体系的全方位论证与评估,为军事决策和装备发展提供关键支撑。以下从功能、技术、应用及展望展开分析。   应用案例   目前,已有多个陆地装备体系论证与评估综合平台在实际应用中取得了显著成效。例如,北京华盛恒辉和北京五木恒润陆地装备体系论证与评估综合平台。这些成功案例为陆地装备体系论证与评估综合平台的推广和应用提供了有力支持。
    华盛恒辉l58ll334744 2025-04-24 10:53 101浏览
  •   陆地边防事件紧急处置系统平台解析   北京华盛恒辉陆地边防事件紧急处置系统平台是整合监测、预警、指挥等功能的智能化综合系统,致力于增强边防安全管控能力,快速响应各类突发事件。以下从系统架构、核心功能、技术支撑、应用场景及发展趋势展开全面解读。   应用案例   目前,已有多个陆地边防事件紧急处置系统在实际应用中取得了显著成效。例如,北京华盛恒辉和北京五木恒润陆地边防事件紧急处置系统。这些成功案例为陆地边防事件紧急处置系统的推广和应用提供了有力支持。   一、系统架构   感知层:部
    华盛恒辉l58ll334744 2025-04-23 11:22 126浏览
  •   通用装备论证与评估系统平台解析   北京华盛恒辉通用装备论证与评估系统平台是服务军事装备全生命周期管理的综合性信息化平台,通过科学化、系统化手段,实现装备需求论证、效能分析等核心功能,提升装备建设效益。   应用案例   目前,已有多个通用装备论证与评估系统在实际应用中取得了显著成效。例如,北京华盛恒辉和北京五木恒润通用装备论证与评估系统。这些成功案例为通用装备论证与评估系统的推广和应用提供了有力支持。   一、系统分层架构   (一)数据层   整合装备性能、作战、试验等多源异
    华盛恒辉l58ll334744 2025-04-24 16:14 81浏览
  •   航空兵训练与战术对抗仿真平台系统解析   北京华盛恒辉航空兵训练与战术对抗仿真平台系统是现代军事训练的关键工具,借助计算机技术构建虚拟战场,支持多兵种协同作战模拟,为军事决策、训练及装备研发提供科学依据。   应用案例   目前,已有多个航空兵训练与战术对抗仿真平台在实际应用中取得了显著成效。例如,北京华盛恒辉和北京五木恒润航空兵训练与战术对抗仿真平台。这些成功案例为航空兵训练与战术对抗仿真平台的推广和应用提供了有力支持。   一、系统架构与核心功能   系统由模拟器、计算机兵力生
    华盛恒辉l58ll334744 2025-04-24 16:34 90浏览
  •   复杂电磁环境模拟系统平台解析   一、系统概述   北京华盛恒辉复杂电磁环境模拟系统平台是用于还原真实战场或特定场景电磁环境的综合性技术平台。该平台借助软硬件协同运作,能够产生多源、多频段、多体制的电磁信号,并融合空间、时间、频谱等参数,构建高逼真度的电磁环境,为电子对抗、通信、雷达等系统的研发、测试、训练及评估工作提供重要支持。   应用案例   目前,已有多个复杂电磁环境模拟系统在实际应用中取得了显著成效。例如,北京华盛恒辉和北京五木恒润复杂电磁环境模拟系统。这些成功案例为复杂电
    华盛恒辉l58ll334744 2025-04-23 10:29 181浏览
  •   后勤实验仿真系统平台深度解析   北京华盛恒辉后勤实验仿真系统平台依托计算机仿真技术,是对后勤保障全流程进行模拟、分析与优化的综合性工具。通过搭建虚拟场景,模拟资源调配、物资运输等环节,为后勤决策提供数据支撑,广泛应用于军事、应急管理等领域。   应用案例   目前,已有多个后勤实验仿真系统平台在实际应用中取得了显著成效。例如,北京华盛恒辉和北京五木恒润后勤实验仿真系统平台。这些成功案例为后勤实验仿真系统平台的推广和应用提供了有力支持。   一、核心功能   (一)后勤资源模拟
    华盛恒辉l58ll334744 2025-04-23 15:39 168浏览
我要评论
0
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦