眼动追踪传感器选型

原创 云深之无迹 2022-12-14 15:37
我总结了几个可以买的到的传感器,而且也给出了几个传感器的选择标准。
1.高帧率,120Hz是标配
2.体积小巧,满足狭窄环境安装
3.功耗低,满足边缘计算的能力
4.近红外波段敏感,因为要对这个波段进行感光
5.黑白的就行,彩色没有这个必要
我说下为什么用黑白的:
第一,同样大小的像元,黑白传感器可以用较小的曝光时间获取理想的图像,这样可以减弱抖动以及飞行运动造成的影响(实际上NAV相机就是采用控制曝光时间来减弱运动模糊的,这个是VIO);
第二,同样的像素个数,黑白传感器可以比彩色传感器获得更高的空间分辨率,彩色传感器因为颜色插值的原因会使分辨率降低大约30%左右。当然还有别的原因,如黑白图像数据量小,处理起来运算量小,实时性高等。
我推荐的是OVM6211,OVM7251,实验可以使用OV7251.
因为最容易买到的就是OV7251,所以接下来就重点说这个。
首先要知道这个CMOS的像素是30W。
来自豪威科技的OV7251-2B全局快门图像传感器是一款3.0微米的传感器,采用1/7.5英寸光学格式,120fps提供640×480分辨率,并具有单通道MIPI串行输出接口。这个也就是我选择的一个原因。
这款产品同时能够以180 fps提供具有BIN模式的QVGA(320×240),以及以360fps提供具有BIN和SKIP模式的QQQVGA(160×120)。
传感器可提供99.96%的快门效率,并具有光导功能,可改善光捕获的角度响应,从而实现更优秀的光学性能。
利用业界最小的全局快门像素,黑白 OV7251 能够以每秒 120 帧 (fps) 的速度捕获 VGA (640×480) 分辨率视频,以 180 fps 的速度捕获 QVGA (320×240) 视频,以及 QQVGA (160 ×120) 以 360 fps 进行合并和跳跃。OV7251 的高帧率使其成为低延迟机器视觉应用的理想解决方案。
对,这个全局快门我也要写一下:

可以看到这个全局快门在拍运动的物体的时候是很有效的

这个是OV6211

这个是OVM7251

OVM7251表面图

OVM7251有两个版本:

用于AR/VR眼动追踪的850nm模型;支持面部认证中的机器视觉与3D感知的940nm模型。将OVM7251用于支持AR/VR头显实现眼动追踪,设计者可以编程系统集成渲染注视点位置,并降低周围图像的分辨率,从而进一步节省功耗。

另外在Pico 3NEO版本的环境摄像头也是使用的这个模组,就是透视模式使用的摄像头,大家有机器的可以体验一下。

卷帘快门传感器的设计是为了捕捉静态图像和视频拍摄,因此拥有非常高的分辨率和颜色处理能力。但其缺点在于,它是逐行拍摄图像,拍摄和曝光时间过长,如果拍摄对象是汽车这样的快速移动物体,图像可能发生扭曲,而且功耗过高,不适合用于计算机视觉。

而全局快门的原理则完全不同,它是一次拍摄整幅图像,所有像素同时曝光。而且成像效果准确,曝光时间短,功耗也低,未来计算机视觉将走向全局快门。

卷帘快门像素点常见的在1.1微米以下,而全局快门通常在2.2微米以上。

这个OV6211其实是专门设计给眼动追踪的传感器

这个是它的一个帧率参数

1/7.5英寸的OV7251具有多种低功耗模式,包括光感应模式和超低功耗待机模式。在光感测模式下,OV7251 的行为类似于环境光传感器 (ALS),仅当检测到光变化时才将传感器从“睡眠模式”唤醒。同样,在超低功耗模式下,传感器可以降低分辨率和帧率以进一步降低功耗。
让我来总结一下:

这个传感器的输出频率是这样的

我不是很明白,是不是以为数据输出的带宽的原因,不过是可以按照一种固定的模式把感兴趣的图像来输出的。

这种提高帧率的方法叫:开窗方法其中最主要的当属ROI模式(Region of interest),ROI是在成像应用中,在相机传感器分辨范围内定义一个或多个感兴趣的窗口区域,仅对这些窗口内的图像信息进行读出,只获取该局部区域的图像。设定较小的ROI区域可以减少相机传送及计算机需要处理的图像信息量,并提高相机的采集帧率。

SKIP(Skipping mode),这种模式就是按照一定的规律,把想要的数据采集上来,把其余的数据扔掉。如下所示,column skip 2 row skip 2 留下的就是白色的像素,把黑色的像素丢掉。

这种模式会改变原有像元之间的相邻关系,所以对Bayer彩色的相机来说,会造成一定的颜色失真,所以它常见的应用就是预览,在工业实际中应用并不多。
第三种BIN(binning mode),就是把相邻的像素合成一个像素,然后再输出。如下所示,2 bin to 1 所有的像素都参与了新像素的生成。

低照度条件下,选择binning模式图像效果更佳,有点脑子就知道这个的。

这个是具体的OV采样模式

IR cut filter,即红外截止滤光片,它放在于LENS与Sensor之间。因人眼与CMOS Sensor对各波长的响应不同,人眼看不到红外光但sensor会感应,因此需要IR cut filter阻绝红外光。

这个是OV7251

6.5厘米的最小对焦距离有点不太行,太近了,这个是我找的一个模组的信息,不要较真。
输出的是MIPI的一路,妈的,要学的东西好多,头皮有点痒。

现在做demo也是可以的,这个距离

眼球追踪的几个阶段瞳孔检测算法的可视化。

1)眼睛图像转换为灰度、用户感兴趣区域(白色描边矩形)和初始值,瞳孔区域的估计(白色方块和虚线方块),这样的优点就是节省算力。

眼动追踪:梯度法精确定位眼中心(论文),也就是要看我写的这篇文章。

2)Canny边缘检测(绿色线)

3)定义“暗”区域为偏移眼睛图像直方图的最低峰值。

4)过滤边缘以排除光谱反射(黄色),而不是在“暗”区域(蓝色)

5)使用连接的组件提取边缘到轮廓,并根据曲率连续性准则(多色线)分割成子轮廓。

6)候选瞳孔椭圆(蓝色)通过椭圆拟合形成

7)通过增强组合搜索找到最终的椭圆拟合(最终椭圆与红色中心)-支持用白色绘制的边缘像素。

下面是插一个MIPI硬件设计时候的布线参考:

MIPI因为一种高速差分信号的接口,为了保证信号的同步和一致性,必须保证MIPI DP/DN保持等长,无论是线对与线对之间(pair to pair)还是单组信号的DP/DN之间,一般需要遵守的长度规则如下:camera pair to pair 100mil 单组之间:25mil。 在MIPI走线时,一般需要保持DP/DN在走线的过程中保持等距,保证一定的耦合程度,但是需要弄清楚的时,等长的优先级是高于等距的。且在走线时,线对之间要保持2W的距离。

注:MIPI在走线时优先级最高的是匹配等长,其余的都可以实际要求和应用进行灵活处理

LVDS也是我们使用CMOS的时候常见的数据输出接口:Low Voltage Differential Signal(低电压差分信号)

电压很低,1v左右,消耗资源少,差分信号保证抗干扰能力。
接口由1组差分clock和若干组差分信号线组成,既然有CLK,那么LVDS就是同步信号。LVDS的控制信号和数据信号复用接口,CLK是用于同步。既然是复用的,LVDS的协议中也一定有区分控制信号和数据信号的方法。
LVDS主要用于视频传输的两个领域:
camera和主控——视频采集
LCD和主控——视频显示
LVDS利用差分抗干扰能力,提升clock频率从而提升贷款,传输举例也更远,LVDS的时钟频率可以非常高。

话说找到一个MIPI+FPGA的方案商,这个宣传图咋感觉是DJI???

OV7251是很便宜的,做demo合适

这个是OVM7251,做产品合适,但是贵,要100+

这个是深圳一家眼动的厂子的模组,我不知道放这里是不是合适

但是它这个分辨率和帧率真的是看着还不错,不知道是哪款芯片

因为我找到了OV7251的数据手册,那这里也就看一下里面写了什么:

这个OV7xxx,有两个模组,一个是彩色,一个就是我们的这个,灰色的。

850nm正好是起始的波段

这个就是上面我发的图下面的引脚,这个其实对我来说意义不大

这个是MIPI接口下的分辨率和帧率

MIPI的时序

输出的时序控制

这个是使用FPGA的时候数据框图

像素矩阵的排列

除了RAW,也可以输出子采样的图像

硬件设计的时候,注意的参数

这么高的帧率,我们肯定是使用FPGA来处理的:

分辨率:640 x 480

数据格式:10位灰度

帧率:60fps (匹配显示器刷新频率)

通信- 控制接口:SCCB(I2C)

传输接口:1通道LVDS

速率:600Mbps

我们需要通过MCLK给摄像头提供时钟,RESET是复位线,PWDN在摄像头工作时应该始终为低。PCLK是像素时钟,HREF是行参考信号,VSYNC是场同步信号。一旦给摄像头提供了时钟,并且复位摄像头,摄像头就开始工作了,通过HREF,VSYNC和PCLK同步传输数字图像信号。数据是通过D0~D7这八根数据线并行送出的。

CMOS图像数据采集模块,需等待I2C协议对摄像头内部寄存器进行初始化。寄存器全部配置完成后,还需等待10帧数据,此等待10帧数据的目的是等待摄像头工作状态稳定。待寄存器配置生效、摄像头工作状态稳定后再开始采集图像。 

具体地,待等待帧数等于10时,会使能标志信号frame_val_flag,使得OV7251开始对采集的图像数据中相应范围0~76800(340×240)的8位像素点数据经拼接操作,转存到寄存器data2ram中,data2ram将输出拼接后的16位数据到SRAM模块的输入引脚dina。

这个就是一个简单的采集过程。

另外小米8也是使用了这个模组:增加了红外人脸解锁功能,还是依靠了听筒右边的补光灯和型号为OV7251 IR Sensor去实现这样一个功能,先照亮人脸,再去接收黑白的图像,然后再识别解锁。相比以往依靠前摄像头去解锁的话,小米8对于光线环境是没有要求的,这也依靠了红外线的活体检测能力,且同单纯的摄像头来对比,安全性会更高一些。

在这里

这里

这个传感器卖的是真的好!

接下来拆个Huawei P30的主传感器吧~

特写

和我手的比较

放大的CMOS引脚

换另一边

全挑断

破坏一下

全球第一个在华为P30传感器上面刻字的成就

安排

深圳还在下雨,有点回内蒙古的感觉了

https://javaforall.cn/194099.html
https://www.elecfans.com/d/858292.html
https://chuangke18.b2b168.com/s148909725.html
http://www.gowinsemi.com.cn/down.aspx?TypeId=94&Id=82
http://www.gowinsemi.com.cn/down.aspx?TypeId=141&Id=155
http://www.gowinsemi.com.cn/down.aspx?TypeId=139&Id=153
http://www.gowinsemi.com.cn/down.aspx?TypeId=140&Id=557
http://www.gowinsemi.com.cn/down.aspx?TypeId=730&Id=845
http://www.vmaya.com/qnews_m_topic_m_tskey_m_qn7506316096208248038.html
https://laoyaoba.com/n/830321
https://www.techinsights.com/products/pkg-2008-803
https://news.nweon.com/61829
https://blog.csdn.net/qq_28258885/article/details/119208454
https://bbs.elecfans.com/jishu_2067724_1_1.html
https://bbs.elecfans.com/jishu_1588888_1_1.html
https://www.ovt.com/products/ov7251/
http://t.zoukankan.com/ranson7zop-p-8250565.html
https://blog.csdn.net/weixin_39562089/article/details/112627919
https://new.qq.com/rain/a/20191205A05II700?pc
https://www.ovt.com/products/ov7251/

评论
  •   在信号处理过程中,由于信号的时域截断会导致频谱扩展泄露现象。那么导致频谱泄露发生的根本原因是什么?又该采取什么样的改善方法。本文以ADC性能指标的测试场景为例,探讨了对ADC的输出结果进行非周期截断所带来的影响及问题总结。 两个点   为了更好的分析或处理信号,实际应用时需要从频域而非时域的角度观察原信号。但物理意义上只能直接获取信号的时域信息,为了得到信号的频域信息需要利用傅里叶变换这个工具计算出原信号的频谱函数。但对于计算机来说实现这种计算需要面对两个问题: 1.
    TIAN301 2025-01-14 14:15 121浏览
  • 流量传感器是实现对燃气、废气、生活用水、污水、冷却液、石油等各种流体流量精准计量的关键手段。但随着工业自动化、数字化、智能化与低碳化进程的不断加速,采用传统机械式检测方式的流量传感器已不能满足当代流体计量行业对于测量精度、测量范围、使用寿命与维护成本等方面的精细需求。流量传感器的应用场景(部分)超声波流量传感器,是一种利用超声波技术测量流体流量的新型传感器,其主要通过发射超声波信号并接收反射回来的信号,根据超声波在流体中传播的时间、幅度或相位变化等参数,间接计算流体的流量,具有非侵入式测量、高精
    华普微HOPERF 2025-01-13 14:18 511浏览
  • 新年伊始,又到了对去年做总结,对今年做展望的时刻 不知道你在2024年初立的Flag都实现了吗? 2025年对自己又有什么新的期待呢? 2024年注定是不平凡的一年, 一年里我测评了50余块开发板, 写出了很多科普文章, 从一个小小的工作室成长为科工公司。 展望2025年, 中国香河英茂科工, 会继续深耕于,具身机器人、飞行器、物联网等方面的研发, 我觉得,要向未来学习未来, 未来是什么? 是掌握在孩子们生活中的发现,和精历, 把最好的技术带给孩子,
    丙丁先生 2025-01-11 11:35 466浏览
  • ARMv8-A是ARM公司为满足新需求而重新设计的一个架构,是近20年来ARM架构变动最大的一次。以下是对ARMv8-A的详细介绍: 1. 背景介绍    ARM公司最初并未涉足PC市场,其产品主要针对功耗敏感的移动设备。     随着技术的发展和市场需求的变化,ARM开始扩展到企业设备、服务器等领域,这要求其架构能够支持更大的内存和更复杂的计算任务。 2. 架构特点    ARMv8-A引入了Execution State(执行状
    丙丁先生 2025-01-12 10:30 485浏览
  • PNT、GNSS、GPS均是卫星定位和导航相关领域中的常见缩写词,他们经常会被用到,且在很多情况下会被等同使用或替换使用。我们会把定位导航功能测试叫做PNT性能测试,也会叫做GNSS性能测试。我们会把定位导航终端叫做GNSS模块,也会叫做GPS模块。但是实际上他们之间是有一些重要的区别。伴随着技术发展与越发深入,我们有必要对这三个词汇做以清晰的区分。一、什么是GPS?GPS是Global Positioning System(全球定位系统)的缩写,它是美国建立的全球卫星定位导航系统,是GNSS概
    德思特测试测量 2025-01-13 15:42 521浏览
  • 随着数字化的不断推进,LED显示屏行业对4K、8K等超高清画质的需求日益提升。与此同时,Mini及Micro LED技术的日益成熟,推动了间距小于1.2 Pitch的Mini、Micro LED显示屏的快速发展。这类显示屏不仅画质卓越,而且尺寸适中,通常在110至1000英寸之间,非常适合应用于电影院、监控中心、大型会议、以及电影拍摄等多种室内场景。鉴于室内LED显示屏与用户距离较近,因此对于噪音控制、体积小型化、冗余备份能力及电气安全性的要求尤为严格。为满足这一市场需求,开关电源技术推出了专为
    晶台光耦 2025-01-13 10:42 524浏览
  • 根据Global Info Research(环洋市场咨询)项目团队最新调研,预计2030年全球无人机电池和电源产值达到2834百万美元,2024-2030年期间年复合增长率CAGR为10.1%。 无人机电池是为无人机提供动力并使其飞行的关键。无人机使用的电池类型因无人机的大小和型号而异。一些常见的无人机电池类型包括锂聚合物(LiPo)电池、锂离子电池和镍氢(NiMH)电池。锂聚合物电池是最常用的无人机电池类型,因为其能量密度高、设计轻巧。这些电池以输出功率大、飞行时间长而著称。不过,它们需要
    GIRtina 2025-01-13 10:49 211浏览
  • 01. 什么是过程能力分析?过程能力研究利用生产过程中初始一批产品的数据,预测制造过程是否能够稳定地生产符合规格的产品。可以把它想象成一种预测。通过历史数据的分析,推断未来是否可以依赖该工艺持续生产高质量产品。客户可能会要求将过程能力研究作为生产件批准程序 (PPAP) 的一部分。这是为了确保制造过程能够持续稳定地生产合格的产品。02. 基本概念在定义制造过程时,目标是确保生产的零件符合上下规格限 (USL 和 LSL)。过程能力衡量制造过程能多大程度上稳定地生产符合规格的产品。核心概念很简单:
    优思学院 2025-01-12 15:43 551浏览
  • 数字隔离芯片是现代电气工程师在进行电路设计时所必须考虑的一种电子元件,主要用于保护低压控制电路中敏感电子设备的稳定运行与操作人员的人身安全。其不仅能隔离两个或多个高低压回路之间的电气联系,还能防止漏电流、共模噪声与浪涌等干扰信号的传播,有效增强电路间信号传输的抗干扰能力,同时提升电子系统的电磁兼容性与通信稳定性。容耦隔离芯片的典型应用原理图值得一提的是,在电子电路中引入隔离措施会带来传输延迟、功耗增加、成本增加与尺寸增加等问题,而数字隔离芯片的目标就是尽可能消除这些不利影响,同时满足安全法规的要
    华普微HOPERF 2025-01-15 09:48 107浏览
  • 随着通信技术的迅速发展,现代通信设备需要更高效、可靠且紧凑的解决方案来应对日益复杂的系统。中国自主研发和制造的国产接口芯片,正逐渐成为通信设备(从5G基站到工业通信模块)中的重要基石。这些芯片凭借卓越性能、成本效益及灵活性,满足了现代通信基础设施的多样化需求。 1. 接口芯片在通信设备中的关键作用接口芯片作为数据交互的桥梁,是通信设备中不可或缺的核心组件。它们在设备内的各种子系统之间实现无缝数据传输,支持高速数据交换、协议转换和信号调节等功能。无论是5G基站中的数据处理,还是物联网网关
    克里雅半导体科技 2025-01-10 16:20 451浏览
  • 食物浪费已成为全球亟待解决的严峻挑战,并对环境和经济造成了重大影响。最新统计数据显示,全球高达三分之一的粮食在生产过程中损失或被无谓浪费,这不仅导致了资源消耗,还加剧了温室气体排放,并带来了巨大经济损失。全球领先的光学解决方案供应商艾迈斯欧司朗(SIX:AMS)近日宣布,艾迈斯欧司朗基于AS7341多光谱传感器开发的创新应用来解决食物浪费这一全球性难题。其多光谱传感解决方案为农业与食品行业带来深远变革,该技术通过精确判定最佳收获时机,提升质量控制水平,并在整个供应链中有效减少浪费。 在2024
    艾迈斯欧司朗 2025-01-14 18:45 82浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦