写在Lytro十年-杂谈光场相机的不足、优势、应用和展望(上)

ittbank 2023-05-04 17:51

Lytro 公司在2011年向市场推出了第一代光场相机,距今已经过去了近十年。这款号称“一次拍摄,多次对焦”的成像设备,在进行首次商业发布之时,在摄影界、科技界和媒体界都引发了不小的轰动。相比于传统的单反摄影相机,它主打的卖点是不需要繁琐地对焦和寻找摄影角度,单次拍摄后即可得到不同焦深和角度的照片。 


光场相机的发明者、同时也是Lytro的创始人Ren Ng的博士论文获得了ACM Dissertation Award,而他本人也获得了"MIT Tech Review's TR35" ,"Fast Company's 100 Most Creative People in Business" ,"Silicon Valley Journal's 40 under 40" 等一系列称号。光场相机可谓一时风光无限,在被誉为一项颠覆性的技术发明的同时,甚至有人视其为单反相机的历史终结者。


然而十年过去了,负责研发、推广这款产品的公司Lytro在2018年被Google收购了,公司的CEO、同样也是这款相机的发明人Ren Ng选择了重回学术界任职,成为UC Berkeley的一名教授,其他高管则选择启动第二次创业,创立了light field lab做光场全息显示。


尽管在To C端, 光场相机的表现可谓惨不忍睹,使用者的反馈也是恶评如潮,但是在To B端和学术界,光场相机依然延续着比较旺盛的生命力,不仅学术文章在陆续的被发表,拓展光场相机的应用范围,同时国内外少数科技独角兽也将该技术在某些应用领域进行落地(比如德国的Raytrix和国内的上海奕目科技,他们可谓是光场成像在工业应用领域的两大领头羊)。


不仅有高校科研成果转化,比如上海交通大学施圣贤教授成功将光场相机产业化落地,应用于三维流场检测,航空发动机和泛半导体等高端智能制造检测领域;亦有基于光场成像的技术发明获得了国家重大科技进步奖项,世界顶级学术期刊上也可以见到它的身影,比如清华大学的戴琼海课题组,在光场成像的生物医学显微应用上,有着较大的影响。 


这种仿佛是一个技术,在经历着某种兴衰变革,在技术史上不乏某种技术几起几落的兴衰交替的现象,驱使着学界和业界的人们一哄而上、一哄而散,不断参与或者离开某个技术领域。


就光场相机而言,本文试图从纯技术角度去回答一个对该现象反思式的问题:光场相机的优势和劣势在哪里?什么原因使得它被消费者抛弃的同时却又在工业界延续着自己的生命?落地应用的现状如何?本文既是自问自答,也是抛砖引玉,希望各位从事本行业的看官,能多多发表自己的高见。


01

不足篇


欲扬先抑,回顾该设备的不足,也是对光场相机在To B市场逐渐被抛弃的一个回顾和解释。光场相机由于其本身的硬件构造,无法避免的存在三大先天缺陷。


1. 空间分辨率低

 

图1 光场相机结构源于《基于仿生视觉的单相机光场成像及3-3维直接转换基础》


由于光场相机为了采集不同视角的信息,在CCD前放置了一个微透镜阵列。但是相机可以采集的总信息量却是受限于成像芯片上CCD像素的尺寸和数目,角度信息和空间信息的关系可以简单描述为:

信息总量=空间信息x角度信息

两者相互折中和制约,单个视角下的光场图像的大小,等于微透镜阵列中微透镜的个数,由于单个微透镜下的像素数目介于100到200之间,因此微透镜个数相当于原始CCD像素数目的100倍级别的压缩,对于一个1000万像素的光场相机,经过视角信息的折中压缩后,得到的单视角有效像素数目,居然只有十万像素量级!相比起传统单反相机几千万像素的纤毫毕现,这个数量级的空间分辨率,对用于摄影的消费者而言如同玩具。这也是光场相机在消费者市场遇冷到消失的最大因素。即使Lytro后续推出了2.0代光场相机,以进一步压缩角度分辨率的方式来提高空间分辨率,上述问题,依旧没有得到彻底的解决。不过,这个缺陷应该辩证看待,角度信息和空间信息的相对取舍,取决于应用场景。


2. 基线过短


基线问题的长短问题,消费者对其不敏感,然而在宏观成像和测量领域,比如航空摄影测绘、双目立体视觉、卫星遥感成像,却是一个极其重要的参数。



图2 基线和视差关系示意图


在多目视觉中,图像接受者(人,机器)对于深度信息的感知,源于目标在不同相机(眼睛)上的视差,视差大小随着目标物离相机的距离变化。相机之间的距离长度被称为基线长度,在同等距离条件下,基线长度越大,则视差越大,对深度的分辨能力也越高。


对于双目视觉,它的基线长度可以由大致平行布置的两个相机之间的间距表示,而对于光场相机,它的基线长度如何计算?如下图所示,因为每个微透镜都记录着入射点光源的一部分信息,此时你把每个微透镜都当成是一个小相机,那么你就可以直观地得到答案,由于多个“小相机”的存在,光场相机存在多个基线,但是光场相机的最大基线长度,是被点亮的间隔最远的两个微透镜的距离。但是这个基线长度,存在两个特性:首先是基线长度随着点光源的离焦距离变化,离焦平面近的时候,只有少数个微透镜下被点亮,因此最大基线长度比较短,但是离焦平面远的时候,更多的微透镜被点亮,最大基线长度变大(这也是光场相机在焦平面附近,景深分辨率最差的原因);尽管如此,微透镜的基线长度,无法超过CCD芯片尺寸本身。

   

图3:双目视觉和光场相机的基线长度对比


这种差距,和双目视觉对比,尤其明显,比如上图右边的光场基线长度,大致在2~3个微透镜的直径左右。由于光场相机的基线过短,在被测物距离较远的情况下,深度分辨率将会受到很大限制。


3. 相机的动态范围HDR被压缩


利用上一个点光源的分析案例可以发现,当点光源在焦平面附近时,只有少数微透镜被点亮,必然有更多的光能量,集中到少数CCD上;当点光源离焦平面院时,多个微透镜被点亮,即点光源的能量分布更加分散。在这种条件下,为了让相机CCD不过曝或者过暗,被拍摄物体的亮度只能在一个比较小的动态范围内,使得物体离焦近时不至于过曝,离焦远时不至于过暗。

 


上述三大问题,严重限制着光场相机的应用领域,也是光场相机在过去十年,不被消费者所接纳的主要原因。然而,寸有所长,尺有所短,在To B端以及学界,光场相机却有着诸多独特优势,能完成传统成像设备所不能的任务。上述三大不足,在这些应用领域,都得到了相应的克服和一定程度的解决。此外,以动态的目光看,随着像素尺寸的缩小、芯片上像素数目的增长、更高动态范围芯片的出现(甚至有些芯片号称,开发了永远不过曝的技术),上述问题有望得到根本性的解决。


技术的兴衰往往如此,峰回路转又一村,吸引着每一个十年中的人们“Boom and Bust”。


欲知光场相机的独特优势如何,请持续关注《光场视觉》!


ittbank 让电子库存因技术而改变的ITT模式电商平台。引领和适应市场,以共享经济理念的创客及工程师为核心、以免费开放用户生成的数据为基础,为其提供高性价比的应用解决方案和及时精准的供求信息,快速提高产品开发周期和生产直通率、提升电子器件的应用附加值。
评论
  • 当前,智能汽车产业迎来重大变局,随着人工智能、5G、大数据等新一代信息技术的迅猛发展,智能网联汽车正呈现强劲发展势头。11月26日,在2024紫光展锐全球合作伙伴大会汽车电子生态论坛上,紫光展锐与上汽海外出行联合发布搭载紫光展锐A7870的上汽海外MG量产车型,并发布A7710系列UWB数字钥匙解决方案平台,可应用于数字钥匙、活体检测、脚踢雷达、自动泊车等多种智能汽车场景。 联合发布量产车型,推动汽车智能化出海紫光展锐与上汽海外出行达成战略合作,联合发布搭载紫光展锐A7870的量产车型
    紫光展锐 2024-12-03 11:38 112浏览
  •         温度传感器的精度受哪些因素影响,要先看所用的温度传感器输出哪种信号,不同信号输出的温度传感器影响精度的因素也不同。        现在常用的温度传感器输出信号有以下几种:电阻信号、电流信号、电压信号、数字信号等。以输出电阻信号的温度传感器为例,还细分为正温度系数温度传感器和负温度系数温度传感器,常用的铂电阻PT100/1000温度传感器就是正温度系数,就是说随着温度的升高,输出的电阻值会增大。对于输出
    锦正茂科技 2024-12-03 11:50 123浏览
  • TOF多区传感器: ND06   ND06是一款微型多区高集成度ToF测距传感器,其支持24个区域(6 x 4)同步测距,测距范围远达5m,具有测距范围广、精度高、测距稳定等特点。适用于投影仪的无感自动对焦和梯形校正、AIoT、手势识别、智能面板和智能灯具等多种场景。                 如果用ND06进行手势识别,只需要经过三个步骤: 第一步&
    esad0 2024-12-04 11:20 68浏览
  • 《高速PCB设计经验规则应用实践》+PCB绘制学习与验证读书首先看目录,我感兴趣的是这一节;作者在书中列举了一条经典规则,然后进行详细分析,通过公式推导图表列举说明了传统的这一规则是受到电容加工特点影响的,在使用了MLCC陶瓷电容后这一条规则已经不再实用了。图书还列举了高速PCB设计需要的专业工具和仿真软件,当然由于篇幅所限,只是介绍了一点点设计步骤;我最感兴趣的部分还是元件布局的经验规则,在这里列举如下:在这里,演示一下,我根据书本知识进行电机驱动的布局:这也算知行合一吧。对于布局书中有一句:
    wuyu2009 2024-11-30 20:30 134浏览
  • 11-29学习笔记11-29学习笔记习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习笔记&记录学习习笔记&记学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&学习学习笔记&记录学习学习笔记&记录学习学习笔记&记
    youyeye 2024-12-02 23:58 81浏览
  • 遇到部分串口工具不支持1500000波特率,这时候就需要进行修改,本文以触觉智能RK3562开发板修改系统波特率为115200为例,介绍瑞芯微方案主板Linux修改系统串口波特率教程。温馨提示:瑞芯微方案主板/开发板串口波特率只支持115200或1500000。修改Loader打印波特率查看对应芯片的MINIALL.ini确定要修改的bin文件#查看对应芯片的MINIALL.ini cat rkbin/RKBOOT/RK3562MINIALL.ini修改uart baudrate参数修改以下目
    Industio_触觉智能 2024-12-03 11:28 95浏览
  • 光伏逆变器是一种高效的能量转换设备,它能够将光伏太阳能板(PV)产生的不稳定的直流电压转换成与市电频率同步的交流电。这种转换后的电能不仅可以回馈至商用输电网络,还能供独立电网系统使用。光伏逆变器在商业光伏储能电站和家庭独立储能系统等应用领域中得到了广泛的应用。光耦合器,以其高速信号传输、出色的共模抑制比以及单向信号传输和光电隔离的特性,在光伏逆变器中扮演着至关重要的角色。它确保了系统的安全隔离、干扰的有效隔离以及通信信号的精准传输。光耦合器的使用不仅提高了系统的稳定性和安全性,而且由于其低功耗的
    晶台光耦 2024-12-02 10:40 130浏览
  • 戴上XR眼镜去“追龙”是种什么体验?2024年11月30日,由上海自然博物馆(上海科技馆分馆)与三湘印象联合出品、三湘印象旗下观印象艺术发展有限公司(下简称“观印象”)承制的《又见恐龙》XR嘉年华在上海自然博物馆重磅开幕。该体验项目将于12月1日正式对公众开放,持续至2025年3月30日。双向奔赴,恐龙IP撞上元宇宙不久前,上海市经济和信息化委员会等部门联合印发了《上海市超高清视听产业发展行动方案》,特别提到“支持博物馆、主题乐园等场所推动超高清视听技术应用,丰富线下文旅消费体验”。作为上海自然
    电子与消费 2024-11-30 22:03 98浏览
  • 作为优秀工程师的你,已身经百战、阅板无数!请先醒醒,新的项目来了,这是一个既要、又要、还要的产品需求,ARM核心板中一个处理器怎么能实现这么丰富的外围接口?踌躇之际,你偶阅此文。于是,“潘多拉”的魔盒打开了!没错,USB资源就是你打开新世界得钥匙,它能做哪些扩展呢?1.1  USB扩网口通用ARM处理器大多带两路网口,如果项目中有多路网路接口的需求,一般会选择在主板外部加交换机/路由器。当然,出于成本考虑,也可以将Switch芯片集成到ARM核心板或底板上,如KSZ9897、
    万象奥科 2024-12-03 10:24 78浏览
  • 概述 说明(三)探讨的是比较器一般带有滞回(Hysteresis)功能,为了解决输入信号转换速率不够的问题。前文还提到,即便使能滞回(Hysteresis)功能,还是无法解决SiPM读出测试系统需要解决的问题。本文在说明(三)的基础上,继续探讨为SiPM读出测试系统寻求合适的模拟脉冲检出方案。前四代SiPM使用的高速比较器指标缺陷 由于前端模拟信号属于典型的指数脉冲,所以下降沿转换速率(Slew Rate)过慢,导致比较器检出出现不必要的问题。尽管比较器可以使能滞回(Hysteresis)模块功
    coyoo 2024-12-03 12:20 133浏览
  • 最近几年,新能源汽车愈发受到消费者的青睐,其销量也是一路走高。据中汽协公布的数据显示,2024年10月,新能源汽车产销分别完成146.3万辆和143万辆,同比分别增长48%和49.6%。而结合各家新能源车企所公布的销量数据来看,比亚迪再度夺得了销冠宝座,其10月新能源汽车销量达到了502657辆,同比增长66.53%。众所周知,比亚迪是新能源汽车领域的重要参与者,其一举一动向来为外界所关注。日前,比亚迪汽车旗下品牌方程豹汽车推出了新车方程豹豹8,该款车型一上市就迅速吸引了消费者的目光,成为SUV
    刘旷 2024-12-02 09:32 123浏览
  • RDDI-DAP错误通常与调试接口相关,特别是在使用CMSIS-DAP协议进行嵌入式系统开发时。以下是一些可能的原因和解决方法: 1. 硬件连接问题:     检查调试器(如ST-Link)与目标板之间的连接是否牢固。     确保所有必要的引脚都已正确连接,没有松动或短路。 2. 电源问题:     确保目标板和调试器都有足够的电源供应。     检查电源电压是否符合目标板的规格要求。 3. 固件问题: &n
    丙丁先生 2024-12-01 17:37 102浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦