写在Lytro十年-杂谈光场相机的不足、优势、应用和展望(上)

ittbank 2023-05-04 17:51

Lytro 公司在2011年向市场推出了第一代光场相机,距今已经过去了近十年。这款号称“一次拍摄,多次对焦”的成像设备,在进行首次商业发布之时,在摄影界、科技界和媒体界都引发了不小的轰动。相比于传统的单反摄影相机,它主打的卖点是不需要繁琐地对焦和寻找摄影角度,单次拍摄后即可得到不同焦深和角度的照片。 


光场相机的发明者、同时也是Lytro的创始人Ren Ng的博士论文获得了ACM Dissertation Award,而他本人也获得了"MIT Tech Review's TR35" ,"Fast Company's 100 Most Creative People in Business" ,"Silicon Valley Journal's 40 under 40" 等一系列称号。光场相机可谓一时风光无限,在被誉为一项颠覆性的技术发明的同时,甚至有人视其为单反相机的历史终结者。


然而十年过去了,负责研发、推广这款产品的公司Lytro在2018年被Google收购了,公司的CEO、同样也是这款相机的发明人Ren Ng选择了重回学术界任职,成为UC Berkeley的一名教授,其他高管则选择启动第二次创业,创立了light field lab做光场全息显示。


尽管在To C端, 光场相机的表现可谓惨不忍睹,使用者的反馈也是恶评如潮,但是在To B端和学术界,光场相机依然延续着比较旺盛的生命力,不仅学术文章在陆续的被发表,拓展光场相机的应用范围,同时国内外少数科技独角兽也将该技术在某些应用领域进行落地(比如德国的Raytrix和国内的上海奕目科技,他们可谓是光场成像在工业应用领域的两大领头羊)。


不仅有高校科研成果转化,比如上海交通大学施圣贤教授成功将光场相机产业化落地,应用于三维流场检测,航空发动机和泛半导体等高端智能制造检测领域;亦有基于光场成像的技术发明获得了国家重大科技进步奖项,世界顶级学术期刊上也可以见到它的身影,比如清华大学的戴琼海课题组,在光场成像的生物医学显微应用上,有着较大的影响。 


这种仿佛是一个技术,在经历着某种兴衰变革,在技术史上不乏某种技术几起几落的兴衰交替的现象,驱使着学界和业界的人们一哄而上、一哄而散,不断参与或者离开某个技术领域。


就光场相机而言,本文试图从纯技术角度去回答一个对该现象反思式的问题:光场相机的优势和劣势在哪里?什么原因使得它被消费者抛弃的同时却又在工业界延续着自己的生命?落地应用的现状如何?本文既是自问自答,也是抛砖引玉,希望各位从事本行业的看官,能多多发表自己的高见。


01

不足篇


欲扬先抑,回顾该设备的不足,也是对光场相机在To B市场逐渐被抛弃的一个回顾和解释。光场相机由于其本身的硬件构造,无法避免的存在三大先天缺陷。


1. 空间分辨率低

 

图1 光场相机结构源于《基于仿生视觉的单相机光场成像及3-3维直接转换基础》


由于光场相机为了采集不同视角的信息,在CCD前放置了一个微透镜阵列。但是相机可以采集的总信息量却是受限于成像芯片上CCD像素的尺寸和数目,角度信息和空间信息的关系可以简单描述为:

信息总量=空间信息x角度信息

两者相互折中和制约,单个视角下的光场图像的大小,等于微透镜阵列中微透镜的个数,由于单个微透镜下的像素数目介于100到200之间,因此微透镜个数相当于原始CCD像素数目的100倍级别的压缩,对于一个1000万像素的光场相机,经过视角信息的折中压缩后,得到的单视角有效像素数目,居然只有十万像素量级!相比起传统单反相机几千万像素的纤毫毕现,这个数量级的空间分辨率,对用于摄影的消费者而言如同玩具。这也是光场相机在消费者市场遇冷到消失的最大因素。即使Lytro后续推出了2.0代光场相机,以进一步压缩角度分辨率的方式来提高空间分辨率,上述问题,依旧没有得到彻底的解决。不过,这个缺陷应该辩证看待,角度信息和空间信息的相对取舍,取决于应用场景。


2. 基线过短


基线问题的长短问题,消费者对其不敏感,然而在宏观成像和测量领域,比如航空摄影测绘、双目立体视觉、卫星遥感成像,却是一个极其重要的参数。



图2 基线和视差关系示意图


在多目视觉中,图像接受者(人,机器)对于深度信息的感知,源于目标在不同相机(眼睛)上的视差,视差大小随着目标物离相机的距离变化。相机之间的距离长度被称为基线长度,在同等距离条件下,基线长度越大,则视差越大,对深度的分辨能力也越高。


对于双目视觉,它的基线长度可以由大致平行布置的两个相机之间的间距表示,而对于光场相机,它的基线长度如何计算?如下图所示,因为每个微透镜都记录着入射点光源的一部分信息,此时你把每个微透镜都当成是一个小相机,那么你就可以直观地得到答案,由于多个“小相机”的存在,光场相机存在多个基线,但是光场相机的最大基线长度,是被点亮的间隔最远的两个微透镜的距离。但是这个基线长度,存在两个特性:首先是基线长度随着点光源的离焦距离变化,离焦平面近的时候,只有少数个微透镜下被点亮,因此最大基线长度比较短,但是离焦平面远的时候,更多的微透镜被点亮,最大基线长度变大(这也是光场相机在焦平面附近,景深分辨率最差的原因);尽管如此,微透镜的基线长度,无法超过CCD芯片尺寸本身。

   

图3:双目视觉和光场相机的基线长度对比


这种差距,和双目视觉对比,尤其明显,比如上图右边的光场基线长度,大致在2~3个微透镜的直径左右。由于光场相机的基线过短,在被测物距离较远的情况下,深度分辨率将会受到很大限制。


3. 相机的动态范围HDR被压缩


利用上一个点光源的分析案例可以发现,当点光源在焦平面附近时,只有少数微透镜被点亮,必然有更多的光能量,集中到少数CCD上;当点光源离焦平面院时,多个微透镜被点亮,即点光源的能量分布更加分散。在这种条件下,为了让相机CCD不过曝或者过暗,被拍摄物体的亮度只能在一个比较小的动态范围内,使得物体离焦近时不至于过曝,离焦远时不至于过暗。

 


上述三大问题,严重限制着光场相机的应用领域,也是光场相机在过去十年,不被消费者所接纳的主要原因。然而,寸有所长,尺有所短,在To B端以及学界,光场相机却有着诸多独特优势,能完成传统成像设备所不能的任务。上述三大不足,在这些应用领域,都得到了相应的克服和一定程度的解决。此外,以动态的目光看,随着像素尺寸的缩小、芯片上像素数目的增长、更高动态范围芯片的出现(甚至有些芯片号称,开发了永远不过曝的技术),上述问题有望得到根本性的解决。


技术的兴衰往往如此,峰回路转又一村,吸引着每一个十年中的人们“Boom and Bust”。


欲知光场相机的独特优势如何,请持续关注《光场视觉》!


ittbank 让电子库存因技术而改变的ITT模式电商平台。引领和适应市场,以共享经济理念的创客及工程师为核心、以免费开放用户生成的数据为基础,为其提供高性价比的应用解决方案和及时精准的供求信息,快速提高产品开发周期和生产直通率、提升电子器件的应用附加值。
评论
  • 村田是目前全球量产硅电容的领先企业,其在2016年收购了法国IPDiA头部硅电容器公司,并于2023年6月宣布投资约100亿日元将硅电容产能提升两倍。以下内容主要来自村田官网信息整理,村田高密度硅电容器采用半导体MOS工艺开发,并使用3D结构来大幅增加电极表面,因此在给定的占位面积内增加了静电容量。村田的硅技术以嵌入非结晶基板的单片结构为基础(单层MIM和多层MIM—MIM是指金属 / 绝缘体/ 金属) 村田硅电容采用先进3D拓扑结构在100um内,使开发的有效静电容量面积相当于80个
    知白 2025-01-07 15:02 155浏览
  • 在智能网联汽车中,各种通信技术如2G/3G/4G/5G、GNSS(全球导航卫星系统)、V2X(车联网通信)等在行业内被广泛使用。这些技术让汽车能够实现紧急呼叫、在线娱乐、导航等多种功能。EMC测试就是为了确保在复杂电磁环境下,汽车的通信系统仍然可以正常工作,保护驾乘者的安全。参考《QCT-基于LTE-V2X直连通信的车载信息交互系统技术要求及试验方法-1》标准10.5电磁兼容试验方法,下面将会从整车功能层面为大家解读V2X整车电磁兼容试验的过程。测试过程揭秘1. 设备准备为了进行电磁兼容试验,技
    北汇信息 2025-01-09 11:24 59浏览
  • HDMI 2.2 规格将至,开启视听新境界2025年1月6日,HDMI Forum, Inc. 宣布即将发布HDMI规范2.2版本。新HDMI规范为规模庞大的 HDMI 生态系统带来更多选择,为创建、分发和体验理想的终端用户效果提供更先进的解决方案。新技术为电视、电影和游戏工作室等内容制作商在当前和未来提供更高质量的选择,同时实现多种分发平台。96Gbps的更高带宽和新一代 HDMI 固定比率速率传输(Fixed Rate Link)技术为各种设备应用提供更优质的音频和视频。终端用户显示器能以最
    百佳泰测试实验室 2025-01-09 17:33 27浏览
  • 1月7日-10日,2025年国际消费电子产品展览会(CES 2025)盛大举行,广和通发布Fibocom AI Stack,赋智千行百业端侧应用。Fibocom AI Stack提供集高性能模组、AI工具链、高性能推理引擎、海量模型、支持与服务一体化的端侧AI解决方案,帮助智能设备快速实现AI能力商用。为适应不同端侧场景的应用,AI Stack具备海量端侧AI模型及行业端侧模型,基于不同等级算力的芯片平台或模组,Fibocom AI Stack可将TensorFlow、PyTorch、ONNX、
    物吾悟小通 2025-01-08 18:17 47浏览
  • 在过去十年中,自动驾驶和高级驾驶辅助系统(AD/ADAS)软件与硬件的快速发展对多传感器数据采集的设计需求提出了更高的要求。然而,目前仍缺乏能够高质量集成多传感器数据采集的解决方案。康谋ADTF正是应运而生,它提供了一个广受认可和广泛引用的软件框架,包含模块化的标准化应用程序和工具,旨在为ADAS功能的开发提供一站式体验。一、ADTF的关键之处!无论是奥迪、大众、宝马还是梅赛德斯-奔驰:他们都依赖我们不断发展的ADTF来开发智能驾驶辅助解决方案,直至实现自动驾驶的目标。从新功能的最初构思到批量生
    康谋 2025-01-09 10:04 47浏览
  • 光伏逆变器是一种高效的能量转换设备,它能够将光伏太阳能板(PV)产生的不稳定的直流电压转换成与市电频率同步的交流电。这种转换后的电能不仅可以回馈至商用输电网络,还能供独立电网系统使用。光伏逆变器在商业光伏储能电站和家庭独立储能系统等应用领域中得到了广泛的应用。光耦合器,以其高速信号传输、出色的共模抑制比以及单向信号传输和光电隔离的特性,在光伏逆变器中扮演着至关重要的角色。它确保了系统的安全隔离、干扰的有效隔离以及通信信号的精准传输。光耦合器的使用不仅提高了系统的稳定性和安全性,而且由于其低功耗的
    晶台光耦 2025-01-09 09:58 36浏览
  • 故障现象一辆2017款东风风神AX7车,搭载DFMA14T发动机,累计行驶里程约为13.7万km。该车冷起动后怠速运转正常,热机后怠速运转不稳,组合仪表上的发动机转速表指针上下轻微抖动。 故障诊断 用故障检测仪检测,发动机控制单元中无故障代码存储;读取发动机数据流,发现进气歧管绝对压力波动明显,有时能达到69 kPa,明显偏高,推断可能的原因有:进气系统漏气;进气歧管绝对压力传感器信号失真;发动机机械故障。首先从节气门处打烟雾,没有发现进气管周围有漏气的地方;接着拔下进气管上的两个真空
    虹科Pico汽车示波器 2025-01-08 16:51 103浏览
  • 在当前人工智能(AI)与物联网(IoT)的快速发展趋势下,各行各业的数字转型与自动化进程正以惊人的速度持续进行。如今企业在设计与营运技术系统时所面临的挑战不仅是技术本身,更包含硬件设施、第三方软件及配件等复杂的外部因素。然而这些系统往往讲究更精密的设计与高稳定性,哪怕是任何一个小小的问题,都可能对整体业务运作造成严重影响。 POS应用环境与客户需求以本次分享的客户个案为例,该客户是一家全球领先的信息技术服务与数字解决方案提供商,遭遇到一个由他们所开发的POS机(Point of Sal
    百佳泰测试实验室 2025-01-09 17:35 26浏览
  • 职场是人生的重要战场,既是谋生之地,也是实现个人价值的平台。然而,有些思维方式却会悄无声息地拖住你的后腿,让你原地踏步甚至退步。今天,我们就来聊聊职场中最忌讳的五种思维方式,看看自己有没有中招。1. 固步自封的思维在职场中,最可怕的事情莫过于自满于现状,拒绝学习和改变。世界在不断变化,行业的趋势、技术的革新都在要求我们与时俱进。如果你总觉得自己的方法最优,或者害怕尝试新事物,那就很容易被淘汰。与其等待机会找上门,不如主动出击,保持学习和探索的心态。加入优思学院,可以帮助你快速提升自己,与行业前沿
    优思学院 2025-01-09 15:48 22浏览
  • 本文介绍编译Android13 ROOT权限固件的方法,触觉智能RK3562开发板演示,搭载4核A53处理器,主频高达2.0GHz;内置独立1Tops算力NPU,可应用于物联网网关、平板电脑、智能家居、教育电子、工业显示与控制等行业。关闭selinux修改此文件("+"号为修改内容)device/rockchip/common/BoardConfig.mkBOARD_BOOT_HEADER_VERSION ?= 2BOARD_MKBOOTIMG_ARGS :=BOARD_PREBUILT_DTB
    Industio_触觉智能 2025-01-08 00:06 105浏览
  • 一个真正的质量工程师(QE)必须将一件产品设计的“意图”与系统的可制造性、可服务性以及资源在现实中实现设计和产品的能力结合起来。所以,可以说,这确实是一种工程学科。我们常开玩笑说,质量工程师是工程领域里的「侦探」、「警察」或「律师」,守护神是"墨菲”,信奉的哲学就是「墨菲定律」。(注:墨菲定律是一种启发性原则,常被表述为:任何可能出错的事情最终都会出错。)做质量工程师的,有时会不受欢迎,也会被忽视,甚至可能遭遇主动或被动的阻碍,而一旦出了问题,责任往往就落在质量工程师的头上。虽然质量工程师并不负
    优思学院 2025-01-09 11:48 71浏览
  •  在全球能源结构加速向清洁、可再生方向转型的今天,风力发电作为一种绿色能源,已成为各国新能源发展的重要组成部分。然而,风力发电系统在复杂的环境中长时间运行,对系统的安全性、稳定性和抗干扰能力提出了极高要求。光耦(光电耦合器)作为一种电气隔离与信号传输器件,凭借其优秀的隔离保护性能和信号传输能力,已成为风力发电系统中不可或缺的关键组件。 风力发电系统对隔离与控制的需求风力发电系统中,包括发电机、变流器、变压器和控制系统等多个部分,通常工作在高压、大功率的环境中。光耦在这里扮演了
    晶台光耦 2025-01-08 16:03 83浏览
  • 根据环洋市场咨询(Global Info Research)项目团队最新调研,预计2030年全球中空长航时无人机产值达到9009百万美元,2024-2030年期间年复合增长率CAGR为8.0%。 环洋市场咨询机构出版了的【全球中空长航时无人机行业总体规模、主要厂商及IPO上市调研报告,2025-2031】研究全球中空长航时无人机总体规模,包括产量、产值、消费量、主要生产地区、主要生产商及市场份额,同时分析中空长航时无人机市场主要驱动因素、阻碍因素、市场机遇、挑战、新产品发布等。报告从中空长航时
    GIRtina 2025-01-09 10:35 40浏览
  • 「他明明跟我同梯进来,为什么就是升得比我快?」许多人都有这样的疑问:明明就战绩也不比隔壁同事差,升迁之路却比别人苦。其实,之间的差异就在于「领导力」。並非必须当管理者才需要「领导力」,而是散发领导力特质的人,才更容易被晓明。许多领导力和特质,都可以通过努力和学习获得,因此就算不是天生的领导者,也能成为一个具备领导魅力的人,进而被老板看见,向你伸出升迁的橘子枝。领导力是什么?领导力是一种能力或特质,甚至可以说是一种「影响力」。好的领导者通常具备影响和鼓励他人的能力,并导引他们朝着共同的目标和愿景前
    优思学院 2025-01-08 14:54 90浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦