AppleVisionPro发布,眼动追踪是时候迎接众人目光

MEMS 2023-06-07 00:02




眼睛说话的雄辩和真实,胜过于言语。

——塔克曼



文|感光现象 


WWDC23上,Apple Vision Pro发布,空间计算革命开启,也带火了眼动追踪!



*图源网络



事实上,大脑中大约有80%的知识都是通过眼睛获取的。


眼睛是注意的窗口,人类利用该视觉系统可以从外界获取大量的信息,由此产生的眼动特征能提示人们的认知规律。


“眼动追踪”,最早是作为心理学研究的一项技术,可以实时、准确地记录人们观察场景信息时的眼球运动情况。现在,眼动追踪作为一种科学技术手段,已被广泛地运用于各个领域之中。


1

被低估的眼动追踪技术


设想一下。


你是否会给你的视野加上各种滤镜?如果阴天让你心情不好,你是否会选择用一个晴天滤镜替换它?窗外那一排建筑,你想不想换成一条大瀑布?还有这无尽的混凝土城市,希望它成为一片郁郁葱葱吗?


如果每天都能看到或者和这些令人愉快的个性化场景进行交互,并且只需要动动眼睛就行,你觉得怎么样?


作为一名科幻作者和设计者,Damien Lutz擅长对未来的科技进行详细设计,在其小说《The Lenz》中,他研究了用眼睛控制的增强现实隐形眼镜,可以让人全天候获得100%的增强视场。


虽然现在有少量关于眼动控制技术的界面或者研究文章,但真正的消费级产品还没有被定义。那么这样100%视场、全天候、眼动控制的增强现实界面会是什么样子的呢?如果这样的技术成为现实,我们的注视以及与我们交互的场景会不会成为价值连城的新数据源呢?


   

正如艾迈斯欧司朗的市场经理Monica所说,“我们的眼睛是人体的头号传感器,而以此延伸的注意力计算在消费者和工业领域都在不断增长。”


事实上,业界一直认为,AR/VR设备发展至今以来,眼动追踪技术一直是被XR行业低估的技术。


2

眼动追踪,关注你的“关注”


利用传感捕获、提取眼球特征信息、测量眼睛的运动情况,估计视线方向或眼睛注视点位置,预测用户的状态和需求,并进行响应和交互……眼动追踪技术研究的主要方向即眼球的注视点看向哪里、何时看、看多久,并以此为依据去捕捉用户情绪。


相比最原始的眼电图EOG法、巩膜搜索线圈法以及当下大厂或头部公司还在探索尝试的创新技术路径,比如眼睛影响捕获、通过视网膜影像变化、图像计算进行注视点追踪、视网膜-角膜反射法等,目前最普遍的眼动追踪技术还是瞳孔角膜反射法:即通过低功率主动近红外照射人眼,使用传感阵列捕捉近红外图像,处理近红外信号获得眼部特征,估算注视方向、注视点。


*图源:璞跃中国移动出行团队


而视线追踪仪、移动终端眼动仪、AR/VR设备、可穿戴眼动仪为4大类眼动追踪硬件应用的主流设备。


这4类硬件产品多采用基于红外光的瞳孔角膜反射法,各有优劣:视线追踪仪精度最高、可视范围大,能保证头部运动空间,应用在驾驶研究、飞行器、实验室固定场景应用;可移动的眼动仪适用更小显示屏幕,可以随身携带,实时收集定量化眼动数据并分析;VR/AR设备,主要应用在游戏和医疗环境等领域,但现阶段应用场景非刚需且定价高。


由于艾迈斯欧司朗本身在传感、光源、可视化领域的深厚积累,加之感受到了市场和客户的紧迫需求,AR/VR也是其近年来发力的重点领域。


“将各项技术优势整合起来,我们能为AR/VR提供屏幕管理、眼动追踪、手势识别、近眼显示、佩戴检测等等这些维度的解决方案,”Monica介绍道,“但若要想为消费者带来良好的交互体验,眼动追踪必不可少。”



“在AR/VR设备中,眼动追踪的系统包含近红外光源、高分辨率摄像头、以及图像处理相关的算法,三足鼎立,缺一不可,”Monica补充道。


如此,才能保证当用户通过AR/VR系统看世界的时候,这个系统也反过来在看你,观察你。只有这个系统读懂了你,知道你的眼睛正在盯着什么地方,它才能更好地完成动感交互,更好地实现用户体验。


目前,仅近红外光源,艾迈斯欧司朗就提供6款超小尺寸的红外LED,覆盖850nm和940nm波长。其中,850nm产品具有摄像头高敏感性,940nm波段则可以更好弱化红暴现象。同时,在不同封装尺寸、贴片方向和发光角度方面,艾迈斯欧司朗也给客户提供了更多灵活选择。



而在图像传感器维度,艾迈斯欧司朗的Mira系列传感器一直备受关注。以Mira220为例,这是一款220万像素全局快门式传感器,拥有高量子效率,可搭配使用低功率发射器,无惧昏暗的照明条件,兼具低功耗和小尺寸特点,非常适用于AR/VR设备、智能眼镜、无人机及其他消费及工业应用。



眼动追踪方案需求对接

🎁:如果您对艾迈斯欧司朗的眼动追踪方案有需求,请扫描左侧二维码填写需求表,我们将尽快为您匹配!




3

眼动追踪技术加速落地AR/VR设备


多年来,眼动追踪一直被认为是AR/VR一项遥远的技术。伴随着以 Tobii、七鑫易维为代表的供应链技术的成熟,AR/VR开发需求的叠加,从 2022 年以来,越来越多的AR/VR设备开始配备眼动追踪技术,PS VR 2、Quest Pro、Vive Pro Eye 和 PICO 4 Pro 是目前AR/VR消费市场中最典型的商用案例。


而在这之前,不少大厂已经开启了技术布局,根据公开信息梳理:


  • 2014年末,三星投资了FOVE,主打眼动追踪的VR头盔;

  • 2016年10月,Google收购专注于眼动追踪的初创公司Eyefluence,布局AR交互;

  • 2017年初Facebook旗下Oculus确认收购TheEye Tribe,将眼动追踪技术用于改善产品;

  • 2017年6月,苹果公司收购了德国计算机视觉公司SensoMotoric Instruments(SMI),致力于打造苹果XR设备;


此外,高通和英伟达则选择与七鑫易维合作,专注VR底层的优化;另一方面巨头们也一直源源不断地提供在AR智能眼镜上眼动追踪技术实施方案的国际专利。



通过AR/VR设备的眼动追踪技术不仅可以真正实现“既见即所得”,或许未来有某种可能,眼动追踪可以成为AR/VR移动终端的流量入口,眼动追踪不仅可以第一时间获取用户的需求,而且还可能开创一种全新的用户数据类型-眼动数据,眼动数据可以记录大量用户平时间的感兴趣的物体图像。


在由璞跃中国移动出行团队整理的“眼动追踪算法层面关注的十大常用指标”中,注视点的分析和AOI(兴趣区Area of Interest)的序列分析被列为眼动追踪分析系统的重点。


*图源:璞跃中国移动出行团队


近两年,眼动追踪技术落地势头猛烈,预测在未来几年内或可看到该技术成为消费级 VR/AR设备的标配。



4

更多想象,不止注视点渲染


注视点渲染(Foveated Rendering)是大多数人对于眼动追踪技术的第一印象,它旨在降低显示要求苛刻的AR/VR场景所需的算力。


注视点渲染旨在通过仅在人眼中央凹看到的区域以高分辨率渲染虚拟场景,利用人类视觉特性,大幅降低周边视觉中无法仔细分辨的细节场景显示质量。这样做可以让我们将AR/VR设备大部分处理能力集中在对画面细节贡献最大的地方,同时在其他地方节省运算资源。


*图源网络


特别是后期伴随AR/VR设备显示分辨率和FOV的提高,渲染复杂场景所需的功率也会相应提升。此时眼动追踪自然会发挥出最大的作用,成为提高近眼显示质量和节省设备资源的最佳调解器。


虽然注视点渲染是眼动追踪在AR和VR头戴式设备中的一个令人兴奋的技术场景,但眼动追踪的作用不仅于此。基于眼动追踪技术与更多AR/VR软硬件的“串联”,可以开启更多产品功能,显著提高用户体验:


注视点显示,提高分辨率质量:注视点显示不是仅仅是改变屏幕显示中某些部分的渲染细节,而是实时跟踪渲染,无论用户看向哪里,它都始终保持在用户视线的前面。


眼神交互带来更自然的XR社交:精确的眼动追踪数据可以很容易地应用于VR数字化身,以表示用户何时眨眼睛,以及他们在看哪里。它还可以解锁有意识和无意识的非语言交流,甚至可以用来推断一些情绪,而这些情绪可能会反映在化身的脸上。


比如以社交起家的Meta一直在推动次时代VR硬件上的社交,如Quest Pro就具有眼动追踪和面部追踪功能,为虚拟形象带来了更真实的表达。


个体识别、XR支付、自动IPD调整:除了检测眼球运动外,眼动追踪还可以用作生物识别符。这也使得眼动追踪成为单设备、多用户差异化账户配置的理想选择——当不同用户戴上 XR 头戴设备时,系统可以加载他们对应的偏好设置和应用数据。当然,这里涉及在眼动追踪模组中加载其他生物识别算法(如虹膜识别)。


此外,眼动追踪还可用于精确测量IPD(瞳距),这对XR设备尤为重要,因为需要将镜头和显示器移动到最佳位置,方能使用户获得舒适的视觉效果。


意图理解与分析,适用于VR游戏开发:同时,通过用户眼球的追踪,眼动追踪对于被动地理解玩家的意图和注意力也非常有用。


除了这种实时的意图理解,眼动追踪对分析也非常有用。通过收集有关用户正在查看的内容和时间的数据,开发人员可以更深入地了解他们的应用程序是如何被使用的。


主动输入:远距离抓物,提升交互效率:当然,眼动追踪对于主动输入也很有用,允许用户有意识地利用他们的目光使游戏任务更容易完成。可以预测,当XR成为一个真正高效的通用计算平台时,眼动追踪输入将发挥重要作用。


动态变焦:当前的 VR/AR/MR头戴式显示设备经常存在所谓的视觉辐辏调节冲突(vergence-accommodation conflict,简称“VAC”),通常立体图像能够驱动用户的人类视觉系统的聚散状态至任意距离,但在头显中用户眼睛的调节或聚集状态被光学系统驱动到了一个固定的距离,因而会导致人眼疲劳,甚至是恶心和头痛。


而实现这种可驱动的变焦显示器正需要眼动追踪,通过从用户的每只眼睛追踪进入虚拟场景的路径,系统可以找到这些路径的交点,从而建立用户正在查看的正确焦平面。



5

更多应用,不止AR/VR设备


事实上,除了AR/VR行业,在汽车座舱内,眼动追踪也有较大的应用前景。眼动追踪与车的结合,目前还在比较创新、试点验证的阶段,尚未量产上车。


从场景上看,可以分为三类:驾驶员认知情况检测、多模态的交互、车辆控制反馈。其中能应用于眼动相关的技术点都与交互和检测、控制相关。比如车辆控制上,可以通过注视点判断、注视时长控制车窗高度,提高仪表亮度等。此外,例如还可将眼动追踪和DMS系统融合,用于检测驾驶员的注意力。


随着眼动追踪技术及产品的成熟发展,会倒逼一级供应商及车机、车规级摄像头产商考虑眼动跟踪的需求,在成本核算有较大盈利空间的前提下,配合车企做创新性的产品,因此也有较大的应用市场空间。


此外,眼动追踪在医疗保健和研究领域也有广泛的应用,例如有些公司正在使用带有眼动追踪功能的头戴设备来检测脑震荡,据称可以提高现场诊断的效率。


延伸阅读:
《增强现实/虚拟现实/混合现实技术及市场趋势-2022版》
《AR/VR/MR光学元件技术及市场-2022版》


MEMS 中国首家MEMS咨询服务平台——麦姆斯咨询(MEMS Consulting)
评论
  • 随着数字化的不断推进,LED显示屏行业对4K、8K等超高清画质的需求日益提升。与此同时,Mini及Micro LED技术的日益成熟,推动了间距小于1.2 Pitch的Mini、Micro LED显示屏的快速发展。这类显示屏不仅画质卓越,而且尺寸适中,通常在110至1000英寸之间,非常适合应用于电影院、监控中心、大型会议、以及电影拍摄等多种室内场景。鉴于室内LED显示屏与用户距离较近,因此对于噪音控制、体积小型化、冗余备份能力及电气安全性的要求尤为严格。为满足这一市场需求,开关电源技术推出了专为
    晶台光耦 2025-01-13 10:42 522浏览
  • ARMv8-A是ARM公司为满足新需求而重新设计的一个架构,是近20年来ARM架构变动最大的一次。以下是对ARMv8-A的详细介绍: 1. 背景介绍    ARM公司最初并未涉足PC市场,其产品主要针对功耗敏感的移动设备。     随着技术的发展和市场需求的变化,ARM开始扩展到企业设备、服务器等领域,这要求其架构能够支持更大的内存和更复杂的计算任务。 2. 架构特点    ARMv8-A引入了Execution State(执行状
    丙丁先生 2025-01-12 10:30 485浏览
  • PNT、GNSS、GPS均是卫星定位和导航相关领域中的常见缩写词,他们经常会被用到,且在很多情况下会被等同使用或替换使用。我们会把定位导航功能测试叫做PNT性能测试,也会叫做GNSS性能测试。我们会把定位导航终端叫做GNSS模块,也会叫做GPS模块。但是实际上他们之间是有一些重要的区别。伴随着技术发展与越发深入,我们有必要对这三个词汇做以清晰的区分。一、什么是GPS?GPS是Global Positioning System(全球定位系统)的缩写,它是美国建立的全球卫星定位导航系统,是GNSS概
    德思特测试测量 2025-01-13 15:42 521浏览
  • 随着全球向绿色能源转型的加速,对高效、可靠和环保元件的需求从未如此强烈。在这种背景下,国产固态继电器(SSR)在实现太阳能逆变器、风力涡轮机和储能系统等关键技术方面发挥着关键作用。本文探讨了绿色能源系统背景下中国固态继电器行业的前景,并强调了2025年的前景。 1.对绿色能源解决方案日益增长的需求绿色能源系统依靠先进的电源管理技术来最大限度地提高效率并最大限度地减少损失。固态继电器以其耐用性、快速开关速度和抗机械磨损而闻名,正日益成为传统机电继电器的首选。可再生能源(尤其是太阳能和风能
    克里雅半导体科技 2025-01-10 16:18 333浏览
  • 随着通信技术的迅速发展,现代通信设备需要更高效、可靠且紧凑的解决方案来应对日益复杂的系统。中国自主研发和制造的国产接口芯片,正逐渐成为通信设备(从5G基站到工业通信模块)中的重要基石。这些芯片凭借卓越性能、成本效益及灵活性,满足了现代通信基础设施的多样化需求。 1. 接口芯片在通信设备中的关键作用接口芯片作为数据交互的桥梁,是通信设备中不可或缺的核心组件。它们在设备内的各种子系统之间实现无缝数据传输,支持高速数据交换、协议转换和信号调节等功能。无论是5G基站中的数据处理,还是物联网网关
    克里雅半导体科技 2025-01-10 16:20 451浏览
  • 流量传感器是实现对燃气、废气、生活用水、污水、冷却液、石油等各种流体流量精准计量的关键手段。但随着工业自动化、数字化、智能化与低碳化进程的不断加速,采用传统机械式检测方式的流量传感器已不能满足当代流体计量行业对于测量精度、测量范围、使用寿命与维护成本等方面的精细需求。流量传感器的应用场景(部分)超声波流量传感器,是一种利用超声波技术测量流体流量的新型传感器,其主要通过发射超声波信号并接收反射回来的信号,根据超声波在流体中传播的时间、幅度或相位变化等参数,间接计算流体的流量,具有非侵入式测量、高精
    华普微HOPERF 2025-01-13 14:18 511浏览
  • 01. 什么是过程能力分析?过程能力研究利用生产过程中初始一批产品的数据,预测制造过程是否能够稳定地生产符合规格的产品。可以把它想象成一种预测。通过历史数据的分析,推断未来是否可以依赖该工艺持续生产高质量产品。客户可能会要求将过程能力研究作为生产件批准程序 (PPAP) 的一部分。这是为了确保制造过程能够持续稳定地生产合格的产品。02. 基本概念在定义制造过程时,目标是确保生产的零件符合上下规格限 (USL 和 LSL)。过程能力衡量制造过程能多大程度上稳定地生产符合规格的产品。核心概念很简单:
    优思学院 2025-01-12 15:43 551浏览
  •   在信号处理过程中,由于信号的时域截断会导致频谱扩展泄露现象。那么导致频谱泄露发生的根本原因是什么?又该采取什么样的改善方法。本文以ADC性能指标的测试场景为例,探讨了对ADC的输出结果进行非周期截断所带来的影响及问题总结。 两个点   为了更好的分析或处理信号,实际应用时需要从频域而非时域的角度观察原信号。但物理意义上只能直接获取信号的时域信息,为了得到信号的频域信息需要利用傅里叶变换这个工具计算出原信号的频谱函数。但对于计算机来说实现这种计算需要面对两个问题: 1.
    TIAN301 2025-01-14 14:15 121浏览
  • 食物浪费已成为全球亟待解决的严峻挑战,并对环境和经济造成了重大影响。最新统计数据显示,全球高达三分之一的粮食在生产过程中损失或被无谓浪费,这不仅导致了资源消耗,还加剧了温室气体排放,并带来了巨大经济损失。全球领先的光学解决方案供应商艾迈斯欧司朗(SIX:AMS)近日宣布,艾迈斯欧司朗基于AS7341多光谱传感器开发的创新应用来解决食物浪费这一全球性难题。其多光谱传感解决方案为农业与食品行业带来深远变革,该技术通过精确判定最佳收获时机,提升质量控制水平,并在整个供应链中有效减少浪费。 在2024
    艾迈斯欧司朗 2025-01-14 18:45 82浏览
  • 新年伊始,又到了对去年做总结,对今年做展望的时刻 不知道你在2024年初立的Flag都实现了吗? 2025年对自己又有什么新的期待呢? 2024年注定是不平凡的一年, 一年里我测评了50余块开发板, 写出了很多科普文章, 从一个小小的工作室成长为科工公司。 展望2025年, 中国香河英茂科工, 会继续深耕于,具身机器人、飞行器、物联网等方面的研发, 我觉得,要向未来学习未来, 未来是什么? 是掌握在孩子们生活中的发现,和精历, 把最好的技术带给孩子,
    丙丁先生 2025-01-11 11:35 466浏览
  • 数字隔离芯片是现代电气工程师在进行电路设计时所必须考虑的一种电子元件,主要用于保护低压控制电路中敏感电子设备的稳定运行与操作人员的人身安全。其不仅能隔离两个或多个高低压回路之间的电气联系,还能防止漏电流、共模噪声与浪涌等干扰信号的传播,有效增强电路间信号传输的抗干扰能力,同时提升电子系统的电磁兼容性与通信稳定性。容耦隔离芯片的典型应用原理图值得一提的是,在电子电路中引入隔离措施会带来传输延迟、功耗增加、成本增加与尺寸增加等问题,而数字隔离芯片的目标就是尽可能消除这些不利影响,同时满足安全法规的要
    华普微HOPERF 2025-01-15 09:48 107浏览
  • 根据Global Info Research(环洋市场咨询)项目团队最新调研,预计2030年全球无人机电池和电源产值达到2834百万美元,2024-2030年期间年复合增长率CAGR为10.1%。 无人机电池是为无人机提供动力并使其飞行的关键。无人机使用的电池类型因无人机的大小和型号而异。一些常见的无人机电池类型包括锂聚合物(LiPo)电池、锂离子电池和镍氢(NiMH)电池。锂聚合物电池是最常用的无人机电池类型,因为其能量密度高、设计轻巧。这些电池以输出功率大、飞行时间长而著称。不过,它们需要
    GIRtina 2025-01-13 10:49 211浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦