Pupil-LabsNeon技术分析

原创 云深之无迹 2024-09-19 21:38

还是感谢任老师提供的设备可以让我进行一个研究。

本来是想看硬件组成的,但是全打胶了,看不了一点,值得学习,也值得被骂,一点没有维修的机会,扣开就凉了。

表面使用的是尼龙框架

先看一下使用吧,第一次做视频,轻喷,我还加了字幕方便静音观看。

这个是导出的眼动数据

看这里,还得学深度学习啊,学!

我逆向也一般,这次这个APP没有加固,所以就可以直接简单的分析了,我安卓写的也一般,但是看个结构还是可以的,下面的就是分析出来里面打包进去的二进制库,可以看到ZeroMQ,以及USB,其实视频里面说的没有神经网络是不对的,分析显示是有高通的神经网络库( Qualcomm 公司的骁龙神经处理引擎 (SNPE) 库,用于在移动设备上加速机器学习推理),还有就是jpeg是压缩图像的,特别的其实还有DSP的库,在后面的分析来看是进行滤波操作的。

比较感慨,虽然APK不大,但是代码量很足,首先是硬件,通过USB来适配自己的硬件设备,可以进行固件升级,摄像头的参数控制等。内置了局域网的流控制,就是可以在电脑上面控制手机的APP,获得视频流什么的。这个是使用ZeroMQ来实现的,还有高效的播放系统,针对及时渲染,后处理,以及单独的硬件和流视频传输都对应了不同的渲染器。

这个视频流好评,有浏览器就可以。还有固件升级也是通过USB可以完成,好评。一个APP就好像是一个枢纽一样,可以承担很多任务。

这样的

追踪一角

下面是滤波器和数据转换的一部分代码:

在这里

  • 初始化: 初始化一个 sum 向量,用于累加卷积的结果。

  • 条件判断:

    • 如果纹理坐标在图像的左上角附近,则进行卷积操作。

    • 如果纹理坐标在图像的右下角附近,则直接采样当前纹素。

    • 否则,将红色通道设置为 1.0。

  • 卷积操作: 通过循环遍历卷积核,计算加权平均值,实现卷积效果。

  • 颜色调整:uColorAdjust 添加到最终结果。

  • 输出: 将计算得到的颜色值赋值给 gl_FragColor,作为输出。

实现了一个简单的YUV到RGB的转换,并提供了亮度调整的功能。它可以用于处理摄像头采集到的YUV图像数据,并将其显示在屏幕上。

这个代码是日本写的。

还有一段是:主要用于将RGB565格式的YUV数据转换为RGB格式,并在转换过程中进行亮度调整。不同于之前的代码,这次的YUV数据是打包成RGB565格式存储在纹理中。

这个是和硬件相关的代码,主要是云服务,时间戳对齐,以及上代的支持,还有发布,录制,rtp传输,以及USB,mic和IMU等。这个工程量不小啊。

时间同步

  • 客户端创建一个 ITimeSyncCallback 对象。

  • 客户端调用 ITimeSync 接口的 a() 方法,将回调对象传递给服务器端。

  • 服务器端的 Stub 对象收到回调对象,并将其保存。

  • 当需要通知客户端时间同步时,服务器端调用回调对象的相应方法。

消息发布

  • 创建 RtpPublishController 对象,并设置传感器对象。

  • 调用 b() 方法开始发布数据流。

  • 传感器数据更新时,会调用 a(Object obj) 方法,触发更新数据流。

  • RtpPublishController 内部会控制发布的数据流数量。

  • 调用 b() 方法停止发布数据流

因为后处理是很重要的事情,所以一定要保证录好,看门狗

  1. 启动服务时,会初始化一些变量并创建定时任务。

  2. 定时任务会循环检查正在录制的 URI 的文件大小,如果 30 秒内没有变化,则认为录制异常。

  3. 录制异常时,会触发振动和发送通知。

  4. 可以通过广播控制服务的行为,例如停止通知、停止录制等。

因为是输出多个文件,还要上传到云,所以也要不停的做限制

  • 该代码使用了轮询的方式来检查录制文件的大小,可能会有一定的性能损耗。

  • 代码针对 OnePlus 8 Pro 手机做了特殊处理,因为该机型可能存在文件修改时间不准确的问题。

这个挺重要的

该类用于发布传感器数据帧

  • 创建 AbstractBufferPublisher 对象时,会初始化一些变量,例如发布控制器、数据流名称、数据帧大小等。

  • 调用 start() 方法启动数据发布,会设置当前状态为正在运行、清空帧数据缓存区并创建两个空帧数据。

  • 调用 stop() 方法停止数据发布,会设置当前状态为停止运行并清空帧数据缓存区。

  • 调用 release() 方法释放资源,会调用 stop() 方法停止数据发布并释放一些内部资源。

  • a(int i) 方法用于获取一个帧数据,它会尝试从缓存区获取空闲帧数据,如果缓存区为空,则会根据需要创建新的帧数据。

  • recycle(FrameData frameData) 方法用于回收一个帧数据,它会将该帧数据放入缓存区。

  • a(ByteBuffer byteBuffer) 方法可以计算数据帧的 MD5 哈希值,用于数据校验 (非必须)。

检查相机名称是否属于黑名单设备列表 (例如,PI World Cam)。这个就是垄断的一种做法,有人可能会想插个摄像头不使用专有硬件,来避免这些。

管理不同类型摄像头的设置和配置

其实可以控制的不多,就是一个曝光

里面使用的IMU是这个

IIC接口

这个LED和MIC以及IMU都是在这个芯片上面挂着

计算机能直接与这些设备和传感器通信

这是代码的逻辑

可以看到接口上面有着IIC和USB

这样的

这个就是编码器

VP8一会儿有

结束,烦死了,讨厌java

说说最大的硬件,这东西真的是一个传感器的集合体,三个摄像头,一个IMU,以及麦克风,这些都是使用了IIC接口,所以硬件里面有个USB的桥接器。另外我觉得还有一个FPGA来连接三个摄像头:

就是这样,然后FPGA里面有拼接视频的功能

非常小

后面

这样的

前面

上面,看着旁边是PUYA

啊?

我觉得应该是这个flash,给fpga搭配的,因为任务还是有的,MIPI和拼接。

然后通过FPC来连接,害,还是没有看到

多MIPI摄像头融合之星-易灵思Ti60F100

这个是USB端可以控制的一个增益

嗯呐

证明拼接后输出

大小

Y8 格式: 这是一种灰度格式,每个像素由一个 8 位的值表示。

其它信息,这些都是我探查的

电脑端是模拟成了一个USB设备UVC的,可以使用Core软件

更加详细的数据,这里有一个USB的转换芯片

实锤是FPGA,这个也要学,就是做了拼接

里面再一个Hub上面,有两个相机,第一个有摄像头和HID,就是我说的IMU和MIC,下面就是一个摄像头。

这个是世界相机

输出的是注视数据-这个是机内计算的

还有瞳孔变化

这个应该是它们只拿到了一加的内部SDK,可以做加速

高通的

这个是通过IIC控制的速率

代码里面还有对机器的辨认,就是说就得自己选择的机器才行,摩托罗拉和一加

滤波器的选择

路太长了。

欢迎交流

https://docs.pupil-labs.com/neon/data-collection/transfer-recordings-via-usb/
https://blog.csdn.net/Ximerr/article/details/123498701
https://git-scm.com/download/win

评论 (0)
  • 文/郭楚妤编辑/cc孙聪颖‍相较于一众措辞谨慎、毫无掌舵者个人风格的上市公司财报,利亚德的财报显得尤为另类。利亚德光电集团成立于1995年,是一家以LED显示、液晶显示产品设计、生产、销售及服务为主业的高新技术企业。自2016年年报起,无论业绩优劣,董事长李军每年都会在财报末尾附上一首七言打油诗,抒发其对公司当年业绩的感悟。从“三年翻番顺大势”“智能显示我第一”“披荆斩棘幸从容”等词句中,不难窥见李军的雄心壮志。2012年,利亚德(300296.SZ)在深交所创业板上市。成立以来,该公司在细分领
    华尔街科技眼 2025-05-07 19:25 451浏览
  • 随着智能驾驶时代到来,汽车正转变为移动计算平台。车载AI技术对存储器提出新挑战:既要高性能,又需低功耗和车规级可靠性。贞光科技代理的紫光国芯车规级LPDDR4存储器,以其卓越性能成为国产芯片产业链中的关键一环,为智能汽车提供坚实的"记忆力"支持。作为官方授权代理商,贞光科技通过专业技术团队和完善供应链,让这款国产存储器更好地服务国内汽车厂商。本文将探讨车载AI算力需求现状及贞光科技如何通过紫光国芯LPDDR4产品满足市场需求。 车载AI算力需求激增的背景与挑战智能驾驶推动算力需求爆发式
    贞光科技 2025-05-07 16:54 230浏览
  • 文/Leon编辑/cc孙聪颖‍《中国家族企业传承研究报告》显示,超四成“企二代” 明确表达接班意愿,展现出对家族企业延续发展的主动担当。中国研究数据服务平台(CNRDS)提供的精准数据进一步佐证:截至 2022 年,已有至少 280 家上市家族企业完成权杖交接,其中八成新任掌门人为创始人之子,凸显家族企业代际传承中 “子承父业” 的主流模式。然而,对于“企二代” 而言,接棒掌舵绝非易事。在瞬息万变的商业环境中,他们既要在白热化的市场竞争中开拓创新、引领企业突破发展瓶颈,又需应对来自父辈管理层的经
    华尔街科技眼 2025-05-06 18:17 42浏览
  • 后摄像头是长这个样子,如下图。5孔(D-,D+,5V,12V,GND),说的是连接线的个数,如下图。4LED,+12V驱动4颗LED灯珠,给摄像头补光用的,如下图。打开后盖,发现里面有透明白胶(防水)和白色硬胶(固定),用合适的工具,清理其中的胶状物。BOT层,AN3860,Panasonic Semiconductor (松下电器)制造的,Cylinder Motor Driver IC for Video Camera,如下图。TOP层,感光芯片和广角聚焦镜头组合,如下图。感光芯片,看着是玻
    liweicheng 2025-05-07 23:55 468浏览
  • 温度传感器的工作原理依据其类型可分为以下几种主要形式:一、热电阻温度传感器利用金属或半导体材料的电阻值随温度变化的特性实现测温:l ‌金属热电阻‌(如铂电阻 Pt100、Pt1000):高温下电阻值呈线性增长,稳定性高,适用于工业精密测温。l ‌热敏电阻‌(NTC/PTC):NTC 热敏电阻阻值随温度升高而下降,PTC 则相反;灵敏度高但线性范围较窄,常用于电子设备温控。二、热电偶传感器基于‌塞贝克效应‌(Seebeck effect):两种不同
    锦正茂科技 2025-05-09 13:31 245浏览
  • 硅二极管温度传感器是一种基于硅半导体材料特性的测温装置,其核心原理是利用硅二极管的电学参数(如正向压降或电阻)随温度变化的特性实现温度检测。以下是其工作原理、技术特点及典型应用:一、工作原理1、‌PN结温度特性‌硅二极管由PN结构成,当温度变化时,其正向电压 VF与温度呈线性负相关关系。例如,温度每升高1℃,VF约下降2 mV。2、‌电压—温度关系‌通过jing确测量正向电压的微小变化,可推算出环境温度值。部分型号(如SI410)在宽温域内(如1.4 K至475 K)仍能保持高线性度。
    锦正茂科技 2025-05-09 13:52 261浏览
  • 飞凌嵌入式作为龙芯合作伙伴,隆重推出FET-2K0300i-S全国产自主可控工业级核心板!FET-2K0300i-S核心板基于龙芯2K0300i工业级处理器开发设计,集成1个64位LA264处理器,主频1GHz,提供高效的计算能力;支持硬件ECC;2K0300i还具备丰富的连接接口USB、SDIO、UART、SPI、CAN-FD、Ethernet、ADC等一应俱全,龙芯2K0300i支持四路CAN-FD接口,具备良好的可靠性、实时性和灵活性,可满足用户多路CAN需求。除性价比超高的国产处理器外,
    飞凌嵌入式 2025-05-07 11:54 97浏览
  • 这款无线入耳式蓝牙耳机是长这个样子的,如下图。侧面特写,如下图。充电接口来个特写,用的是卡座卡在PCB板子上的,上下夹紧PCB的正负极,如下图。撬开耳机喇叭盖子,如下图。精致的喇叭(HY),如下图。喇叭是由电学产生声学的,具体结构如下图。电池包(AFS 451012  21 12),用黄色耐高温胶带进行包裹(安规需求),加强隔离绝缘的,如下图。451012是电池包的型号,聚合物锂电池+3.7V 35mAh,详细如下图。电路板是怎么拿出来的呢,剪断喇叭和电池包的连接线,底部抽出PCB板子
    liweicheng 2025-05-06 22:58 641浏览
  • UNISOC Miracle Gaming奇迹手游引擎亮点:• 高帧稳帧:支持《王者荣耀》等主流手游90帧高画质模式,连续丢帧率最高降低85%;• 丝滑操控:游戏冷启动速度提升50%,《和平精英》开镜开枪操作延迟降低80%;• 极速网络:专属游戏网络引擎,使《王者荣耀》平均延迟降低80%;• 智感语音:与腾讯GVoice联合,弱网环境仍能保持清晰通话;• 超高画质:游戏画质增强、超级HDR画质、游戏超分技术,优化游戏视效。全球手游市场规模日益壮大,游戏玩家对极致体验的追求愈发苛刻。紫光展锐全新U
    紫光展锐 2025-05-07 17:07 345浏览
  • 在过去的很长一段时间里,外卖市场呈现出美团和饿了么双寡头垄断的局面。美团凭借先发优势、强大的地推团队以及精细化的运营策略,在市场份额上长期占据领先地位。数据显示,截至2024年上半年,美团外卖以68.2%的市场份额领跑外卖行业,成为当之无愧的行业老大。其业务广泛覆盖,从一线城市的繁华商圈到二三线城市的大街小巷,几乎无处不在,为无数消费者提供便捷的外卖服务。饿了么作为阿里本地生活服务的重要一环,依托阿里强大的资金和技术支持,也在市场中站稳脚跟,以25.4%的份额位居第二。尽管市场份额上与美团有一定
    用户1742991715177 2025-05-06 19:43 116浏览
  • 二位半 5线数码管的驱动方法这个2位半的7段数码管只用5个管脚驱动。如果用常规的7段+共阳/阴则需要用10个管脚。如果把每个段看成独立的灯。5个管脚来点亮,任选其中一个作为COM端时,另外4条线可以单独各控制一个灯。所以实际上最多能驱动5*4 = 20个段。但是这里会有一个小问题。如果想点亮B1,可以让第3条线(P3)置高,P4 置低,其它阳极连P3的灯对应阴极P2 P1都应置高,此时会发现C1也会点亮。实际操作时,可以把COM端线P3设置为PP输出,其它线为OD输出。就可以单独控制了。实际的驱
    southcreek 2025-05-07 15:06 561浏览
  • ‌一、高斯计的正确选择‌1、‌明确测量需求‌‌磁场类型‌:区分直流或交流磁场,选择对应仪器(如交流高斯计需支持交变磁场测量)。‌量程范围‌:根据被测磁场强度选择覆盖范围,例如地球磁场(0.3–0.5 G)或工业磁体(数百至数千高斯)。‌精度与分辨率‌:高精度场景(如科研)需选择误差低于1%的仪器,分辨率需匹配微小磁场变化检测需求。2、‌仪器类型选择‌‌手持式‌:便携性强,适合现场快速检测;‌台式‌:精度更高,适用于实验室或工业环境。‌探头类型‌:‌横向/轴向探头‌:根据磁场方向选择,轴向探头适合
    锦正茂科技 2025-05-06 11:36 457浏览
  • Matter协议是一个由Amazon Alexa、Apple HomeKit、Google Home和Samsung SmartThings等全球科技巨头与CSA联盟共同制定的开放性标准,它就像一份“共生契约”,能让原本相互独立的家居生态在应用层上握手共存,同时它并非另起炉灶,而是以IP(互联网协议)为基础框架,将不同通信协议下的家居设备统一到同一套“语义规则”之下。作为应用层上的互通标准,Matter协议正在重新定义智能家居行业的运行逻辑,它不仅能向下屏蔽家居设备制造商的生态和系统,让设备、平
    华普微HOPERF 2025-05-08 11:40 399浏览
我要评论
0
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦