Pupil-LabsNeon技术分析

原创 云深之无迹 2024-09-19 21:38

还是感谢任老师提供的设备可以让我进行一个研究。

本来是想看硬件组成的,但是全打胶了,看不了一点,值得学习,也值得被骂,一点没有维修的机会,扣开就凉了。

表面使用的是尼龙框架

先看一下使用吧,第一次做视频,轻喷,我还加了字幕方便静音观看。

这个是导出的眼动数据

看这里,还得学深度学习啊,学!

我逆向也一般,这次这个APP没有加固,所以就可以直接简单的分析了,我安卓写的也一般,但是看个结构还是可以的,下面的就是分析出来里面打包进去的二进制库,可以看到ZeroMQ,以及USB,其实视频里面说的没有神经网络是不对的,分析显示是有高通的神经网络库( Qualcomm 公司的骁龙神经处理引擎 (SNPE) 库,用于在移动设备上加速机器学习推理),还有就是jpeg是压缩图像的,特别的其实还有DSP的库,在后面的分析来看是进行滤波操作的。

比较感慨,虽然APK不大,但是代码量很足,首先是硬件,通过USB来适配自己的硬件设备,可以进行固件升级,摄像头的参数控制等。内置了局域网的流控制,就是可以在电脑上面控制手机的APP,获得视频流什么的。这个是使用ZeroMQ来实现的,还有高效的播放系统,针对及时渲染,后处理,以及单独的硬件和流视频传输都对应了不同的渲染器。

这个视频流好评,有浏览器就可以。还有固件升级也是通过USB可以完成,好评。一个APP就好像是一个枢纽一样,可以承担很多任务。

这样的

追踪一角

下面是滤波器和数据转换的一部分代码:

在这里

  • 初始化: 初始化一个 sum 向量,用于累加卷积的结果。

  • 条件判断:

    • 如果纹理坐标在图像的左上角附近,则进行卷积操作。

    • 如果纹理坐标在图像的右下角附近,则直接采样当前纹素。

    • 否则,将红色通道设置为 1.0。

  • 卷积操作: 通过循环遍历卷积核,计算加权平均值,实现卷积效果。

  • 颜色调整:uColorAdjust 添加到最终结果。

  • 输出: 将计算得到的颜色值赋值给 gl_FragColor,作为输出。

实现了一个简单的YUV到RGB的转换,并提供了亮度调整的功能。它可以用于处理摄像头采集到的YUV图像数据,并将其显示在屏幕上。

这个代码是日本写的。

还有一段是:主要用于将RGB565格式的YUV数据转换为RGB格式,并在转换过程中进行亮度调整。不同于之前的代码,这次的YUV数据是打包成RGB565格式存储在纹理中。

这个是和硬件相关的代码,主要是云服务,时间戳对齐,以及上代的支持,还有发布,录制,rtp传输,以及USB,mic和IMU等。这个工程量不小啊。

时间同步

  • 客户端创建一个 ITimeSyncCallback 对象。

  • 客户端调用 ITimeSync 接口的 a() 方法,将回调对象传递给服务器端。

  • 服务器端的 Stub 对象收到回调对象,并将其保存。

  • 当需要通知客户端时间同步时,服务器端调用回调对象的相应方法。

消息发布

  • 创建 RtpPublishController 对象,并设置传感器对象。

  • 调用 b() 方法开始发布数据流。

  • 传感器数据更新时,会调用 a(Object obj) 方法,触发更新数据流。

  • RtpPublishController 内部会控制发布的数据流数量。

  • 调用 b() 方法停止发布数据流

因为后处理是很重要的事情,所以一定要保证录好,看门狗

  1. 启动服务时,会初始化一些变量并创建定时任务。

  2. 定时任务会循环检查正在录制的 URI 的文件大小,如果 30 秒内没有变化,则认为录制异常。

  3. 录制异常时,会触发振动和发送通知。

  4. 可以通过广播控制服务的行为,例如停止通知、停止录制等。

因为是输出多个文件,还要上传到云,所以也要不停的做限制

  • 该代码使用了轮询的方式来检查录制文件的大小,可能会有一定的性能损耗。

  • 代码针对 OnePlus 8 Pro 手机做了特殊处理,因为该机型可能存在文件修改时间不准确的问题。

这个挺重要的

该类用于发布传感器数据帧

  • 创建 AbstractBufferPublisher 对象时,会初始化一些变量,例如发布控制器、数据流名称、数据帧大小等。

  • 调用 start() 方法启动数据发布,会设置当前状态为正在运行、清空帧数据缓存区并创建两个空帧数据。

  • 调用 stop() 方法停止数据发布,会设置当前状态为停止运行并清空帧数据缓存区。

  • 调用 release() 方法释放资源,会调用 stop() 方法停止数据发布并释放一些内部资源。

  • a(int i) 方法用于获取一个帧数据,它会尝试从缓存区获取空闲帧数据,如果缓存区为空,则会根据需要创建新的帧数据。

  • recycle(FrameData frameData) 方法用于回收一个帧数据,它会将该帧数据放入缓存区。

  • a(ByteBuffer byteBuffer) 方法可以计算数据帧的 MD5 哈希值,用于数据校验 (非必须)。

检查相机名称是否属于黑名单设备列表 (例如,PI World Cam)。这个就是垄断的一种做法,有人可能会想插个摄像头不使用专有硬件,来避免这些。

管理不同类型摄像头的设置和配置

其实可以控制的不多,就是一个曝光

里面使用的IMU是这个

IIC接口

这个LED和MIC以及IMU都是在这个芯片上面挂着

计算机能直接与这些设备和传感器通信

这是代码的逻辑

可以看到接口上面有着IIC和USB

这样的

这个就是编码器

VP8一会儿有

结束,烦死了,讨厌java

说说最大的硬件,这东西真的是一个传感器的集合体,三个摄像头,一个IMU,以及麦克风,这些都是使用了IIC接口,所以硬件里面有个USB的桥接器。另外我觉得还有一个FPGA来连接三个摄像头:

就是这样,然后FPGA里面有拼接视频的功能

非常小

后面

这样的

前面

上面,看着旁边是PUYA

啊?

我觉得应该是这个flash,给fpga搭配的,因为任务还是有的,MIPI和拼接。

然后通过FPC来连接,害,还是没有看到

多MIPI摄像头融合之星-易灵思Ti60F100

这个是USB端可以控制的一个增益

嗯呐

证明拼接后输出

大小

Y8 格式: 这是一种灰度格式,每个像素由一个 8 位的值表示。

其它信息,这些都是我探查的

电脑端是模拟成了一个USB设备UVC的,可以使用Core软件

更加详细的数据,这里有一个USB的转换芯片

实锤是FPGA,这个也要学,就是做了拼接

里面再一个Hub上面,有两个相机,第一个有摄像头和HID,就是我说的IMU和MIC,下面就是一个摄像头。

这个是世界相机

输出的是注视数据-这个是机内计算的

还有瞳孔变化

这个应该是它们只拿到了一加的内部SDK,可以做加速

高通的

这个是通过IIC控制的速率

代码里面还有对机器的辨认,就是说就得自己选择的机器才行,摩托罗拉和一加

滤波器的选择

路太长了。

欢迎交流

https://docs.pupil-labs.com/neon/data-collection/transfer-recordings-via-usb/
https://blog.csdn.net/Ximerr/article/details/123498701
https://git-scm.com/download/win

评论
  • 彼得·德鲁克被誉为“现代管理学之父”,他的管理思想影响了无数企业和管理者。然而,关于他的书籍分类,一种流行的说法令人感到困惑:德鲁克一生写了39本书,其中15本是关于管理的,而其中“专门写工商企业或为企业管理者写的”只有两本——《为成果而管理》和《创新与企业家精神》。这样的表述广为流传,但深入探讨后却发现并不完全准确。让我们一起重新审视这一说法,解析其中的矛盾与根源,进而重新认识德鲁克的管理思想及其著作的真正价值。从《创新与企业家精神》看德鲁克的视角《创新与企业家精神》通常被认为是一本专为企业管
    优思学院 2025-01-06 12:03 155浏览
  • 每日可见的315MHz和433MHz遥控模块,你能分清楚吗?众所周知,一套遥控设备主要由发射部分和接收部分组成,发射器可以将控制者的控制按键经过编码,调制到射频信号上面,然后经天线发射出无线信号。而接收器是将天线接收到的无线信号进行解码,从而得到与控制按键相对应的信号,然后再去控制相应的设备工作。当前,常见的遥控设备主要分为红外遥控与无线电遥控两大类,其主要区别为所采用的载波频率及其应用场景不一致。红外遥控设备所采用的射频信号频率一般为38kHz,通常应用在电视、投影仪等设备中;而无线电遥控设备
    华普微HOPERF 2025-01-06 15:29 160浏览
  • 根据Global Info Research项目团队最新调研,预计2030年全球封闭式电机产值达到1425百万美元,2024-2030年期间年复合增长率CAGR为3.4%。 封闭式电机是一种电动机,其外壳设计为密闭结构,通常用于要求较高的防护等级的应用场合。封闭式电机可以有效防止外部灰尘、水分和其他污染物进入内部,从而保护电机的内部组件,延长其使用寿命。 环洋市场咨询机构出版的调研分析报告【全球封闭式电机行业总体规模、主要厂商及IPO上市调研报告,2025-2031】研究全球封闭式电机总体规
    GIRtina 2025-01-06 11:10 120浏览
  • 这篇内容主要讨论三个基本问题,硅电容是什么,为什么要使用硅电容,如何正确使用硅电容?1.  硅电容是什么首先我们需要了解电容是什么?物理学上电容的概念指的是给定电位差下自由电荷的储藏量,记为C,单位是F,指的是容纳电荷的能力,C=εS/d=ε0εrS/4πkd(真空)=Q/U。百度百科上电容器的概念指的是两个相互靠近的导体,中间夹一层不导电的绝缘介质。通过观察电容本身的定义公式中可以看到,在各个变量中比较能够改变的就是εr,S和d,也就是介质的介电常数,金属板有效相对面积以及距离。当前
    知白 2025-01-06 12:04 212浏览
  • 在智能家居领域中,Wi-Fi、蓝牙、Zigbee、Thread与Z-Wave等无线通信协议是构建短距物联局域网的关键手段,它们常在实际应用中交叉运用,以满足智能家居生态系统多样化的功能需求。然而,这些协议之间并未遵循统一的互通标准,缺乏直接的互操作性,在进行组网时需要引入额外的网关作为“翻译桥梁”,极大地增加了系统的复杂性。 同时,Apple HomeKit、SamSung SmartThings、Amazon Alexa、Google Home等主流智能家居平台为了提升市占率与消费者
    华普微HOPERF 2025-01-06 17:23 195浏览
  • 「他明明跟我同梯进来,为什么就是升得比我快?」许多人都有这样的疑问:明明就战绩也不比隔壁同事差,升迁之路却比别人苦。其实,之间的差异就在于「领导力」。並非必须当管理者才需要「领导力」,而是散发领导力特质的人,才更容易被晓明。许多领导力和特质,都可以通过努力和学习获得,因此就算不是天生的领导者,也能成为一个具备领导魅力的人,进而被老板看见,向你伸出升迁的橘子枝。领导力是什么?领导力是一种能力或特质,甚至可以说是一种「影响力」。好的领导者通常具备影响和鼓励他人的能力,并导引他们朝着共同的目标和愿景前
    优思学院 2025-01-08 14:54 53浏览
  •  在全球能源结构加速向清洁、可再生方向转型的今天,风力发电作为一种绿色能源,已成为各国新能源发展的重要组成部分。然而,风力发电系统在复杂的环境中长时间运行,对系统的安全性、稳定性和抗干扰能力提出了极高要求。光耦(光电耦合器)作为一种电气隔离与信号传输器件,凭借其优秀的隔离保护性能和信号传输能力,已成为风力发电系统中不可或缺的关键组件。 风力发电系统对隔离与控制的需求风力发电系统中,包括发电机、变流器、变压器和控制系统等多个部分,通常工作在高压、大功率的环境中。光耦在这里扮演了
    晶台光耦 2025-01-08 16:03 48浏览
  • 村田是目前全球量产硅电容的领先企业,其在2016年收购了法国IPDiA头部硅电容器公司,并于2023年6月宣布投资约100亿日元将硅电容产能提升两倍。以下内容主要来自村田官网信息整理,村田高密度硅电容器采用半导体MOS工艺开发,并使用3D结构来大幅增加电极表面,因此在给定的占位面积内增加了静电容量。村田的硅技术以嵌入非结晶基板的单片结构为基础(单层MIM和多层MIM—MIM是指金属 / 绝缘体/ 金属) 村田硅电容采用先进3D拓扑结构在100um内,使开发的有效静电容量面积相当于80个
    知白 2025-01-07 15:02 140浏览
  • 故障现象一辆2017款东风风神AX7车,搭载DFMA14T发动机,累计行驶里程约为13.7万km。该车冷起动后怠速运转正常,热机后怠速运转不稳,组合仪表上的发动机转速表指针上下轻微抖动。 故障诊断 用故障检测仪检测,发动机控制单元中无故障代码存储;读取发动机数据流,发现进气歧管绝对压力波动明显,有时能达到69 kPa,明显偏高,推断可能的原因有:进气系统漏气;进气歧管绝对压力传感器信号失真;发动机机械故障。首先从节气门处打烟雾,没有发现进气管周围有漏气的地方;接着拔下进气管上的两个真空
    虹科Pico汽车示波器 2025-01-08 16:51 56浏览
  • By Toradex 秦海1). 简介嵌入式平台设备基于Yocto Linux 在开发后期量产前期,为了安全以及提高启动速度等考虑,希望将 ARM 处理器平台的 Debug Console 输出关闭,本文就基于 NXP i.MX8MP ARM 处理器平台来演示相关流程。 本文所示例的平台来自于 Toradex Verdin i.MX8MP 嵌入式平台。  2. 准备a). Verdin i.MX8MP ARM核心版配合Dahlia载板并
    hai.qin_651820742 2025-01-07 14:52 102浏览
  • 本文介绍编译Android13 ROOT权限固件的方法,触觉智能RK3562开发板演示,搭载4核A53处理器,主频高达2.0GHz;内置独立1Tops算力NPU,可应用于物联网网关、平板电脑、智能家居、教育电子、工业显示与控制等行业。关闭selinux修改此文件("+"号为修改内容)device/rockchip/common/BoardConfig.mkBOARD_BOOT_HEADER_VERSION ?= 2BOARD_MKBOOTIMG_ARGS :=BOARD_PREBUILT_DTB
    Industio_触觉智能 2025-01-08 00:06 87浏览
  • 根据环洋市场咨询(Global Info Research)项目团队最新调研,预计2030年全球无人机锂电池产值达到2457百万美元,2024-2030年期间年复合增长率CAGR为9.6%。 无人机锂电池是无人机动力系统中存储并释放能量的部分。无人机使用的动力电池,大多数是锂聚合物电池,相较其他电池,锂聚合物电池具有较高的能量密度,较长寿命,同时也具有良好的放电特性和安全性。 全球无人机锂电池核心厂商有宁德新能源科技、欣旺达、鹏辉能源、深圳格瑞普和EaglePicher等,前五大厂商占有全球
    GIRtina 2025-01-07 11:02 115浏览
  • 大模型的赋能是指利用大型机器学习模型(如深度学习模型)来增强或改进各种应用和服务。这种技术在许多领域都显示出了巨大的潜力,包括但不限于以下几个方面: 1. 企业服务:大模型可以用于构建智能客服系统、知识库问答系统等,提升企业的服务质量和运营效率。 2. 教育服务:在教育领域,大模型被应用于个性化学习、智能辅导、作业批改等,帮助教师减轻工作负担,提高教学质量。 3. 工业智能化:大模型有助于解决工业领域的复杂性和不确定性问题,尽管在认知能力方面尚未完全具备专家级的复杂决策能力。 4. 消费
    丙丁先生 2025-01-07 09:25 111浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦