青岛大学金明亮、宿杰&NUS葛树志团队:非冯诺依曼柔性神经形态视觉传感器

果壳硬科技 2024-05-21 10:02

欢迎星标 果壳硬科技

研究背景


现有的机器视觉在自动驾驶、人脸识别、无人机导航、工业检测、视频监控等方面已经达到了一定水平,但是面对复杂环境,比如高速运动、极端昏暗条件下,其综合性能还有待提高。目前,机器视觉系统面临的挑战有以下三点:


  1. 如何采集良好的视觉数据。

  2. 硅基半导体技术在跟上摩尔定律方面已经达到了极限,在芯片升级方面存在瓶颈;

  3. 处理器与存储器间的信息传输存在缺陷。


人类视觉系统是我们感知系统中最重要的组成部分,它负责感知和处理人体获得的80%以上的信息。面对如此庞大的信息,人类视觉系统表现出低冗余、低功耗、强鲁棒性等优越的性能。这是现有的机器视觉系统无法比拟的。因此,重新审视人类视觉系统,借鉴其感知与处理信息的机制,有助于发展更高性能的机器视觉。在人类视觉系统中,视网膜在功能与结构上的特点可以辅助解决以上问题:


  1. 视网膜曲面的结构保证较好的成像效果。若将机器视觉系统中感光模块制作为曲面,可进一步减少算力消耗;

  2. 人类神经网络有助于神经网络算法的进一步发展。更优秀的算法可建立性能更高的机器视觉系统;

  3. 视网膜作为感知模块的终点与信息处理的起点,仅由一个模块完成了两个模块的工作。若将机器视觉系统中感光模块与预处理模块进行集成,不仅能提升整体集成度,而且也能避免存储器壁(memory wall)的问题。


研究成果


近日,青岛大学金明亮团队、宿杰团队、新加坡国立大学葛树志团队发表综述文章,概述了一类受视网膜启发的具有“感存算一体化”功能的柔性神经形态视觉传感器的制作方式。相关成果以“On Non von Neumann Flexible Neuromorphic Vision Sensors”为题发表在npj Flexible Electronics上。


图 人类视觉系统、传统机器视觉系统和神经形态视觉系统的比较


本文从人类视觉系统出发,比较和讨论了人类视觉系统和传统机器视觉系统之间的差异。由于视觉信息的多样性和数据量较大,使用非冯诺伊曼结构的柔性神经形态视觉传感器可以有效地弥补基于冯诺伊曼架构的传统机器视觉系统的局限性。首先,本文讨论了视网膜信息处理机制的模仿方式,并概述了非冯·诺伊曼计算架构的原理和电路实现方法。


图 非冯·诺伊曼式计算架构.


其次,本文以二维材料为例,从光电材料与计算材料两种角度介绍了该类型传感器材料选择的一般标准,并对目前相关光电探测器性能进行了对比。


图 不同于硅的前沿材料


再次,在模拟视网膜表面结构方面,本文介绍了柔性传感器阵列的优势与制造方法。根据时间顺序对相关工作者的探索进行了总结。最后,本文分析了非冯·诺伊曼柔性神经形态视觉传感器目前面临的挑战,并对其未来的发展进行了展望。


图  早期的曲面视觉传感器阵列和柔性电子技术


图 柔性电子学技术的探索


论文信息

发布期刊 npj Flexible Electronics

发布时间 2024年5月7日

文章标题 On non-von Neumann flexible neuromorphic vision sensors

(https://doi.org/10.1038/s41528-024-00313-3)

研究团队 | 作者

酥鱼 | 编辑

如果你是投资人、创业团队成员或科研工作者,对果壳硬科技组织的闭门会或其它科创服务活动感兴趣,欢迎扫描下方二维码,或在微信公众号后台回复“企业微信”添加我们的活动服务助手,我们将通过该渠道组织活动——



果壳硬科技 果壳旗下硬科技服务品牌,致力于连接科学家与投资人、创业者,在新一轮技术革命和资本流动中,做最懂硬核科技的团队。
评论
  • 高速先生成员--黄刚这不马上就要过年了嘛,高速先生就不打算给大家上难度了,整一篇简单但很实用的文章给大伙瞧瞧好了。相信这个标题一出来,尤其对于PCB设计工程师来说,心就立马凉了半截。他们辛辛苦苦进行PCB的过孔设计,高速先生居然说设计多大的过孔他们不关心!另外估计这时候就跳出很多“挑刺”的粉丝了哈,因为翻看很多以往的文章,高速先生都表达了过孔孔径对高速性能的影响是很大的哦!咋滴,今天居然说孔径不关心了?别,别急哈,听高速先生在这篇文章中娓娓道来。首先还是要对各位设计工程师的设计表示肯定,毕竟像我
    一博科技 2025-01-21 16:17 101浏览
  • 嘿,咱来聊聊RISC-V MCU技术哈。 这RISC-V MCU技术呢,简单来说就是基于一个叫RISC-V的指令集架构做出的微控制器技术。RISC-V这个啊,2010年的时候,是加州大学伯克利分校的研究团队弄出来的,目的就是想搞个新的、开放的指令集架构,能跟上现代计算的需要。到了2015年,专门成立了个RISC-V基金会,让这个架构更标准,也更好地推广开了。这几年啊,这个RISC-V的生态系统发展得可快了,好多公司和机构都加入了RISC-V International,还推出了不少RISC-V
    丙丁先生 2025-01-21 12:10 112浏览
  •  光伏及击穿,都可视之为 复合的逆过程,但是,复合、光伏与击穿,不单是进程的方向相反,偏置状态也不一样,复合的工况,是正偏,光伏是零偏,击穿与漂移则是反偏,光伏的能源是外来的,而击穿消耗的是结区自身和电源的能量,漂移的载流子是 客席载流子,须借外延层才能引入,客席载流子 不受反偏PN结的空乏区阻碍,能漂不能漂,只取决于反偏PN结是否处于外延层的「射程」范围,而穿通的成因,则是因耗尽层的过度扩张,致使跟 端子、外延层或其他空乏区 碰触,当耗尽层融通,耐压 (反向阻断能力) 即告彻底丧失,
    MrCU204 2025-01-17 11:30 182浏览
  • 数字隔离芯片是一种实现电气隔离功能的集成电路,在工业自动化、汽车电子、光伏储能与电力通信等领域的电气系统中发挥着至关重要的作用。其不仅可令高、低压系统之间相互独立,提高低压系统的抗干扰能力,同时还可确保高、低压系统之间的安全交互,使系统稳定工作,并避免操作者遭受来自高压系统的电击伤害。典型数字隔离芯片的简化原理图值得一提的是,数字隔离芯片历经多年发展,其应用范围已十分广泛,凡涉及到在高、低压系统之间进行信号传输的场景中基本都需要应用到此种芯片。那么,电气工程师在进行电路设计时到底该如何评估选择一
    华普微HOPERF 2025-01-20 16:50 73浏览
  • 日前,商务部等部门办公厅印发《手机、平板、智能手表(手环)购新补贴实施方案》明确,个人消费者购买手机、平板、智能手表(手环)3类数码产品(单件销售价格不超过6000元),可享受购新补贴。每人每类可补贴1件,每件补贴比例为减去生产、流通环节及移动运营商所有优惠后最终销售价格的15%,每件最高不超过500元。目前,京东已经做好了承接手机、平板等数码产品国补优惠的落地准备工作,未来随着各省市关于手机、平板等品类的国补开启,京东将第一时间率先上线,满足消费者的换新升级需求。为保障国补的真实有效发放,基于
    华尔街科技眼 2025-01-17 10:44 221浏览
  •  万万没想到!科幻电影中的人形机器人,正在一步步走进我们人类的日常生活中来了。1月17日,乐聚将第100台全尺寸人形机器人交付北汽越野车,再次吹响了人形机器人疯狂进厂打工的号角。无独有尔,银河通用机器人作为一家成立不到两年时间的创业公司,在短短一年多时间内推出革命性的第一代产品Galbot G1,这是一款轮式、双臂、身体可折叠的人形机器人,得到了美团战投、经纬创投、IDG资本等众多投资方的认可。作为一家成立仅仅只有两年多时间的企业,智元机器人也把机器人从梦想带进了现实。2024年8月1
    刘旷 2025-01-21 11:15 399浏览
  • 本文介绍瑞芯微开发板/主板Android配置APK默认开启性能模式方法,开启性能模式后,APK的CPU使用优先级会有所提高。触觉智能RK3562开发板演示,搭载4核A53处理器,主频高达2.0GHz;内置独立1Tops算力NPU,可应用于物联网网关、平板电脑、智能家居、教育电子、工业显示与控制等行业。源码修改修改源码根目录下文件device/rockchip/rk3562/package_performance.xml并添加以下内容,注意"+"号为添加内容,"com.tencent.mm"为AP
    Industio_触觉智能 2025-01-17 14:09 164浏览
  • 临近春节,各方社交及应酬也变得多起来了,甚至一月份就排满了各式约见。有的是关系好的专业朋友的周末“恳谈会”,基本是关于2025年经济预判的话题,以及如何稳定工作等话题;但更多的预约是来自几个客户老板及副总裁们的见面,他们为今年的经济预判与企业发展焦虑而来。在聊天过程中,我发现今年的聊天有个很有意思的“点”,挺多人尤其关心我到底是怎么成长成现在的多领域风格的,还能掌握一些经济趋势的分析能力,到底学过哪些专业、在企业管过哪些具体事情?单单就这个一个月内,我就重复了数次“为什么”,再辅以我上次写的:《
    牛言喵语 2025-01-22 17:10 41浏览
  • 现在为止,我们已经完成了Purple Pi OH主板的串口调试和部分配件的连接,接下来,让我们趁热打铁,完成剩余配件的连接!注:配件连接前请断开主板所有供电,避免敏感电路损坏!1.1 耳机接口主板有一路OTMP 标准四节耳机座J6,具备进行音频输出及录音功能,接入耳机后声音将优先从耳机输出,如下图所示:1.21.2 相机接口MIPI CSI 接口如上图所示,支持OV5648 和OV8858 摄像头模组。接入摄像头模组后,使用系统相机软件打开相机拍照和录像,如下图所示:1.3 以太网接口主板有一路
    Industio_触觉智能 2025-01-20 11:04 150浏览
  • Ubuntu20.04默认情况下为root账号自动登录,本文介绍如何取消root账号自动登录,改为通过输入账号密码登录,使用触觉智能EVB3568鸿蒙开发板演示,搭载瑞芯微RK3568,四核A55处理器,主频2.0Ghz,1T算力NPU;支持OpenHarmony5.0及Linux、Android等操作系统,接口丰富,开发评估快人一步!添加新账号1、使用adduser命令来添加新用户,用户名以industio为例,系统会提示设置密码以及其他信息,您可以根据需要填写或跳过,命令如下:root@id
    Industio_触觉智能 2025-01-17 14:14 122浏览
  • 2024年是很平淡的一年,能保住饭碗就是万幸了,公司业绩不好,跳槽又不敢跳,还有一个原因就是老板对我们这些员工还是很好的,碍于人情也不能在公司困难时去雪上加霜。在工作其间遇到的大问题没有,小问题还是有不少,这里就举一两个来说一下。第一个就是,先看下下面的这个封装,你能猜出它的引脚间距是多少吗?这种排线座比较常规的是0.6mm间距(即排线是0.3mm间距)的,而这个规格也是我们用得最多的,所以我们按惯性思维来看的话,就会认为这个座子就是0.6mm间距的,这样往往就不会去细看规格书了,所以这次的运气
    wuliangu 2025-01-21 00:15 186浏览
  •     IPC-2581是基于ODB++标准、结合PCB行业特点而指定的PCB加工文件规范。    IPC-2581旨在替代CAM350格式,成为PCB加工行业的新的工业规范。    有一些免费软件,可以查看(不可修改)IPC-2581数据文件。这些软件典型用途是工艺校核。    1. Vu2581        出品:Downstream     
    电子知识打边炉 2025-01-22 11:12 55浏览
  • 随着消费者对汽车驾乘体验的要求不断攀升,汽车照明系统作为确保道路安全、提升驾驶体验以及实现车辆与环境交互的重要组成,日益受到业界的高度重视。近日,2024 DVN(上海)国际汽车照明研讨会圆满落幕。作为照明与传感创新的全球领导者,艾迈斯欧司朗受邀参与主题演讲,并现场展示了其多项前沿技术。本届研讨会汇聚来自全球各地400余名汽车、照明、光源及Tier 2供应商的专业人士及专家共聚一堂。在研讨会第一环节中,艾迈斯欧司朗系统解决方案工程副总裁 Joachim Reill以深厚的专业素养,主持该环节多位
    艾迈斯欧司朗 2025-01-16 20:51 198浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦