BEV模型「进化」与市场机会

原创 高工智能汽车 2022-09-05 19:19

作为智能驾驶感知的主力传感器,视觉(摄像头)仍然在不断突破性能天花板。如果把SLAM算法(单一摄像头的时间序列)+深度学习作为感知的1.0,那么基于多摄像头、甚至是不同传感器的BEV(Birds-Eye-View)模型则是进入感知2.0时代。



此外,相比于对象识别,行为预测和规划通常是在一个自上而下的视图(也称为鸟瞰视图)中完成的,因为高度信息已经不那么重要。这种BEV空间模型也可以称为3D空间,相应的对象检测通常被称为3D定位。


而传统的计算机视觉任务,如目标检测和语义分割,需要在与输入图像相同的坐标系中进行估计。因此,传统的感知堆栈通常需要在与车载摄像头图像相同的空间进行。


同时,下一步的预测和规划则是通过多传感器融合进行,通常依靠毫米波雷达或激光雷达等主动传感器的帮助下,将2D提升到3D定位。而BEV模型,则同样有助于感知融合的性能提升。


这意味着,在统一的模型下,可以实现从纯视觉感知到多传感融合方案的逻辑一致性,可以大幅减少不必要的额外开发成本。


比如,在国内市场,魏牌的城市NOH系统(毫末智行研发)在感知层面,就依靠独创的“双流”感知模型,可以提前监测到红绿灯并识别;通过Transformer模型,自研BEV Transfomer用于解决城市路况的各种挑战。


此外,理想L9首发搭载的理想AD Max智能驾驶系统同样也使用了BEV模型,利用“纯视觉”进行运动感知预测(同时扔掉了分辨率低的角雷达,保留了前雷达并增加了激光雷达),同时多传感融合和高精地图的信息输入作为辅助,落地了BEV融合算法。


同时,理想的这套系统还增加了视觉安全模块和激光雷达安全模块,与BEV框架模型互为冗余,能在极限环境下为安全提供多一层保障。目前,这套全栈自研的智能驾驶算法,也已经在国际上斩获多个权威奖项。


从目前市面上的智能驾驶系统的感知组合来看,多摄像头,首先是必选项。相对来说,不管是4D毫米波雷达、激光雷达还是以辅助感知和冗余决策为主。



而更多的摄像头,意味着即便其他感知系统失效,多摄像头的预测结果也可以转换到三维空间,这也是规划和决策系统的基础。特斯拉称这种三维空间为“矢量空间”,车辆及其所在空间的信息,如车辆的位置、速度、车道、标志、信号灯、周围物体等,都被数字化,然后在该空间中进行可视化。


从行业趋势看来,BEV模型及应用有可能会成为主流趋势。这意味着,从芯片开始,到传感器芯片、摄像头以及软件算法都需要进行相应的快速适配,以帮助Tier1以及OEM快速实现方案落地。


在近日举办的2022年度(第四届)高工智能汽车市场峰会上,地平线副总裁张宏志就提出了关于产品Road Map要实现产业链上下游「对齐」的概念,比如,不同类型的传感器、芯片等等,在硬件层面的收敛有助于上层的系统开发商更快速的匹配技术的变化。


在过去,市面上有不同的感知组合方案,同时,Tier1、硬件以及软件厂商要根据不同的方案选择进行定制开发,使用不同类型的模型来进行融合感知和决策,实际上这背后有巨大的隐性开发成本的产生。


比如,基于自研芯片,地平线打造了SuperDrive全场景智能驾驶方案,可支持高速、城区、泊车全场景自动驾驶,其背后也有基于感知融合的BEV技术、基于软件2.0开发范式的4D标注和预测。


而在智驾科技MAXIEYE创始人兼CEO周圣砚看来,上帝视角(BEV)是深度学习之后的又一个新台阶,解决了过去多传感器的变化和异构带来的各种各样的融合感知算法的开发问题。


比如,1R1V(毫米波和摄像头融合)成熟后,行业内又在开发毫米波和激光雷达的融合,算法工程师接下来还要开发激光雷达/4D毫米波雷达的深度学习算法,还要做很多的数据后处理。相对来说,BEV技术解决了输入和输出的结果不一致性的难题。


从原理上来说,BEV对比传统的感知算法,输入是一样的,是多路的传感器信息,最终在3D空间中直接输出规划控制需要用的输出形态。而类似地平线的工具链,把神经网络从训练、量化、部署整个的流程能比较顺利的在一个链条里面打通,通过这种方式让BEV方案快速的演进、迭代,扩展到各种各样的任务上。


“随着L2+、L3以上,传感器大家用得越来越多,为了更周全的探测周围的环境,我们也在思考是不是可以通过更高的分辨率,能够把传感器做融合,从系统方案上对硬件做简化,但是算法和其他的可以做得越来越复杂。”思特威汽车芯片部副总裁邵科表示。


这其中,以BEV绕不开的环视/侧视摄像头为例,提出了对摄像头的分辨率与暗光成像等性能更高的要求。比如,传统的360环视更多只是解决人机交互的问题,图像的现实和拼接仅仅是辅助驾驶员的感知和决策。


比如,此前思特威推出了基于SmartClarity®-2技术平台的图像传感器——SC220AT,搭载SFCPixel®专利技术及PixGain等多项升级技术,不仅片上集成了升级的自研ISP算法,实现更加优异的图像质量,还兼具动态行交叠HDR与PixGain HDR®两种HDR模式,满足各类速度运动应用场景下的多元化HDR性能需求。


这款2.5MP车规级图像传感器,能够帮助实现360°环视应用的性能升级,比如,匹配高阶智能驾驶系统的全景周身感知的需求,而感光度相比同类型产品大幅提升了28%。


在这一点上,大疆车载的量产方案,同样是考虑了传统鱼眼相机(用于全景环视和融合泊车)的硬件复用,将算法和硬件做了解绑,既可以用在泊车,也可以用在车道目标检测。


此前,法雷奥推出了WoodScape数据集,这是由在欧洲搭载的车队基于环视鱼眼相机拍摄的超过10,000幅图像,并提供了各种任务所需的标注,包括语义分割、深度估计、2D物体检测、视觉测距、运动分割以及端到端方案开发。



法雷奥舒适和驾驶辅助业务负责人Marc Vrecko表示,“通过WoodScape,我们希望鼓励研究团体开发针对高速和低速车辆自动化场景的鱼眼摄像头的计算机视觉算法。”因为,和其他类型传感器一样,鱼眼摄像头能够实现360°感知,也是自动驾驶的关键。


比如华为此前推出的800万像素超级鱼眼摄像头,采用自主视觉算法+玻璃模压非均匀镜头,相比市面上200万像素摄像头,检测距离翻倍、分辨率更高。


同时,4个超级鱼眼摄像头,可以替代传统4个侧视+4个环视的高阶360度感知方案,支持大FOV视角以及80米的环视检测距离。而类似这样的方案设计,在后续行泊一体市场可以最大化帮助提升传感器的复用能力,并降低系统的整体成本。


而在特斯拉的BEV模型中,另一个特点就是将传统ISP作为神经网络的一层,而不是在摄像头端对数据进行预处理。这意味着,可以让神经网络根据后端任务要求来决定ISP的参数调整,最大程度保证原始数据的有效性。


实际上,正如马斯克对于传统ISP处理的“否定”,独立ISP和视觉处理SoC的传统组合应该重新评估。ISP的功能可以直接在NNA上实现,也可以训练成在NNA上执行的CNN。“这种重新设计的架构,最终的系统级成本都比传统架构要低得多。”


在高工智能汽车研究院看来,在当下智能驾驶进入前装规模化升级的关键周期,系统性成本仍然是关键要素,如何实现在低成本感知硬件的基础上,通过场景适配性更强的算法模型可以实现高中低配硬件的全覆盖,至关重要。


评论 (0)
  • UNISOC Miracle Gaming奇迹手游引擎亮点:• 高帧稳帧:支持《王者荣耀》等主流手游90帧高画质模式,连续丢帧率最高降低85%;• 丝滑操控:游戏冷启动速度提升50%,《和平精英》开镜开枪操作延迟降低80%;• 极速网络:专属游戏网络引擎,使《王者荣耀》平均延迟降低80%;• 智感语音:与腾讯GVoice联合,弱网环境仍能保持清晰通话;• 超高画质:游戏画质增强、超级HDR画质、游戏超分技术,优化游戏视效。全球手游市场规模日益壮大,游戏玩家对极致体验的追求愈发苛刻。紫光展锐全新U
    紫光展锐 2025-05-07 17:07 305浏览
  • 硅二极管温度传感器是一种基于硅半导体材料特性的测温装置,其核心原理是利用硅二极管的电学参数(如正向压降或电阻)随温度变化的特性实现温度检测。以下是其工作原理、技术特点及典型应用:一、工作原理1、‌PN结温度特性‌硅二极管由PN结构成,当温度变化时,其正向电压 VF与温度呈线性负相关关系。例如,温度每升高1℃,VF约下降2 mV。2、‌电压—温度关系‌通过jing确测量正向电压的微小变化,可推算出环境温度值。部分型号(如SI410)在宽温域内(如1.4 K至475 K)仍能保持高线性度。
    锦正茂科技 2025-05-09 13:52 209浏览
  • 文/Leon编辑/cc孙聪颖‍《中国家族企业传承研究报告》显示,超四成“企二代” 明确表达接班意愿,展现出对家族企业延续发展的主动担当。中国研究数据服务平台(CNRDS)提供的精准数据进一步佐证:截至 2022 年,已有至少 280 家上市家族企业完成权杖交接,其中八成新任掌门人为创始人之子,凸显家族企业代际传承中 “子承父业” 的主流模式。然而,对于“企二代” 而言,接棒掌舵绝非易事。在瞬息万变的商业环境中,他们既要在白热化的市场竞争中开拓创新、引领企业突破发展瓶颈,又需应对来自父辈管理层的经
    华尔街科技眼 2025-05-06 18:17 28浏览
  • 后摄像头是长这个样子,如下图。5孔(D-,D+,5V,12V,GND),说的是连接线的个数,如下图。4LED,+12V驱动4颗LED灯珠,给摄像头补光用的,如下图。打开后盖,发现里面有透明白胶(防水)和白色硬胶(固定),用合适的工具,清理其中的胶状物。BOT层,AN3860,Panasonic Semiconductor (松下电器)制造的,Cylinder Motor Driver IC for Video Camera,如下图。TOP层,感光芯片和广角聚焦镜头组合,如下图。感光芯片,看着是玻
    liweicheng 2025-05-07 23:55 388浏览
  • 2024年初,OpenAI公布的Sora AI视频生成模型,震撼了国产大模型行业。随后国产厂商集体发力视频大模型,快手发布视频生成大模型可灵,字节跳动发布豆包视频生成模型,正式打响了国内AI视频生成领域第一枪。众多企业匆忙入局,只为在这片新兴市场中抢占先机,却往往忽视了技术成熟度与应用规范的打磨。以社交平台上泛滥的 AI 伪造视频为例,全红婵家人被恶意仿冒博流量卖货,明星们也纷纷中招,刘晓庆、张馨予等均曾反馈有人在视频号上通过AI生成视频假冒她。这些伪造视频不仅严重侵犯他人权
    用户1742991715177 2025-05-05 23:08 142浏览
  • 温度传感器的工作原理依据其类型可分为以下几种主要形式:一、热电阻温度传感器利用金属或半导体材料的电阻值随温度变化的特性实现测温:l ‌金属热电阻‌(如铂电阻 Pt100、Pt1000):高温下电阻值呈线性增长,稳定性高,适用于工业精密测温。l ‌热敏电阻‌(NTC/PTC):NTC 热敏电阻阻值随温度升高而下降,PTC 则相反;灵敏度高但线性范围较窄,常用于电子设备温控。二、热电偶传感器基于‌塞贝克效应‌(Seebeck effect):两种不同
    锦正茂科技 2025-05-09 13:31 191浏览
  • 文/郭楚妤编辑/cc孙聪颖‍相较于一众措辞谨慎、毫无掌舵者个人风格的上市公司财报,利亚德的财报显得尤为另类。利亚德光电集团成立于1995年,是一家以LED显示、液晶显示产品设计、生产、销售及服务为主业的高新技术企业。自2016年年报起,无论业绩优劣,董事长李军每年都会在财报末尾附上一首七言打油诗,抒发其对公司当年业绩的感悟。从“三年翻番顺大势”“智能显示我第一”“披荆斩棘幸从容”等词句中,不难窥见李军的雄心壮志。2012年,利亚德(300296.SZ)在深交所创业板上市。成立以来,该公司在细分领
    华尔街科技眼 2025-05-07 19:25 407浏览
  • ‌一、高斯计的正确选择‌1、‌明确测量需求‌‌磁场类型‌:区分直流或交流磁场,选择对应仪器(如交流高斯计需支持交变磁场测量)。‌量程范围‌:根据被测磁场强度选择覆盖范围,例如地球磁场(0.3–0.5 G)或工业磁体(数百至数千高斯)。‌精度与分辨率‌:高精度场景(如科研)需选择误差低于1%的仪器,分辨率需匹配微小磁场变化检测需求。2、‌仪器类型选择‌‌手持式‌:便携性强,适合现场快速检测;‌台式‌:精度更高,适用于实验室或工业环境。‌探头类型‌:‌横向/轴向探头‌:根据磁场方向选择,轴向探头适合
    锦正茂科技 2025-05-06 11:36 443浏览
  • 这款无线入耳式蓝牙耳机是长这个样子的,如下图。侧面特写,如下图。充电接口来个特写,用的是卡座卡在PCB板子上的,上下夹紧PCB的正负极,如下图。撬开耳机喇叭盖子,如下图。精致的喇叭(HY),如下图。喇叭是由电学产生声学的,具体结构如下图。电池包(AFS 451012  21 12),用黄色耐高温胶带进行包裹(安规需求),加强隔离绝缘的,如下图。451012是电池包的型号,聚合物锂电池+3.7V 35mAh,详细如下图。电路板是怎么拿出来的呢,剪断喇叭和电池包的连接线,底部抽出PCB板子
    liweicheng 2025-05-06 22:58 590浏览
  • Matter协议是一个由Amazon Alexa、Apple HomeKit、Google Home和Samsung SmartThings等全球科技巨头与CSA联盟共同制定的开放性标准,它就像一份“共生契约”,能让原本相互独立的家居生态在应用层上握手共存,同时它并非另起炉灶,而是以IP(互联网协议)为基础框架,将不同通信协议下的家居设备统一到同一套“语义规则”之下。作为应用层上的互通标准,Matter协议正在重新定义智能家居行业的运行逻辑,它不仅能向下屏蔽家居设备制造商的生态和系统,让设备、平
    华普微HOPERF 2025-05-08 11:40 338浏览
  • 随着智能驾驶时代到来,汽车正转变为移动计算平台。车载AI技术对存储器提出新挑战:既要高性能,又需低功耗和车规级可靠性。贞光科技代理的紫光国芯车规级LPDDR4存储器,以其卓越性能成为国产芯片产业链中的关键一环,为智能汽车提供坚实的"记忆力"支持。作为官方授权代理商,贞光科技通过专业技术团队和完善供应链,让这款国产存储器更好地服务国内汽车厂商。本文将探讨车载AI算力需求现状及贞光科技如何通过紫光国芯LPDDR4产品满足市场需求。 车载AI算力需求激增的背景与挑战智能驾驶推动算力需求爆发式
    贞光科技 2025-05-07 16:54 196浏览
  • 飞凌嵌入式作为龙芯合作伙伴,隆重推出FET-2K0300i-S全国产自主可控工业级核心板!FET-2K0300i-S核心板基于龙芯2K0300i工业级处理器开发设计,集成1个64位LA264处理器,主频1GHz,提供高效的计算能力;支持硬件ECC;2K0300i还具备丰富的连接接口USB、SDIO、UART、SPI、CAN-FD、Ethernet、ADC等一应俱全,龙芯2K0300i支持四路CAN-FD接口,具备良好的可靠性、实时性和灵活性,可满足用户多路CAN需求。除性价比超高的国产处理器外,
    飞凌嵌入式 2025-05-07 11:54 86浏览
  • 二位半 5线数码管的驱动方法这个2位半的7段数码管只用5个管脚驱动。如果用常规的7段+共阳/阴则需要用10个管脚。如果把每个段看成独立的灯。5个管脚来点亮,任选其中一个作为COM端时,另外4条线可以单独各控制一个灯。所以实际上最多能驱动5*4 = 20个段。但是这里会有一个小问题。如果想点亮B1,可以让第3条线(P3)置高,P4 置低,其它阳极连P3的灯对应阴极P2 P1都应置高,此时会发现C1也会点亮。实际操作时,可以把COM端线P3设置为PP输出,其它线为OD输出。就可以单独控制了。实际的驱
    southcreek 2025-05-07 15:06 482浏览
  • 在过去的很长一段时间里,外卖市场呈现出美团和饿了么双寡头垄断的局面。美团凭借先发优势、强大的地推团队以及精细化的运营策略,在市场份额上长期占据领先地位。数据显示,截至2024年上半年,美团外卖以68.2%的市场份额领跑外卖行业,成为当之无愧的行业老大。其业务广泛覆盖,从一线城市的繁华商圈到二三线城市的大街小巷,几乎无处不在,为无数消费者提供便捷的外卖服务。饿了么作为阿里本地生活服务的重要一环,依托阿里强大的资金和技术支持,也在市场中站稳脚跟,以25.4%的份额位居第二。尽管市场份额上与美团有一定
    用户1742991715177 2025-05-06 19:43 92浏览
我要评论
0
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦