开启嵌入式智能视觉应用新时代

Latticesemi 2021-04-23 15:27

全球新冠疫情肆虐以及对提高安全性和效率的需求正促使各行业企业在其系统中集成智能嵌入式视觉技术,以支持人员侦测、非接触式人机交互和更强大的AR/VR功能,同时使用智能机器视觉技术来提高制造水平和产量。Allied Market Research的数据显示,2019年全球机器视觉系统市场规模为297亿美元,到2027年预计将达到749亿美元,2020年到2027年的复合年增长率约为11.3%。

作为Lattice低功耗嵌入式视觉系统解决方案集合,mVision使用了模块化硬件平台、IP构建模块、易于使用的FPGA设计工具、参考设计和演示以及定制设计服务网络,提供定制化的性能和灵活的接口互连(MIPI CSI-2、LVDS、PCIe、GigE),并专为智能工厂、机器视觉、智慧城市和智能家居应用中的低功耗(150mW-1W)、小尺寸封装(2.5 x2.5mm-10x10mm)设计进行了优化,能应对传感器互连、桥接、聚合和图像信号处理等各类设计挑战。

牛刀小试

2020年3月,mVision 1.0解决方案面世,为需要快速构建原型系统的消费类嵌入式视觉设计人员提供了高度灵活、小型模块化的解决方案。其核心特点包括:

视频接口平台(VIP)——模块化硬件开发板,支持嵌入式视觉应用中常用的各种视频和I/O接口(包括MIPI、LVDS、DisplayPort、HDMI、USB等)。VIP开发板支持包括CrossLink™、ECP5™和基于莱迪思Nexus技术平台的CrossLink-NX FPGA。VIP通过简单的插拔即可轻松地实现输入和输出板互连,两个60引脚的高速板对板连接器用以减少物理连线,确保设计工程师可以复用现有经过验证的软硬件构建模块。


完善的IP库——mVision解决方案集合包括各类即时可用的IP核,可用于连接MIPI和LVDS图像传感器、ISP、通用连接标准(例如USB、千兆以太网)和HDMI、DisplayPort、GigE Vision等显示标准。

FPGA设计工具——可使用Lattice Diamond®和Lattice Radiant®这两款易于使用的FPGA设计工具。这些工具可以自动处理许多常见的设计任务,从而加速和简化莱迪思FPGA的编程。

端到端的参考设计——为进一步加速系统开发,莱迪思mVision为常见的嵌入式视觉应用提供了完整的参考设计,包括传感器桥接、传感器聚合和图像处理。

定制化设计服务——针对需要协助将其嵌入式视觉系统推向市场的客户,莱迪思建立了设计服务合作伙伴网络,可以满足从开发单独的功能设计模块到提供一站式交钥匙解决方案等一系列客户需求。

mVision 2.0:从消费级到工业级

一年后的2021年3月,在mVision 1.0版本的基础上,Lattice推出了mVision 2.0。该方案新增了一些重要更新,包括对工业和汽车系统中使用的主流新型图像传感器的支持,以及全新图像信号处理IP核和参考设计,帮助开发人员设计网络边缘智能视觉应用。该解决方案集合现还支持Lattice Propel设计环境,可简化使用嵌入式RISC-V处理器的视觉系统的开发。

此外,mVision 2.0 ISP Pieces Library(Drop 1.0)还具备完整的ISP管道功能,支持高达150MHz的像素时钟(720p120/1080p60等)和高达96dB(16位)的场景动态范围,提供定制ISP解决方案的灵活互连,用以平衡性能和成本。调试工具包则具备外部DDR存储器实时图像捕获功能,支持Lattice SSP注册访问工具包,能够针对特定环境进行调整。

mVision 2.0解决方案集合的主要更新包括:

扩展了对汽车、工业和医疗领域的支持

与消费级嵌入式视觉方案不同,应用于工业、汽车和医疗领域的嵌入式视觉方案既要求低功耗、小尺寸,还对帧率准确度要求极为严苛,不允许丢帧现象发生。因此,莱迪思在mVision 2.0增加了全新的开发板,除了原有的CrossLink、CrossLink-NX、ECP5之外,还包括支持工业和医疗应用的主流图像传感器Sony IMX464/IMX568安森美半导体的AR0234CS,开发人员可通过I2C、SPI或其他接口对摄像机传感器进行配置和操作。

 

 

支持Propel设计环境与RISC-V架构

Propel是一款用于在低功耗、小尺寸莱迪思FPGA上加速基于嵌入式处理器开发的设计环境。该工具包括一套完整的图形和命令行工具,可创建、分析、编译和调试基于FPGA的处理器系统的硬件和软件设计。

而之所以新增对RISC-V架构的支持,其主要目的,一是希望通过使用C代码而非RTL语言的方式简便整个方案的配置;二是RISC-V作为开源方案,得到了大多数用户的支持。未来,Lattice将计划在其他器件上逐步提供RISC-V软核支持。


 全新图像信号处理器(ISP)参考设计

以往的传感器产品都自带ISP驱动,但随着传感器复杂度的增加、分辨率的提升,传感器厂商很难调动一款受众面很广的驱动,因此往往不再提供ISP驱动,多数只提供传感或者原始数据,这部分工作就被渐渐转移给了方案开发者。Lattice此次增加了专门的ISP,为客户拓展了mVision解决方案的选择,可以帮助用户在产品设计中快速部署嵌入式视觉等应用提供便利。


新增图像信号处理与桥接聚合IP

mVision 2.0所包含的IP核主要分为四类:显示处理图像信号处理桥接和聚合互连。其中,图像信号处理、桥接和聚合IP为新增项目,用户可以直接引入这些模块,减少从零开发的流程投入。同时,所有这些可用的IP模块都支持CrossLink-NX。


应用案例

从M2M应用中的工业显示系统、工业4.0解决方案,到高级驾驶辅助系统(ADAS)和车载信息娱乐系统,再到数码单反相机、无人机、机器人、虚拟现实(VR)系统和医疗设备,在当今所有行业中摄像头应用的数量都在不断增长,目标识别、深度感知、碰撞规避和决策制定等更加智能的应用也正在变为现实。

为了构建灵活、智能学习的环境,将理想变为现实,莱迪思携手Softnautlcs、LogicFruit、Bitec、TATA、Helion等合作伙伴开发出了数十种灵活的解决方案以满足当今嵌入式视觉设计工程师的需求,如不断变化的接口、低功耗图像信号处理和硬件加速。

使用Helion IONOS ISP加速产品上市进程

莱迪思与Helion Vision合作提供全面的解决方案,包括一系列图像信号处理产品系列,从基本的(ECO HD-ISP)到支持高级高动态范围图像处理(HDR HD-ISP)的产品。其中,Helion Vision的IONOS IP系列通过IP库提供100多款独立IP,实现即插即用的处理解决方案,并在此前专为ECP3™和ECP5™架构进行了优化的基础上,新增对CrossLink-NX的支持,可显着减少所需的FPGA资源和延迟。

基于流水线架构的mVision ISP参考设计

下图展示的是一个基于流水线架构的完整的莱迪思mVision ISP参考设计,支持Sony IMX464/IMX568和安森美半导体的AR0234CS图像传感器,2020年11月交付早期客户使用。最早使用的硬件平台为ECP5,预计将于2021年第一季度内支持CrossLink。根据规划,Lattice最初的ISP参考设计将专注于工业、医疗和汽车应用,莱迪思会提供包含非常适合医疗、工业、航空航天、汽车和消费者应用的流行传感器在内的多种EVDK模块。

 

 

Sony IMX464 VIP传感器输入板

全新Sony IMX464 VIP传感器输入板包括Sony 1/1.8" 4MP MIPI NIR增强型卷帘快门传感器模块,以及连接EVDK的适配器数据线。与嵌入式视觉开发套件(EVDK)无缝连接,支持2688(H) x 1520(V)分辨率、4 M像素、最高90 FPS、HDR等性能指标,适用于监控、工厂自动化、工业摄像头应用。

左图:未经ISP处理的图片;右图:经过ISP处理后的RGB图像

嵌入式视觉系统设计工程师面临着许多挑战,图像信号处理问题只是其中一项,上述案例也只是众多应用中的代表。图像传感器形式和尺寸各异,并且在像素粒度、信噪比、光敏度和色深方面的性能等级也不同。此外,照明和物体的色彩对比度等环境因素进一步让系统设计变得更加复杂。这些情况往往会对系统设计工程师带来严重的问题,因为他们要实时地进行图像预处理。要解决产品设计周期延长和风险上升的问题,莱迪思在图像处理领域具备的专业经验将能够很好的帮助他们应对上述挑战。

Latticesemi 莱迪思半导体(NASDAQ: LSCC)提供基于低功耗FPGA、视频ASSP、60 GHz毫米波无线技术以及各类IP的智能互连解决方案,服务于全球消费电子、通信、工业、计算和汽车市场。我们致力于帮助客户加速创新,构建一个更智能互连的世界。
评论
  • 时源芯微——RE超标整机定位与解决详细流程一、 初步测量与问题确认使用专业的电磁辐射测量设备,对整机的辐射发射进行精确测量。确认是否存在RE超标问题,并记录超标频段和幅度。二、电缆检查与处理若存在信号电缆:步骤一:拔掉所有信号电缆,仅保留电源线,再次测量整机的辐射发射。若测量合格:判定问题出在信号电缆上,可能是电缆的共模电流导致。逐一连接信号电缆,每次连接后测量,定位具体哪根电缆或接口导致超标。对问题电缆进行处理,如加共模扼流圈、滤波器,或优化电缆布局和屏蔽。重新连接所有电缆,再次测量
    时源芯微 2024-12-11 17:11 109浏览
  • 一、SAE J1939协议概述SAE J1939协议是由美国汽车工程师协会(SAE,Society of Automotive Engineers)定义的一种用于重型车辆和工业设备中的通信协议,主要应用于车辆和设备之间的实时数据交换。J1939基于CAN(Controller Area Network)总线技术,使用29bit的扩展标识符和扩展数据帧,CAN通信速率为250Kbps,用于车载电子控制单元(ECU)之间的通信和控制。小北同学在之前也对J1939协议做过扫盲科普【科普系列】SAE J
    北汇信息 2024-12-11 15:45 112浏览
  • 习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习笔记&记录学习习笔记&记学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记
    youyeye 2024-12-12 10:13 40浏览
  • 全球智能电视时代来临这年头若是消费者想随意地从各个通路中选购电视时,不难发现目前市场上的产品都已是具有智能联网功能的智能电视了,可以宣告智能电视的普及时代已到临!Google从2021年开始大力推广Google TV(即原Android TV的升级版),其他各大品牌商也都跟进推出搭载Google TV操作系统的机种,除了Google TV外,LG、Samsung、Panasonic等大厂牌也开发出自家的智能电视平台,可以看出各家业者都一致地看好这块大饼。智能电视的Wi-Fi连线怎么消失了?智能电
    百佳泰测试实验室 2024-12-12 17:33 53浏览
  • 首先在gitee上打个广告:ad5d2f3b647444a88b6f7f9555fd681f.mp4 · 丙丁先生/香河英茂工作室中国 - Gitee.com丙丁先生 (mr-bingding) - Gitee.com2024年对我来说是充满挑战和机遇的一年。在这一年里,我不仅进行了多个开发板的测评,还尝试了多种不同的项目和技术。今天,我想分享一下这一年的故事,希望能给大家带来一些启发和乐趣。 年初的时候,我开始对各种开发板进行测评。从STM32WBA55CG到瑞萨、平头哥和平海的开发板,我都
    丙丁先生 2024-12-11 20:14 73浏览
  • RK3506 是瑞芯微推出的MPU产品,芯片制程为22nm,定位于轻量级、低成本解决方案。该MPU具有低功耗、外设接口丰富、实时性高的特点,适合用多种工商业场景。本文将基于RK3506的设计特点,为大家分析其应用场景。RK3506核心板主要分为三个型号,各型号间的区别如下图:​图 1  RK3506核心板处理器型号场景1:显示HMIRK3506核心板显示接口支持RGB、MIPI、QSPI输出,且支持2D图形加速,轻松运行QT、LVGL等GUI,最快3S内开
    万象奥科 2024-12-11 15:42 88浏览
  • 应用环境与极具挑战性的测试需求在服务器制造领域里,系统整合测试(System Integration Test;SIT)是确保产品质量和性能的关键步骤。随着服务器系统的复杂性不断提升,包括:多种硬件组件、操作系统、虚拟化平台以及各种应用程序和服务的整合,服务器制造商面临着更有挑战性的测试需求。这些挑战主要体现在以下五个方面:1. 硬件和软件的高度整合:现代服务器通常包括多个处理器、内存模块、储存设备和网络接口。这些硬件组件必须与操作系统及应用软件无缝整合。SIT测试可以帮助制造商确保这些不同组件
    百佳泰测试实验室 2024-12-12 17:45 53浏览
  • 在智能化技术快速发展当下,图像数据的采集与处理逐渐成为自动驾驶、工业等领域的一项关键技术。高质量的图像数据采集与算法集成测试都是确保系统性能和可靠性的关键。随着技术的不断进步,对于图像数据的采集、处理和分析的需求日益增长,这不仅要求我们拥有高性能的相机硬件,还要求我们能够高效地集成和测试各种算法。我们探索了一种多源相机数据采集与算法集成测试方案,能够满足不同应用场景下对图像采集和算法测试的多样化需求,确保数据的准确性和算法的有效性。一、相机组成相机一般由镜头(Lens),图像传感器(Image
    康谋 2024-12-12 09:45 75浏览
  • 本文介绍瑞芯微RK3588主板/开发板Android12系统下,APK签名文件生成方法。触觉智能EVB3588开发板演示,搭载了瑞芯微RK3588芯片,该开发板是核心板加底板设计,音视频接口、通信接口等各类接口一应俱全,可帮助企业提高产品开发效率,缩短上市时间,降低成本和设计风险。工具准备下载Keytool-ImportKeyPair工具在源码:build/target/product/security/系统初始签名文件目录中,将以下三个文件拷贝出来:platform.pem;platform.
    Industio_触觉智能 2024-12-12 10:27 62浏览
  • 铁氧体芯片是一种基于铁氧体磁性材料制成的芯片,在通信、传感器、储能等领域有着广泛的应用。铁氧体磁性材料能够通过外加磁场调控其导电性质和反射性质,因此在信号处理和传感器技术方面有着独特的优势。以下是对半导体划片机在铁氧体划切领域应用的详细阐述: 一、半导体划片机的工作原理与特点半导体划片机是一种使用刀片或通过激光等方式高精度切割被加工物的装置,是半导体后道封测中晶圆切割和WLP切割环节的关键设备。它结合了水气电、空气静压高速主轴、精密机械传动、传感器及自动化控制等先进技术,具有高精度、高
    博捷芯划片机 2024-12-12 09:16 85浏览
  • 习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习笔记&记录学习习笔记&记学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记
    youyeye 2024-12-11 17:58 86浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦