使用NVIDIAIGXOrin开发套件加速边缘AI之旅

原创 英伟达NVIDIA中国 2023-04-07 18:31

想象一下,你即将开启一生难忘的山地自行车冒险之旅。计划已经完成,相应的训练也基本到位,当下所需要的就是一辆完美的自行车。你需要好的减震器、轮胎、刹车、车架、车把和座椅。假设所有这些部件都集中在一个包裹中,并且预先组装在了一起,从而为你节省时间和花费。

NVIDIA IGX Orin 为边缘 AI 应用程序开发人员提供了类似的工具包:一个优化的一体式平台。NVIDIA IGX Orin 是第一个将工业级硬件与企业级软件相结合,并支持边缘 AI 管理的平台。

图 1  硬件和企业级软件工作流程,以确保安全的边缘 AI 管理

NVIDIA IGX Orin 让公司能够转向软件定义的模型,从而提高开发速度、降低成本,而不是浪费宝贵的资源拼凑平台来运行或开发 AI 应用程序。

NVIDIA IGX Orin 专为工业和医疗环境打造,为开发人员提供边缘 AI 所需的性能、耐用性、安全性和安全功能。


NVIDIA IGX Orin 开发套件


一体式 NVIDIA IGX Orin 开发者套件配有机箱和电源,可帮助启动或加速边缘 AI 应用程序开发,主要功能如下所述。


硬件


  • IGX Orin 模块:工业级;已认证就绪

  • CPU :12 核 Arm

  • GPU :NVIDIA Ampere 1024 CUDA ,64 Tensor

  • 硬件安全扩展

  • 功能安全岛

  • NVIDIA ConnectX-7 智能网络接口卡(SmartNIC)提供 200Gb/s 的网络速度,非常适合接收高帧率视频

  • 用于固件更新的 NVIDIA 基板管理控制器(BMC)

  • 安全 MCU

  • 与功能安全岛(FSI)和安全扩展包软件携手合作

  • 监控 IGX 和机箱环境的电压、温度、风扇和速度

  • 机箱,包括冷却风扇

  • 电源装置

  • 附件(用于连接的各种电缆)


软件


  • NVIDIA AI SDK

  • NVIDIA Metropolis
  • NVIDIA Holoscan

  • 安全扩展包

  • 商业操作系统集成

  • Canonical,红帽

更多有关信息,请参阅 NVIDIA IGX product specifications (https://www.nvidia.com/en-us/edge-computing/products/igx/)。

关键用例


许多领先的工业和医疗公司目前正在使用 NVIDIA IGX Orin 将 AI 应用于其运营和解决方案中。继续阅读,了解更多关于在 NVIDIA IGX 平台上开发的一些关键用例信息。

工业安全:预防工作场所的险情


随着机器与人类互动的增加,特别是在仓库和制造环境中,functional safety 变得至关重要。更多详细信息,请参见全新 NVIDIA IGX 平台帮助创建安全、自动化的未来工厂 (https://blogs.nvidia.com/blog/2022/09/20/igx-industrial-edge-ai/)。


Reactive safety 是自主机器的标准规定,当出现安全威胁或事件时,会减慢或关闭机器。这会减轻对相关人员造成的伤害,但停机时间的成本也非常昂贵。


除了支持 reactive safety 功能外,NVIDIA IGX Orin 还使公司能够构建 proactive safety,以防止危险事件的发生。Proactive safety 的运作类似早期检测和响应系统,通过控制面板来监督自主机器集群。


Proactive safety 包括在事件发生前识别安全隐患,采取适当措施,保护工人,最小化停机时间和相关成本。以下提供了一些 proactive safety 的具体示例。


  • PPE detection:可以训练 AI 模型,以帮助监测和检测个人防护装备(PPE)的适当使用。

  • Barrier breaches:启用 AI 的摄像头和传感器可以识别及分类物体和人,以确定是否存在安全或安保威胁,并提示采取适当的安全措施。

  • Collision detection:AI 可以分析实时视频和图像处理,以确定机器和人类的运动是否可能导致碰撞,然后采取安全措施避免事故发生。


NVIDIA IGX Orin 和 NVIDIA Metropolis SDK 的结合为开发人员提供了强大平台,加速功能安全 AI 应用程序开发,并管理自主机器集群。


工业自动化:更快、更准确、更高效的供应链


低效的供应链加上劳动力短缺,对公司满足需求和保持客户满意度的能力产生了深远的负面影响。对更高效的供应链的迫切需求,带来了 AI 解决方案的快速发展。


例如,履行中心在公司的供应链中发挥着关键作用。使用 NVIDIA IGX Orin 、 NVIDIA Metropolis SDK 和 NVIDIA Omniverse 可以将低效的供应链转化为面向未来、适应性强的运营。可以开发 AI 应用程序以产出高质量的感知数据,为实时决策提供信息,从而提高运营效率。请参阅下面的几个例子。


  • Industrial inspection:AI 模型被训练来检测和分类物体,并识别去除缺陷产品。

  • Predictive maintenance:通过对周围环境、故障检测和机器/机器人性能的数据分析,AI 可以预测设备何时可能需要主动维护,以避免停机。

  • Field inspection:图像识别和处理与自动报告相结合,使现场检查更加准确、安全和高效。


通过分析来自传感器或其他来源的数据,可以在 AI 的帮助下检测甚至消除生产中的瓶颈。


医疗设备:在临床边缘实时处理流式数据


医疗设备制造商正在采用新的 AI 功能,以加速 TTM 并降低开发和维护成本。利用 AI 计算平台可以在以下方面赋能医疗设备开发人员:


  • 更快地训练医学 AI 模型

  • 构建和微调医疗 AI 应用程序

  • 核实和验证医疗级应用程序

  • 安全地部署到临床生产


使用 NVIDIA IGX Orin 和 NVIDIA Holoscan SDK,开发人员可以大大加快 AI 应用程序和 AI 医疗设备的开发。NVIDIA Clara Holoscan 是一个在 NVIDIA IGX Orin 上运行的实时 AI 计算平台,用于高精度 AI、高级别安全和 proactive safety。下面列出了 NVIDIA IGX Orin 和 NVIDIA Clara Holoscan 的一些早期用例。

  • Ultrasound:AI 应用可以通过改进图像优化、分析和解释来提高超声的准确性,有助于更好地诊断癌症肿瘤或妊娠期异常等疾病。

  • Endoscopy:AI 可以帮助提高成像解释的准确性和速度,从而减少医疗专业人员的工作量,并更好地检测情况。了解更多信息,请参阅 AI in Endoscopy: Improving Detection Rates and Visibility with Real-Time Sensing (https://developer.nvidia.com/blog/ai-in-endoscopy-improving-detection-rates-and-visibility-with-real-time-sensing/)。

  • Robotic surgery:医疗保健创新者正在探寻 AI 的方式,通过将肉眼无法看到的关键生理结构和功能(如血流)实时可视化,来帮助外科医生避免并发症。一些其他领先的公司则使用 AI 远程连接外科医生,以便合作,带来尽可能好的结果。了解更多信息,请参阅 NVIDIA Medical Edge AI Computing Platform Selected by Top Robotic and Digital Surgery Startups (https://blogs.nvidia.com/blog/2022/09/20/igx-clara-holoscan-edge-ai-robotic-surgery/)。


开始着手


无论是在规划阶段、起始阶段,还是在边缘 AI 之旅的中途,NVIDIA IGX Orin 开发套件都会让你更快到达目的地。立即获取 NVIDIA IGX Orin 开发套件 (https://www.nvidia.com/en-us/edge-computing/products/igx/?nvid=nv-int-tblg-313058#cid=dl23_nv-int-tblg_en-us)。


扫描海报二维码,或点击“阅读原文”,即可观看 NVIDIA 创始人兼首席执行官黄仁勋 GTC23 主题演讲重播!


评论
  • Ubuntu20.04默认情况下为root账号自动登录,本文介绍如何取消root账号自动登录,改为通过输入账号密码登录,使用触觉智能EVB3568鸿蒙开发板演示,搭载瑞芯微RK3568,四核A55处理器,主频2.0Ghz,1T算力NPU;支持OpenHarmony5.0及Linux、Android等操作系统,接口丰富,开发评估快人一步!添加新账号1、使用adduser命令来添加新用户,用户名以industio为例,系统会提示设置密码以及其他信息,您可以根据需要填写或跳过,命令如下:root@id
    Industio_触觉智能 2025-01-17 14:14 121浏览
  •  万万没想到!科幻电影中的人形机器人,正在一步步走进我们人类的日常生活中来了。1月17日,乐聚将第100台全尺寸人形机器人交付北汽越野车,再次吹响了人形机器人疯狂进厂打工的号角。无独有尔,银河通用机器人作为一家成立不到两年时间的创业公司,在短短一年多时间内推出革命性的第一代产品Galbot G1,这是一款轮式、双臂、身体可折叠的人形机器人,得到了美团战投、经纬创投、IDG资本等众多投资方的认可。作为一家成立仅仅只有两年多时间的企业,智元机器人也把机器人从梦想带进了现实。2024年8月1
    刘旷 2025-01-21 11:15 390浏览
  • 本文介绍瑞芯微开发板/主板Android配置APK默认开启性能模式方法,开启性能模式后,APK的CPU使用优先级会有所提高。触觉智能RK3562开发板演示,搭载4核A53处理器,主频高达2.0GHz;内置独立1Tops算力NPU,可应用于物联网网关、平板电脑、智能家居、教育电子、工业显示与控制等行业。源码修改修改源码根目录下文件device/rockchip/rk3562/package_performance.xml并添加以下内容,注意"+"号为添加内容,"com.tencent.mm"为AP
    Industio_触觉智能 2025-01-17 14:09 164浏览
  • 2024年是很平淡的一年,能保住饭碗就是万幸了,公司业绩不好,跳槽又不敢跳,还有一个原因就是老板对我们这些员工还是很好的,碍于人情也不能在公司困难时去雪上加霜。在工作其间遇到的大问题没有,小问题还是有不少,这里就举一两个来说一下。第一个就是,先看下下面的这个封装,你能猜出它的引脚间距是多少吗?这种排线座比较常规的是0.6mm间距(即排线是0.3mm间距)的,而这个规格也是我们用得最多的,所以我们按惯性思维来看的话,就会认为这个座子就是0.6mm间距的,这样往往就不会去细看规格书了,所以这次的运气
    wuliangu 2025-01-21 00:15 183浏览
  • 临近春节,各方社交及应酬也变得多起来了,甚至一月份就排满了各式约见。有的是关系好的专业朋友的周末“恳谈会”,基本是关于2025年经济预判的话题,以及如何稳定工作等话题;但更多的预约是来自几个客户老板及副总裁们的见面,他们为今年的经济预判与企业发展焦虑而来。在聊天过程中,我发现今年的聊天有个很有意思的“点”,挺多人尤其关心我到底是怎么成长成现在的多领域风格的,还能掌握一些经济趋势的分析能力,到底学过哪些专业、在企业管过哪些具体事情?单单就这个一个月内,我就重复了数次“为什么”,再辅以我上次写的:《
    牛言喵语 2025-01-22 17:10 41浏览
  • 高速先生成员--黄刚这不马上就要过年了嘛,高速先生就不打算给大家上难度了,整一篇简单但很实用的文章给大伙瞧瞧好了。相信这个标题一出来,尤其对于PCB设计工程师来说,心就立马凉了半截。他们辛辛苦苦进行PCB的过孔设计,高速先生居然说设计多大的过孔他们不关心!另外估计这时候就跳出很多“挑刺”的粉丝了哈,因为翻看很多以往的文章,高速先生都表达了过孔孔径对高速性能的影响是很大的哦!咋滴,今天居然说孔径不关心了?别,别急哈,听高速先生在这篇文章中娓娓道来。首先还是要对各位设计工程师的设计表示肯定,毕竟像我
    一博科技 2025-01-21 16:17 100浏览
  • 数字隔离芯片是一种实现电气隔离功能的集成电路,在工业自动化、汽车电子、光伏储能与电力通信等领域的电气系统中发挥着至关重要的作用。其不仅可令高、低压系统之间相互独立,提高低压系统的抗干扰能力,同时还可确保高、低压系统之间的安全交互,使系统稳定工作,并避免操作者遭受来自高压系统的电击伤害。典型数字隔离芯片的简化原理图值得一提的是,数字隔离芯片历经多年发展,其应用范围已十分广泛,凡涉及到在高、低压系统之间进行信号传输的场景中基本都需要应用到此种芯片。那么,电气工程师在进行电路设计时到底该如何评估选择一
    华普微HOPERF 2025-01-20 16:50 73浏览
  • 嘿,咱来聊聊RISC-V MCU技术哈。 这RISC-V MCU技术呢,简单来说就是基于一个叫RISC-V的指令集架构做出的微控制器技术。RISC-V这个啊,2010年的时候,是加州大学伯克利分校的研究团队弄出来的,目的就是想搞个新的、开放的指令集架构,能跟上现代计算的需要。到了2015年,专门成立了个RISC-V基金会,让这个架构更标准,也更好地推广开了。这几年啊,这个RISC-V的生态系统发展得可快了,好多公司和机构都加入了RISC-V International,还推出了不少RISC-V
    丙丁先生 2025-01-21 12:10 112浏览
  • 现在为止,我们已经完成了Purple Pi OH主板的串口调试和部分配件的连接,接下来,让我们趁热打铁,完成剩余配件的连接!注:配件连接前请断开主板所有供电,避免敏感电路损坏!1.1 耳机接口主板有一路OTMP 标准四节耳机座J6,具备进行音频输出及录音功能,接入耳机后声音将优先从耳机输出,如下图所示:1.21.2 相机接口MIPI CSI 接口如上图所示,支持OV5648 和OV8858 摄像头模组。接入摄像头模组后,使用系统相机软件打开相机拍照和录像,如下图所示:1.3 以太网接口主板有一路
    Industio_触觉智能 2025-01-20 11:04 150浏览
  •     IPC-2581是基于ODB++标准、结合PCB行业特点而指定的PCB加工文件规范。    IPC-2581旨在替代CAM350格式,成为PCB加工行业的新的工业规范。    有一些免费软件,可以查看(不可修改)IPC-2581数据文件。这些软件典型用途是工艺校核。    1. Vu2581        出品:Downstream     
    电子知识打边炉 2025-01-22 11:12 49浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦