SIGGRAPH2024|NVIDIA研究人员利用实时生成式AI创建身临其境的沙漠世界

原创 英伟达NVIDIA中国 2024-08-01 18:12

该成果的 demo 演示了 NVIDIA Edify 驱动的模型及 NVIDIA Omniverse 平台辅助创建 3D 世界的能力。



NVIDIA 研究人员在当地时间本周二 SIGGRAPH 的 Real-Time Live 活动中,现场演示了如何使用 NVIDIA Edify(一种适用于视觉生成式 AI 的多模态架构)在几分钟内即可创建出一个细节考究的 3D 沙漠景观。


作为本届 SIGGRAPH 图形大会备受瞩目的会议之一,NVIDIA 研究人员展示了他们在 AI 智能体的支持下,仅用五分钟不到的时间,就能够从头开始创建和编辑出沙漠景观。现场 demo 充分展现了生成式 AI 如何通过加快构思速度和生成原本需要从资源库中获取的自定义辅助资产,以成为艺术家的得力助手。


通过大幅缩短构思时间,这些 AI 技术将提高 3D 艺术家的生产力和创造力,为他们提供更快探索概念和加快部分工作流所需的工具。例如,他们可以在几分钟内生成场景所需的背景资产或 360 HDRi 环境,再也不需要在寻找或创建它们这件事上花费数小时了。


将创意变成 3D 场景只需三分钟


创建一个完整的 3D 场景是一项复杂且耗时的任务。为了创建出一个丰富的场景,艺术家必须使用大量背景物体衬托他们的主要素材,然后还要找到合适的背景和环境贴图来模拟光照效果。由于时间有限,他们往往不得不在快速产出结果和探索各种创意之间做出权衡。


在 AI 智能体的支持下,创意团队就能“两者兼得”——既能快速将概念转化为现实,又能通过不断迭代获得合适的外观。


在这场 Real-Time Live 活动的 demo 演示中,研究人员使用文本提示指导 NVIDIA Edify 驱动的模型,来生成数十种 3D 资源,包括仙人掌、岩石、公牛头骨等,而且只需要几秒钟就能生成预览。


接下来,他们还指示智能体利用其他模型创建可能需要使用的背景和物体如何放置在场景中的布局,并且通过快速将岩石转换成金块展示了智能体如何适应创意指示最后一刻的变化。


在有了设计方案之后,他们利用智能体创建全质量资源,并在 NVIDIA Omniverse USD Composer(一个用于创建虚拟世界的应用程序)中将场景渲染成逼真的图像。



NVIDIA Edify 加速环境生成 


NVIDIA Edify 模型可以在帮助创作者专注于主要素材的同时,使用 AI 驱动的场景生成工具加速背景环境和物体的创建。该 Real-Time Live 活动的 demo 演示了两个 Edify 模型:


  • Edify 3D 可根据文本或图像提示生成可直接编辑的 3D 网格。该模型只需要几秒钟就能生成预览,包括各个物体的旋转动画。这将帮助创作者在确定具体设计之前快速创建出原型。

  • Edify 360 HDRi 可根据文本或图像提示生成最高分辨率为16K 的自然景观高动态范围图像(HDRi),这些图像可以用作背景和为场景模拟光照效果。

在 demo 过程中,研究人员还展示了一个由大语言模型驱动的 AI 智能体,以及一个使用 3D 工作流平台 OpenUSD 生成场景布局的 AI 模型 USD Layout。 


NVIDIA 还在 SIGGRAPH 上宣布,两家领先的创意内容公司正在为设计师和艺术家提供一种通过生成式 AI 大幅提升生产力的新方法——使用 NVIDIA Edify 驱动的工具。


Shutterstock 推出了其 3D 生成服务的商业测试版。通过该服务,创作者可根据文本或图像提示快速创建原型并生成 3D 资产。该公司基于 Edify 的 360 HDRi 生成器也已进入早期体验阶段。


Getty Images 使用最新版本的 NVIDIA Edify 更新了其 Generative AI by Getty Images 服务,不但使用户创建图像的速度加快了一倍,而且还提高了输出质量和提示依从性,并支持高级控制和微调。


在 NVIDIA Omniverse 中

充分利用通用场景描述


使用 Edify 模型生成的 3D 物体、环境贴图和布局均采用 USD 这一用于描述和组成 3D 世界的标准格式。凭借这一兼容性,艺术家能够直接将 Edify 驱动的创作导入 Omniverse USD Composer。


在 Composer 中,他们可以使用流行的数字内容创建工具进一步修改场景,例如改变物体的位置、修改物体的外观、调整光照效果模拟等。


观看下方本届 SIGGRAPH 的 Real-Time Live 视频,了解更多包括生成式 AI、虚拟现实和现场表演捕捉技术在内的十几种实时应用。



点击“阅读原文”,或扫描下方海报二维码,观看 NVIDIA 创始人兼 CEO 黄仁勋和 Meta 创始人兼 CEO 马克·扎克伯格在 SIGGRAPH 2024 上就 AI 领域新突破进行的炉边谈话。

评论
  • 大模型的赋能是指利用大型机器学习模型(如深度学习模型)来增强或改进各种应用和服务。这种技术在许多领域都显示出了巨大的潜力,包括但不限于以下几个方面: 1. 企业服务:大模型可以用于构建智能客服系统、知识库问答系统等,提升企业的服务质量和运营效率。 2. 教育服务:在教育领域,大模型被应用于个性化学习、智能辅导、作业批改等,帮助教师减轻工作负担,提高教学质量。 3. 工业智能化:大模型有助于解决工业领域的复杂性和不确定性问题,尽管在认知能力方面尚未完全具备专家级的复杂决策能力。 4. 消费
    丙丁先生 2025-01-07 09:25 122浏览
  • 故障现象一辆2017款东风风神AX7车,搭载DFMA14T发动机,累计行驶里程约为13.7万km。该车冷起动后怠速运转正常,热机后怠速运转不稳,组合仪表上的发动机转速表指针上下轻微抖动。 故障诊断 用故障检测仪检测,发动机控制单元中无故障代码存储;读取发动机数据流,发现进气歧管绝对压力波动明显,有时能达到69 kPa,明显偏高,推断可能的原因有:进气系统漏气;进气歧管绝对压力传感器信号失真;发动机机械故障。首先从节气门处打烟雾,没有发现进气管周围有漏气的地方;接着拔下进气管上的两个真空
    虹科Pico汽车示波器 2025-01-08 16:51 86浏览
  • By Toradex 秦海1). 简介嵌入式平台设备基于Yocto Linux 在开发后期量产前期,为了安全以及提高启动速度等考虑,希望将 ARM 处理器平台的 Debug Console 输出关闭,本文就基于 NXP i.MX8MP ARM 处理器平台来演示相关流程。 本文所示例的平台来自于 Toradex Verdin i.MX8MP 嵌入式平台。  2. 准备a). Verdin i.MX8MP ARM核心版配合Dahlia载板并
    hai.qin_651820742 2025-01-07 14:52 113浏览
  • 本文介绍编译Android13 ROOT权限固件的方法,触觉智能RK3562开发板演示,搭载4核A53处理器,主频高达2.0GHz;内置独立1Tops算力NPU,可应用于物联网网关、平板电脑、智能家居、教育电子、工业显示与控制等行业。关闭selinux修改此文件("+"号为修改内容)device/rockchip/common/BoardConfig.mkBOARD_BOOT_HEADER_VERSION ?= 2BOARD_MKBOOTIMG_ARGS :=BOARD_PREBUILT_DTB
    Industio_触觉智能 2025-01-08 00:06 100浏览
  • 在智能家居领域中,Wi-Fi、蓝牙、Zigbee、Thread与Z-Wave等无线通信协议是构建短距物联局域网的关键手段,它们常在实际应用中交叉运用,以满足智能家居生态系统多样化的功能需求。然而,这些协议之间并未遵循统一的互通标准,缺乏直接的互操作性,在进行组网时需要引入额外的网关作为“翻译桥梁”,极大地增加了系统的复杂性。 同时,Apple HomeKit、SamSung SmartThings、Amazon Alexa、Google Home等主流智能家居平台为了提升市占率与消费者
    华普微HOPERF 2025-01-06 17:23 211浏览
  • 根据环洋市场咨询(Global Info Research)项目团队最新调研,预计2030年全球无人机锂电池产值达到2457百万美元,2024-2030年期间年复合增长率CAGR为9.6%。 无人机锂电池是无人机动力系统中存储并释放能量的部分。无人机使用的动力电池,大多数是锂聚合物电池,相较其他电池,锂聚合物电池具有较高的能量密度,较长寿命,同时也具有良好的放电特性和安全性。 全球无人机锂电池核心厂商有宁德新能源科技、欣旺达、鹏辉能源、深圳格瑞普和EaglePicher等,前五大厂商占有全球
    GIRtina 2025-01-07 11:02 127浏览
  • 「他明明跟我同梯进来,为什么就是升得比我快?」许多人都有这样的疑问:明明就战绩也不比隔壁同事差,升迁之路却比别人苦。其实,之间的差异就在于「领导力」。並非必须当管理者才需要「领导力」,而是散发领导力特质的人,才更容易被晓明。许多领导力和特质,都可以通过努力和学习获得,因此就算不是天生的领导者,也能成为一个具备领导魅力的人,进而被老板看见,向你伸出升迁的橘子枝。领导力是什么?领导力是一种能力或特质,甚至可以说是一种「影响力」。好的领导者通常具备影响和鼓励他人的能力,并导引他们朝着共同的目标和愿景前
    优思学院 2025-01-08 14:54 82浏览
  • 每日可见的315MHz和433MHz遥控模块,你能分清楚吗?众所周知,一套遥控设备主要由发射部分和接收部分组成,发射器可以将控制者的控制按键经过编码,调制到射频信号上面,然后经天线发射出无线信号。而接收器是将天线接收到的无线信号进行解码,从而得到与控制按键相对应的信号,然后再去控制相应的设备工作。当前,常见的遥控设备主要分为红外遥控与无线电遥控两大类,其主要区别为所采用的载波频率及其应用场景不一致。红外遥控设备所采用的射频信号频率一般为38kHz,通常应用在电视、投影仪等设备中;而无线电遥控设备
    华普微HOPERF 2025-01-06 15:29 172浏览
  • 村田是目前全球量产硅电容的领先企业,其在2016年收购了法国IPDiA头部硅电容器公司,并于2023年6月宣布投资约100亿日元将硅电容产能提升两倍。以下内容主要来自村田官网信息整理,村田高密度硅电容器采用半导体MOS工艺开发,并使用3D结构来大幅增加电极表面,因此在给定的占位面积内增加了静电容量。村田的硅技术以嵌入非结晶基板的单片结构为基础(单层MIM和多层MIM—MIM是指金属 / 绝缘体/ 金属) 村田硅电容采用先进3D拓扑结构在100um内,使开发的有效静电容量面积相当于80个
    知白 2025-01-07 15:02 145浏览
  •  在全球能源结构加速向清洁、可再生方向转型的今天,风力发电作为一种绿色能源,已成为各国新能源发展的重要组成部分。然而,风力发电系统在复杂的环境中长时间运行,对系统的安全性、稳定性和抗干扰能力提出了极高要求。光耦(光电耦合器)作为一种电气隔离与信号传输器件,凭借其优秀的隔离保护性能和信号传输能力,已成为风力发电系统中不可或缺的关键组件。 风力发电系统对隔离与控制的需求风力发电系统中,包括发电机、变流器、变压器和控制系统等多个部分,通常工作在高压、大功率的环境中。光耦在这里扮演了
    晶台光耦 2025-01-08 16:03 75浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦