面包芯语

NVIDIAAIEnterprise加速LLM与推荐系统开发在线研讨会

英伟达NVIDIA中国 2023-07-10 20:17
玄铁处理器集智能、安全、端云一体芯片架构 TOLG 技术采用超紧凑的海鸥翼式引脚设计

生成式 AI 的大火，让 AI 不再是一个学术层面的概念竞赛，而是能够有效提升各行各业的生产力。但是在应用开发的层面上，AI 技术面临着不少挑战。尤其是在企业级 AI 应用中，如何将模型部署到生产环境，如何确保模型部署后的可用性和可靠性，以及如何监控和维护模型的性能等都是开发中需要解决的问题以及困难所在，这些问题也极大地制约了企业在开发 AI 应用上的生产力提升。


NVIDIA AI Enterprise 是一款面向企业级 AI 应用的一站式开发平台，也被视作 NVIDIA AI 加速平台的操作系统，为 NVIDIA 的加速基础架构提供稳定可靠的软件及开发环境，借助开发和部署优化的云原生和加速 SDK 软件套件和框架，实现 AI 工作流的快速开发和应用部署。


7 月 11 日下午 2 点，智东西公开课联合 NVIDIA 策划推出「 NVIDIA AI Enterprise 加速 LLM 与推荐系统开发在线研讨会」。研讨会邀请到 NVIDIA 开发者发展经理崔晓楠、NVIDIA 消费互联网事业部解决方案团队高级机器学习架构师张海辰和 NVIDIA 产品经理高文雯参与主讲。


其中，崔晓楠将以《NVIDIA AI Enterprise 助力并延展大模型 AI 工作流》为主题，分享 NVIDIA AI Enterprise 的最新更新内容及特性。之后，张海辰将围绕主题《基于 NVIDIA NeMo 框架的 LLM 部署实践》，着重介绍端到端云原生框架 NVIDIA NeMoTM，以及其是如何支持开发者构建、定制以及部署 AI 模型。


最后，来自 NVIDIA 总部的 Merlin 产品经理高文雯，将就主题《利用 NVIDIA Merlin 训练部署高性能推荐系统》，为大家介绍 NVIDIA MerlinTM 是如何助力数据科学家、机器学习工程师和研究院大规模的构建高性能推荐系统，从而获得更好的预测、更高的点击率和更快的系统部署。



NVIDIA AI Enterprise 加速 LLM

 与推荐系统开发在线研讨会


★

直播时间


2023 年 7 月 11 日 14:00-15:00



演讲嘉宾&主题


14:00 - 14:20


NVIDIA AI Enterprise 助力

并延展大模型 AI 工作流


针对大模型等场景，在最新的 NVIDIA AI Enterprise 软件堆栈中，包含了针对 NeMo Framework 的官方支持。同时，针对推荐系统，语音，视觉大模型，多模态等应用方向也会在 NVIDIA AI Enterprise 的堆栈中获得支持。


在应用的部署上，NVIDIA AI Enterprise 支持应用的加速再到任意位置的大规模部署，甚至延展到多云部署的架构。本次分享将会对 NVIDIA AI Enterprise 软件套件的最新更新进行深度讲解。


演讲嘉宾


崔晓楠

NVIDIA 开发者发展经理


14:20 - 14:40


基于 NVIDIA NeMo 框架

的 LLM 部署实践


NVIDIA NeMo 是 NVIDIA AI 平台的一部分，是一个端到端云原生企业框架，用于构建、客户化和部署具有数十亿参数的生成式 AI 模型。


NeMo 框架通过多 GPU 和多节点配置，通过 3D 并行技术加速训练工作流程，提供多种客户化技术选择，以及针对语言和图像应用的大规模模型的优化推理。NeMo 使企业的生成式 AI 模型开发变得简单、经济、快速。


本次分享会深度讲解 NVIDIA NeMo 框架，以及面向开发者的 LLM 模型构建、定制和部署。


演讲嘉宾


张海辰

NVIDIA 消费互联网事业部解决方案团队

高级机器学习架构师


14:40 - 15:00


利用 NVIDIA Merlin 

训练部署高性能推荐系统


NVIDIA Merlin 是 NVIDIA AI 平台的一部分，提供训练和部署推荐模型的解决方案。本次分享将围绕 Merlin 的上层 API 和底层加速包展开。


其中，上层 API 包括 Merlin models 和 Merlin systems 。Merlin models 可以帮助开发者轻松搭建 session-based 以及 transformer 模型，而 Merlin systems 则提供工具搭建端到端的多个 stage 的推荐系统。


底层加速包包括 Distributed-Embeddings (TFDE) 和 Hierarchical Parameter Server (HPS)。TFDE 可以通过 3 行 TF 的 API 轻松实现多机多卡的大模型同步训练，HPS 则可以通过 GPU cache 和多级存储加速大模型的部署。


演讲嘉宾


高文雯

NVIDIA 产品经理



扫描二维码即刻报名



相关资料



扫描上方二维码试用 

NVIDIA AI Enterprise



扫描上方二维码试用 NVIDIA Merlin



扫描上方二维码立即下载 

NVIDIA NeMo Framework



点击 “阅读原文”，或扫描下方海报二维码，观看 NVIDIA 创始人兼 CEO 黄仁勋在 COMPUTEX 2023 的主题演讲直播回放，主题演讲中文字幕版已上线，了解 AI、图形及其他领域的最新进展！


登录阅读全文
免责声明： 该内容由专栏作者授权发布或作者转载，目的在于传递更多信息，并不代表本网赞同其观点，本站亦不保证或承诺内容真实性等。若内容或图片侵犯您的权益，请及时联系本站删除。侵权投诉联系：  nick.zong@aspencore.com！
英伟达NVIDIA中国
评论 （0）
  • 语音芯片技术赋能：一体化方案重塑学爬玩具低成本开发新范式 ——以WT588F02B-C014为核心的超省BOM成本方案解析
    一、引言：智能化趋势下的学爬玩具开发挑战随着早教理念的普及，学爬玩具作为婴幼儿早期运动能力开发的重要工具，市场需求持续增长。然而，传统学爬玩具开发面临多重挑战：需集成红外遥控、语音交互、电机控制等多模块，开发周期长、硬件成本高；复杂的红外编解码与语音功能实现依赖工程师深度参与，技术门槛陡增。如何以更低成本、更快速度打造差异化产品，成为行业亟待解决的痛点。二、传统开发模式痛点分析硬件冗余红外接收模块、语音芯片、主控MCU分立设计，导致PCB面积增加，BOM成本攀升。开发周期长需工程师独立完成红外协
    广州唯创电子 2025-04-16 08:40 58浏览
  • 一、《芯片从技术到产业全景揭秘》芯片的发展历程
    一、芯片的发展历程总结：1、晶体管的诞生（1）电子管时代 20世纪40年代，电子管体积庞大、功耗高、可靠性差，无法满足计算机小型化需求。（2）晶体管时代 1947年，贝尔实验室的肖克利、巴丁和布拉顿发明点接触晶体管，实现电子信号放大与开关功能，标志着固态电子时代的开端。 1956年，肖克利发明晶体管。（3）硅基晶体管时代 早期晶体管采用锗材料，但硅更耐高温、成本低，成为主流材料。2、集成电路的诞生与发展 1958年，德州仪器工程师基尔比用锗材料制成世界上第一块含多个晶体管的集成电路，同年仙童半导
    碧海长空 2025-04-15 09:30 136浏览
  • 四、《芯片从技术到产业全景揭秘》芯片封测技术及应用场景
    四、芯片封测技术及应用场景1、封装技术的发展历程 （1）DIP封装：早期分立元件封装，体积大、引脚少； （2）QFP封装：引脚密度提升，适用于早期集成电路。 （3）BGA封装：高密度互连，散热与信号传输优化； （4）3D封装：通过TSV（硅通孔）实现垂直堆叠，提升集成度（如HBM内存堆叠）； （5）Chiplet封装：异质集成，将不同工艺节点的模块组合（如AMD的Zen3+架构）。 （6）SiP封装：集成多种功能芯片（如iPhone的A系列SoC整合CPU、GPU、射频模块）。2、芯片测试 （1
    碧海长空 2025-04-15 11:45 229浏览
  • AI赋能，健康无界：WT2605C语音芯片智能血压计的个性化设计方案
    一、引言：健康管理数字化浪潮下的血压监测转型在慢性病高发与老龄化加剧的双重压力下，家庭健康监测设备正从“被动测量工具”向“主动健康管家”演进。传统血压计虽能提供基础数值，却无法解决用户的核心痛点：数据如何解读？异常如何干预？风险如何预防？WT2605C芯片方案的诞生，通过“AI对话+云端互联+个性化服务”三重技术突破，重新定义了血压计的价值边界——它不仅是一台测量仪器，更是一个全天候在线的健康管理生态系统。二、传统血压计的局限与用户需求升级1. 功能单一性困境数据孤岛：仅显示收缩压/舒张压数值，
    广州唯创电子 2025-04-16 08:55 57浏览
  • 三、《芯片从技术到产业全景揭秘》芯片的制造
    三、芯片的制造1、制造核心流程 （1）晶圆制备：以高纯度硅为基底，通过拉晶、切片、抛光制成晶圆。 （2）光刻：光刻、离子注入、薄膜沉积、化学机械抛光。 （3）刻蚀与沉积：使用干法刻蚀（等离子体）精准切割图形，避免侧壁损伤。 （4）掺杂：注入离子形成PN结特性，实现晶体管开关功能。2、材料与工艺创新 （1）新材料应用： 高迁移率材料（FinFET中的应变硅、GaN在射频芯片中的应用）； 新型封装技术（3D IC、TSV硅通孔）提升集成度。 （2）工艺创新： 制程从7nm到3nm，设计架构由F
    碧海长空 2025-04-15 11:33 223浏览
  • 二、《芯片从技术到产业全景揭秘》芯片的设计
    二、芯片的设计1、芯片设计的基本流程 （1）需求定义： 明确芯片功能（如处理器、存储、通信）、性能指标（速度、功耗、面积）及目标应用场景（消费电子、汽车、工业）。 （2）架构设计： 确定芯片整体框架，包括核心模块（如CPU、GPU、存储单元）的协同方式和数据流路径。 （3）逻辑设计： 通过硬件描述语言（如Verilog、VHDL）将架构转化为电路逻辑，生成RTL（寄存器传输级）代码。 （4）物理设计： 将逻辑代码映射到物理布局，涉及布局布线、时序优化、功耗分析等，需借助EDA工具（如Ca
    碧海长空 2025-04-15 11:30 177浏览
  • 无人装备作战协同仿真系统软件：科技的关键支撑
    　　无人装备作战协同仿真系统软件：科技的关键支撑 　　无人装备作战协同仿真系统软件，作为一款综合性仿真平台，主要用于模拟无人机、无人车、无人艇等无人装备在复杂作战环境中的协同作战能力、任务规划、指挥控制以及性能评估。该系统通过搭建虚拟战场环境，支持多种无人装备协同作战仿真，为作战指挥、装备研发、战术训练和作战效能评估，提供科学依据。 　　应用案例 　　系统软件供应可以来这里，这个首肌开始是幺伍扒，中间是幺幺叁叁，最后一个是泗柒泗泗，按照数字顺序组合就可以找到。 　　核心功能 　　虚拟战
    华盛恒辉l58ll334744 2025-04-14 17:24 90浏览
  • 国际金融论坛（IFF）科技金融委员会启动大会 暨首届科技金融圆桌会议成功举办
    2025年4月13日（中国武汉）——在全球经济分化与地缘政治不确定性加剧的背景下，科技与金融的深度融合已成为推动创新与繁荣的关键动力。为实现科技创新、产业进步和金融发展有机结合，发挥金融对科技创新和产业进步的支持作用，国际金融论坛（IFF）科技金融委员会启动大会暨首届科技金融圆桌会议于4月13日在湖北省武汉市武汉产业创新发展研究院成功举行。同时，IFF科技金融委员会由国际金融论坛IFF与武创院联合成立。本次大会汇聚了来自政府、产业与学术研究机构及金融等多领域的精英，共同探讨科技金融如何更好地服务
    华尔街科技眼 2025-04-15 20:53 53浏览
  • 开展倒计时|2025成都工博会，科士威在成都等您来！
    展会名称：2025成都国际工业博览会（简称：成都工博会）展会日期：4月23 -25日展会地址：西部国际博览城展位号：15H-E010科士威传动将展示智能制造较新技术及全套解决方案。 2025年4月23-25日，中国西部国际博览城将迎来一场工业领域的年度盛会——2025成都国际工业博览会。这场以“创链新工业，共碳新未来”为主题的展会上，来自全球的600+ 家参展企业将齐聚一堂，共同展示智能制造产业链中的关键产品及解决方案，助力制造业向数字化、网络化、智能化转型。科士威传动将受邀参展。&n
    科士威传动 2025-04-14 17:55 90浏览
  • 芯资讯｜WTL580微波雷达：重新定义智能电子锁人体感知与交互体验
    一、智能门锁市场痛点与技术革新随着智能家居的快速发展，电子门锁正从“密码解锁”向“无感交互”进化。然而，传统人体感应技术普遍面临三大挑战：功耗高导致续航短、静态人体检测能力弱、环境适应性差。WTL580微波雷达解决方案，以5.8GHz高精度雷达感知技术为核心，突破行业瓶颈，为智能门锁带来“精准感知-高效触发-超低功耗”的全新交互范式。二、WTL580方案核心技术优势1. 5.8GHz毫米波雷达：精准感知的革命全状态人体检测：支持运动、微动（如呼吸）、静态（坐卧）多模态感知，检测灵敏度达0.1m/
    广州唯创电子 2025-04-15 09:20 99浏览
  • 芯资讯｜WT3000T8语音合成芯片TTS在智能收款机中的创新应用设计方案介绍
    一、智能语音播报技术演进与市场需求随着人工智能技术的快速发展，TTS（Text-to-Speech）技术在商业场景中的应用呈现爆发式增长。在零售领域，智能收款机的语音播报功能已成为提升服务效率和用户体验的关键模块。WT3000T8作为新一代高性能语音合成芯片，凭借其优异的处理能力和灵活的功能配置，正在为收款机智能化升级提供核心技术支持。二、WT3000T8芯片技术特性解析硬件架构优势采用32位高性能处理器（主频240MHz），支持实时语音合成与多任务处理QFN32封装（4x4mm）实现小型化设计
    广州唯创电子 2025-04-15 08:53 117浏览
我要评论
0
0
点击右上角，分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦