研报丨CloudAIServer需求强劲,促NVIDIAFY2Q24数据中心业务占比首次突破76%

原创 TrendForce集邦 2023-08-24 18:25


Aug.24 2023

产业洞察

据NVIDIA最新财报数据(FY2Q24)显示,其数据中心业务达103.2亿美元,季成长率141%,年成长率更高达171%,且NVIDIA看好后续成长力道。TrendForce集邦咨询认为,主要NVIDIA高营收成长动力来自于其数据中心AI服务器相关解决方案业务,主力产品包含AI加速芯片GPU、AI服务器参考架构HGX等,作为大型数据中心的AI 基础设施。


同时,TrendForce集邦咨询预期,NVIDIA将进一步整合其软硬件资源,并更细致地将其高端及中低端GPU AI加速芯片,与各ODM或OEM绑定合作软硬件系统认证模式。除了加速在CSP云端AI服务器基础设施布建之外,也和VMware等合作Private AI Foundation等方案,将其触角延伸至边缘Enterprises AI服务器市场,以支撑其今、明两年数据中心业务稳定成长。



Cloud AI强劲需求驱动,NVIDIA数据中心业务占比超越76% 


NVIDIA近年积极布局数据中心业务,FY4Q22当时数据中心业务营收约占42.7%,尚落后于Gaming业务营收约2个百分点,于FY1Q23后正式超越Gaming业务营收,占比逾45%。自2023年起,各大CSP大举投入ChatBOT及公有云各种AI服务基础设施后,NVIDIA更直接受惠,FY2Q24数据中心业务营收占比一举突破76%。



NVIDIA将分攻Cloud及Edge Data Center AI应用市场


TrendForce集邦咨询观察,预估NVIDIA在高端GPU产品销售策略上,将于2023下半年后有所转变,原高端AI服务器以搭载A100及H100为主,在市场需求大好的预期下,将改主攻售价更高的H100,才能有效刺激数据中心相关业务营收向上。


中端GPU方面,以近期主推的L40s为主打方案,其中有几个主要策略意义。首先,高端H100系列受限于目前CoWoS、HBM等产能瓶颈,而L40s则主要搭配GDDR存储器,因不须CoWoS封装,可加速导入中端AI服务器市场,补足原A100 PCIe接口对Enterprises客户需求缺口。


其次,L40s也同时主攻如Enterprises客户,不需使用如ChatGPT数量庞大的参数模型,而是主攻较小型化(约数十billion~百billion参数量以下)各专业领域的AI Training应用,亦或针对边缘AI Inference或影像分析等使用。低阶GPU系列,则以L4或T4系列为主打,主打边缘AI服务器实时AI推论或影像分析使用,并更强调较低价,其高C/P值的产品特性。



HGX及MGX等AI服务器参考架构将是NVIDIA下半年后主攻AI方案的利器

TrendForce集邦咨询观察,近期NVIDIA除针对其核心AI芯片GPU进行更细致化的产品定位外,也积极主推其HGX及MGX等方案,而这并不是服务器产业链首见做法,但NVIDIA有机会在此策略上稳固领先利基。主要是NVIDIA藉由高度整合其GPU加上CUDA建立完整AI生态系下处绝对领先位置,故对既有的服务器供应链有较强议价能力,藉此要求ODM如Inventec、Quanta、FII、Wistron、Wiwynn等,或品牌业者如Dell、Supermicro、Gigabyte等,依据NVIDIA的HGX或MGX参考设计,且需经过NVIDIA于该AI 服务器参考架构的软硬件认证过程。NVIDIA藉此可整合兜售其Arm CPU Grace及NPU或AI Cloud Foundation等软硬件解决方案。


值得注意的是,对ODM或OEM而言,由于预期NVIDIA于2023~2024年在云端服务业者的AI服务器主力市场将大有斩获,有利于拉抬整体AI服务器出货量及营收成长,但随着NVIDIA策略性导入HGX或MGX等标准化AI服务器架构,也使未来ODM等业者将因AI server核心产品架构较趋于同质化而使彼此争取CSPs等订单之竞争态势更趋于白热化。此外,观察大型CSPs如Google、AWS未来有扩大导入自研ASIC AI加速芯片趋势,亦可能侵蚀部分NVIDIA GPU市场,估此亦为NVIDIA持续推展不同定位GPU产品及整体方案,欲进一步将AI业务积极拓展至Tier-2数据中心如CoreWeave等及边缘Enterprises客户的主因之一。

PS:当您需要在报道中引用TrendForce集邦咨询提供的研报内容或分析资料,请注明资料来源为TrendForce集邦咨询。


近期文章精选  TrendForce 

电视面板价格续涨加上市场需求保守,全年电视出货预估下修至1.98亿台

比亚迪第二季纯电车销量仍紧追特斯拉, 泰国、澳洲新能源车市场异军突起

2023年服务器整机出货再下修,预估年减5.94%




TrendForce集邦咨询是一家横跨存储、集成电路与半导体、晶圆代工、光电显示、LED、新能源、智能终端、5G与通讯网络、汽车电子和人工智能等领域的全球高科技产业研究机构。公司在行业研究、政府产业发展规划、项目评估与可行性分析、企业咨询与战略规划、品牌营销等方面积累了多年的丰富经验,是政企客户在高科技领域进行产业分析、规划评估、顾问咨询、品牌宣传的优质合作伙伴。


TrendForce is a global high-tech industry research institution. Its research scope covers memory, IC and semiconductors, foundry, optoelectronic display, LED, new energy, smart terminals, 5G and communication networks, automotive electronics, as well as AI. With rich experience in industry research, government industry development planning, project feasibility analysis, corporate consulting and brand marketing, TrendForce is a quality partner for government and enterprise clients to conduct industrial analysis, planning evaluation, consulting and brand promotion in high-tech field.



△  向上滑动查看

TrendForce集邦 TrendForce集邦咨询是一家全球高科技产业研究机构。研究领域横跨存储器、半导体、晶圆代工、显示面板、光电、新能源等产业,同时在汽车科技、5G通讯、IoT、人工智能、AR/VR等前瞻科技产业也累积丰厚的研究能量。
评论
  •  光伏及击穿,都可视之为 复合的逆过程,但是,复合、光伏与击穿,不单是进程的方向相反,偏置状态也不一样,复合的工况,是正偏,光伏是零偏,击穿与漂移则是反偏,光伏的能源是外来的,而击穿消耗的是结区自身和电源的能量,漂移的载流子是 客席载流子,须借外延层才能引入,客席载流子 不受反偏PN结的空乏区阻碍,能漂不能漂,只取决于反偏PN结是否处于外延层的「射程」范围,而穿通的成因,则是因耗尽层的过度扩张,致使跟 端子、外延层或其他空乏区 碰触,当耗尽层融通,耐压 (反向阻断能力) 即告彻底丧失,
    MrCU204 2025-01-17 11:30 156浏览
  • Ubuntu20.04默认情况下为root账号自动登录,本文介绍如何取消root账号自动登录,改为通过输入账号密码登录,使用触觉智能EVB3568鸿蒙开发板演示,搭载瑞芯微RK3568,四核A55处理器,主频2.0Ghz,1T算力NPU;支持OpenHarmony5.0及Linux、Android等操作系统,接口丰富,开发评估快人一步!添加新账号1、使用adduser命令来添加新用户,用户名以industio为例,系统会提示设置密码以及其他信息,您可以根据需要填写或跳过,命令如下:root@id
    Industio_触觉智能 2025-01-17 14:14 89浏览
  • 在物联网(IoT)短距无线通信生态系统中,低功耗蓝牙(BLE)数据透传是一种无需任何网络或基础设施即可完成双向通信的技术。其主要通过简单操作串口的方式进行无线数据传输,最高能满足2Mbps的数据传输速率,可轻松实现设备之间的快速数据同步和实时交互,例如传输传感器数据、低采样率音频/图像与控制指令等。低功耗蓝牙(BLE)数据透传解决方案组网图具体而言,BLE透传技术是一种采用蓝牙通信协议在设备之间实现数据透明传输的技术,设备在通信时会互相验证身份和安全密钥,具有较高的安全性。在不对MCU传输数据进
    华普微HOPERF 2025-01-21 14:20 34浏览
  • 随着消费者对汽车驾乘体验的要求不断攀升,汽车照明系统作为确保道路安全、提升驾驶体验以及实现车辆与环境交互的重要组成,日益受到业界的高度重视。近日,2024 DVN(上海)国际汽车照明研讨会圆满落幕。作为照明与传感创新的全球领导者,艾迈斯欧司朗受邀参与主题演讲,并现场展示了其多项前沿技术。本届研讨会汇聚来自全球各地400余名汽车、照明、光源及Tier 2供应商的专业人士及专家共聚一堂。在研讨会第一环节中,艾迈斯欧司朗系统解决方案工程副总裁 Joachim Reill以深厚的专业素养,主持该环节多位
    艾迈斯欧司朗 2025-01-16 20:51 153浏览
  • 高速先生成员--黄刚这不马上就要过年了嘛,高速先生就不打算给大家上难度了,整一篇简单但很实用的文章给大伙瞧瞧好了。相信这个标题一出来,尤其对于PCB设计工程师来说,心就立马凉了半截。他们辛辛苦苦进行PCB的过孔设计,高速先生居然说设计多大的过孔他们不关心!另外估计这时候就跳出很多“挑刺”的粉丝了哈,因为翻看很多以往的文章,高速先生都表达了过孔孔径对高速性能的影响是很大的哦!咋滴,今天居然说孔径不关心了?别,别急哈,听高速先生在这篇文章中娓娓道来。首先还是要对各位设计工程师的设计表示肯定,毕竟像我
    一博科技 2025-01-21 16:17 47浏览
  • 现在为止,我们已经完成了Purple Pi OH主板的串口调试和部分配件的连接,接下来,让我们趁热打铁,完成剩余配件的连接!注:配件连接前请断开主板所有供电,避免敏感电路损坏!1.1 耳机接口主板有一路OTMP 标准四节耳机座J6,具备进行音频输出及录音功能,接入耳机后声音将优先从耳机输出,如下图所示:1.21.2 相机接口MIPI CSI 接口如上图所示,支持OV5648 和OV8858 摄像头模组。接入摄像头模组后,使用系统相机软件打开相机拍照和录像,如下图所示:1.3 以太网接口主板有一路
    Industio_触觉智能 2025-01-20 11:04 119浏览
  • 日前,商务部等部门办公厅印发《手机、平板、智能手表(手环)购新补贴实施方案》明确,个人消费者购买手机、平板、智能手表(手环)3类数码产品(单件销售价格不超过6000元),可享受购新补贴。每人每类可补贴1件,每件补贴比例为减去生产、流通环节及移动运营商所有优惠后最终销售价格的15%,每件最高不超过500元。目前,京东已经做好了承接手机、平板等数码产品国补优惠的落地准备工作,未来随着各省市关于手机、平板等品类的国补开启,京东将第一时间率先上线,满足消费者的换新升级需求。为保障国补的真实有效发放,基于
    华尔街科技眼 2025-01-17 10:44 206浏览
  •  万万没想到!科幻电影中的人形机器人,正在一步步走进我们人类的日常生活中来了。1月17日,乐聚将第100台全尺寸人形机器人交付北汽越野车,再次吹响了人形机器人疯狂进厂打工的号角。无独有尔,银河通用机器人作为一家成立不到两年时间的创业公司,在短短一年多时间内推出革命性的第一代产品Galbot G1,这是一款轮式、双臂、身体可折叠的人形机器人,得到了美团战投、经纬创投、IDG资本等众多投资方的认可。作为一家成立仅仅只有两年多时间的企业,智元机器人也把机器人从梦想带进了现实。2024年8月1
    刘旷 2025-01-21 11:15 43浏览
  • 数字隔离芯片是一种实现电气隔离功能的集成电路,在工业自动化、汽车电子、光伏储能与电力通信等领域的电气系统中发挥着至关重要的作用。其不仅可令高、低压系统之间相互独立,提高低压系统的抗干扰能力,同时还可确保高、低压系统之间的安全交互,使系统稳定工作,并避免操作者遭受来自高压系统的电击伤害。典型数字隔离芯片的简化原理图值得一提的是,数字隔离芯片历经多年发展,其应用范围已十分广泛,凡涉及到在高、低压系统之间进行信号传输的场景中基本都需要应用到此种芯片。那么,电气工程师在进行电路设计时到底该如何评估选择一
    华普微HOPERF 2025-01-20 16:50 33浏览
  • 2024年是很平淡的一年,能保住饭碗就是万幸了,公司业绩不好,跳槽又不敢跳,还有一个原因就是老板对我们这些员工还是很好的,碍于人情也不能在公司困难时去雪上加霜。在工作其间遇到的大问题没有,小问题还是有不少,这里就举一两个来说一下。第一个就是,先看下下面的这个封装,你能猜出它的引脚间距是多少吗?这种排线座比较常规的是0.6mm间距(即排线是0.3mm间距)的,而这个规格也是我们用得最多的,所以我们按惯性思维来看的话,就会认为这个座子就是0.6mm间距的,这样往往就不会去细看规格书了,所以这次的运气
    wuliangu 2025-01-21 00:15 84浏览
  • 80,000人到访的国际大展上,艾迈斯欧司朗有哪些亮点?感未来,光无限。近日,在慕尼黑electronica 2024现场,ams OSRAM通过多款创新DEMO展示,以及数场前瞻洞察分享,全面展示自身融合传感器、发射器及集成电路技术,精准捕捉并呈现环境信息的卓越能力。同时,ams OSRAM通过展会期间与客户、用户等行业人士,以及媒体朋友的深度交流,向业界传达其以光电技术为笔、以创新为墨,书写智能未来的深度思考。electronica 2024electronica 2024构建了一个高度国际
    艾迈斯欧司朗 2025-01-16 20:45 197浏览
  • 嘿,咱来聊聊RISC-V MCU技术哈。 这RISC-V MCU技术呢,简单来说就是基于一个叫RISC-V的指令集架构做出的微控制器技术。RISC-V这个啊,2010年的时候,是加州大学伯克利分校的研究团队弄出来的,目的就是想搞个新的、开放的指令集架构,能跟上现代计算的需要。到了2015年,专门成立了个RISC-V基金会,让这个架构更标准,也更好地推广开了。这几年啊,这个RISC-V的生态系统发展得可快了,好多公司和机构都加入了RISC-V International,还推出了不少RISC-V
    丙丁先生 2025-01-21 12:10 50浏览
  • 本文介绍瑞芯微开发板/主板Android配置APK默认开启性能模式方法,开启性能模式后,APK的CPU使用优先级会有所提高。触觉智能RK3562开发板演示,搭载4核A53处理器,主频高达2.0GHz;内置独立1Tops算力NPU,可应用于物联网网关、平板电脑、智能家居、教育电子、工业显示与控制等行业。源码修改修改源码根目录下文件device/rockchip/rk3562/package_performance.xml并添加以下内容,注意"+"号为添加内容,"com.tencent.mm"为AP
    Industio_触觉智能 2025-01-17 14:09 125浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦