英伟达H100:比AMD的竞品贵四倍

原创 汽车电子设计 2024-02-04 16:00

芝能智芯出品


花旗银行发布了一份报告主要围绕AMD和Nvidia在人工智能(AI)领域的GPU产品之间的价格差异,尤其是AMD的Instinct MI300X和Nvidia的H100 GPU。

花旗银行认为Nvidia的H100 GPU的定价是AMD Instinct MI300X的四倍之多,突显了Nvidia在GPU短缺时的令人难以置信的定价能力。

AMD以每台约10,000美元的价格向微软出售其Instinct MI300X 192GB,估计其他客户购买Instinct MI300X GPU的价格约为15,000美元,AMD在人工智能领域试图以相对较低的价格吸引客户的战略。


Part 1

Nvidia H100 GPU和AMD MI300X的价格差异



Nvidia的H100 GPU由于其持续的短缺问题,其定价高达40,000美元以上,是AMD Instinct MI300X的四倍之多。H100 GPU的高价主要得益于Nvidia在CUDA软件堆栈上的优化,使其成为大量人工智能应用程序和工作负载的首选选择。



Part 2

AMD MI300X的预期收益

AMD已经开始出货用于人工智能(AI)和高性能计算(HPC)的Instinct MI300X计算卡,Instinct MI300X已经投入企业级大型语言模型(LLM)的运行。AMD的Instinct MI300系列产品在短时间内已达到10亿美元的销售额,成为其历史上销售最快的产品,也向英伟达在人工智能芯片领域的主导地位发起了挑战。

Instinct MI300X采用了小芯片设计,结合了5nm和6nm工艺,拥有1530亿个晶体管。其配备第四代Infinity Fabric解决方案,包含28个模块芯片,其中包括8个HBM(High Bandwidth Memory)和4个计算芯片。每个计算芯片有2个基于CDNA 3架构的GCD(Graphics Compute Die),共80个计算单元,合计320个计算单元和20480个流处理器。由于考虑到良品率,AMD削减了部分计算单元,实际使用数量为304个计算单元和19456个流处理器。此外,Instinct MI300X的HBM3容量为192GB,提供了5.3TB/s的内存带宽和896GB/s的Infinity Fabric带宽。另一款产品Instinct MI300A采用APU设计,拥有24个基于Zen 4架构的内核,计算单元数量减至228个,对应14592个流处理器。

两家公司在GPU市场采用了不同的定价策略。Nvidia凭借其CUDA软件堆栈的优势,以高价销售其产品,而AMD则试图通过以较低的价格提供具有竞争力的解决方案来吸引客户,市场对Nvidia的需求较大,使其能够实现巨额溢价。花旗分析师预计,AMD Instinct MI300系列GPU的销售额将超过35亿美元,而AMD表示仍有部分供应。Nvidia面临着长达52周的等待时间的传闻。花旗分析师认为AMD在数据中心GPU上的销售额被低估,估计今年可能达到50亿美元,到2025年将达到80亿美元。

多家大型云端服务器运营商已采购Instinct MI300系列产品,预计年出货量为30万至40万。

● 谷歌和微软是最大的客户之一,而LaminiAI是首家确认已在使用Instinct MI300X计算卡的公司。

 马斯克宣布计划在处理人工智能的计算硬件方面加大投入,预计将从AMD购买芯片,作为其超过5亿美元硬件支出计划的一部分,AMD的新推出的Instinct MI300系列产品可能成为其首选之一。

 META和OpenAI在一次会议上表示,将采用AMD最新的AI芯片Instinct MI300X。

这也能反映出来,科技公司正在寻找替代英伟达GPU的解决方案,尤其是对于部署类似OpenAI的ChatGPT等人工智能程序。



小结


AMD和Nvidia在GPU市场的竞争激烈,价格差异和供应状况直接影响了这两家公司在人工智能领域的市场份额和盈利能力。

汽车电子设计 本公众号是博主和汽车电子的行业的工程师们一起交流、探讨、思考的小结,以作为技术交流和沟通的桥梁
评论
  • 光伏逆变器是一种高效的能量转换设备,它能够将光伏太阳能板(PV)产生的不稳定的直流电压转换成与市电频率同步的交流电。这种转换后的电能不仅可以回馈至商用输电网络,还能供独立电网系统使用。光伏逆变器在商业光伏储能电站和家庭独立储能系统等应用领域中得到了广泛的应用。光耦合器,以其高速信号传输、出色的共模抑制比以及单向信号传输和光电隔离的特性,在光伏逆变器中扮演着至关重要的角色。它确保了系统的安全隔离、干扰的有效隔离以及通信信号的精准传输。光耦合器的使用不仅提高了系统的稳定性和安全性,而且由于其低功耗的
    晶台光耦 2024-12-02 10:40 120浏览
  • 作为优秀工程师的你,已身经百战、阅板无数!请先醒醒,新的项目来了,这是一个既要、又要、还要的产品需求,ARM核心板中一个处理器怎么能实现这么丰富的外围接口?踌躇之际,你偶阅此文。于是,“潘多拉”的魔盒打开了!没错,USB资源就是你打开新世界得钥匙,它能做哪些扩展呢?1.1  USB扩网口通用ARM处理器大多带两路网口,如果项目中有多路网路接口的需求,一般会选择在主板外部加交换机/路由器。当然,出于成本考虑,也可以将Switch芯片集成到ARM核心板或底板上,如KSZ9897、
    万象奥科 2024-12-03 10:24 68浏览
  • RDDI-DAP错误通常与调试接口相关,特别是在使用CMSIS-DAP协议进行嵌入式系统开发时。以下是一些可能的原因和解决方法: 1. 硬件连接问题:     检查调试器(如ST-Link)与目标板之间的连接是否牢固。     确保所有必要的引脚都已正确连接,没有松动或短路。 2. 电源问题:     确保目标板和调试器都有足够的电源供应。     检查电源电压是否符合目标板的规格要求。 3. 固件问题: &n
    丙丁先生 2024-12-01 17:37 100浏览
  • TOF多区传感器: ND06   ND06是一款微型多区高集成度ToF测距传感器,其支持24个区域(6 x 4)同步测距,测距范围远达5m,具有测距范围广、精度高、测距稳定等特点。适用于投影仪的无感自动对焦和梯形校正、AIoT、手势识别、智能面板和智能灯具等多种场景。                 如果用ND06进行手势识别,只需要经过三个步骤: 第一步&
    esad0 2024-12-04 11:20 50浏览
  • 11-29学习笔记11-29学习笔记习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习笔记&记录学习习笔记&记学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&学习学习笔记&记录学习学习笔记&记录学习学习笔记&记
    youyeye 2024-12-02 23:58 71浏览
  • 概述 说明(三)探讨的是比较器一般带有滞回(Hysteresis)功能,为了解决输入信号转换速率不够的问题。前文还提到,即便使能滞回(Hysteresis)功能,还是无法解决SiPM读出测试系统需要解决的问题。本文在说明(三)的基础上,继续探讨为SiPM读出测试系统寻求合适的模拟脉冲检出方案。前四代SiPM使用的高速比较器指标缺陷 由于前端模拟信号属于典型的指数脉冲,所以下降沿转换速率(Slew Rate)过慢,导致比较器检出出现不必要的问题。尽管比较器可以使能滞回(Hysteresis)模块功
    coyoo 2024-12-03 12:20 111浏览
  • 遇到部分串口工具不支持1500000波特率,这时候就需要进行修改,本文以触觉智能RK3562开发板修改系统波特率为115200为例,介绍瑞芯微方案主板Linux修改系统串口波特率教程。温馨提示:瑞芯微方案主板/开发板串口波特率只支持115200或1500000。修改Loader打印波特率查看对应芯片的MINIALL.ini确定要修改的bin文件#查看对应芯片的MINIALL.ini cat rkbin/RKBOOT/RK3562MINIALL.ini修改uart baudrate参数修改以下目
    Industio_触觉智能 2024-12-03 11:28 84浏览
  •         温度传感器的精度受哪些因素影响,要先看所用的温度传感器输出哪种信号,不同信号输出的温度传感器影响精度的因素也不同。        现在常用的温度传感器输出信号有以下几种:电阻信号、电流信号、电压信号、数字信号等。以输出电阻信号的温度传感器为例,还细分为正温度系数温度传感器和负温度系数温度传感器,常用的铂电阻PT100/1000温度传感器就是正温度系数,就是说随着温度的升高,输出的电阻值会增大。对于输出
    锦正茂科技 2024-12-03 11:50 109浏览
  • 最近几年,新能源汽车愈发受到消费者的青睐,其销量也是一路走高。据中汽协公布的数据显示,2024年10月,新能源汽车产销分别完成146.3万辆和143万辆,同比分别增长48%和49.6%。而结合各家新能源车企所公布的销量数据来看,比亚迪再度夺得了销冠宝座,其10月新能源汽车销量达到了502657辆,同比增长66.53%。众所周知,比亚迪是新能源汽车领域的重要参与者,其一举一动向来为外界所关注。日前,比亚迪汽车旗下品牌方程豹汽车推出了新车方程豹豹8,该款车型一上市就迅速吸引了消费者的目光,成为SUV
    刘旷 2024-12-02 09:32 119浏览
  • 当前,智能汽车产业迎来重大变局,随着人工智能、5G、大数据等新一代信息技术的迅猛发展,智能网联汽车正呈现强劲发展势头。11月26日,在2024紫光展锐全球合作伙伴大会汽车电子生态论坛上,紫光展锐与上汽海外出行联合发布搭载紫光展锐A7870的上汽海外MG量产车型,并发布A7710系列UWB数字钥匙解决方案平台,可应用于数字钥匙、活体检测、脚踢雷达、自动泊车等多种智能汽车场景。 联合发布量产车型,推动汽车智能化出海紫光展锐与上汽海外出行达成战略合作,联合发布搭载紫光展锐A7870的量产车型
    紫光展锐 2024-12-03 11:38 101浏览
  • 戴上XR眼镜去“追龙”是种什么体验?2024年11月30日,由上海自然博物馆(上海科技馆分馆)与三湘印象联合出品、三湘印象旗下观印象艺术发展有限公司(下简称“观印象”)承制的《又见恐龙》XR嘉年华在上海自然博物馆重磅开幕。该体验项目将于12月1日正式对公众开放,持续至2025年3月30日。双向奔赴,恐龙IP撞上元宇宙不久前,上海市经济和信息化委员会等部门联合印发了《上海市超高清视听产业发展行动方案》,特别提到“支持博物馆、主题乐园等场所推动超高清视听技术应用,丰富线下文旅消费体验”。作为上海自然
    电子与消费 2024-11-30 22:03 98浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦