价格爆跌后的英伟达H100

集成电路IC 2024-05-02 09:48

【北京12.5号】无线前沿新技术与测试技术峰会 【有奖直播】提升毫米波信号测试精度

受惠于生成式 AI 热潮，用于 AI 服务器的英伟达 H100 芯片一直供不应求，价格表现强劲，加上美国对中国祭出 AI 芯片禁令，使得搭载 H100 销往中国的服务器现货价格水涨船高，一度高达人民币 300 多万元，远高过 28-30 万美元的官方售价，扣掉物流及关税成本，部分中间商可以轻松获利逾一成。

去年 10 月 17 日，美国要求 AI 芯片性能超过标准的任何公司，在产品出口到中国及其他引起关切的国家前，都必须先向美国商务部申请许可。美国去年底实施较为宽松的芯片管制后，中国企业争相订购英伟达的 A800 及 H800 芯片，这些是英伟达为了符合出口规定而为中国市场打造的 AI 芯片。

但近来业内人士透露，H100 现货价格开始松动，甚至出现下跌，4 月香港现货价已下跌到 260 万元左右，在中国国内则跌至 270 万到 280 万元左右，较高点下滑 20 万到 30 万元。

按照英伟达计划，今年第二季将正式开卖 H200 芯片，时间很可能就在 6 月，一些中间商担心 H200 发售将对 H100 的价格造成剧烈冲击，急于卖出手中库存，导致 H100 服务器价格下跌。

市场猜测英伟达达股价在 4 月 19 日暴跌 10% 便是受市场上述担忧情绪影响，全球大部分芯片公司当日股价也随之走跌，包括超微、Meta、美光等大厂均出现不同程度跌幅。

根据英伟达去年 11 月 13 日在全球超级计算大会（SC23）的介绍，H200 在性能方面比 H100 提升约 60% 到 90%，并采用 H100 相同的 Hopper 架构，因此它们的浮点速率基本相同。

在主要升级方面，H200 重点转向存储器容量跟频宽，包括 141GB 的 HBM3E 存储器，比 H100 提升 80%，频宽则从 H100 的 3.35TB/s 增加到了 4.8TB/s，提升 40%。

值得注意的是，H200 在大语言模型 (LLM) 推理表现上的性能提升极其明显，H200 在 700 亿参数的 Llama2 大模型的推理速度比 H100 快了一倍，能耗却直接降低了一半。

此前，英伟达已称打算在今年第二季正式推出 H200，包括 Google(GOOGL-US) 、亚马逊 (AMZN-US) 、微软 (MSFT-US) 等大型计算机厂商和云端服务器供应商将成为 H200 的首批使用者。

英伟达上周五股价大涨 6.18% 至每股 877.35 美元，过去 5 个交易日上涨 10.33%，今年来累计涨幅为 77.16%。

登录阅读全文



免责声明：该内容由专栏作者授权发布或作者转载，目的在于传递更多信息，并不代表本网赞同其观点，本站亦不保证或承诺内容真实性等。若内容或图片侵犯您的权益，请及时联系本站删除。侵权投诉联系： nick.zong@aspencore.com！

集成电路IC 想陪你一起，目睹这个充满变化的时代

进入专栏

集成电路IC 想陪你一起，目睹这个充满变化的时代

文章：2604篇粉丝：8人

 私信

价格爆跌后的英伟达H100

最近文章

热门文章

推荐

最新资讯