
一、Blackwell系列:GB200计算能力远超H100,CSP厂商资本开支提升
B200集成2080亿个晶体管,采用台积电N4P制程,为双芯片架构,192GB HBM3E,AI算力达20petaFLOPS(FP4),是Hopper的5倍。GB200机架提供4种不同主要外形尺寸,每种尺寸均可定制。与H100 相比,GB200 NVL72将训练速度(如 1.8 T 参数 GPT-MoE) 提高了 30 倍。互联网资本开支方面,Meta、Alphabet(谷歌)、微软、亚马逊等厂商均增加2024年资本开支指引。微软预计FY25Q1资本支出将环比增加,及2025财年资本支出将高于24财年;谷歌表示2024年季度资本开支将等于或高于一季度水平;Meta将2024年资本支出预测提高至370-400亿美元,亚马逊表示二、服务器细节拆分:主板从HGX到MGX,GB200 NVL72价值量提升
GB200主板从HGX模式变为MGX,HGX是NVIDIA推出的高性能服务器,通常包含8个或4个GPU,MGX是一个开放模块化服务器设计规范和加速计算的设计,在Blackwell系列大范围使用。MGX模式下,GB200 Switch tray主要为工业富联生产,Compute Tray为纬创与工业富联共同生产,交付给英伟达。据Semianalysis,有望带来机柜集成、HBM、铜连接、液冷等四个市场价值量2-10倍提升。三、铜连接:DACs市场较快增长,GB200 NVL72需求较大
高速线缆中,有源光缆适合远距离传输,直连电缆高速低功耗。据LightCounting,高速线缆规模预期28年达28亿美元,DACs保持较快增长,Nvidia的策略是尽可能多地部署DACs。据QYResearch,2022 年,全球前十强厂商大约占据了 69.0% 的市场份额,其中安费诺的市场份额位居全球第一,国内厂商包括立讯精密、兆龙互联、金信诺、电联技术等,但全球市占率较低。四、HBM:HBM3E将于下半年出货,英伟达为主要买家
HBM 目前已经量产的共有HBM、HBM2、HBM2E、HBM3、HBM3E 五个子代标准。其中HBM3E将于下半年出货,HBM4或于2026年上市。预期2024年底HBM TSV产能约250K/m,三星与海力士扩产积极,三星HBM总产能至年底将达约130K(含TSV);SK海力士约120K。英伟达目前是HBM五、冷板式液冷较为成熟,GB200 NVL72采用液冷方案
AI大模型训推对芯片算力提出更高要求,提升单芯片功耗,英伟达B200功耗超1000W、接近风冷散热上限。液冷技术具备更高散热效率,包括冷板式与浸没式两类,其中冷板式为间接冷却,初始投资中等,运维成本较低,相对成熟,英伟达GB200 NVL72采用冷板式液冷解决方案。1、AI算力“卖水人”系列(1):2024年互联网AI开支持续提升
2、AI算力“卖水人”系列(2):芯片散热从风冷到液冷,AI驱动产业革新3、AI算力“卖水人”系列(3):NVIDIA GB200:重塑服务器、铜缆、液冷、HBM分析1、中伦互联网数据中心全解读
2、中国第三方数据中心服务商分析报告
3、面向AI 智算数据中心网络架构与连接技术的发展路线展望
4、新一代智算数据中心基础设施技术白皮书
5、中国数据中心产业发展白皮书1、大语言模型在计算机视觉领域的应用
2、大模型的异构计算和加速
3、大模型辅助需求代码开发
4、大模型在华为推荐场景中的探索和应用
5、大模型在推荐系统中的落地实践
6、大语言模型的幻觉检测
7、大语言模型在法律领域的应用探索






































1、AI系列深度报告(一):光模块AIGC高景气持续,800G+产品需求旺盛
2、AI系列深度报告(二):HBM高带宽特性释放AI硬件性能,AI高景气持续驱动需求高增
3、AI系列深度报告(三):政策与技术螺旋前进,高级别自动驾驶商业闭环雏形已现3D DRAM行业报告:3D DRAM时代或将到来,国产DRAM有望迎来变革契机2024年中国AI大模型场景探索及产业应用调研报告:大模型“引爆”行业新一轮变革光芯片研究报告:高速互联需求驱动光通信行业发展,国产光芯片有望加速渗透1、艾媒咨询:2024年中国信创产业发展白皮书(精简版)
2、艾媒咨询:2023年中国信创产业发展白皮书(精简版)1、2024大模型典型示范应用案例集
2、2023大模型落地应用案例集2024亚太不同国家和区域对生成式AI的反应白皮书计算机自主可控系列:国产AI算力万卡集群,多芯混合时代来临计算机行业深度:从技术路径,纵观国产大模型逆袭之路1、AI算力卖水人系列(1):2024年互联网AI开支持续提升
2、AI算力卖水人系列(2):芯片散热从风冷到液冷,AI驱动产业革新本号资料全部上传至知识星球,更多内容请登录智能计算芯知识(知识星球)星球下载全部资料。

免责申明:本号聚焦相关技术分享,内容观点不代表本号立场,可追溯内容均注明来源,发布文章若存在版权等问题,请留言联系删除,谢谢。
温馨提示:
请搜索“AI_Architect”或“扫码”关注公众号实时掌握深度技术分享,点击“阅读原文”获取更多原创技术干货。

