据悉,英伟达这颗地表最强AI芯片GB200,是由2颗B200与Grace CPU芯片封装而成,1颗B200芯片功耗高达1000瓦至1200瓦,由于首度采用水冷散热技术,成为市场关注焦点。
下载链接:
AI算力研究:英伟达B200再创算力奇迹,液冷、光模块持续革新
GPU深度报告:英伟达GB200 NVL72全互联技术,铜缆方案或将成为未来趋势?
人工智能系列专题报告:CoWoS技术引领先进封装,国内OSAT有望受益
《AI PC产业技术专题合集》
1、怎么看AI PC的市场空间
2、2024年AI PC行业概览:PC市场迎来新拐点
3、AI PC专题:深入变革PC产业
香山:开源高性能RISC-V处理器
软硬件融合:从DPU到超异构计算
《大模型技术能力测评合集》
1、大模型时代,智算网络性能评测挑战
2、AIGC通用大模型产品测评篇(2023)
3、人工智能大模型工业应用准确性测评
4、甲子星空坐标系:AIGC通用大模型产品测评篇
5、AIGC通用大模型产品测评篇(2023)
6、2023年中国大模型行研能力评测
CoWoS目前仍以台积电(TSMC)为主,但今年会新增全球第二大封测厂安靠(Amkor)以及英特尔(Intel)供应链,台积电仍是大宗、将占一半。明年英伟达目标600至650万颗,其中用GB200 则占70%。目前台积电CoWoS有许多变体,其中分为CoWoS-R、CoWoS-L和CoWoS-S,三种技术因中介层材质不同,成本也不同,客户可依据自身条件选择要哪样技术。其中,CoWoS-R利用集成InFo技术,中介层使用RDL布线来连接小芯片之间,适合高带宽内存(HBM)和SoC集成。CoWoS-L结合CoWoS-S和InFO技术优点,成本介于CoWoS-S、CoWoS-R之间,中介层使用LSI(本地硅互联)芯片来实现密集的芯片与芯片连接。至于CoWoS-S中介层是采用硅(Sillicon),成本最高,也是目前主流,其中英伟达的H100、H200及AMD的MI300都使用CoWoS-S。也因此,美系外资预期CoWoS-S的量会再持续持续走升。散热方面,据悉每个GPU为300美元,较先前市场预估每个2000美元缩减,而市场盛传GB200散热为4至8万美元,每个元件至少有4家供应商,预估价格理应不会太高。至于云端服务供应商(CSP)采购方式尚未决定是个别采买零件或是需要完整解决方案,呈现了各家都有机会,但个个没把握的局面。GB200组装部分,目前鸿海是最大的GPU模组供应商外,GPU基板将逐季扩产,下游的机柜、整机等系统组装也会积极争取,纬创则为Tier1,至于广达算Tier2。AI 时代来临,云端CSP大厂包括亚马逊、微软、Google、Meta都积极投入自研芯片,目前重点观察亚马逊(Amazon)、Google的表现。以4大云端服务供应商看,亚马逊强攻自研芯片,世芯为Trainium1提供7纳米设计服务,Marvell负责Trainium2的5纳米设计。微软首款自研AI芯片Maia 100,由台积电5纳米制造,创意为ASIC设计服务合作商;微软的Cobalt 100为首款自研云端运算CPU,同样采台积电5纳米制程。Meta第一代自研AI芯片MTIA原订2025年推出,委由博通设计,采用台积电7纳米制程、晶心科RISC-V架构。但在对手先后秀出自研AI芯片后,Meta加快投入第二代自制芯片研发,续采晶心科RISC-V架构及台积电5纳米制程,预计最快明年完成研发,争取在2026年问世。英伟达发布的GB200作为新一代的AI芯片,无疑将对AI领域和经济格局产生深远的影响,进一步推动AI技术的应用和发展。从AI领域的技术角度来看,GB200的高性能特性将极大地推动AI模型的训练和应用。这两款芯片采用了先进的架构和技术,使得AI模型的训练和推理速度得到了显著提升。以前,由于计算能力的限制,训练大规模、高复杂度的AI模型需要耗费大量的时间和资源。而现在,借助GB200的强大计算能力,研究人员可以更加高效地训练和优化模型,加速AI技术的创新和发展。这将使得AI技术在更多领域得到应用,包括但不限于自动驾驶、医疗诊断、金融分析、自然语言处理等,从而推动整个AI领域的进步。从经济格局的角度来看,GB200的发布将进一步推动AI产业的繁荣。随着AI技术的广泛应用,对于高性能AI硬件的需求也在不断增长。英伟达作为AI芯片领域的领军企业,其发布的GB200 GPU将满足市场的这一需求,带动AI硬件市场的进一步增长。同时,这也将促进相关产业链的发展,包括芯片设计、制造、封装测试等环节,形成更加完整的AI产业生态。此外,GB200的高能效特性也将降低运营成本,为企业提供更多商业机会和利润空间。对于推动AI技术的应用和发展,GB200的影响主要体现在以下几个方面:提升计算效率:由于这两款芯片具有强大的计算能力和高效的并行处理能力,可以大幅提升AI计算的效率,使得AI技术能够更快地应用于实际场景中。降低成本:GB200的高能效特性使得AI系统的运行成本大幅降低,这将使得更多的企业和个人能够承担得起AI技术的应用,从而推动AI技术的普及。拓宽应用领域:由于计算能力的提升和成本的降低,AI技术可以应用于更多领域,包括一些之前由于技术限制而无法应用的领域。国产AI算力行业报告:浪潮汹涌,势不可挡(2024)2024中国“百模大战”竞争格局分析报告(2024)AI算力研究:英伟达B200再创算力奇迹,液冷、光模块持续革新
英伟达官宣新一代Blackwell架构,华为算力GPU需求破百万片GPU深度报告:英伟达GB200 NVL72全互联技术,铜缆方案或将成为未来趋势?英伟达发布新一代GPU架构,NVLink连接技术迭代升级
大模型语言模型:从理论到实践
技术展望2024:AI拐点,重塑人类潜力
大视研究:中国人工智能(AI)2024各行业应用研究报告英伟达GTC专题:新一代GPU、具身智能和AI应用
2024年策略:AI鼎新,与时偕行
《半导体行业深度报告合集(2024)》
《AI应用专题系列合集》
本号资料全部上传至知识星球,更多内容请登录智能计算芯知识(知识星球)星球下载全部资料。
免责申明:本号聚焦相关技术分享,内容观点不代表本号立场,可追溯内容均注明来源,发布文章若存在版权等问题,请留言联系删除,谢谢。
温馨提示:
请搜索“AI_Architect”或“扫码”关注公众号实时掌握深度技术分享,点击“阅读原文”获取更多原创技术干货。