·聚焦:人工智能、芯片等行业
欢迎各位客官关注、转发
随着人工智能技术的不断发展,作为该领域最关键的基础设施之一的人工智能芯片,其市场份额及商业价值也在持续增长,越来越多的行业巨头开始觊觎这块不断做大的蛋糕。
近日,英伟达发布了下一代人工智能超算芯片——NVIDIA H200 Tensor Core GPU,被英伟达官网称为世界上最强大的GPU。
这款芯片具备卓越的性能和内存功能,能够显著增强生成式AI和高性能计算(HPC)工作负载。
具体而言,当用于Llama2、GPT-3等大型模型的推理或生成问题答案时,H200的性能较H100提高60%至90%。
与CPU相比,H200的高性能计算速度提高了110倍。
在GPT-3的推理表现中,H100的性能比A100提高了11倍,H200的性能比A100提高到了18倍。
H200沿用了英伟达Hopper架构,采用台积电4纳米工艺,由超过800亿个晶体管构建而成。
这是首款采用HBM3e内存的GPU,能够以每秒4.8 TB的速度提供141GB内存。
与前身NVIDIA A100相比,容量几乎翻倍,带宽增加2.4倍。
据Anandtech分析,H200的加速计算性能约为半年前发布的GH200 Hopper GPU的一半。
与H100相比,根据H200的总带宽和内存总线宽度计算,H200的内存频率增加了约25%。
英伟达急于发布H200,主要是因为意识到人工智能芯片的竞争即将升温,众多芯片巨头已纷纷入局。
今年6月,AMD发布了针对AI需求的最新款芯片Instinct MI300,这是其最强大的产品之一,可能会让英伟达措手不及。
微软在11月也推出了首款自研AI芯片Maia 100。
这款芯片旨在运行大语言模型,帮助人工智能系统更快地处理大量数据以完成图像和语音识别等任务,并有可能避免对英伟达的高成本依赖。
尽管微软暂时不会出售这款芯片,但这标志着在AI芯片领域英伟达已不再是唯一的主导者。
Meta Platforms正在开发自己的硅芯片MTIA元训练和推理加速器,以实现其人工智能目标。
此外,谷歌已拥有自主研发的芯片,而AI新贵OpenAI也在内部讨论自行研发人工智能芯片,以解决对英伟达GPU的依赖并减少相关支出。
因此,对英伟达而言,趁着人工智能的热潮,尽快收割全球市场并回笼资金至关重要。
同时,通过加速产品迭代给予竞争对手更大压力,特别是对AMD构成足够的压迫。
黄仁勋深知中国市场对英伟达的重要性,中国作为全球人工智能芯片核心的市场之一,为英伟达带来了高达九成的份额。
过去的几个季度里,中国市场为英伟达贡献了约25%的营收,且增长幅度与利润均表现优异。
英伟达高度依赖中国市场,中国市场长期采购大量游戏芯片、数据中心芯片,占英伟达总营收的20%以上。
如果按照一枚A800芯片单价10万元(人民币)计算,中国市场对A800/H800芯片需求量超过5万枚。
对于中国而言,其目的非常明确,即不能将市场机会拱手让给国内芯片厂商,尤其是华为。
更重要的是不能培养英伟达CUDA生态的潜在竞争者,担心华为通过昇腾芯片形成一套自主的人工智能底层生态。
因此,即使是通过阉割版也要坚守中国市场。
中国市场不仅为英伟达提供了持续的营收增长,还成为了英伟达人工智能芯片的试验场。
中国的科技公司和开发者是英伟达CUDA生态的重要参与者,为英伟达提供了丰富的应用场景。
今年开始,中国的科技巨头与创业者已经开发了约130个大模型,他们急需英伟达速度更快的GPU芯片来提供算力支撑。
近期,百度向华为订购了1600枚昇腾910B AI芯片,总价值达4.5亿人民币。
此外,360集团创始人周鸿祎亦表示,360采购了约1000枚华为AI芯片。
华为推出的两款GPU芯片昇腾310和昇腾910B备受瞩目。
特别是昇腾910B被视为与A100性能相当的芯片,受到了市场的热烈追捧。
科大讯飞还与华为联合开发了基于昇腾生态的算力底座[飞星一号]平台。
随着管制措施的实施,[中国芯]的崛起可能会带来一个机会窗口,这可能导致英伟达在中国市场面临更大的竞争压力。
中国本应成为英伟达成长的关键引擎,但如今英伟达不得不通过推出中国特供版芯片来维系在中国不断萎缩的市场。
英伟达曾在中国花费大量精力建立生态,这是其竞争力的核心,但在管制下,维持这一生态变得越来越困难。
如果缺少中国用户,英伟达曾努力建设的CUDA生态未来在中国可能会逐渐凋敝。
短期来看,中国区营收下滑对英伟达的影响有限,但长期来看,生态脱钩是其最不愿意看到的局面。
单看算力这一指标,H200的算力与H100基本相同,对比两者的产品规格表可以发现,实现算力不变而性能飞跃的关键点就是内存。
在各芯片企业的推动下,AI芯片的竞逐正从初期的算力指标竞争,进一步延展到存储领域,HBM几乎成为了未来AI芯片当中必备且必争的存储器。
部分资料参考:中国企业家杂志:《英伟达股价十连涨创新高,但黄仁勋高兴不起来》,天天IC:《面对[泼天的富贵],黄仁勋却说英伟达[一直处于危险中]》,中国电子报:《英伟达AI芯片上新 传递两大信号》,腾讯科技:《英伟达最新AI芯片H200只能算半代升级》,财经十一人:《收入利润暴增,但英伟达发出了预警》
推荐阅读:
商务合作请加微信勾搭:
18948782064
请务必注明:
「姓名 + 公司 + 合作需求」