根据 OpenAI 官网，AI 模型训练计算量自 2012 年起每 3.4 个月就增长一倍。以 GPT-3 模型为例，根据 lambdalabs 数据，该模型参数规模达 1750 亿，完整训练运算量达3640PFlop/s-days（以 3640PFlop/s 速度进行运算，需要 3640 天）。模型完成单次训练约需要 355 个 CPU 年并耗费 460 万美元（假设采用 Nvidia Tesla V100 芯片）。
下载链接：
《人工智能大模型专题研究合集》
1、人工智能专题研究（1）：大模型推动各行业AI应用渗透
2、人工智能专题研究（2）：AI大模型打开AI芯片、光模块和光芯片需求
《AI专题研究报告合集》
1、AI系列专题研究报告：台股AI服务器启示录（2023）
2、AI专题研究报告：AI算力研究框架（2023）
电子行业研究：什么是空间计算平台？
电子行业研究框架（2023）
智算中心网络架构白皮书（2023）
人工智能芯片是 AI 算力的核心构成。目前主流的 AI 芯片中 GPU 占据绝对百分比，根据IDC 数据，2022 年 GPU 在中国人工智能芯片市场中占有率为 89%。根据我们测算，假设国内每日访问单个语言大模型的人数达到 3 亿的情况下，对 GPU 需求台数为 13889 块。
Nvidia H100 是目前最先进的人工智能芯片。2023 年 3 月 22 日 Nvidia 推出新款人工智能芯片 GPU H100，与公司上一代产品 A100 相比性能得到大幅提升，在主流 AI 和 HPC模型中，采用 InfiniBand 互连技术的 H100 性能最高可达 A100 的 30 倍。
国产AI芯片短板明显，下一代产品推进顺利。通过对国内寒武纪、华为昇腾和沐曦等国产公司旗下的 AI 旗舰芯片与 Nvidia H100 SXM 的性能指标对比，可以看到国产 AI 芯片与 Nvidia H100 在性能上仍存在较大差距。同时国产芯片公司仍在加快研发推进下一代 AI芯片产品，并有望在未来对标Nvidia H100，如寒武纪在研的思元590、沐曦在研的MXC500等。
美国对 AI 芯片出口管制，自主可控要求下国产芯片需求迫切。2022 年 10 月 7 日美国商务部工业安全局（BIS）发布《美国商务部对中华人民共和国（PRC）关于先进计算和半导体实施新的出口管制制造》细则，其中管制物项 3A090、4A090 包含高性能 AI 芯片产品，而Nvidia A100 和 H100 均符合管制要求。在此背景下，Nvidia 推出性能阉割的中国特供版芯片 A800 和 H800。我们认为在国内自主可控大背景下，国内 AI 产业对国产芯片需求迫切，或加大对国产芯片公司支持力度，国产 AI 芯片有望迎来技术进步和市场机遇。
高算力需要与高效传输架构相匹配。AI 大模型通常由多个服务器作为节点，并通过高速网络架构组成集群合作完成模型训练。因此在模型中东西向流量（数据中心服务器间的传输流量）大幅增加，而模型训练过程中南北向流量（客户端与服务器间的传输流量）较少，由于叶脊网络架构相较传统三层架构更适用于东西向流量传输，成为现代数据中心主流网络架构。
叶脊网络架构大幅增加对光模块数量需求。由于叶脊网络架构中东西向流量大，因此服务器与交换机相连均需使用光模块，从而大幅增加对光模块数量需求。同时 AI 大模型的高流量对带宽提出更高要求，800G 光模块相较 200G/400G 光模块具有高带宽、功耗低等优点，有望在 AI 大模型网络架构中渗透率提升。
以 Nvidia DGX H100 网络架构为例。该架构适配 Nvidia H100 GPU，采用叶脊网络架构，分为 1-4 个 SU 单元类型（8 个 GPU 组成一个 H100 服务器节点，32 个服务器节点组成一个 SU 单元）。其中 4-SU 单元架构由 127 个服务器节点组成（其中一个节点用于安装 UFM 网络遥测装置），具有 1016 个 H100 GPU、32 个叶交换机、16 个脊交换机。
以 Nvidia DGX H100 架构为例测算 GPU 与光模块的对应数量。在 4-SU 的 Nvidia DGX H100 架构中，每 32 台服务器节点组成一个 SU 单元，并与 8 台叶交换机相连，因此服务器节点与叶交换机之间共有 1024 个连接（32×8×4）；32 台叶交换机需分别与 16 台脊交换机相连，因此叶交换机与脊交换机之间共有 512 个连接（32×16）；
在 Nvidia DGX H100 的目前方案中，脊-叶连接采用 800G 光模块，需要 1024 个 800G 光模块；叶-服务器连接中，每个服务器节点通过一个 800G 光模块与两台叶交换机向上连接，需要 512 个 800G 光模块（128×4），同时每台叶交换机通过一个 400G 光模块与一个服务器节点连接，需要 1024 个 400G 光模块（128×8）。
光通信是指通过电光转换以光信号为介质的传输系统。光通信系统的传输过程中首先发射端（TOSA）通过激光器芯片将电信号转换为光信号，经过光纤传输至接收端（ROSA），接收端通过探测器芯片将光信号转换为电信号，最终实现信号传输。
光芯片是决定光通信系统信号传输效率和网络可靠性的关键。光芯片是实现光电信号转换的基础元件，按照功能可以分为激光器芯片（LD）和探测器芯片（PD）。按细分型号分：激光器芯片可分为 VCSEL、FP、DFB 和 EML；探测器芯片可分为 PIN 和 APD。
高端光芯片市场国产化率仍有待提高。目前在 10G 及以下光芯片市场中，源杰科技等国内公司已占据较高市场份额（部分高技术难度领域如 10G VCSEL/EML 激光器芯片市场国产化率低于 40%），但在 25G 及以上光芯片市场，市场份额仍大多由Ⅱ-Ⅳ、Lumentum 和Broadcom 等国外公司占据。伴随国内光模块企业在全球市场中占据主导地位，出于保供的安全考虑，或为国内光芯片企业在高端领域发展迎来新机遇。
本号资料全部上传至知识星球，更多内容请登录智能计算芯知识（知识星球）星球下载全部资料。
免责申明：本号聚焦相关技术分享，内容观点不代表本号立场，可追溯内容均注明来源，发布文章若存在版权等问题，请留言联系删除，谢谢。
温馨提示：
请搜索“AI_Architect”或“扫码”关注公众号实时掌握深度技术分享，点击“阅读原文”获取更多原创技术干货。
