服务器架构:内存接口及互连芯片

智能计算芯世界 2024-01-01 08:42
本文来自深度报告:从Rambus看内存接口芯片机会”。CPU DRAM 是服务器的两大核心部件,内存接口芯片集成于 DRAM 模组中,是服务器内存模组的核心逻辑器件,其主要作用是提升内存数据访问的速度及稳定性,满足服务器 CPU 对内存模组日益增长的高性能及大容量需求。由于 CPU 比内存处理数据速度快,因此需添加接口芯片以满足 CPU 对运行速度、信号完整性和稳定性方面要求。

由于内存接口芯片的大规模商用要经过下游厂商的多重认证,还要攻克低功耗内存接口芯片的核心技术难关,从 DDR4 世代开始,全球内存接口芯片厂商仅剩 Rambus、澜起科技和瑞萨(原 IDT)三家厂商。

DRAM 由于其结构简单,设计体积小,在服务器的内存中占主导地位,并得到了长足的发展,从 DRAM 逐渐演进到 SDRAM 再到 DDR SDRAM 系列。SDRAM为同步的动态随机处理器,同步指的是存储器的工作参考时钟,SDRAM 只能在信号的上升沿进行数据传输,其内核工作频率、时钟频率和数据传输速率三者相同,最高速率可达 200MHzDDR SDRAMDouble Data Rate Synchronous DRAM)双倍速率同步动态随机存储器,可以在信号的上升沿和下降沿都进行数据传输,所以 DDR 内存在每个时钟周期都可以完成两倍于 SDRAM 的数据传输量。随着人工智能大热,各云服务内存数据的传输速率越来越跟不上 CPU 算力的发展。为了提高内存数据传输速率、减小功耗,DDR SDRAM 也逐代演变出了 DDR1-DDR5 系列。

全年来看,新一代服务器 CPU 的推出有望刺激服务器换机需求。CPU 作为服务器进行运算处理的核心“大脑”,是影响服务器性能的最重要硬件之一。Intel AMD 作为服务器市场两大巨头接连在今年推出支持DDR5 的最先进服务器,Intel 最新推出的第四代至强(XEON)处理器 8490H AMD推出的第四代霄龙(EYPC)处理器分别支持 8 通道 DDR5 12 通道 DDR5

通常每一代 DDR 在上量后第一年末渗透率可达到 20-30%左右,第二年末渗透率可达到 50-70%左右,第三年末基本上就完成了市场绝大部分的渗透。虽然 2022 DDR5的渗透率不及预期,但是预计 2023 年后将进入快速放量期,预计 2023 DDR5 在服务器部署方面的比例将不足 20%,到 2025 年将达到 70%左右。

内存接口芯片按功能可分为两类,一是寄存缓冲器(RCD),用来缓冲来自内存控制器的地址/命令/控制信号;二是数据缓冲器(DB),用来缓冲来自内存控制器或内存颗粒的数据信号。仅采用 RCD 芯片对地址/命令/控制信号进行缓冲的内存模组通常称为RDIMM,而采用了 RCD DB 套片对地址/命令/控制信号及数据信号进行缓冲的内存模组称为 LRDIMM

1服务器需求回升,单台服务器 CPU 配置提高。根据 IDC 数据,全球服务器市场在经历了 2019-2021 年的持续低迷期后迎来反弹,2022 年全球服务器出货量达到 1380万台。服务器可分为 AI 服务器和通用服务器,其中 AI 服务器起步较晚,但是增速惊人,2022 AI 服务器出货量约为总体的 1%,预计 2023-2025 年可以实现 60%左右的 CAGR;通用服务器预计后续实现平稳增长,CAGR 预期为 7%左右。

同时,大模型的出现导致对服务器的算力要求大幅提升,单个服务器 CPU 数量也因此增长。今年最新发布的联想 ThinkSystem SR850 和浪潮服务器 NF8480M5 已经实现标配 4 CPU,最大配置 8 CPU,而中科曙光的服务器标配和最大配置 CPU 数量均达到 8 颗,相比 2016 年联想服务器标配和最高配置CPU数量仅 1 颗已有明显提升。

2内存接口芯片进入替换周期,DDR5 升级带来 DB 芯片及内存模组配套芯片增量需求。内存接口芯片最主要的下游应用是服务器,自从 2020 JEDEC 提出 DDR5 规范标准以后,各大服务器厂商开始计划推出兼容 DDR5 的新平台。在 DDR4 世代,LRDIMM 内则通常配置 1 RCD+9 DB;根据 DDR5 标准,LRDIMM 内将配置 1 RCD 10 DB,此外需要配套一个串行检测芯片(SPD)、一个电源管理芯片(PMIC),以及 1-3 个温度传感器(TS)DDR5 内存模组首次采用电源管理芯片(PMIC)以提升电源管理效能。DDR5 的渗透率不断提升带来了 DB 芯片和内存模组配套芯片新的增量需求。

3DDR5 子代迭代速度加快,内存接口芯片均价有望维持稳定。在某一代具体产品周期中,销售单价逐年降低,但新的子代产品在推出时的单价通常高于上一子代产品。澜起科技 DDR4 世代每个子代的迭代周期约 18 个月左右,而 DDR5 世代子代迭代周期缩短,有利于保持稳定的 ASP 水平。

高带宽存储器(High Bandwidth MemoryHBM)是 AMD SK 海力士发起的一种基于 3D 堆栈工艺的高性能 DRAM,适用于高存储器带宽需求的应用场合,如图形处理器、网络交换及转发设备(如路由器、交换器)等。

目前在 HBM2E 规范下,当传输速率上升到每管脚 3.6Gbps 时,HBM2E可以实现每堆栈 461GB/s 的内存带宽。此外,HBM2E 支持 12 DRAM 的堆栈,内存容量高达每堆栈 24GB

这种新型的 CPU/GPU 内存芯片是垂直堆叠而成,再由“中介层(Interposer)”连接CPU/GPU,这种设计使信息交换时间大幅缩短,只需将 HBM 堆栈插入中介层并放置于 CPU/GPU 旁边,再将其连接至电路板即可。HBM 所具备的功能特性与芯片集成的DRAM 几乎无异,且垂直堆叠的特殊设计使 HBM 具有功耗、性能、尺寸等多方面优势。

CXL 具有的高兼容性和内存一致性使其迅速取代传统数据中心环境中的 PCIe,成为行业内最领先的互联标准。在兼容性方面,CXL 标准在接口规格上可兼容 PCIe5.0,能够被现有支持 PCIe 端口的处理器(绝大部分的通用 CPUGPU FPGA)所接纳,且能够解决 PCIe 在内存使用效率、延迟和数据吞吐量上的缺陷,因此英特尔将 CXL 视为在 PCIe 物理层之上运行的一种可选协议,在 PCIe 6.0 标准上大力推进 CXL 的采用。

在内存一致性方面,CXL 可在 CPU,以及 GPUFPGA 等之间建立高速且低延迟的互连,维护 CPU 内存空间和连接设备上的内存之间的内存一致性,允许 CPU GPU之间绕过 PCIe 协议,用 CXL 协议来共享、互取对方的内存资源。透过 CXL 协议,CPU GPU 之间形同连成单一个庞大的堆栈内存池,CPU Cache GPU HBM2 存犹如放在一起,有效降低两者之间的延迟,故此能大幅提升数据运算效率。

AMDARMIBM 以及英特尔等主要 CPU 供应商的支持下,CXL 已经成为领先的行业标准。CXL 技术未来市场潜力较大。根据美光科技在 2022 5 月召开的投资人说明会资料,受异构计算快速发展的驱动,2025 CXL 相关产品的市场规模可达到 20 亿美元,到 2030 年超过 200 亿美元。

PCIe 总线是当前最流行传输总线,具有传输速度快,兼容性、拓展性强的特点。由于硬件数据交互传输速度要求日益提升,驱动传统并行总线向高速串行总线的过渡,PCIe 相比以往 PCIAGPPCI-X 具有更快传输速率,得到广泛认可,并且正在不断迭代升级,朝着更高传输速率方向发展。从兼容性来看,以硬盘为例,PCIe 总线支持 AHCINVMe SCSI 协议,有 SATA ExpressM.2PCIeU.2 等多种接口,具有兼容性、拓展性强等特点。无线网卡、有线网卡、声卡、采集卡、转接卡等设备均可以直接插入插槽。

伴随 PCIe 标准升级,总线传输速率几乎翻倍提升,同时带来严重信号衰减。主板PCIe 通道分为 x1x2x4x8 x16 等多种配置,通道数量越多意味着带宽越高,传输速度越快。同时每一代 PCIe 标准升级,其传输速度几乎翻倍上升,从 PCIe 4.0 PCIe 5.0,传输速度由 16GT/s 提升至 32 25GT/s,而整个链路插损预算从 4.0 时代的 28dB,增长到 5.0 时代的 36dB。信号衰减将限制超高速数据传输协议在下一代计算平台应用范围。

下载链接:

中国绿色算力发展研究报告(2023年)
数字基础设施技术趋势白皮书(2023)
《PCIe标准及工作原理合集》
1、PCIe技术标准概述
2、白皮书:PCIe基本工作日原理
“普慧”算力开启新计算时代(2023)
先进封装关键技术:TSV 研究框架(2023)
深度报告:从Rambus看内存接口芯片机会
《CXL论坛:CXL全球厂商方案合集》
1、CXL-Forum AMD技术方案.pdf 
2、CXL-Forum CXL-Consortium技术方案.pdf
3、CXL-Forum Elastics cloud技术方案.pdf 
4、CXL-Forum Intel技术方案.pdf 
5、CXL-Forum Marvell技术方案.pdf 
6、CXL-Forum MemVerge技术方案.pdf 
7、CXL-Forum Micron技术方案.pdf
2022年算力强基行动产品目录(2023)

硬件RAID与软件RAID:哪一种最适合?

AI产业人士看大模型发展趋势(2023)

深度报告:从Rambus看内存接口芯片机会

电子行业报告:顺复苏之势,乘AI之风(2023)

2023年AI开发平台词条报告
鸿蒙生态应用开发白皮书
2023年中国人工智能行业概览
《AIGC行业深度报告系列合集》
《70+篇半导体行业“研究框架”合集》
400+份重磅ChatGPT专业报告
《人工智能AI大模型技术合集》
《56份GPU技术及白皮书汇总》
《FPGA五问五答系列合集》
《机器人行业报告合集(2023)》
1、机器人行业报告:人形机器人产业分析,寻找供应链隐形冠军 
2、AI驱动虚拟人产业升级,应用场景进一步扩展 
3、AI赋能人形机器人产业提升,把握产业链受益机会 
4、扣紧产业链安全,机器人滚动功能部件国产化势在必行
《计算机系统结构合集》
1、计算机系统结构:概述 
2、计算机系统结构:基本概念 
3、计算机系统结构:指令系统 
4、计算机系统结构:存储系统 
5、计算机系统结构:IO系统 
6、计算机系统结构:标量处理机 
7、计算机系统结构:向量处理机

“九州”算力光网目标架构白皮书


本号资料全部上传至知识星球,更多内容请登录智能计算芯知识(知识星球)星球下载全部资料。




免责申明:本号聚焦相关技术分享,内容观点不代表本号立场,可追溯内容均注明来源,发布文章若存在版权等问题,请留言联系删除,谢谢。



温馨提示:

请搜索“AI_Architect”或“扫码”关注公众号实时掌握深度技术分享,点击“阅读原文”获取更多原创技术干货。


智能计算芯世界 聚焦人工智能、芯片设计、异构计算、高性能计算等领域专业知识分享.
评论
  • 飞凌嵌入式基于瑞芯微RK3562系列处理器打造的FET3562J-C全国产核心板,是一款专为工业自动化及消费类电子设备设计的产品,凭借其强大的功能和灵活性,自上市以来得到了各行业客户的广泛关注。本文将详细介绍如何启动并测试RK3562J处理器的MCU,通过实际操作步骤,帮助各位工程师朋友更好地了解这款芯片。1、RK3562J处理器概述RK3562J处理器采用了4*Cortex-A53@1.8GHz+Cortex-M0@200MHz架构。其中,4个Cortex-A53核心作为主要核心,负责处理复杂
    飞凌嵌入式 2025-01-24 11:21 99浏览
  • 书接上回:【2022年终总结】阳光总在风雨后,启航2023-面包板社区  https://mbb.eet-china.com/blog/468701-438244.html 总结2019,松山湖有个欧洲小镇-面包板社区  https://mbb.eet-china.com/blog/468701-413397.html        2025年该是总结下2024年的喜怒哀乐,有个好的开始,才能更好的面对2025年即将
    liweicheng 2025-01-24 23:18 40浏览
  • 数字隔离芯片是一种实现电气隔离功能的集成电路,在工业自动化、汽车电子、光伏储能与电力通信等领域的电气系统中发挥着至关重要的作用。其不仅可令高、低压系统之间相互独立,提高低压系统的抗干扰能力,同时还可确保高、低压系统之间的安全交互,使系统稳定工作,并避免操作者遭受来自高压系统的电击伤害。典型数字隔离芯片的简化原理图值得一提的是,数字隔离芯片历经多年发展,其应用范围已十分广泛,凡涉及到在高、低压系统之间进行信号传输的场景中基本都需要应用到此种芯片。那么,电气工程师在进行电路设计时到底该如何评估选择一
    华普微HOPERF 2025-01-20 16:50 137浏览
  • 本文介绍瑞芯微开发板/主板Android配置APK默认开启性能模式方法,开启性能模式后,APK的CPU使用优先级会有所提高。触觉智能RK3562开发板演示,搭载4核A53处理器,主频高达2.0GHz;内置独立1Tops算力NPU,可应用于物联网网关、平板电脑、智能家居、教育电子、工业显示与控制等行业。源码修改修改源码根目录下文件device/rockchip/rk3562/package_performance.xml并添加以下内容,注意"+"号为添加内容,"com.tencent.mm"为AP
    Industio_触觉智能 2025-01-17 14:09 218浏览
  • Ubuntu20.04默认情况下为root账号自动登录,本文介绍如何取消root账号自动登录,改为通过输入账号密码登录,使用触觉智能EVB3568鸿蒙开发板演示,搭载瑞芯微RK3568,四核A55处理器,主频2.0Ghz,1T算力NPU;支持OpenHarmony5.0及Linux、Android等操作系统,接口丰富,开发评估快人一步!添加新账号1、使用adduser命令来添加新用户,用户名以industio为例,系统会提示设置密码以及其他信息,您可以根据需要填写或跳过,命令如下:root@id
    Industio_触觉智能 2025-01-17 14:14 158浏览
  • 故障现象 一辆2007款日产天籁车,搭载VQ23发动机(气缸编号如图1所示,点火顺序为1-2-3-4-5-6),累计行驶里程约为21万km。车主反映,该车起步加速时偶尔抖动,且行驶中加速无力。 图1 VQ23发动机的气缸编号 故障诊断接车后试车,发动机怠速运转平稳,但只要换挡起步,稍微踩下一点加速踏板,就能感觉到车身明显抖动。用故障检测仪检测,发动机控制模块(ECM)无故障代码存储,且无失火数据流。用虹科Pico汽车示波器测量气缸1点火信号(COP点火信号)和曲轴位置传感器信
    虹科Pico汽车示波器 2025-01-23 10:46 97浏览
  • 嘿,咱来聊聊RISC-V MCU技术哈。 这RISC-V MCU技术呢,简单来说就是基于一个叫RISC-V的指令集架构做出的微控制器技术。RISC-V这个啊,2010年的时候,是加州大学伯克利分校的研究团队弄出来的,目的就是想搞个新的、开放的指令集架构,能跟上现代计算的需要。到了2015年,专门成立了个RISC-V基金会,让这个架构更标准,也更好地推广开了。这几年啊,这个RISC-V的生态系统发展得可快了,好多公司和机构都加入了RISC-V International,还推出了不少RISC-V
    丙丁先生 2025-01-21 12:10 815浏览
  • 现在为止,我们已经完成了Purple Pi OH主板的串口调试和部分配件的连接,接下来,让我们趁热打铁,完成剩余配件的连接!注:配件连接前请断开主板所有供电,避免敏感电路损坏!1.1 耳机接口主板有一路OTMP 标准四节耳机座J6,具备进行音频输出及录音功能,接入耳机后声音将优先从耳机输出,如下图所示:1.21.2 相机接口MIPI CSI 接口如上图所示,支持OV5648 和OV8858 摄像头模组。接入摄像头模组后,使用系统相机软件打开相机拍照和录像,如下图所示:1.3 以太网接口主板有一路
    Industio_触觉智能 2025-01-20 11:04 200浏览
  • 2024年是很平淡的一年,能保住饭碗就是万幸了,公司业绩不好,跳槽又不敢跳,还有一个原因就是老板对我们这些员工还是很好的,碍于人情也不能在公司困难时去雪上加霜。在工作其间遇到的大问题没有,小问题还是有不少,这里就举一两个来说一下。第一个就是,先看下下面的这个封装,你能猜出它的引脚间距是多少吗?这种排线座比较常规的是0.6mm间距(即排线是0.3mm间距)的,而这个规格也是我们用得最多的,所以我们按惯性思维来看的话,就会认为这个座子就是0.6mm间距的,这样往往就不会去细看规格书了,所以这次的运气
    wuliangu 2025-01-21 00:15 393浏览
  •  万万没想到!科幻电影中的人形机器人,正在一步步走进我们人类的日常生活中来了。1月17日,乐聚将第100台全尺寸人形机器人交付北汽越野车,再次吹响了人形机器人疯狂进厂打工的号角。无独有尔,银河通用机器人作为一家成立不到两年时间的创业公司,在短短一年多时间内推出革命性的第一代产品Galbot G1,这是一款轮式、双臂、身体可折叠的人形机器人,得到了美团战投、经纬创投、IDG资本等众多投资方的认可。作为一家成立仅仅只有两年多时间的企业,智元机器人也把机器人从梦想带进了现实。2024年8月1
    刘旷 2025-01-21 11:15 737浏览
  •     IPC-2581是基于ODB++标准、结合PCB行业特点而指定的PCB加工文件规范。    IPC-2581旨在替代CAM350格式,成为PCB加工行业的新的工业规范。    有一些免费软件,可以查看(不可修改)IPC-2581数据文件。这些软件典型用途是工艺校核。    1. Vu2581        出品:Downstream     
    电子知识打边炉 2025-01-22 11:12 160浏览
  • 临近春节,各方社交及应酬也变得多起来了,甚至一月份就排满了各式约见。有的是关系好的专业朋友的周末“恳谈会”,基本是关于2025年经济预判的话题,以及如何稳定工作等话题;但更多的预约是来自几个客户老板及副总裁们的见面,他们为今年的经济预判与企业发展焦虑而来。在聊天过程中,我发现今年的聊天有个很有意思的“点”,挺多人尤其关心我到底是怎么成长成现在的多领域风格的,还能掌握一些经济趋势的分析能力,到底学过哪些专业、在企业管过哪些具体事情?单单就这个一个月内,我就重复了数次“为什么”,再辅以我上次写的:《
    牛言喵语 2025-01-22 17:10 209浏览
  • 高速先生成员--黄刚这不马上就要过年了嘛,高速先生就不打算给大家上难度了,整一篇简单但很实用的文章给大伙瞧瞧好了。相信这个标题一出来,尤其对于PCB设计工程师来说,心就立马凉了半截。他们辛辛苦苦进行PCB的过孔设计,高速先生居然说设计多大的过孔他们不关心!另外估计这时候就跳出很多“挑刺”的粉丝了哈,因为翻看很多以往的文章,高速先生都表达了过孔孔径对高速性能的影响是很大的哦!咋滴,今天居然说孔径不关心了?别,别急哈,听高速先生在这篇文章中娓娓道来。首先还是要对各位设计工程师的设计表示肯定,毕竟像我
    一博科技 2025-01-21 16:17 170浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦