云计算服务正在成为新时代不可或缺的“水电煤”,“上云”无疑成为实施数字化转型升级的必经之路。但随着云技术发展渐深,企业对于快速提升算力和能效的需求也越来越强劲,导致平台面临的能效、成本、灵活性、安全隐私问题愈发突出。
可以说,如果不对现有的数据中心进行转型,可能会付出高昂的代价,导致需要反复改造和投资,并且会因安全问题而威胁供应链的正常运作。
如今,AMD第四代EPYC系列处理器家族已全面发布,其中的EPYC 9004系列处理器(代号Genoa)是通用计算和企业计算的理想之选,已得到业界广泛采用。这其中,就包括阿里云。
阿里云瑶池旗下汇集了云原生关系型数据库PolarDB、云原生数据仓库AnalyticDB、云原生多模数据库Lindorm等多款核心自研产品,其中云原生数仓AnalyticDB for PostgreSQL就被全新的第四代EPYC提升了30%的综合性能,成功实现数据中心转型。
在此过程中,第四代EPYC主要提供了三方面的能力,使得阿里云的全自研计算引擎及行列混合存储实现性能全面升级:
第一,芯片性能大幅提升。EPYC 9004系列是首个使用5nm工艺的企业级CPU产品,支持高达360W的TDP,最多支持96核心,内存通道数提高50%。这一超强核心数量和工艺下,配合全新设计的Zen 4架构,IPC性能相比上代有着14%的提升,在前端、加载/存储、分支预测、执行引擎和缓存方面均有一定加强,整体架构平均延迟有所降低,同时实现了对AVX-512指令集的支持。
第二,计算能效大幅提升。更高的效率意味着更大的灵活性,EPYC 9004系列可以在更少的服务器下来完成同样工作。在相同的核心数下,新一代服务器比搭载双路64核AMD EPYC 9534和双路64核的AMD EPYC 7763的服务器整数性能提升约24%,浮点性提升约52%。据估算,AMD EPYC解决方案使用的服务器数量减少了89%,功率减少了57%,三年内可节省约516,633千瓦时的电力,相当于每年94英亩森林的碳吸收量。
第三,安全性能大幅提升。AMD EPYC处理器内置 AMD Infinity Guard。它是一整套安全功能,可带来芯片级别的安全防护,能够有效应对各种内部和外部安全威胁,确保数据安全无虞,同时对系统性能的影响微乎其微。
经过测试,采用国际标准TPC-H测试集以及在同等运行环境下,AnalyticDB for PostgreSQL采用AMD EPYC服务器较比常规主流服务器平均性能提升32.7%。
可以说,实现这样的成绩,阿里云对数据库内核的优化和强大的处理器加持,二者缺一不可。
对于EPYC Genoa,AMD采用EPYC 9004作为系列的基础代号,或原始命名。这串数字背后代表着什么?
第一位代表产品系列,AMD的前三代产品使用了EPYC 7001、EPYC 7002和EPYC 7003的代号。在第四代EPYC处理器上,AMD改用了EPYC 9004作为产品基础代号,以突出这一代产品的革命性。后面三位则依次代表核心数量、性能、代际。
通过对比,我们可以看到EPYC 9004相比EPYC 7003在核心数、TDP、L3缓存、制造工艺、内存、内存通道数有着全面的提升。
这些提升带动EPYC 9004在性能上全面突破。通过对比搭载96核AMD EPYC 9654 CPU与某客户当前平台的双路服务器,AMD EPYC的计算流体动力学性能提升了2.5倍,浮点吞吐量提升约2.5倍。MULTIJVM性能较前代旗舰提升约90%。此外,96核EPYC 9654处理器的云计算吞吐量是当前客户的双路平台的3倍。
更重要的是,EPYC 9004能够有效帮助客户服务器更新和整合,成为数据中心未来的升级方向。如果当前客户平台的服务器进行比较,在提供500个虚拟机且每个虚拟机分配8GB内存的情况下,预计可以减少81%的服务器数。
这些性能提升的背后,是诸多技术集合所造就的。
架构,无疑是EPYC 9004最大的变化。而Zen4架构核心升级点主要包括:改进分支预测增大OP指令作缓存、增大指令退役队列、增大整数/浮点寄存器文件、加深核心缓冲吞吐、浮点单元支持AVX-512指令、改进载入/存储单元、增大二级缓存。
分支预测方面,一级缓存BTB(分支目标缓冲)增加到1.5K条目、二级缓存BTB从6.5K增至7K,指令缓存(OpCache)增加至6.75K条目,每时钟周期完成宏指令增加1个。
指令退役队列方面,ROB(重排序缓冲)从256条目增大25%至320条目,整数寄存器从192个增至224个,浮点寄存器从160个增至192个。
载入/存储单元方面,载入队列从72个增大至88个(22%),二级缓存DTLB(数据页表缓冲)从2K条目增加50%至3K条目,同时减少了数据缓存端口的冲突几率。
L2缓存方面,容量翻番来到1MB,同时提升了速度至3k。
AVX-512指令集方面,AMD选择拆分成两个256-bit进行执行,从而节省芯片面积,避免执行AVX512指令时发热过大、频率下降。而在加入AVX-512指令集后,Zen4架构的FP32浮点推理多线程性能提升了1.31倍,VNNIINT8整数推理多线程性能提升了2.47倍。
在种种改进下,Zen4 lPC平均提升了13%,这是在固定4 GHz八核心情况下,通过22个项目对比Zen3得出的几何平均结果。此外,与上一代处理器相比,Zen 4核心的整数性能提高了2.1倍,浮点性能提高了2.2倍。
AMD在Zen 2架构首次引入了Chiplet(小芯片)设计,并延续至今。AMD EPYC 9004架构,继续采用CCD(Compute)和IOD(IO Die)组合形式进行Chiplet功能拆解,形成完整的SoC。
其中,CCD部分从台积电7nm升级为台积电5nm工艺,IOD部分则从格罗方德12nm升级为台积电6nm。
CCD方面,每个集成8颗Zen 4 CPU核心、32MB L3缓存,也就是说在12 CCD + 1 IOD情况下,合计最多96核心、384MB L3缓存。
IOD方面,则集成了DDR5内存控制器、PCIe 5.0/CXL 1.1+控制器、第三代Infinity Fabric控制器、安全处理器。
内存方面,EPYC 9004系列支持12个DDR5内存通道,单路最大容量6TB(单条512GB)。最高4800MHz频率,峰值理论带宽可达460GB/s。
PCIe方面,EPYC 9004系列可提供128条PCIe 5.0、8条PCIe 3.0通道。
CXL(Compute EXpress Link)方面,协议为CXL.io、CXL.mem,支持内存缓冲,可扩展内存带宽与容量。
安全性总是数据中心优先考虑的第一要素。相比来说,AMD比竞争对手具有优势的多个核心和SoC级别的安全功能,主要包括两个方面:
第一,AMD Infinity Guard安全功能集。物理和虚拟化威胁会给整个组织带来风险,并进一步蔓延至客户。AMD Infinity安全功能基于Zen 4 CPU 核心的安全加固和专用嵌入式安全处理器之间的协同保护机制,能够帮助维持从开机到运行期间的安全计算环境。
EPYC 9004处理器新增了很多高级功能,如支持256位AES-XTS加密和安全多密钥加密(SMKE),使管理程序能够选择性地加密CXL所连接内存的地址空间范围。这使得现有的软件加密功能可以与CXL连接的内存无缝协同工作。利用不断增长的机密计算生态系统,通过在云计算和虚拟化环境中对正在使用的数据进行加密,重点解决敏感应用程序和数据迁移的特定安全问题。
第二,AMD安全处理器。集成的安全处理器支持机密计算,其功能包括安全信任根、安全内存加密(SME)和安全加密虚拟化(SEV)。它能够仔细检查启动过程,并帮助管理1006个只有安全处理器才知道的唯一加密密钥。将这些技术结合在一起有助于在软件启动、执行和处理关键数据时减少潜在的攻击面。由于AMD EPYC 9004处理器支持更大的物理内存,AMD增加了可加密的页表深度。
总之,EPYC 9004既能让客户满怀信心地进行投资,也能尽快锁定和管理当前一系列新的业务漏洞,保证业务不被安全问题所困扰。
· END ·