每年一度的 Hot Chips 是半导体业界最重要的技术会议。在其中，芯片领域专家齐聚一堂，全球芯片厂商也经常选择在这里发布新产品，或是阐述未来的发展方向。1、未来网络白皮书（2023）：算网操作系统白皮书
2、未来网络白皮书（2023）：以网络IO为中心的无服务器数据中心白皮书
3、未来网络白皮书（2023）：光电融合服务定制广域网白皮书人工智能专题报告：智算中心—赋能AI产业化、产业AI化（2023）
中国超导体行业：立足科技前沿，满足能源战略需求（2023）多样性算力：新一代计算架构超异构计算
聚力“高广深”打造先进算力网络
生成式AI：产业变革与机会（2023论坛合集）
400+份重磅ChatGPT专业报告（合集）
当地时间周一，在斯坦福大学举办的 Hot Chips 2023 上，英特尔首次披露了新一代数据中心芯片「Sierra Forest」，它的每瓦性能较前代提升了 240%，并有望于明年推出。同时，英特尔首次将旗下数据中心芯片分为两类：一类是 Granite Rapids，专注于高能耗高性能；一类是 Sierra Forest，专注于高能效。接下来看 Granite Rapids 和 Sierra Forest 这两款数据中心芯片的具体细节。整体来讲，得益于引入了面积高效的 E 核（能效核），Granite Rapids 和 Sierra Forest 将有望成为迄今为止英特尔 Xeon（至强 ）可扩展硬件生态系统中最重要的更新之一。先来看 Sierra Forest，它是英特尔首款用于数据中心的 E 核 Xeon 可扩展芯片，还是基于 EUV 的 Intel 3 工艺的主导产品。英特尔表示，Sierra Forest 有望于明年上半年上市。同时，Granite Rapids 也采用相同的 Intel 3 工艺。在设计上，Granite 和 Sierra 都是基于小芯片（chiplet）的设计，依赖通过英特尔 EMIB（Embedded Multi-Die Interconnect Bridge, 嵌入式多核心互联桥接）技术封装在一起的计算和 I/O 小芯片的混合。不仅如此，这次的小芯片设计还有独到之处，使用不同的计算 / IO 小芯片，而不是将「完整的」Xeon 小芯片封装在一起。这意味着，Granite 和 Sierra 可以共享基于 Intel 7 工艺构建的、通用 I/O 小芯片。除了共享平台的详细信息外，英特尔还首次提供了 E 核和 P 核（性能核）所用架构的高级概述。正如现在多代 Xeon 的情况一样，英特尔正在利用与其消费部件相同的基本 CPU 架构。因此，Granite 和 Sierra 可以被认为是解构的 Meteor Lake 处理器，Granite 配备 Redwood Cove P 核心，而 Sierra 配备 Crestmont E 核心。如前所述，这是英特尔首次尝试为 Xeon 市场提供 E 核。对英特尔来说，这意味着要针对数据中心工作负载调整 E 核设计，与上一代以消费级应用为中心的 E 核心设计大有不同。英特尔透露，Crestmont 正在提供 6-wide 指令解码路径以及 8-wide 隐退后端。虽然不如英特尔的 P 核心强大，但 E 核心绝不是轻量级核心，英特尔的设计决策反映了这一点。尽管如此，它的设计在芯片空间和能耗方面都比 Granite 中的 P 核心要高效得多。Crestmont 的 L1 指令高速缓存（I 高速缓存）将为 64KB，是早期设计中 I-cache 大小的两倍。与此同时，Crestmont E-core 系列的新成员可以将这些核心打包成 2 或 4 核集群，这与目前仅提供 4 核集群的 Gracemont 不同。最后，对于 Sierra/Crestmont，该芯片将提供与 Granite Rapids 尽可能接近的指令。这意味着有 BF16 数据类型支持，以及对各种指令集的支持，例如 AVX-IFMA 和 AVX-DOT-PROD-INT8。同时对于 Granite Rapids，我们有 Redwood Cove P 核心。Redwood/Granite 是 Xeon 处理器的传统核心，对于英特尔来说，变化并不像 Sierra Forest 那样大，但这并不意味着他们没有改进。在微架构方面，Redwood Cove 获得了与 Crestmont 相同的 64KB I 缓存，容量是其前身的 2 倍。但最值得注意的是，英特尔成功地进一步降低了浮点乘法的延迟，将其从 4/5 个周期减少到仅 3 个周期。像这样的基本指令延迟改进很少见，因此我们总是期盼能够出现。除此之外，Redwood Cove 微架构还有分支预测和预取等特性，这是英特尔的典型优化目标。它们可以采取的任何措施来改进分支预测（并降低罕见失误的成本），经常会在性能方面带来相对较大的红利。Redwood Cove 的 AMX 矩阵引擎获得了 FP16 支持，尤其适用于 Xeon 系列，而 FP16 的使用不如已支持的 BF16 和 INT8 那么多，但它总体上改进了 AMX 的灵活性。对于内存加密的支持也正在得到改进。Granite Rapids 的 Redwood Cove 将支持 2048 个 256 位内存 key，而 Sapphire Rapids 则支持 128 个 key。虽然现在谈论 Granite Rapids 和 Sierra Forest 的各个 SKU 还为时过早，但英特尔已明确告诉我们，核心数量总体正在增加。Granite Rapids 芯片将提供比 Sapphire Rapids 更多的 CPU 内核（SPR XCC 为 60 个）。当然，Sierra 的 144 个内核将提供更多的 CPU 内核。在之前的 Xeon 推迟并花费很长时间才将 E 核 Xeon 可扩展芯片推向市场之间，英特尔并没有像以前那样在数据中心市场占据主导地位，因此 Granite Rapids 和 Sierra Forest 将标志着一个重要的拐点，给英特尔数据中心产品的未来发展指明了道路。我们知道，为互联网和在线服务提供动力的数据中心承载着巨量的算力需求，同时也需要消耗大量电力。最近几年随着 AI 等技术的发展，科技公司正面临提升算力、降低能耗的挑战，这促使芯片公司专注于提升功耗效率。目前，在数据中心芯片市场，英特尔的份额正一步步被 AMD 和 Ampere（前英特尔高管 Renee James 成立的初创公司）等竞争对手蚕食。今年，Ampere 和 AMD 都已推出了自己的高效率云计算芯片，Arm 也在本次的 Hot Chips 2023 上提出了 Neoverse V2 平台。竞争愈加激烈的当下，英特尔有危机感在所难免。https://www.anandtech.com/show/20034/hot-chips-2023-intel-details-granite-rapids-and-sierra-forest-xeonshttps://www.reuters.com/technology/intel-says-new-sierra-forest-chip-more-than-double-power-efficiency-2023-08-28/
4、国产CPU领军，受益于行业信创加速，成长空间广阔 2、计算机行业深度报告：曙光很近，海光不远，国产x86算力生态崛起 6、专注服务器与数据中心，高端处理器企业乘风国产替代人工智能行业报告：AI2.0、AI大模型、算力、AI赋能（2023）《数据中心液冷技术合集（2023）》
1、电信运营商液冷技术白皮书（2023）
2、浸没式液冷数据中心运维白皮书
3、运营商力推液冷，中兴液冷技术领先（2023）
《2023年液冷技术白皮书汇总》
1、浸没式液冷数据中心热回收白皮书（2023）
2、数据中心绿色设计白皮书（2023）
《数据中心液冷技术合集》
1、集装箱冷板式液冷数据中心技术规范
2、浸没式液冷发展迅速，“巨芯冷却液”实现国产突破
3、两相浸没式液冷—系统制造的理想实践
4、AIGC加速芯片级液冷散热市场爆发
《液冷技术专题》
1、中国液冷数据中心发展白皮书
2、全浸没式液冷数据中心解决方案
3、浸没液冷数据中心规范
4、喷淋式直接液冷数据中心设计规范
5、单相浸没式直接液冷数据中心设计规范
《液冷服务器技术合集》
1、某液冷服务器性能测试台的液冷系统设计
2、浸没液冷服务器可靠性白皮书
3、天蝎5.0浸没式液冷整机柜技术规范
2、Chiplet延续摩尔定律，芯片测试与封装有望获益4、破局后摩尔时代：Chiplet重塑半导体产业链价值Chiplet：延续摩尔定律的新技术，芯片测试与先进封装有望获益
《“东数西算”技术分析合集》
《2023年液冷技术白皮书汇总》
1、浸没式液冷数据中心热回收白皮书（2023）
2、数据中心绿色设计白皮书（2023）世界AI大会系列：数据为核，迈向多模态AI大模型时代
AI精华系列报告：AMD发布MI300，指引Chiplet等AI芯片新方向2、CXL-Forum CXL-Consortium技术方案.pdf3、CXL-Forum Elastics cloud技术方案.pdf 4、CXL-Forum Intel技术方案.pdf 5、CXL-Forum Marvell技术方案.pdf 6、CXL-Forum MemVerge技术方案.pdf 7、CXL-Forum Micron技术方案.pdf1、芯来科技：基于RISC-V的MCU软硬件解决方案2、芯来科技：高可靠高安全性RISC-V处理器设计与实现
本号资料全部上传至知识星球，更多内容请登录智能计算芯知识（知识星球）星球下载全部资料。
免责申明：本号聚焦相关技术分享，内容观点不代表本号立场，可追溯内容均注明来源，发布文章若存在版权等问题，请留言联系删除，谢谢。
温馨提示：
请搜索“AI_Architect”或“扫码”关注公众号实时掌握深度技术分享，点击“阅读原文”获取更多原创技术干货。
