GDDR7增加空间以应对人工智能压力

人工智能(AI)领域的最新进展看似具有革命性意义，但JEDEC仍对图形双倍数据速率(GDDR)标准采取循序渐进的方法，即使它正越来越多地用于AI应用。

JEDEC固态技术协会GDDR小组委员会主席迈克尔·利特(Michael Litt)在向EE Times介绍情况时说，GDDR7标准延续了一代又一代的传统，即在保持功耗的同时，将带宽和容量提高一倍。“我们确实研究了渐进性的方法和革命性的方法。”他说，“这始终是我们要做的第一件事。”

Litt表示，JEDEC所选择的道路在很大程度上受到了行业参与者的影响。

“我们希望真正保持一种渐进的方法。”他说，“我们必须支持目前所支持的市场。”图形和游戏仍然是GDDR7的重要细分市场，AI应用的使用也在增加，他指出。

即使有可能实现革命性的飞跃，业界也不太可能利用它。与此同时，随着GDDR的发展，还需要克服一些障碍，包括接口的扩展，Litt表示。“JEDEC规范的成功之处在于，它们不会贪多嚼不烂。”他说，“我们会试图尽可能保持渐进。”

最新版的GDDR提供的带宽是其前代产品的两倍，每个器件最高可达192GB/s。GDDR7将独立通道数量增加了一倍，从GDDR6中的两个增加到四个。

GDDR增加了PAM

GDDR7也是第一个使用脉冲幅度调制(PAM)接口进行高频操作的JEDEC标准DRAM(图1)。使用PAM3接口可提高高频操作的信噪比，同时提高能效。PAM3还能提供更高的每周期数据传输速率，因此与传统的非归零(NRZ)接口相比，性能有所提高。

图1：与GDDR6相比——GDDR6使用NRZ(PAM2)信号，实际传输速率被限制为24Gbps——GDDR7向PAM3编码的过渡是最大的技术变化。(来源：Rambus Inc.)

新接口对GDDR7来说很有意义。Litt表示：“我们正在寻找一种有更大余地的接口。”

GDDR7采用了最新的数据完整性功能，包括带实时报告的片上纠错编码、数据毒化、错误检查和清理以及带命令阻止的命令地址奇偶校验(CAPARBLK)，从而满足了业界对可靠性、可用性和可服务性(RAS)的需求。

RAS功能还包括安全性，这也是人们最关心的问题。Litt表示，“这将变得更加重要。”

他指出，主要重点是保持现有的经济性和生态系统，不过也考虑过采用更类似于HBM的封装方式。

尽管已经是第三次迭代，但HBM仍然是一种难以实现的内存，而且价格也不便宜。随着美光科技(Micron Technology)等公司HBM3销售一空，GDDR可以成为某些AI工作负载的可行替代方案。

Rambus公司硅片IP产品营销高级总监Lou Ternullo在接受EE Times采访时表示：“我们看到越来越多的客户有兴趣评估他们的选择。”

GPU制造商和AI工作负载推动GDDR功能的发展

Ternullo补充说，AI需求正在影响着GDDR的发展。“像NVIDIA这样的公司已经告诉我们，图形处理器的用途远不止图形处理。”Ternullo说。GDDR的用途已经超出了其最初的目标市场，原因之一是它能够进行矩阵代数运算，这有助于GPU处理AI工作负载和计算机生成的特效。

GPU制造商NVIDIA希望获得更快、更可靠的内存，因此采用了PAM。以超高速传输数据意味着信道完整性成为一个更大的问题。Ternullo表示：“这就是可靠性发挥作用的地方。”

与HBM一样，Rambus也提供了支持GDDR生态系统的必要IP。该公司最近发布了业界首个GDDR7内存控制器IP(图2)。它支持40Gbps的运行，为GDDR7内存提供160GB/s的吞吐量。

图2：GDDR7控制器内核支持所有GDDR7链路功能，包括PAM3和NRZ信号、带读写重试的CRC、数据扰乱、数据毒化、翻盖模式和DQ逻辑重映射。(来源：Rambus Inc.)

Ternullo表示，该GDDR7内存控制器IP之所以能在JEDEC标准发布前夕推出，是因为Rambus很早就开始与市场上的一些关键客户合作。

他表示，人工智能的快速发展使客户希望确保他们的系统能够长期运行，这包括评估HBM或GDDR7是否能满足他们在整个产品生命周期内的带宽要求。

Ternullo表示，HBM是一项很难理解的技术，作为IP提供商，Rambus可以帮助客户评估他们的选择。“GDDR7是我们工具箱中的另一种工具，也为客户提供了另一种工具，帮助他们了解如何应对系统的挑战和要求。”他总结道。

（原文刊登于EE Times美国版，参考链接：GDDR7 Adds Headroom to Meet AI Pressures，由Franklin Zhao编译。）

本文为《电子工程专辑》2024年8月刊杂志文章，版权所有，禁止转载。免费杂志订阅申请点击这里。