利用主机辅助功能优化存储系统，满足未来AIPC的需求

原创美光科技 2025-02-14 11:00 171浏览 0评论 0点赞

关注美光获取动态

与“计算”有关的技术正在快速演进，而随着AI PC的兴起，人类与技术交互的方式正在发生深刻转变。AI系统不仅带来了更快的处理速度或更智能的算法，还从根本上改变了计算机管理和存储数据的方式。

对 AI PC而言，数据存放的位置至关重要。AI PC中的先进存储功能可确保不仅能够高效存储数据，还能够以更高的性能和安全性来访问和使用数据。随着AI时代对计算的要求日益提高，深入了解用户数据的存放位置和方式，对于充分发挥高性能硬件的潜力十分关键。SSD已成为存储PC数据的主要设备。借助高性能SSD，我们有望提升用户在运行AI应用时的体验。

当前，SSD无法辨别特定数据对用户或系统的重要程度。这是一个重大的缺陷，因为随着AI愈发重要，未来的系统需要优先考虑AI应用使用的数据。AI应用通常涉及实时处理和决策，需要快速访问与这些处理和决策过程最相关的数据。当前架构通常使用LRU（最近最少使用）数据结构优化数据访问，其弊端是对所有数据同等对待，可能导致效率低下，影响性能。

随着端侧AI技术重要性的日益提高，我们更需要优先考虑AI和其他数据密集型应用所需的数据。为此，SSD 需要主机提供额外信息，来标记哪些数据（如AI数据）最为重要，该功能称为“主机辅助”。有了这些信息，SSD可将此类数据放在访问速度更快的低延迟缓存中。我们所做的内部测试表明，当使用主机辅助功能时，模型加载时间可缩短高达 80%。在测试中，端侧AI与许多驻留在存储系统中的小规模模型一起运行，并需要按需加载特定模型。（我曾在之前的博客中谈到过这一问题，参见：AI PC：PC行业的颠覆性变革？| 美光科技）

在测量SSD和主机辅助功能可实现的性能提升时，模型加载时间是一个重要指标。要从主机获得协助信息，可以采用很多种不同的方法。美光与微软合作推出了几项增强功能，可帮助SSD了解不同数据的重要性。其中的一些方法还提升了SSD的可靠性。

时间戳功能为SSD提供了世界时间信息，SSD可使用这些信息进行时间比较。操作系统为SSD 提供了更多实际运行当中的时间信息。这些信息能够帮助SSD更准确地跟踪数据的新旧程度，从而提高可靠性。通过准确了解数据的新旧程度，SSD可以做出更明智的决策，确定优先处理哪些数据，并丢弃一些过时数据。利用时间戳信息，SSD可以更有效地管理内部缓存，让最近频繁访问的数据随时可用，降低延迟，提高响应能力。时间戳信息还可帮助SSD识别过时数据或从未使用过的数据，以便在垃圾收集时快速删除这些数据。垃圾收集可释放被占用的空间，从而保持出色的写入速度。此外，利用时间戳信息，SSD可将数据均匀写入各存储块中，从而延长SSD的使用寿命，并确保平稳的写入性能。

主机内存缓冲区(HMB)功能使SSD能够独占式访问系统DRAM中的部分空间，以满足某些需要。增加HMB的大小可让SSD拥有更多缓冲空间，用于存储数据和数据属性。利用该功能，SSD可构建更大的FTL（闪存转换层）表，从而实现更高效的数据映射，并降低SSD开销。有了更大的缓冲区，SSD可以更有效地缓存重要数据，从而缩短访问时间，提高性能。HMB功能利用系统 DRAM的一部分作为缓存，可大幅缩短访问数据的时间，加速读写操作。此外，更高效的数据传输还可提高系统性能。该缓冲区利用系统内存的一部分创建，在提高性能的同时无需额外的成本和功耗。

主机系统可向SSD发送与读写命令相关的额外元数据。此类元数据也称为数据提示，可为SSD 提供有关接下来将会如何使用目标数据的信息（例如，频繁读取）。SSD可以通过这些提示了解数据的使用模式，然后对数据进行优先级排序，确保系统能够更快访问数据。元数据还可能包括预期寿命或访问模式等提示。利用这些提示，SSD能够更有效地管理数据的存放位置，减少写入放大效应，提高整体性能。