重新思考计算存储:释放固态硬盘(SSD)的处理潜力

EETOP 2025-01-24 11:50

计算存储的通用概念已走入死胡同,但利用固态硬盘(SSD)上巨大的板载带宽的针对性加速器可能有益于高性能计算。

几年前,计算存储的概念在业内人士之间引起了讨论。它被吹捧为如何解决如何最大化CPU处理能力的这一古老问题的潜在答案。

这一想法乍看之下颇具吸引力。想象一下,如果像SSD这样的存储设备能够处理它们所存储信息的一部分,那么存储设备和CPU之间需要传输的数据就会减少。理论上,这有助于节省电力、减少数据传输需求,并加快计算速度。

然而,与许多看似革命性的想法一样,这一概念始终未能找到实现商业化的途径——主要是因为每个用例都高度独特,且根本不具备可扩展性。

当工程师和开发人员谈论计算存储时,他们往往采取一种不切实际的方法:“如果我们能在驱动器上运行Linux,并给它配备更大的处理器,会怎么样?”虽然这个想法看似创新,但它缺乏重点和实际应用。这是一种被技术理想主义驱动的、过度复杂的误导性思维。最终,它并不会带来所期望的好处。

更明智的方法:定制化加速

了解NAND存储技术创新可以带来更好的方法,将处理负担卸载到SSD上。通过采用定制化的加速方法,我们可以专注于存储设备最擅长的任务:对逻辑块寻址(LBA)范围应用固定操作。

SSD中的专用加速器处理特定任务,这些任务不需要过多的功率或复杂性。例如,硬件加速器可以以非常高的速度执行特定操作:

·筛选大型数据集。

·基于对象的纠删编码。

·校验和验证。

·在数据到达CPU之前过滤掉无关信息。

这有助于实现更快、更高效的数据处理,特别是在像数据中心或超级计算机集群这样高需求的环境中。通过在SSD层面处理数据,可以减少需要通过PCIe总线或网络传输的数据量。这缓解了拥塞,减轻了带宽限制,并提高了整体性能。

为特定应用程序(包括数据中心)定制 SSD 计算机加速器为提高性能和能效提供了机会

通过专注于被视为简单重复工作的高度特定任务,这些加速器可以在不增加大量成本或功耗的情况下提供显著好处。加速后的SSD可以更快地处理大量数据,同时消耗的功率低于传统处理器。重要的是,这种方法可以扩展到多个驱动器,从而创建一个更高效、并行化的系统,其性能优于传统的受CPU限制的处理方式。

主机CPU可以比单个SSD更快地完成上述所有任务。然而,分配给非操作系统(OS)任务的总CPU动态随机存取存储器(DRAM)带宽存在实际限制。此外,将数据从SSD移动到DRAM会消耗大约一半的CPU可用DDR带宽。

考虑到全闪存存储机箱可以容纳30、60甚至90个SSD,这为设备提供了大量的卸载能力。一个装有90个第六代SSD的机箱可以在不影响任何CPU资源的情况下,以2.5TB/s的速度处理数据。在这种场景中,SSD执行预过滤和预计算任务,而CPU管理更重要的操作。

智能SSD助力高性能计算提升

最近,群联电子已经转变方向,开始探索将部分CPU工作负载卸载到SSD上的新方法,这些方法超越了针对性加速器的范畴。这包括在存储阵列中添加CPU集群。这里的重大区别在于,CPU集群不是用来进行计算,而是实际运行网络服务或微服务。它们在PCIe总线上显示为额外的可寻址CXL服务。

以人工智能(AI)项目为例,该项目涉及大量的流水线操作。即一个大型语言模型(LLM)产生数据并输出,然后另一个LLM接收数据并进行转换,再发送给另一个LLM,依此类推。

一个例子是对TED演讲的视频翻译。可以部署多个LLM来执行不同的任务:

·提取英语音频并将其转换为文本。

·将文本翻译成中文。

·使用名人的声音生成音频轨道。

这一复杂操作涉及许多小步骤,通常由CPU或GPU处理,并需要大量的模型交换。为什么不能利用SSD在后台执行这些小步骤,同时使用主CPU将这些任务分配给这些加速器,并执行其他更高级别的任务呢?在高性能计算(HPC)组织中,结果可能令人印象深刻。

HPC集群拥有100P字节的数据存储(包括双重和三重冗余)并不罕见。该集群可以将工作负载分布在10万个SSD上。突然之间,原本需要一两天才能完成的操作现在只需几秒钟即可完成。

在大型HPC阵列中,SSD的数量如此之多,以至于SSD的带宽超过了整个网络或CPU的带宽。正是在这里,我们意识到存在一个巨大的未开发空间,SSD可以在其中发挥智能作用。

加速加密以提高安全性

HPC用例关注的是速度和计算能力,我们还研究了安全用例,这些用例更多地涉及符合FIPS 140-3标准的坚固产品,这些产品提供的安全服务远远超出了可信平台模块(TPM)2.0所能实现的。

SSD每秒可以执行数百次加密操作,如签名和验证——如果服务器有30到90个SSD,处理能力也会相应提升。每个SSD都可以作为一个独立的基于硬件的代理,具有一个可追溯至硬件安全模块(HSM)服务器的信任根。

总体而言,所有这些驱动器的处理能力超过了一个强大CPU所能做到的,因为CPU并不是设计为数字签名算法(DSA)引擎。这种多SSD的处理能力,加上它已经是服务器中安装的硬件这一事实,为增强安全性提供了巨大好处。

通过特定性消除复杂性

虽然群联电子仍然认为,传统的、通用的计算存储概念最终不会走向成功,但我们确实看到了一些用例,其中另一种计算存储方法可能成为一种资产。针对性加速器使特定操作变得不那么复杂。而且,考虑到SSD上巨大的板载带宽,以及以新方式利用这种能力的潜在好处,可能会在不久的将来带来一些令人兴奋的应用。

EETOP编译自allaboutcircuits 作者:群联电子 Sebastien Jean

欢迎关注我们,并设为星标” 可第一时间收到我们的推送消息

================================

全球领先系统 IP 提供商SoC设计资料包

片上网络(NoC)互连 IP 和 SoC 集成自动化技术

EETOP EETOP半导体社区-国内知名的半导体行业媒体、半导体论坛、IC论坛、集成电路论坛、电子工程师博客、工程师BBS。
评论
  • 本文介绍瑞芯微开发板/主板Android配置APK默认开启性能模式方法,开启性能模式后,APK的CPU使用优先级会有所提高。触觉智能RK3562开发板演示,搭载4核A53处理器,主频高达2.0GHz;内置独立1Tops算力NPU,可应用于物联网网关、平板电脑、智能家居、教育电子、工业显示与控制等行业。源码修改修改源码根目录下文件device/rockchip/rk3562/package_performance.xml并添加以下内容,注意"+"号为添加内容,"com.tencent.mm"为AP
    Industio_触觉智能 2025-01-17 14:09 211浏览
  • 飞凌嵌入式基于瑞芯微RK3562系列处理器打造的FET3562J-C全国产核心板,是一款专为工业自动化及消费类电子设备设计的产品,凭借其强大的功能和灵活性,自上市以来得到了各行业客户的广泛关注。本文将详细介绍如何启动并测试RK3562J处理器的MCU,通过实际操作步骤,帮助各位工程师朋友更好地了解这款芯片。1、RK3562J处理器概述RK3562J处理器采用了4*Cortex-A53@1.8GHz+Cortex-M0@200MHz架构。其中,4个Cortex-A53核心作为主要核心,负责处理复杂
    飞凌嵌入式 2025-01-24 11:21 66浏览
  • 嘿,咱来聊聊RISC-V MCU技术哈。 这RISC-V MCU技术呢,简单来说就是基于一个叫RISC-V的指令集架构做出的微控制器技术。RISC-V这个啊,2010年的时候,是加州大学伯克利分校的研究团队弄出来的,目的就是想搞个新的、开放的指令集架构,能跟上现代计算的需要。到了2015年,专门成立了个RISC-V基金会,让这个架构更标准,也更好地推广开了。这几年啊,这个RISC-V的生态系统发展得可快了,好多公司和机构都加入了RISC-V International,还推出了不少RISC-V
    丙丁先生 2025-01-21 12:10 684浏览
  •  万万没想到!科幻电影中的人形机器人,正在一步步走进我们人类的日常生活中来了。1月17日,乐聚将第100台全尺寸人形机器人交付北汽越野车,再次吹响了人形机器人疯狂进厂打工的号角。无独有尔,银河通用机器人作为一家成立不到两年时间的创业公司,在短短一年多时间内推出革命性的第一代产品Galbot G1,这是一款轮式、双臂、身体可折叠的人形机器人,得到了美团战投、经纬创投、IDG资本等众多投资方的认可。作为一家成立仅仅只有两年多时间的企业,智元机器人也把机器人从梦想带进了现实。2024年8月1
    刘旷 2025-01-21 11:15 679浏览
  •     IPC-2581是基于ODB++标准、结合PCB行业特点而指定的PCB加工文件规范。    IPC-2581旨在替代CAM350格式,成为PCB加工行业的新的工业规范。    有一些免费软件,可以查看(不可修改)IPC-2581数据文件。这些软件典型用途是工艺校核。    1. Vu2581        出品:Downstream     
    电子知识打边炉 2025-01-22 11:12 141浏览
  • 数字隔离芯片是一种实现电气隔离功能的集成电路,在工业自动化、汽车电子、光伏储能与电力通信等领域的电气系统中发挥着至关重要的作用。其不仅可令高、低压系统之间相互独立,提高低压系统的抗干扰能力,同时还可确保高、低压系统之间的安全交互,使系统稳定工作,并避免操作者遭受来自高压系统的电击伤害。典型数字隔离芯片的简化原理图值得一提的是,数字隔离芯片历经多年发展,其应用范围已十分广泛,凡涉及到在高、低压系统之间进行信号传输的场景中基本都需要应用到此种芯片。那么,电气工程师在进行电路设计时到底该如何评估选择一
    华普微HOPERF 2025-01-20 16:50 126浏览
  • 故障现象 一辆2007款日产天籁车,搭载VQ23发动机(气缸编号如图1所示,点火顺序为1-2-3-4-5-6),累计行驶里程约为21万km。车主反映,该车起步加速时偶尔抖动,且行驶中加速无力。 图1 VQ23发动机的气缸编号 故障诊断接车后试车,发动机怠速运转平稳,但只要换挡起步,稍微踩下一点加速踏板,就能感觉到车身明显抖动。用故障检测仪检测,发动机控制模块(ECM)无故障代码存储,且无失火数据流。用虹科Pico汽车示波器测量气缸1点火信号(COP点火信号)和曲轴位置传感器信
    虹科Pico汽车示波器 2025-01-23 10:46 87浏览
  • 现在为止,我们已经完成了Purple Pi OH主板的串口调试和部分配件的连接,接下来,让我们趁热打铁,完成剩余配件的连接!注:配件连接前请断开主板所有供电,避免敏感电路损坏!1.1 耳机接口主板有一路OTMP 标准四节耳机座J6,具备进行音频输出及录音功能,接入耳机后声音将优先从耳机输出,如下图所示:1.21.2 相机接口MIPI CSI 接口如上图所示,支持OV5648 和OV8858 摄像头模组。接入摄像头模组后,使用系统相机软件打开相机拍照和录像,如下图所示:1.3 以太网接口主板有一路
    Industio_触觉智能 2025-01-20 11:04 199浏览
  • 高速先生成员--黄刚这不马上就要过年了嘛,高速先生就不打算给大家上难度了,整一篇简单但很实用的文章给大伙瞧瞧好了。相信这个标题一出来,尤其对于PCB设计工程师来说,心就立马凉了半截。他们辛辛苦苦进行PCB的过孔设计,高速先生居然说设计多大的过孔他们不关心!另外估计这时候就跳出很多“挑刺”的粉丝了哈,因为翻看很多以往的文章,高速先生都表达了过孔孔径对高速性能的影响是很大的哦!咋滴,今天居然说孔径不关心了?别,别急哈,听高速先生在这篇文章中娓娓道来。首先还是要对各位设计工程师的设计表示肯定,毕竟像我
    一博科技 2025-01-21 16:17 165浏览
  • 2024年是很平淡的一年,能保住饭碗就是万幸了,公司业绩不好,跳槽又不敢跳,还有一个原因就是老板对我们这些员工还是很好的,碍于人情也不能在公司困难时去雪上加霜。在工作其间遇到的大问题没有,小问题还是有不少,这里就举一两个来说一下。第一个就是,先看下下面的这个封装,你能猜出它的引脚间距是多少吗?这种排线座比较常规的是0.6mm间距(即排线是0.3mm间距)的,而这个规格也是我们用得最多的,所以我们按惯性思维来看的话,就会认为这个座子就是0.6mm间距的,这样往往就不会去细看规格书了,所以这次的运气
    wuliangu 2025-01-21 00:15 337浏览
  • Ubuntu20.04默认情况下为root账号自动登录,本文介绍如何取消root账号自动登录,改为通过输入账号密码登录,使用触觉智能EVB3568鸿蒙开发板演示,搭载瑞芯微RK3568,四核A55处理器,主频2.0Ghz,1T算力NPU;支持OpenHarmony5.0及Linux、Android等操作系统,接口丰富,开发评估快人一步!添加新账号1、使用adduser命令来添加新用户,用户名以industio为例,系统会提示设置密码以及其他信息,您可以根据需要填写或跳过,命令如下:root@id
    Industio_触觉智能 2025-01-17 14:14 150浏览
  • 临近春节,各方社交及应酬也变得多起来了,甚至一月份就排满了各式约见。有的是关系好的专业朋友的周末“恳谈会”,基本是关于2025年经济预判的话题,以及如何稳定工作等话题;但更多的预约是来自几个客户老板及副总裁们的见面,他们为今年的经济预判与企业发展焦虑而来。在聊天过程中,我发现今年的聊天有个很有意思的“点”,挺多人尤其关心我到底是怎么成长成现在的多领域风格的,还能掌握一些经济趋势的分析能力,到底学过哪些专业、在企业管过哪些具体事情?单单就这个一个月内,我就重复了数次“为什么”,再辅以我上次写的:《
    牛言喵语 2025-01-22 17:10 188浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦