计算存储的时代到了吗?

原创 SSDFans 2021-08-16 23:04


点击蓝字
关注我们



计算存储这个概念对我们来说并不新鲜。只是和许多概念一样,这个想法已经远远领先于技术。

 

简而言之,计算存储将处理能力提升到存储级别。它不需要将数据从存储系统加载到内存进行处理;在存储和计算资源之间移动数据效率往往很低,虽然计算系统增长迅速,但还是无法跟上不断扩展的数据集。

 

存储容量正在突飞猛进地增长,但数据处理架构还是一成不变——将数据从存储器加载到内存中,处理后再写回到存储器。存储工业网络协会(SNIA)说得很简单:“从磁带和软盘开始,存储架构基本上没有改变。”

 

现在有一些解决方案,如SAP HANA这样的内存数据库,可以减少数据进出存储器;阵列中的闪存驱动器能够通过将控制器和闪存直接连接到主机的PCI Express总线,绕过驱动器和CPU之间传统的、速度较慢的SAS和SATA接口。

 

但这还远远不够,目前服务器的内存已达到TB级,用于大数据分析、人工智能和机器学习的数据集已达到PB级。

                           

计算存储将处理放到存储媒体上,在存储媒体所在的地方进行处理。这不可能在机械驱动器上实现,但是可以在固态存储上实现,而且越来越有吸引力,因为移动数据比处理数据需要更多的功耗。

 

加州大学欧文分校和NGD Systems进行的一项研究表明,有些系统的性能可以提高8到9倍,同时功耗也有所减少,大多数系统的性能至少可以提高2.2倍。

 

对于大多数用户来说,他们可能不知道正在发生的事情;但对于大型数据中心来说,这种方法每年可以节省数百万美元。关键是要尽可能做到无缝,即对终端用户基本上是不可见。

 

Rambus的技术研究员、杰出发明家StevenWoo表示:“软件正在抽象出一个概念,他们只需要知道有一个支持计算模型的基础设施,当满足某些条件时将执行代码。在哪里执行代码并不重要;只有当条件满足时,代码才会运行。这一点很重要,因为目标是提高利用率。现在我们可以启动这一小段代码,让它在某个地方运行,而不用专门租用一台有时会闲置的虚拟机。”


计算存储是提高这种效率的一种选择,但肯定不是唯一的选择。然而,它正开始吸引更多的关注。

 

三星和Xilinx验证了这一概念

 

计算存储已经出现了好几年。自2018年以来,IBM一直在其闪存阵列中开发一种名为Flashscore Module的FPGA。它可以简单地卸载和加速存储堆栈,同时可以压缩内容。

 

IBM Fellow和IBMFlash Storage的首席技术官Andy Wall认为,计算存储将继续走向主流。“在FCM的例子中,我们正在卸载一些非常耗时以及在软件中很难处理的东西。这样简化后的数据存储会变得更加容易。”

 

去年11月,三星和Xilinx发布了SmartSSD计算存储驱动器(CSD),他们声称这是业界首个可适应的计算存储平台。它结合了三星2.5英寸U.2 SSD,单端口PCIExpress Gen 3适配器和3.84TB的启动容量与XilinxKintex Ultrascale+ KU15P FPGA处理器。除了闪存,每个驱动器还配有4GB的2400MHz DDR4内存。


虽然看起来像一个消费级设备,但SmartSSD的性能绝不会止步于此。其MTBF (Mean Time Before Failure)为200万小时,随机写速度可达800000 IOPS (I /O Operations Per Second),随机读速度可达110,000 IOPS。

 

Xilinx数据中心集团的业务开发和产品营销总监Jamon Bowen说,使用计算存储基本上有两大好处。首先,客户有一个针对工作负载进行优化的加速器,而不是通用的计算设备;其次,通过避免移动数据可以避免内存污染,以及搬移数据带来的功耗和复杂性。

 

Bowen补充说,在许多计算场景中,有很多需要在确定的时间内获得结果;通过基本的硬件解决方案,我们可以保证性能和延迟,这一点很重要。

 

基本用例

 

虽然如此,不要指望计算存储能立即完成繁重的工作。专家们一致认为,由于处理能力的限制以及人们开始接触计算存储,它将从减轻工作量和做准备处理开始。

 

英特尔Optane Solutions and Strategy高级总监Chris Tobias表示:“你必须先弄清楚自己想要出售哪些产品,最先弄清楚这一点的将首先开始进入市场。你必须首先找出与存储相关的最简单的任务;通用计算还远远不能满足此类存储需求。”

 

Objective Research的首席分析Jim Handy指出,利用现有的分片技术在数据库中使用计算存储是有潜力的。分片是将数据库分解成多个部分,然后每个部分都被并行处理。

 

Handy说:“这是一种加快数据库运行速度的方法,但它最终会导致很多问题,因为同一个数据库被分散到不同区域,需要重新组装起来;但这种连接操作非常容易出错。”大多数主数据库,无论是商业的还是开源的,都以自己的方式支持分片。MySQL很明显不支持分片。

 

Handy指出,当数据库被拆分时,实际上并没有修改数据。一旦数据库被分解,你就会搜索它,并可能对它进行排序。计算存储使得分片、搜索、排序和连接变得更加容易,因为它们都在相同的内存空间中。

 

Lewis Rhodes Labs的创始人David Follett表示,这也有助于减少在边缘收集的数据量;该实验室开发了一种用于计算存储的神经形态处理器。他指出,一架现代商用飞机每次飞行,都会产生平均4TB的数据,这些数据在飞行结束时被下载到一个大型数据库中,其中包含在全球任何特定时间飞行的所有飞机的信息。

 

边缘计算存储提供了一个机会,可以减少不必要的数据,只将有价值的数据发送到主数据中心系统。

 

应用程序重写?

 

计算存储的好处是可以消除或减少数据移动。但这种功能上的变化也可能意味着应用程序运行方式的根本转变。对于Hadoop和Spark等企业应用程序或Oracle的数据库是否需要重写,专家们存在分歧。

 

英特尔Optane解决方案和战略高级总监Chris Tobias表示:“利用这个契机可以彻底重组软件。通过计算存储,我们将把某些功能从服务器软件上剥离,然后将这一功能的多个副本转移到SSD上。”

 

Pliops总裁SteveFingerhut表示,Pliops正在开发自己的计算存储处理器。但是它需要在架构上进行重大的更改,基本上必须重写应用程序来实现整个功能。

 

 “如果计算存储需要一些独特的东西,或者对架构进行重大改变,就会产生很多摩擦;公司很难接受这一点。使用一个开放的规范,比如块接口,意味着公司可以移植到这种规范,并在未来拥有灵活性,不会被锁定在任何一个供应商。”Fingerhut 说。

 

“商业软件应用可能会缓慢接受这种方法。正是那些超大规模的数据中心运营商购买了计算存储这一技术,而这些运营商完全控制自己的软件和硬件。”

 

Handy还认为,大型软件供应商可能会采取观望态度。如果计算存储在他们的客户群中流行起来,那么他们就会支持它。“但我不认为他们会是第一个支持计算存储的公司。”

 

计算存储供应商ScaleFlux的首席执行官钟浩表示,向计算存储的转移都是从API开始的,而不是应用程序。他引用英伟达的CUDA语言作为不同GPU应用的API和库的完美例子;利用计算存储、数据库和大数据也需要类似的事情发生。

 

“一旦计算存储有了这个标准的API,它们就可以很容易地分享这些框架。数据库供应商可以采用这些API,并拥有两个版本的数据库,这意味着他们可以使用计算存储来大大加快工作负载。与此同时,如果计算存储不可用,他们的软件可以继续使用。”

 

对抗物理定律

 

Follett指出,科技行业擅长推进技术,但由于固有的矛盾,在推进计算存储方面将面临真正的挑战。

 

“从根本上说,存储喜欢密度大、温度相对较低,而计算密集后温度相对热。这两件事完全相反。SSD通常在75摄氏度左右有热切断,而在带有合适尺寸FPGA的U.2中温度可能达到75摄氏度。”

 

U.2硬盘看起来像SATA的消费硬盘,也就是2.5英寸的塑料外壳。怎么在上面放散热器?

 

“如果想做任何计算上有意义的事情,就必须弄清楚要怎么处理这些热量,这是一个根本性的障碍。”

 

Wall不同意这种说法,他表示可以在企业设备中冷却SSD,包括服务器和全闪存阵列。NVMe规范将U.2限制在25W,但所有这些服务器和存储单元都提供冷却机制,以确保驱动器处于其温度限制下。而我们已经拥有这些冷却SSD的机制。

 

Bowen表示,SmartSSDCSD的设计是在标准的25W电源外壳下运行,适用于U.2。“联合设计的一个重要部分是确保SSD和FPGA部分协同工作,以满足这一限制,比如NAND在写入过程中使用更多的功率。FPGA的功率是基于IP负载和它的时钟速率。”

 

他补充说,有一个称为EDSFF的规范,它预期了更多的需求,并支持更低功率(12.5 W – E1.s thin)和更高功率(70W -E3L 2T)。该规范现在由SNIA管理。

 

未来发展

 

Bowen认为,计算存储的发展势头正在日益增强。事实上,NVMe联盟中有一项技术建议将计算添加到NVMe框架中。

 

该联盟将使用标准的NVMe驱动程序来调用加速器功能,并在存储设备之间传输数据,而不是让三星、Pliops、ScaleFlux等每个独立的计算存储供应商自行实现。

 

Zhong还认为,在NVMe标准中加入计算存储将增加对这一概念的支持,随着该标准的成熟,一些主要数据中心将在未来12到18个月内开始部署。



原文链接:

https://semiengineering.com/has-computational-storage-finally-arrived/




高端微信群介绍

创业投资群


AI、IOT、芯片创始人、投资人、分析师、券商

闪存群


覆盖5000多位全球华人闪存、存储芯片精英

云计算群


全闪存、软件定义存储SDS、超融合等公有云和私有云讨论

AI芯片群


讨论AI芯片和GPU、FPGA、CPU异构计算

5G群


物联网、5G芯片讨论

第三代半导体群

氮化镓、碳化硅等化合物半导体讨论

储芯片群

DRAM、NAND、3D XPoint等各类存储介质和主控讨论

汽车电子群

MCU、电源、传感器等汽车电子讨论

光电器件群

光通信、激光器、ToF、AR、VCSEL等光电器件讨论

渠道群

存储和芯片产品报价、行情、渠道、供应链




< 长按识别二维码添加好友 >

加入上述群聊




长按并关注

带你走进万物存储、万物智能、

万物互联信息革命新时代

微信号:SSDFans


SSDFans AI+IOT+闪存,万物存储、万物智能、万物互联的闪存2.0时代即将到来,你,准备好了吗?
评论
  • 百佳泰特为您整理2024年12月各大Logo的最新规格信息。——————————USB▶ 百佳泰获授权进行 USB Active Cable 认证。▶ 所有符合 USB PD 3.2 标准的产品都有资格获得USB-IF 认证——————————Bluetooth®▶ Remote UPF Testing针对所有低功耗音频(LE Audio)和网格(Mesh)规范的远程互操作性测试已开放,蓝牙会员可使用该测试,这是随时测试产品的又一绝佳途径。——————————PCI Express▶ 2025年
    百佳泰测试实验室 2024-12-20 10:33 80浏览
  • 户外照明的“璀璨王者”,艾迈斯欧司朗OSCONIQ® C3030降临啦全球领先的光学解决方案供应商艾迈斯欧司朗(瑞士证券交易所股票代码:AMS)近日宣布,推出新一代高性能LED——OSCONIQ® C 3030。这款尖端LED系列专为严苛的户外及体育场照明环境而设计,兼具出色的发光强度与卓越的散热效能。其支持高达3A的驱动电流及最大9W的功率输出,以紧凑扁平封装呈现卓越亮度和可靠性,确保高强度照明持久耐用且性能出众。应用领域01体育场及高杆照明OSCONIQ® C 3030以卓越的光通量密度、出
    艾迈斯欧司朗 2024-12-18 14:25 135浏览
  • 沉寂已久的无人出租车赛道,在2024年突然升温了。前脚百度旗下萝卜快跑,宣布无人驾驶单量突破800万单;后脚特斯拉就于北京时间10月11日上午,召开了以“We,Robot”为主题的发布会,公布了无人驾驶车型Cybercab和Robovan,就连低调了好几个月的滴滴也在悄悄扩编,大手笔加码Robotaxi。不止是滴滴、百度、特斯拉,作为Robotaxi的重磅选手,文远知行与小马智行,也分别在10月份先后启动美股IPO,极氪也在近日宣布,其与Waymo合作开发的无人驾驶出行汽车将大规模量产交付,无人
    刘旷 2024-12-19 11:39 133浏览
  • 汽车驾驶员监控系统又称DMS,是一种集中在车辆中的技术,用于实时跟踪和评估驾驶员状态及驾驶行为。随着汽车产业智能化转型,整合AI技术的DMS逐渐成为主流,AI模型通过大量数据进行持续训练,使得驾驶监控更加高效和精准。 驾驶员监测系统主要通过传感器、摄像头收集驾驶员的面部图像,定位头部姿势、人脸特征及行为特征,并通过各种异常驾驶行为检测模型运算来识别驾驶员的当前状态。如果出现任何异常驾驶行为(如疲劳,分心,抽烟,接打电话,无安全带等),将发出声音及视觉警报。此外,驾驶员的行为数据会被记录
    启扬ARM嵌入式 2024-12-20 09:14 65浏览
  • By Toradex秦海1). 简介为了保证基于 IEEE 802.3 协议设计的以太网设备接口可以互相兼容互联互通,需要进行 Ethernet Compliance 一致性测试,相关的技术原理说明请参考如下文章,本文就不赘述,主要展示基于 NXP i.MX8M Mini ARM 处理器平台进行 1000M/100M/10M 以太网端口进行一致性测试的测试流程。https://www.toradex.com
    hai.qin_651820742 2024-12-19 15:20 127浏览
  • 耳机虽看似一个简单的设备,但不仅只是听音乐功能,它已经成为日常生活和专业领域中不可或缺的一部分。从个人娱乐到专业录音,再到公共和私人通讯,耳机的使用无处不在。使用高质量的耳机不仅可以提供优良的声音体验,还能在长时间使用中保护使用者听力健康。耳机产品的质量,除了验证产品是否符合法规标准,也能透过全面性的测试和认证过程,确保耳机在各方面:从音质到耐用性,再到用户舒适度,都能达到或超越行业标准。这不仅保护了消费者的投资,也提升了该公司在整个行业的产品质量和信誉!客户面临到的各种困难一家耳机制造商想要透
    百佳泰测试实验室 2024-12-20 10:37 116浏览
  • ​本文介绍PC电脑端运行VMware环境下,同时烧录固件检测不到设备的解决方法。触觉智能Purple Pi OH鸿蒙开发板演示,搭载了瑞芯微RK3566芯片,类树莓派设计,Laval官方社区主荐,已适配全新OpenHarmony5.0 Release系统!PC端烧录固件时提示没有发现设备按照各型号烧录手册中进入loader模式的操作方法,让开发板连接到PC端。正常来说开发板烧录时会显示“发现一个LOADER设备”,异常情况下,会提示“没有发现设备”,如下图所示: 解决步骤当在烧录系统固
    Industio_触觉智能 2024-12-18 18:07 79浏览
  • //```c #include "..\..\comm\AI8051U.h"  // 包含头文件,定义了硬件寄存器和常量 #include "stdio.h"              // 标准输入输出库 #include "intrins.h"         &n
    丙丁先生 2024-12-20 10:18 69浏览
  • 在强调可移植性(portable)的年代,人称「二合一笔电」的平板笔电便成为许多消费者趋之若鹜的3C产品。说到平板笔电,不论是其双向连接设计,面板与键盘底座可分离的独特功能,再加上兼具笔电模式、平板模式、翻转模式及帐篷模式等多种使用方式,让使用者在不同的使用情境下都能随意调整,轻巧灵活的便利性也为多数消费者提供了绝佳的使用体验。然而也正是这样的独特设计,潜藏着传统笔电供货商在产品设计上容易忽视的潜在风险。平板笔电Surface Pro 7+ 的各种使用模式。图片出处:Microsoft Comm
    百佳泰测试实验室 2024-12-19 17:40 157浏览
  • 由于该文反应热烈,受到了众多工程师的关注,衷心感谢广大优秀工程师同仁的建言献策。特针对该技术点更新一版相关内容! 再次感谢大家的宝贵建议!填充铜(Solid Copper)和网格铜(Hatched Copper)是PCB设计中两种不同的铺铜方式,它们在电气性能、热管理、加工工艺和成本方面存在一些区别:1. 电气性能:填充铜:提供连续的导电层,具有极低的电阻和最小的电压降。适合大电流应用,并能提供优秀的电磁屏蔽效果,显著提高电磁兼容性。网格铜:由于铜线之间存在间隔,电阻相对较高,电压降也
    为昕科技 2024-12-18 17:11 127浏览
  • 随着工业自动化和智能化的发展,电机控制系统正向更高精度、更快响应和更高稳定性的方向发展。高速光耦作为一种电气隔离与信号传输的核心器件,在现代电机控制中扮演着至关重要的角色。本文将详细介绍高速光耦在电机控制中的应用优势及其在实际工控系统中的重要性。高速光耦的基本原理及优势高速光耦是一种光电耦合器件,通过光信号传递电信号,实现输入输出端的电气隔离。这种隔离可以有效保护电路免受高压、电流浪涌等干扰。相比传统的光耦,高速光耦具备更快的响应速度,通常可以达到几百纳秒到几微秒级别的传输延迟。电气隔离:高速光
    晶台光耦 2024-12-20 10:18 110浏览
  • You are correct that the length of the via affects its inductance. Not only the length of the via, but also the shape and proximity of the return-current path determines the inductance.   For example, let's work with a four-layer board h
    tao180539_524066311 2024-12-18 15:56 127浏览
  • 习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习笔记&记录学习习笔记&记学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记
    youyeye 2024-12-18 14:02 120浏览
  •         不卖关子先说感受,真本书真是相见恨晚啊。字面意思,见到太晚了,我刚毕业或者刚做电子行业就应该接触到这本书的。我自己跌跌撞撞那么多年走了多少弯路,掉过多少坑,都是血泪史啊,要是提前能看到这本书很多弯路很多坑都是可以避免的,可惜这本书是今年出的,羡慕现在的年轻人能有这么丰富完善的资料可以学习,想当年我纯靠百度和论坛搜索、求助啊,连个正经师傅都没有,从软件安装到一步一布操作纯靠自己瞎摸索,然后就是搜索各种教程视频,说出来都是泪啊。  &
    DrouSherry 2024-12-19 20:00 72浏览
  •         在上文中,我们介绍了IEEE 802.3cz[1]协议提出背景,旨在定义一套光纤以太网在车载领域的应用标准,并介绍了XMII以及PCS子层的相关机制,在本篇中,将围绕IEEE 802.3cz-MultiGBASE-AU物理层的两个可选功能进行介绍。EEE功能        节能以太网(Energy-Efficient Ethernet)是用于在网络空闲时降低设备功耗的功能,在802.3cz的定义中,链
    经纬恒润 2024-12-19 18:47 67浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦