英特尔的存储产品与技术为人工智能部署提速

SSDFans 2020-05-08 00:00



点击蓝字
关注我们



今时代的企业可分为两类:正采用人工智能加速发展的企业和将会采用人工智能的企业。即使有些企业目前不考虑使用人工智能,但总是需要处理越来越复杂的数据。


在近期发布的调研报告中,Whatech预测全球人工智能驱动的存储市场“将从 2019 年的 104 亿美元增至 2024 年的 345 亿美元,复合年增长率高达 27.1%。”这一增长背后的驱动因素涉及众多方面,包括“数据量剧增、全球企业级基础设施亟需更新存储架构、采用云服务的比率不断提高、高性能计算数据中心对人工智能的需求不断增长”。


无论我们是否准备就绪,人工智能时代都将到来。若想充分利用人工智能,第一步就是要了解人工智能数据的复杂性。我们都听说过3V及其可能给存储带来的挑战:

• 数据量 (Volume):随着人工智能训练数据的增长,算法将变得越来越智能。Cloudian 指出:“管理这些数据集需要有能够无限制扩展的存储系统。”


• 速度 (Velocity):IDG 表示,到2025年,将有近20%的数据与我们的日常生活息息相关,有10%的数据将“不可或缺”。因此,快速访问数据的能力必不可少。


• 多样性 (Variety):多样性是指数据的格式多种多样。随着企业着力于改善客户体验、提高运营效率以及保持竞争力,他们需要分析各种格式的数据,包括从交易、社交媒体互动和客户服务中提取的数据,这可能涉及到各类文件、点击次数、文本、视频、机器数据和蓝牙信号。


保障人工智能管道的畅通


3V中的每一个要素都会因人工智能管道阶段的不同而发生巨大变化,这会让情况变得越来越复杂。例如,用户可能会提取PB级的数据,然后以GB级的结构化和半结构化数据进行训练,最后再获得KB级的训练后模型。除此之外,工作负载也变化很大。首先是提取阶段100%写入,然后数据准备阶段达到50/50的读/写混合,最后在训练和推理阶段转为100%读取。


该解决方案针对数据量、速度和多样性 (3V),旨在创建一个通用数据管道,为各种人工智能功能提供基础。其中一层经过优化可带来空间效率高的容量/扩展能力,而另一层经过优化可实现高性能的存储/扩展。此外,其所包含的数据湖或媒体库可充当中央存储库,存放各种规模、各种类型的结构化和非结构化数据。



在所有这些变化中,始终不变的是对于高吞吐量 (TPT) 和极低延迟的需求。要想保障管道的畅通,我们既要能应对这些挑战,又能随着不断发展的人工智能需求进行扩展的技术。


Gartner在最近一份报告中明确指出了理解这些阶段的重要性:“机器学习和人工智能计划的成功离不开编排有效的数据管道,因为它能在人工智能管道的不同阶段及时地以正确格式提供高质量的数据。”


与NAND+HDD或全TLC NAND解决方案相比,英特尔的存储技术组合更具有满足人工智能数据管道各个阶段性能要求所需的敏捷性和灵活性。英特尔®傲腾TM技术可提供快速存储或快速缓存所需的高性能和低延迟,而英特尔3D NAND固态盘则可整合存储空间、随着存储需求的增长进行扩展,并加快访问速度。


英特尔的存储技术在数据管道中的运用


• 在提取阶段,迅速通过各种来源提取数据并管理多种格式的数据至关重要。通常获取的数据的大小各异,并且通常是非结构化的对象或文件形式,例如视频、图像、文档或对话记录。此阶段主要依靠顺序写入,并定期将提取缓冲区降级到容量存储中。如果数据提取速度跟不上,则可能会导致数据源被搁置、造成数据丢失,或给可用的DRAM带来瓶颈。采用英特尔®傲腾TM技术就可以获得一个提取缓冲区,因而能够以高写入性能和低延迟来扩展提取。


• 在准备阶段,数据需要经过标记、压缩、去重、转换和清洗这些步骤。所提取数据的大小、格式、完整度和准确性可能依然各不相同。对丢失的或不完整的数据需要进行补充或选择忽略。而存在歧义的数据,例如带数字的数据集中小数点与逗号用法不一则需要标准化。这是一个迭代过程:不断波动的数据量以随机或顺序的方式进行读取和写入。由于准备阶段可能会消耗多达80%的人工智能资源,因此能够实现低延迟、高QoS和高吞吐量的存储设备对于缩短准备时间非常重要。转换速度取决于存储速度,并且随着数据源和数据种类的增加,对于存储性能的要求也水涨船高。英特尔®傲腾TM技术读/写混合操作性能极佳,能够有效缩短准备数据的时间。


• 训练阶段包括对重复、随机的数据集进行传输。为了让这一操作能够更高效地完成,必须优化算力利用率。这个步骤极其消耗资源,需要反复对准备好的数据执行数学函数运算,以较大概率确定理想结果。之后,需要对所得结果的准确性进行评估。如果准确性未达到可接受的程度,就要对数学函数进行修改并重试。涉及更多神经网络“层”的复杂模型可以提高准确性,但也会增加对存储的需求。英特尔®傲腾TM固态盘的高随机读取TPT和低延迟能够保持重要训练资源的利用率。此外,英特尔®傲腾TM固态盘还可在数据建模期间加快临时数据的处理速度。


•最后,在推理阶段中,训练后的模型将用于执行决策。模型可部署在数据中心,但现在越来越多地被部署在了边缘设备。数据传输涉及从存储中读取训练后的模型进入推理、将正在被评估的提取数据写入推理,再读取推理结果返回训练以提高准确性。实时边缘部署推高了对性能的需求。随着越来越多的边缘部署采用强化学习,对存储性能的要求进一步提高。即时反馈对于评估决策的准确性至关重要,在边缘强化领域尤其如此。英特尔®傲腾TM技术可加快传输这些训练后的模型,即使在边缘也能做到。


随着数据移入移出数据湖和人工智能管道,数据的多样性和用途不断发生变化,由此凸显了对于存储解决方案的需求。存储解决方案必须具有满足每个阶段性能要求所需的敏捷性和灵活性。英特尔® 傲腾TM技术可提供快速存储或快速缓存所需的高性能和低延迟,而英特尔® 3D NAND 固态盘则可提供高性能、高容量选项。


为了提高工作效率,企业正在部署越来越多的数据湖或通用数据管道。他们在这些数据湖上构建人工智能、数据分析、报告和其他应用场景的多个实例。此举进一步加重了高性能存储层的压力。该层必须能够在支持工作负载高可变性和高并发性的同时,始终提供可预测的低延迟。此外,随着企业从人工智能中获得越来越多的价值,存储的数据量只会不断增加。


优化人工智能计算资源


在管道的各个阶段,英特尔®傲腾TM技术可在各类工作负载、访问模式和块大小情况下以出色的混合性能,实现计算资源的优化。采用英特尔3D NAND技术的PCIe 固态盘能够在释放存储数据价值的同时,降低存储成本和空间并提高运营效率。


Venture Beat总结了这些优势,并指出英特尔“在这一新型内存/存储混合系统上数十年的研发投入”已获得回报,并认为英特尔®傲腾TM技术“可使消耗大量内存的应用提高性能”。




高端微信群介绍

创业投资群


AI、IOT、芯片创始人、投资人、分析师、券商

闪存群


覆盖5000多位全球华人闪存、存储芯片精英

云计算群


全闪存、软件定义存储SDS、超融合等公有云和私有云讨论

AI芯片群


讨论AI芯片和GPU、FPGA、CPU异构计算

5G群


物联网、5G芯片讨论

第三代半导体群

氮化镓、碳化硅等化合物半导体讨论

储芯片群

DRAM、NAND、3D XPoint等各类存储介质和主控讨论

汽车电子群

MCU、电源、传感器等汽车电子讨论

光电器件群

光通信、激光器、ToF、AR、VCSEL等光电器件讨论

渠道群

存储和芯片产品报价、行情、渠道、供应链




< 长按识别二维码添加好友 >

加入上述群聊




长按并关注

带你走进万物存储、万物智能、

万物互联信息革命新时代

微信号:SSDFans
SSDFans AI+IOT+闪存,万物存储、万物智能、万物互联的闪存2.0时代即将到来,你,准备好了吗?
评论
  • 随着消费者对汽车驾乘体验的要求不断攀升,汽车照明系统作为确保道路安全、提升驾驶体验以及实现车辆与环境交互的重要组成,日益受到业界的高度重视。近日,2024 DVN(上海)国际汽车照明研讨会圆满落幕。作为照明与传感创新的全球领导者,艾迈斯欧司朗受邀参与主题演讲,并现场展示了其多项前沿技术。本届研讨会汇聚来自全球各地400余名汽车、照明、光源及Tier 2供应商的专业人士及专家共聚一堂。在研讨会第一环节中,艾迈斯欧司朗系统解决方案工程副总裁 Joachim Reill以深厚的专业素养,主持该环节多位
    艾迈斯欧司朗 2025-01-16 20:51 202浏览
  • Ubuntu20.04默认情况下为root账号自动登录,本文介绍如何取消root账号自动登录,改为通过输入账号密码登录,使用触觉智能EVB3568鸿蒙开发板演示,搭载瑞芯微RK3568,四核A55处理器,主频2.0Ghz,1T算力NPU;支持OpenHarmony5.0及Linux、Android等操作系统,接口丰富,开发评估快人一步!添加新账号1、使用adduser命令来添加新用户,用户名以industio为例,系统会提示设置密码以及其他信息,您可以根据需要填写或跳过,命令如下:root@id
    Industio_触觉智能 2025-01-17 14:14 125浏览
  • 电竞鼠标应用环境与客户需求电竞行业近年来发展迅速,「鼠标延迟」已成为决定游戏体验与比赛结果的关键因素。从技术角度来看,传统鼠标的延迟大约为20毫秒,入门级电竞鼠标通常为5毫秒,而高阶电竞鼠标的延迟可降低至仅2毫秒。这些差异看似微小,但在竞技激烈的游戏中,尤其在对反应和速度要求极高的场景中,每一毫秒的优化都可能带来致胜的优势。电竞比赛的普及促使玩家更加渴望降低鼠标延迟以提升竞技表现。他们希望通过精确的测试,了解不同操作系统与设定对延迟的具体影响,并寻求最佳配置方案来获得竞技优势。这样的需求推动市场
    百佳泰测试实验室 2025-01-16 15:45 340浏览
  • 数字隔离芯片是一种实现电气隔离功能的集成电路,在工业自动化、汽车电子、光伏储能与电力通信等领域的电气系统中发挥着至关重要的作用。其不仅可令高、低压系统之间相互独立,提高低压系统的抗干扰能力,同时还可确保高、低压系统之间的安全交互,使系统稳定工作,并避免操作者遭受来自高压系统的电击伤害。典型数字隔离芯片的简化原理图值得一提的是,数字隔离芯片历经多年发展,其应用范围已十分广泛,凡涉及到在高、低压系统之间进行信号传输的场景中基本都需要应用到此种芯片。那么,电气工程师在进行电路设计时到底该如何评估选择一
    华普微HOPERF 2025-01-20 16:50 76浏览
  • 高速先生成员--黄刚这不马上就要过年了嘛,高速先生就不打算给大家上难度了,整一篇简单但很实用的文章给大伙瞧瞧好了。相信这个标题一出来,尤其对于PCB设计工程师来说,心就立马凉了半截。他们辛辛苦苦进行PCB的过孔设计,高速先生居然说设计多大的过孔他们不关心!另外估计这时候就跳出很多“挑刺”的粉丝了哈,因为翻看很多以往的文章,高速先生都表达了过孔孔径对高速性能的影响是很大的哦!咋滴,今天居然说孔径不关心了?别,别急哈,听高速先生在这篇文章中娓娓道来。首先还是要对各位设计工程师的设计表示肯定,毕竟像我
    一博科技 2025-01-21 16:17 105浏览
  • 本文介绍瑞芯微开发板/主板Android配置APK默认开启性能模式方法,开启性能模式后,APK的CPU使用优先级会有所提高。触觉智能RK3562开发板演示,搭载4核A53处理器,主频高达2.0GHz;内置独立1Tops算力NPU,可应用于物联网网关、平板电脑、智能家居、教育电子、工业显示与控制等行业。源码修改修改源码根目录下文件device/rockchip/rk3562/package_performance.xml并添加以下内容,注意"+"号为添加内容,"com.tencent.mm"为AP
    Industio_触觉智能 2025-01-17 14:09 167浏览
  •     IPC-2581是基于ODB++标准、结合PCB行业特点而指定的PCB加工文件规范。    IPC-2581旨在替代CAM350格式,成为PCB加工行业的新的工业规范。    有一些免费软件,可以查看(不可修改)IPC-2581数据文件。这些软件典型用途是工艺校核。    1. Vu2581        出品:Downstream     
    电子知识打边炉 2025-01-22 11:12 81浏览
  • 80,000人到访的国际大展上,艾迈斯欧司朗有哪些亮点?感未来,光无限。近日,在慕尼黑electronica 2024现场,ams OSRAM通过多款创新DEMO展示,以及数场前瞻洞察分享,全面展示自身融合传感器、发射器及集成电路技术,精准捕捉并呈现环境信息的卓越能力。同时,ams OSRAM通过展会期间与客户、用户等行业人士,以及媒体朋友的深度交流,向业界传达其以光电技术为笔、以创新为墨,书写智能未来的深度思考。electronica 2024electronica 2024构建了一个高度国际
    艾迈斯欧司朗 2025-01-16 20:45 488浏览
  • 现在为止,我们已经完成了Purple Pi OH主板的串口调试和部分配件的连接,接下来,让我们趁热打铁,完成剩余配件的连接!注:配件连接前请断开主板所有供电,避免敏感电路损坏!1.1 耳机接口主板有一路OTMP 标准四节耳机座J6,具备进行音频输出及录音功能,接入耳机后声音将优先从耳机输出,如下图所示:1.21.2 相机接口MIPI CSI 接口如上图所示,支持OV5648 和OV8858 摄像头模组。接入摄像头模组后,使用系统相机软件打开相机拍照和录像,如下图所示:1.3 以太网接口主板有一路
    Industio_触觉智能 2025-01-20 11:04 159浏览
  • 嘿,咱来聊聊RISC-V MCU技术哈。 这RISC-V MCU技术呢,简单来说就是基于一个叫RISC-V的指令集架构做出的微控制器技术。RISC-V这个啊,2010年的时候,是加州大学伯克利分校的研究团队弄出来的,目的就是想搞个新的、开放的指令集架构,能跟上现代计算的需要。到了2015年,专门成立了个RISC-V基金会,让这个架构更标准,也更好地推广开了。这几年啊,这个RISC-V的生态系统发展得可快了,好多公司和机构都加入了RISC-V International,还推出了不少RISC-V
    丙丁先生 2025-01-21 12:10 131浏览
  • 2024年是很平淡的一年,能保住饭碗就是万幸了,公司业绩不好,跳槽又不敢跳,还有一个原因就是老板对我们这些员工还是很好的,碍于人情也不能在公司困难时去雪上加霜。在工作其间遇到的大问题没有,小问题还是有不少,这里就举一两个来说一下。第一个就是,先看下下面的这个封装,你能猜出它的引脚间距是多少吗?这种排线座比较常规的是0.6mm间距(即排线是0.3mm间距)的,而这个规格也是我们用得最多的,所以我们按惯性思维来看的话,就会认为这个座子就是0.6mm间距的,这样往往就不会去细看规格书了,所以这次的运气
    wuliangu 2025-01-21 00:15 201浏览
  •  光伏及击穿,都可视之为 复合的逆过程,但是,复合、光伏与击穿,不单是进程的方向相反,偏置状态也不一样,复合的工况,是正偏,光伏是零偏,击穿与漂移则是反偏,光伏的能源是外来的,而击穿消耗的是结区自身和电源的能量,漂移的载流子是 客席载流子,须借外延层才能引入,客席载流子 不受反偏PN结的空乏区阻碍,能漂不能漂,只取决于反偏PN结是否处于外延层的「射程」范围,而穿通的成因,则是因耗尽层的过度扩张,致使跟 端子、外延层或其他空乏区 碰触,当耗尽层融通,耐压 (反向阻断能力) 即告彻底丧失,
    MrCU204 2025-01-17 11:30 187浏览
  • 临近春节,各方社交及应酬也变得多起来了,甚至一月份就排满了各式约见。有的是关系好的专业朋友的周末“恳谈会”,基本是关于2025年经济预判的话题,以及如何稳定工作等话题;但更多的预约是来自几个客户老板及副总裁们的见面,他们为今年的经济预判与企业发展焦虑而来。在聊天过程中,我发现今年的聊天有个很有意思的“点”,挺多人尤其关心我到底是怎么成长成现在的多领域风格的,还能掌握一些经济趋势的分析能力,到底学过哪些专业、在企业管过哪些具体事情?单单就这个一个月内,我就重复了数次“为什么”,再辅以我上次写的:《
    牛言喵语 2025-01-22 17:10 68浏览
  • 日前,商务部等部门办公厅印发《手机、平板、智能手表(手环)购新补贴实施方案》明确,个人消费者购买手机、平板、智能手表(手环)3类数码产品(单件销售价格不超过6000元),可享受购新补贴。每人每类可补贴1件,每件补贴比例为减去生产、流通环节及移动运营商所有优惠后最终销售价格的15%,每件最高不超过500元。目前,京东已经做好了承接手机、平板等数码产品国补优惠的落地准备工作,未来随着各省市关于手机、平板等品类的国补开启,京东将第一时间率先上线,满足消费者的换新升级需求。为保障国补的真实有效发放,基于
    华尔街科技眼 2025-01-17 10:44 221浏览
  •  万万没想到!科幻电影中的人形机器人,正在一步步走进我们人类的日常生活中来了。1月17日,乐聚将第100台全尺寸人形机器人交付北汽越野车,再次吹响了人形机器人疯狂进厂打工的号角。无独有尔,银河通用机器人作为一家成立不到两年时间的创业公司,在短短一年多时间内推出革命性的第一代产品Galbot G1,这是一款轮式、双臂、身体可折叠的人形机器人,得到了美团战投、经纬创投、IDG资本等众多投资方的认可。作为一家成立仅仅只有两年多时间的企业,智元机器人也把机器人从梦想带进了现实。2024年8月1
    刘旷 2025-01-21 11:15 530浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦