DPU:2023的洪荒之力

路科验证 2023-07-31 12:10


日前,华为轮值董事长胡厚崑说道,科技革命经过了数次浪潮,从互联网到移动化到云计算、到人工智能,每一轮的变革都给社会带来了深远的影响。毫无疑问,今天通用人工智能(AI)正给我们无穷的想象空间,也正带领我们走进下一个黄金十年。

当前,人工智能、大数据应用进入快速发展阶段,自动驾驶、机器人、AR/VR、元宇宙等应用加速落地,传统数字基础设施难以满足大模型、多模态等新型技术发展,拥有强大集群算力的新型数据中心成为突破人工智能发展瓶颈的重要基础。

DPU作为突破数据流量指数级增长带来的性能瓶颈的关键技术,通过算力卸载、算力释放和算力拓展,释放CPU的计算资源,实现任务加速处理,提升整体计算效率,达到降本增效,产业赋能价值凸显。因此,也成为构建新型算力基础设施的重要基础部件和下一代芯片技术竞争的高地。

DPU也被预测为2023年的十大科技趋势之一,这份“洪荒之力”发展的如何呢?

 01
“新贵”是怎样练成的

有人说,DPU 将成为未来计算的三大支柱之一,未来的数据中心标配是:CPU + DPU + GPU 。

DPU 最直接的作用是作为 CPU 的卸载(offload)引擎,其效果是给 CPU“减负”。《DPU技术白皮书》主编、中科院计算所研究员鄢贵海作了一个形象比喻,说DPU 提供了数据中心一把“杀鸡”的工具,节省的是 CPU 这把“牛刀”,以释放 CPU 算力,留给更需要它的业务负载。这个比喻也形象地说明了DPU这个新贵的定位。

DPU 通过执行以下主要功能为现代数据中心带来许多好处:

一、提高处理能力:  DPU 减轻 CPU 的网络和通信工作负载,从而释放资源用于应用程序处理。

二、提高效率和性能: 通过将处理核心与硬件加速器块相结合来大规模处理以数据为中心的工作负载,DPU 可以提高性能并减少延迟。

三、处理复杂任务的能力:  DPU 旨在处理大型数据中心中的数据密集型工作负载,支持云环境或驱动人工智能、深度学习算法和其他数据密集型应用的超级计算机。

四、能够满足数据中心不断增长的需求: 随着数据中心需求的增长和变得更加密集,DPU     可以进行扩展,以适应数量和复杂性不断增加的工作负载。此外,DPU 可以添加到现有的硬件基础设施中,从而实现灵活且适应性强的数据中心架构。

五、提高可靠性和可用性:  DPU 可以通过冗余和高可用性等功能提供更高的可靠性,确保在发生硬件故障时关键数据处理任务的连续性。

六、降低成本:  DPU 可以通过从 CPU 卸载处理任务并处理复杂任务来降低与管理数据中心相关的总体硬件成本,从而需要更少的硬件组件。

DPU、CPU 和 GPU 之间有什么区别呢?

首先在功能上, DPU(数据处理单元)、CPU(中央处理单元)和GPU(图形处理单元)都是计算处理器,各自执行不同的功能。CPU是负责计算机系统整体运行的主处理器,是计算机的“大脑”。GPU 是用于图形计算任务(例如渲染3D 图像或视频)的专用处理器。DPU 是最新的处理器,专门用于以数据为中心的工作负载,例如数据中心的网络、存储和安全操作。

其次是架构,CPU 由几个强大的处理核心组成,这些核心针对串行或顺序处理进行了优化,这意味着一项又一项任务。GPU 具有大量针对并行处理(即同时执行任务)进行优化的更简单的内核。DPU 结合了处理核心、硬件加速器块和高性能网络接口,可大规模处理以数据为中心的任务。

另外,CPU 几乎用于所有计算机设备,从智能手机到计算机再到服务器。GPU 经常用于游戏电脑。DPU 主要用于数据中心。

基于明显的优势,国外大厂已经早早地开始发展DPU了。

2019年,英伟达以69亿美元的价格收购以色列网络芯片公司Mellanox,并于同年推出BlueField-2 DPU,自此拉开DPU高速发展的序幕。

在 2020 年 GPU 技术大会上,英伟达首席执行官黄仁勋推出了名为 BlueField-2 数据处理单元 (DPU) 的全新处理器系列。开发人员可以通过软件平台 DOCA SDK 访问 DPU。DPU和DOCA SDK可与英伟达GPU硬件和CUDA软件的强大组合相媲美。

7月11日业内四名知情人士报道,欧盟监管机构将于本周三批准博通以690亿美元收购软件制造商VMware的交易。报道称,欧盟委员会将接受博通的让步,即VMware的软件将继续与竞争对手的硬件兼容。知情人士表示,这一举措已被证明足以解决欧盟竞争监管机构的担忧,而无需博通出售VMware的部分业务。

这次的收购如果成功,博通就可以进一步进军数据中心市场,特别是数据处理单元(DPU)市场,也称为智能网络接口卡(smartNIC)市场。VMware也一直在寻找自己的DPU/smartNIC市场之路。自 2020 年以来,该公司一直致力于一项名为 Project Monterey 的项目,研究其虚拟化软件如何与 DPU 配合使用。

2022年 3 月,高级技术营销架构师 Dave Morera 对该项目的描述是:“根据 VMware 的蒙特利项目,网络流量、分布式防火墙等网络进程将被卸载到SmartNIC (智能网络接口卡);这意味着不仅 x86 服务器的资源被绕过,流量本身也被绕过。蒙特利项目还将促进在 DPU 本身上安装 ESXi 和NSX,从而将所需的 CPU 资源从 x86 卸载到 DPU,不仅释放 x86 上的资源供虚拟机使用,而且还提供额外的安全层”。

除了英伟达之外,下表展示了其他国际厂商的DPU产品。

 02
国内DPU起势猛

虽然国内厂商在芯片产品化的环节与国外一线厂商相比还有差距,但是在DPU架构的理解上还是有独到的见解的,而且我国目前在数据中心这个领域,无论是市场规模还是增速,特别是用户数量,相较于国外都有巨大的优势。国内厂商有望充分利用这一市场优势,加快发展步伐,在DPU这个赛道与国外厂商逐鹿中原。

国内厂商在啃的是一块新的“硬骨头”。DPU技术的特点是烧钱多、周期长、产品面向政企、很难快速上量,但是技术壁垒高、客户黏性强。同时, DPU是全球新近发展起来的一项新技术,不像很多成熟芯片已经形成了“西强东弱”的格局,在DPU上中国和西方国家没有代际差。

也就是说DPU是全球新近发展起来的一种专用处理器。国内厂商的一些产品处在从小批量到规模化应用的阶段,已经有了第一批客户。当下的任务是,保持产品迭代以适应用户需求。同时,推动产品从小批量到规模化落地,再要考虑如何去复制同类客户。

然而DPU产业化的挑战很大,这包括一些供应链紧张、人才不足的共性难题,还有需求碎片化、大量兼容适配的特殊挑战,目前单颗DPU成本较高。

与存储器、CPU这种成熟产品不同,这些芯片已经被标准化,国际大厂拥有技术的、成本的优势,并善于利用产品的周期性调整价格,以驱逐追赶者。国产的道路是后发追赶式的,面临的竞争非常残酷。

DPU未来也会走向标准化。中科驭数公司的创始人兼 CEO鄢贵海说:“我们感受到的竞争氛围更宽松,而且创新的空间更大,比如我们正在研究如何将端到端的延迟从20微秒降低到2微秒,对于很多技术点,各家都有不同的实现方法,但若这项技术在国际上已经相对成熟,那国产几乎没有空间去创新了,最紧要的任务就是赶上国际的水平,做出一个自主可控的方案。”

在全球格局尚未形成之前,国产 DPU 需要利用国内的资源禀赋和更多国产芯片达成生态协同,并服务于本土的信息基础设施,在全球角逐一项新技术的关键窗口期,探索出一种“中国方案”。

其中“定制化方案”就是国产DPU很好的发展方向和布局思路。DPU是个新兴市场,客户需求还处于粗放阶段,各种方案都有适合的应用场景。因为玩家不多,客户需求比较分散,单个厂商无法服务众多客户,因此现阶段都能够通过为客户进行定制化服务获得订单。

国内未来DPU的发展和布局应采取一些差异化竞争思路,一方面,加快自主研发DPU的进程。不管是处理器架构的研发,还是网络芯片的研发,都要加快产品的迭代速度。另一方面,在商业模式上,找一些细分的产品角度进行创新。多与国内的云计算、数据中心的厂商合作,先进行小批量的产品铺设,再进行大规模的布局。


路科验证 专注于数字芯片验证的系统思想和前沿工程领域。路桑是Intel资深验证专家,主持验证架构规划和方法学研究,担任过亿门级通信芯片的验证经理角色。在工程领域之外,他在西安电子科技大学和西安交通大学客座讲授芯片验证课程。著有书籍《芯片验证漫游指南》。
评论
  • 每日可见的315MHz和433MHz遥控模块,你能分清楚吗?众所周知,一套遥控设备主要由发射部分和接收部分组成,发射器可以将控制者的控制按键经过编码,调制到射频信号上面,然后经天线发射出无线信号。而接收器是将天线接收到的无线信号进行解码,从而得到与控制按键相对应的信号,然后再去控制相应的设备工作。当前,常见的遥控设备主要分为红外遥控与无线电遥控两大类,其主要区别为所采用的载波频率及其应用场景不一致。红外遥控设备所采用的射频信号频率一般为38kHz,通常应用在电视、投影仪等设备中;而无线电遥控设备
    华普微HOPERF 2025-01-06 15:29 100浏览
  • 本文介绍Linux系统更换开机logo方法教程,通用RK3566、RK3568、RK3588、RK3576等开发板,触觉智能RK3562开发板演示,搭载4核A53处理器,主频高达2.0GHz;内置独立1Tops算力NPU,可应用于物联网网关、平板电脑、智能家居、教育电子、工业显示与控制等行业。制作图片开机logo图片制作注意事项(1)图片必须为bmp格式;(2)图片大小不能大于4MB;(3)BMP位深最大是32,建议设置为8;(4)图片名称为logo.bmp和logo_kernel.bmp;开机
    Industio_触觉智能 2025-01-06 10:43 75浏览
  • 根据Global Info Research项目团队最新调研,预计2030年全球封闭式电机产值达到1425百万美元,2024-2030年期间年复合增长率CAGR为3.4%。 封闭式电机是一种电动机,其外壳设计为密闭结构,通常用于要求较高的防护等级的应用场合。封闭式电机可以有效防止外部灰尘、水分和其他污染物进入内部,从而保护电机的内部组件,延长其使用寿命。 环洋市场咨询机构出版的调研分析报告【全球封闭式电机行业总体规模、主要厂商及IPO上市调研报告,2025-2031】研究全球封闭式电机总体规
    GIRtina 2025-01-06 11:10 89浏览
  •     为控制片内设备并且查询其工作状态,MCU内部总是有一组特殊功能寄存器(SFR,Special Function Register)。    使用Eclipse环境调试MCU程序时,可以利用 Peripheral Registers Viewer来查看SFR。这个小工具是怎样知道某个型号的MCU有怎样的寄存器定义呢?它使用一种描述性的文本文件——SVD文件。这个文件存储在下面红色字体的路径下。    例:南京沁恒  &n
    电子知识打边炉 2025-01-04 20:04 89浏览
  • PLC组态方式主要有三种,每种都有其独特的特点和适用场景。下面来简单说说: 1. 硬件组态   定义:硬件组态指的是选择适合的PLC型号、I/O模块、通信模块等硬件组件,并按照实际需求进行连接和配置。    灵活性:这种方式允许用户根据项目需求自由搭配硬件组件,具有较高的灵活性。    成本:可能需要额外的硬件购买成本,适用于对系统性能和扩展性有较高要求的场合。 2. 软件组态   定义:软件组态主要是通过PLC
    丙丁先生 2025-01-06 09:23 71浏览
  • 在智能家居领域中,Wi-Fi、蓝牙、Zigbee、Thread与Z-Wave等无线通信协议是构建短距物联局域网的关键手段,它们常在实际应用中交叉运用,以满足智能家居生态系统多样化的功能需求。然而,这些协议之间并未遵循统一的互通标准,缺乏直接的互操作性,在进行组网时需要引入额外的网关作为“翻译桥梁”,极大地增加了系统的复杂性。 同时,Apple HomeKit、SamSung SmartThings、Amazon Alexa、Google Home等主流智能家居平台为了提升市占率与消费者
    华普微HOPERF 2025-01-06 17:23 102浏览
  • 物联网(IoT)的快速发展彻底改变了从智能家居到工业自动化等各个行业。由于物联网系统需要高效、可靠且紧凑的组件来处理众多传感器、执行器和通信设备,国产固态继电器(SSR)已成为满足中国这些需求的关键解决方案。本文探讨了国产SSR如何满足物联网应用的需求,重点介绍了它们的优势、技术能力以及在现实场景中的应用。了解物联网中的固态继电器固态继电器是一种电子开关设备,它使用半导体而不是机械触点来控制负载。与传统的机械继电器不同,固态继电器具有以下优势:快速切换:确保精确快速的响应,这对于实时物联网系统至
    克里雅半导体科技 2025-01-03 16:11 181浏览
  • 这篇内容主要讨论三个基本问题,硅电容是什么,为什么要使用硅电容,如何正确使用硅电容?1.  硅电容是什么首先我们需要了解电容是什么?物理学上电容的概念指的是给定电位差下自由电荷的储藏量,记为C,单位是F,指的是容纳电荷的能力,C=εS/d=ε0εrS/4πkd(真空)=Q/U。百度百科上电容器的概念指的是两个相互靠近的导体,中间夹一层不导电的绝缘介质。通过观察电容本身的定义公式中可以看到,在各个变量中比较能够改变的就是εr,S和d,也就是介质的介电常数,金属板有效相对面积以及距离。当前
    知白 2025-01-06 12:04 121浏览
  • 彼得·德鲁克被誉为“现代管理学之父”,他的管理思想影响了无数企业和管理者。然而,关于他的书籍分类,一种流行的说法令人感到困惑:德鲁克一生写了39本书,其中15本是关于管理的,而其中“专门写工商企业或为企业管理者写的”只有两本——《为成果而管理》和《创新与企业家精神》。这样的表述广为流传,但深入探讨后却发现并不完全准确。让我们一起重新审视这一说法,解析其中的矛盾与根源,进而重新认识德鲁克的管理思想及其著作的真正价值。从《创新与企业家精神》看德鲁克的视角《创新与企业家精神》通常被认为是一本专为企业管
    优思学院 2025-01-06 12:03 84浏览
  • 随着市场需求不断的变化,各行各业对CPU的要求越来越高,特别是近几年流行的 AIOT,为了有更好的用户体验,CPU的算力就要求更高了。今天为大家推荐由米尔基于瑞芯微RK3576处理器推出的MYC-LR3576核心板及开发板。关于RK3576处理器国产CPU,是这些年的骄傲,华为手机全国产化,国人一片呼声,再也不用卡脖子了。RK3576处理器,就是一款由国产是厂商瑞芯微,今年第二季推出的全新通用型的高性能SOC芯片,这款CPU到底有多么的高性能,下面看看它的几个特性:8核心6 TOPS超强算力双千
    米尔电子嵌入式 2025-01-03 17:04 49浏览
  • 光耦合器,也称为光隔离器,是一种利用光在两个隔离电路之间传输电信号的组件。在医疗领域,确保患者安全和设备可靠性至关重要。在众多有助于医疗设备安全性和效率的组件中,光耦合器起着至关重要的作用。这些紧凑型设备经常被忽视,但对于隔离高压和防止敏感医疗设备中的电气危害却是必不可少的。本文深入探讨了光耦合器的功能、其在医疗应用中的重要性以及其实际使用示例。什么是光耦合器?它通常由以下部分组成:LED(发光二极管):将电信号转换为光。光电探测器(例如光电晶体管):检测光并将其转换回电信号。这种布置确保输入和
    腾恩科技-彭工 2025-01-03 16:27 171浏览
  • 自动化已成为现代制造业的基石,而驱动隔离器作为关键组件,在提升效率、精度和可靠性方面起到了不可或缺的作用。随着工业技术不断革新,驱动隔离器正助力自动化生产设备适应新兴趋势,并推动行业未来的发展。本文将探讨自动化的核心趋势及驱动隔离器在其中的重要角色。自动化领域的新兴趋势智能工厂的崛起智能工厂已成为自动化生产的新标杆。通过结合物联网(IoT)、人工智能(AI)和机器学习(ML),智能工厂实现了实时监控和动态决策。驱动隔离器在其中至关重要,它确保了传感器、执行器和控制单元之间的信号完整性,同时提供高
    腾恩科技-彭工 2025-01-03 16:28 169浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦