SmartNIC技术架构实现及对比

智能计算芯世界 2022-09-27 00:00

本文参考自“未来网络:SmartNIC DPU技术白皮书”从核心处理器角度来分析,目前 SmartNIC 架构主要有 3 类,分别基于 FPGAMP multi-coreprocessors)和 ASIC

1、基于 FPGA 的架构

微软研究院是以 FPGA 作为智能网卡核心可编程处理器的重要代表。图 2-1 描述了微软一系列设计架构的演进。2014 年,微软提出了基于高端 FPGA——Altera Stratix V D5 的 Shell(通用逻辑)+Role(可重构处理逻辑)的可重构数据中心云服务加速方案,用于解决商用服务器满足不了飞速增长的数据中心业务需求、定制化加速器成开销大且灵活性不足的问题

如图(a)所示,其中 Shell 为可重用的通信、管理、配置等通用逻辑,包含 2 个 DRAM 控制器(管理 FPGA 上的 2 块 DRAM)、4 个 10 Gbps 轻量级 FPGA 间串行通信接口 SerialLite 3、管理 DMA 通信的 PCIe 核、路由逻辑(用于管理来自 PCIe,Role,SerialLite 3 的数据)、重新配置逻辑(用于读、写、配置 Flash)、事件翻转逻辑(用于阶段性的监督 FPGA 状态以减少错误);而 Role 则位于 FPGA 芯片的固定区域中,是与用户加速应用紧密相关的逻辑,可以将 Bing 搜索排序逻辑映射到 Role 中进行加速。

在 Catapult 设计中,考虑到 FPGA 的管理和使用,同机架下的所有 FPGA 以 6×8 的 2 维 Torus 网络拓扑的形式组成一套新的网络进行连接,可以将同机架下的所有 FPGA 作为加速资源使用。但是,使用2 套网络的设计方式:

一方面,增加了网络的开销和容错管理;另一方面,对于网络流、存储流、分布式应用仅能提供有限的加速。此外,机架内的 2 维 Torus 直连使得用户对跨机架的 FPGA 资源无法进行有效的使用。

微软在2016 年的研究工作中对 Catapult 进行了改进,将 FPGA网络与数据中心网络融合,提出了新的云加速架构设计。如图(b)所示,在 Stratix VD5 FPGA 板卡上设计了 2 个 40 Gbps 的 QSFP端口,分别与主机端已有的普网卡和架顶交换机(ToR)相连接,对应地,在新的 Shell设计中,原来 Catapult 4 端口 SerialLite 3 被替换为轻量级传输层LTL)引擎用于处理 2 40Gbps 端口。

微软在 2018 年的研究中将软件定义网络(SDN)栈卸载到其二代智能网卡,用以更好地支持 SR-IOV。如图(c)所示,此时,二代智能网卡已将通用网卡和高端 Intel Arria 10 FPGA 集成到 1 个板卡上,对外的 ToR 端口已经达到 50 Gbps,但从架构上而言并无实质的变化,仍然采用将 FPGA 放置在通用网卡和 ToR 数据通路之间的设计,用于高效地处理数据流,提供路径上的网络功能、特定应用加速。微软在后来的研究中指出,鉴于当前可编程网卡、可编程交换机的硬件条件支持,充分利用可编程网络设备组成高效的全网可编程云将成为一种趋势。

除微软外,Mellanox、Intel、Xilinx 等也相继推出基于 FPGA 的智能网卡类产品:

1)Mellanox 推出了 Innova 系列基于 Xilinx Kintex UltraScale 高FPGA 的智能网卡,包含 Innova Innova-2 Flex 2 代产品。

2)Intel 则推出了基于 2 大类可编程 PCIe 加速卡,其中基于Arria10/Arria10 GX FPGA 的可编程加速卡 Intel FPGA PAC N3000,用于加速协议栈处理、NFV 等应用[1];此外,另有基于 Stratix 10 SX 的可编程加速卡 IntelFPGA PAC D5005,面向数据流分析、视频编码转换、金融、人工智能、基因分析等领域。

3)Xilinx 推出的网卡包括 XtremeScale X2 和 8000 共 2 个系列以太网卡。其中,X2 系列产品是面向数据中心的设计,带宽达到10/25/40/100 Gbps,其 Cloud Onload 旁路内核技术、TCP-Direct 技术X2 的结合可以在负载均衡、数据库缓存、容器应用、网页服务方面减轻操作系统的开销,提高性能

2、基于MP的架构

另一种得到业内认可的智能网卡的设计方式为采用片上多核的方式来进行网络数据的可编程加速处理,多数使用片上系统(system  on chip,SoC)的实现方案,使用的处理器核可以是专用的网络处理器(network processor,NP),如 Netronome NFP 系列、Cavium Octeon系列,也可以是通用处理器(general processor,GP),如 ARM。下文将从网络处理器和通用处理器两个方面进行介绍。

1)基于 NP-SoC 的智能网卡

Netronome 早期在 2016 年推出了 NFE-3240 系列用于网络安全相关应用的智能网卡,对数据包可达到 20 Gbps C 语言可编程线速处理。20182019 年,Netronome 陆续推出了 3 大系列 Agilio 能网卡

①面向计算节点的 Agilio CX,基于 NFP-4000 或者 NFP-5000 网络处理器,可以完全卸载虚拟交换机对网络功能中数据平面的处理、卸载典型的计算密集型任务;

②面向 Bare-Metal 服务器的Agilio FX,基于 NFP-4000 网络处理器和 4 核 ARM v8 Cortex-A72CPU(可运行 Linux OS);

③面向服务节点的 Agilio LX,基于 NFP-6000 网络处理器,主要用于虚拟化、非虚拟化的 X86 服务节点和广域网网关。Agilio 系列产品支持灵活的包解析和 Match-Action 处理,可以进行 eBPF、C、P4 编程。

Cavium 推出基于 cnMIPS III 网络处理器的 LiquidIO 系列智能网其中,cnMPIS III Cavium 公司实现的基于 MIPS64 指令集架构(instruction set architectureISA)的 Octeon 系列第 3 代产品,此外,Octeon 系列产品中还有基于 ARM 的产品。

2)基于 GP-SoC 智能网卡

Mellanox 除了推出基于 FPGA 的 Innova 系列可编程智能网卡,还推出了基于 BlueField IPU(I/O processing unit)系列可编程智能网卡,支持 Ubuntu、Centos 系统。其中 BlueField 初代产品集 ConnectX-5 控制器、ARM v8 A72 处理器阵列(最多 16 核,0.8 GHz)、8/16 GBpsDDR4 内存控制器于一体,最大支持双端口 25/50/100 Gbps 的以太网或者 Infiniband 网络连接。

BlueField-2(也属于一种 DPU)则集成了最新的 ConnectX-6 控制器,仍然使用 ARM 处理器阵列,可支持单口200Gbps 以太网或者 Infiniband 网络连接,该系列智能网卡可用于加速数据中心或者超算中的安全、存储、网络协议及功能的卸载和加速。


基于 MP 的智能网卡设计框架如图所示,均含有以下重点模块:

①多种已经成熟的加速部件,如 Hash 计算、加解密(Crypto)等等;

②用于与主机通信的 PCIe 接口,多数支持 SR-IOV;

③多种与外设通信的接口,如 I2C,JTAG 等;

④访问智能网卡板上内存的控制器;

⑤片上 NP 或者 GP 多核,用于 OVS,RSS(receive side scaling)等网络功能,以及用户自定义功能。NP 或者 GP 多核的具体片上布局会有差异,多数设计采用 Mesh 方式,但也有例外,如 MPPA 则采用多个 Cluster 的方式,Cluster 内部共享内存。

此外,有的 NP 内部含有多种处理器核,如 Netronome NFP 系列 NP 内部有包处理器核和流处理器核 2 大类,分别用于包的解析、分类和数据流的处理。

3、基于ASIC 的架构

目前,基于 ASIC 的智能网卡并不多,ASIC 芯片主要以网络控制器的角色出现在智能网卡中,如 Mellanox 的 ConnectX 系列、Broadcom 的 NetXtreme 系列、Cavium 的 FastLinQ 系列。此类 ASIC网络芯片除了能够满足传统的网络协议(如 TCP、RoCE)处理需求,又具备一定的卸载 CPU 处理能力和可编程性。

以 Mellanox 最新的ConnectX-6 产品为例,其在一定程度上提供对数据平面的可编程处理和硬件加速,提供虚拟化、SDN 的支持,可硬件卸载网络虚拟化中的VxLAN、NVGRE等协议,卸载网络安全中的部分加解密运算,支持 NVMe-oF 等用于存储场景的存储协议处理,支持 GPU-Direct 等机器学习应用场景中数据零拷贝的低延时通信。

4、架构对比

上述 3 种主要架构的对比如下:

(1)在性价比方面,基于 ASIC 的智能网卡,基本上可以满足多数通用网络处理的应用场景,可以在预定义的范围内对数据平面进行可编程处理,并提供有限范围内的硬件加速支持,如果是批量使用,在性价比上会有较大的优势。

(2)在编程复杂度方面,基于 ASIC 的智能网卡虽不及基于 MP的智能网卡那么简单,却也远易于基于 FPGA 的智能网卡。

(3)在使用灵活性方面,基于 ASIC 的智能网卡相比于其他的智能网卡灵活性最差,对于更复杂的应用场景则显得力不从心,更明确的来说,单纯基于 ASIC 的智能网卡应该称之为卸载网卡,因为其可编程性并不完全。

从长远的角度分析,其定制化的逻辑,对于已经成熟的应用场景虽然能够提供显著的性能提升,但是随着时间的推移,新的应用场景对智能网卡将会提出新的功能要求。目前,很多厂家采用 ASIC+GP 的设计方式来解决这一问题,类似 Mellanox 的 BlueField产品(集成了 ConnectX-5 和 ARM)。同时,商家不断地更新 ASIC 产品,将成熟的技术定制化到网卡中,如 ConnectX 系列已更新到第6代。可见,体系结构中灵活性和性能之间的竞争依然在继续。

本文参考自“未来网络:SmartNIC DPU技术白皮书”,介绍 SmartNIC/DPU 技术和产业发展趋势,提供应用场景和应用案例,介绍相关公司及产品、以及 SmartNIC/DPU 的测试技术等。
下载链接:
未来网络:SmartNIC DPU技术白皮书
开源芯片:处理器芯片发展新趋势
中国云计算生态蓝皮书(2022)
处理器芯片发展新趋势:开源芯片
SCM技术及趋势合集
NVM技术及趋势合集

算力网络技术白皮书(2022)

中国机器人产业发展报告(2022年)

《Hot Chips 33:光子处理器合集》

《Hot Chips 33:加速器合集》

《Hot Chips 33:高性能、低功耗处理器/控制器》

《Hot Chips 33:神经网络处理器(合集)》

《硅片国产化进程》


来源:网络通信与安全紫金山实验室等


本号资料全部上传至知识星球,更多内容请登录智能计算芯知识(知识星球)星球下载全部资料。



免责申明:本号聚焦相关技术分享,内容观点不代表本号立场,可追溯内容均注明来源,发布文章若存在版权等问题,请留言联系删除,谢谢。



电子书<服务器基础知识全解(终极版)>更新完毕。

获取方式:点击“阅读原文”即可查看182页 PPT可编辑版本和PDF阅读版本详情。


温馨提示:

请搜索“AI_Architect”或“扫码”关注公众号实时掌握深度技术分享,点击“阅读原文”获取更多原创技术干货。


智能计算芯世界 聚焦人工智能、芯片设计、异构计算、高性能计算等领域专业知识分享.
评论
  • 全球智能电视时代来临这年头若是消费者想随意地从各个通路中选购电视时,不难发现目前市场上的产品都已是具有智能联网功能的智能电视了,可以宣告智能电视的普及时代已到临!Google从2021年开始大力推广Google TV(即原Android TV的升级版),其他各大品牌商也都跟进推出搭载Google TV操作系统的机种,除了Google TV外,LG、Samsung、Panasonic等大厂牌也开发出自家的智能电视平台,可以看出各家业者都一致地看好这块大饼。智能电视的Wi-Fi连线怎么消失了?智能电
    百佳泰测试实验室 2024-12-12 17:33 66浏览
  • 在智能化技术快速发展当下,图像数据的采集与处理逐渐成为自动驾驶、工业等领域的一项关键技术。高质量的图像数据采集与算法集成测试都是确保系统性能和可靠性的关键。随着技术的不断进步,对于图像数据的采集、处理和分析的需求日益增长,这不仅要求我们拥有高性能的相机硬件,还要求我们能够高效地集成和测试各种算法。我们探索了一种多源相机数据采集与算法集成测试方案,能够满足不同应用场景下对图像采集和算法测试的多样化需求,确保数据的准确性和算法的有效性。一、相机组成相机一般由镜头(Lens),图像传感器(Image
    康谋 2024-12-12 09:45 81浏览
  • 时源芯微——RE超标整机定位与解决详细流程一、 初步测量与问题确认使用专业的电磁辐射测量设备,对整机的辐射发射进行精确测量。确认是否存在RE超标问题,并记录超标频段和幅度。二、电缆检查与处理若存在信号电缆:步骤一:拔掉所有信号电缆,仅保留电源线,再次测量整机的辐射发射。若测量合格:判定问题出在信号电缆上,可能是电缆的共模电流导致。逐一连接信号电缆,每次连接后测量,定位具体哪根电缆或接口导致超标。对问题电缆进行处理,如加共模扼流圈、滤波器,或优化电缆布局和屏蔽。重新连接所有电缆,再次测量
    时源芯微 2024-12-11 17:11 115浏览
  • 首先在gitee上打个广告:ad5d2f3b647444a88b6f7f9555fd681f.mp4 · 丙丁先生/香河英茂工作室中国 - Gitee.com丙丁先生 (mr-bingding) - Gitee.com2024年对我来说是充满挑战和机遇的一年。在这一年里,我不仅进行了多个开发板的测评,还尝试了多种不同的项目和技术。今天,我想分享一下这一年的故事,希望能给大家带来一些启发和乐趣。 年初的时候,我开始对各种开发板进行测评。从STM32WBA55CG到瑞萨、平头哥和平海的开发板,我都
    丙丁先生 2024-12-11 20:14 78浏览
  • 天问Block和Mixly是两个不同的编程工具,分别在单片机开发和教育编程领域有各自的应用。以下是对它们的详细比较: 基本定义 天问Block:天问Block是一个基于区块链技术的数字身份验证和数据交换平台。它的目标是为用户提供一个安全、去中心化、可信任的数字身份验证和数据交换解决方案。 Mixly:Mixly是一款由北京师范大学教育学部创客教育实验室开发的图形化编程软件,旨在为初学者提供一个易于学习和使用的Arduino编程环境。 主要功能 天问Block:支持STC全系列8位单片机,32位
    丙丁先生 2024-12-11 13:15 66浏览
  • 习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习笔记&记录学习习笔记&记学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记
    youyeye 2024-12-11 17:58 88浏览
  • 习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习笔记&记录学习习笔记&记学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记
    youyeye 2024-12-12 10:13 46浏览
  • RK3506 是瑞芯微推出的MPU产品,芯片制程为22nm,定位于轻量级、低成本解决方案。该MPU具有低功耗、外设接口丰富、实时性高的特点,适合用多种工商业场景。本文将基于RK3506的设计特点,为大家分析其应用场景。RK3506核心板主要分为三个型号,各型号间的区别如下图:​图 1  RK3506核心板处理器型号场景1:显示HMIRK3506核心板显示接口支持RGB、MIPI、QSPI输出,且支持2D图形加速,轻松运行QT、LVGL等GUI,最快3S内开
    万象奥科 2024-12-11 15:42 88浏览
  • 应用环境与极具挑战性的测试需求在服务器制造领域里,系统整合测试(System Integration Test;SIT)是确保产品质量和性能的关键步骤。随着服务器系统的复杂性不断提升,包括:多种硬件组件、操作系统、虚拟化平台以及各种应用程序和服务的整合,服务器制造商面临着更有挑战性的测试需求。这些挑战主要体现在以下五个方面:1. 硬件和软件的高度整合:现代服务器通常包括多个处理器、内存模块、储存设备和网络接口。这些硬件组件必须与操作系统及应用软件无缝整合。SIT测试可以帮助制造商确保这些不同组件
    百佳泰测试实验室 2024-12-12 17:45 74浏览
  • 一、SAE J1939协议概述SAE J1939协议是由美国汽车工程师协会(SAE,Society of Automotive Engineers)定义的一种用于重型车辆和工业设备中的通信协议,主要应用于车辆和设备之间的实时数据交换。J1939基于CAN(Controller Area Network)总线技术,使用29bit的扩展标识符和扩展数据帧,CAN通信速率为250Kbps,用于车载电子控制单元(ECU)之间的通信和控制。小北同学在之前也对J1939协议做过扫盲科普【科普系列】SAE J
    北汇信息 2024-12-11 15:45 114浏览
  • 近日,搭载紫光展锐W517芯片平台的INMO GO2由影目科技正式推出。作为全球首款专为商务场景设计的智能翻译眼镜,INMO GO2 以“快、准、稳”三大核心优势,突破传统翻译产品局限,为全球商务人士带来高效、自然、稳定的跨语言交流体验。 INMO GO2内置的W517芯片,是紫光展锐4G旗舰级智能穿戴平台,采用四核处理器,具有高性能、低功耗的优势,内置超微高集成技术,采用先进工艺,计算能力相比同档位竞品提升4倍,强大的性能提供更加多样化的应用场景。【视频见P盘链接】 依托“
    紫光展锐 2024-12-11 11:50 78浏览
  • 铁氧体芯片是一种基于铁氧体磁性材料制成的芯片,在通信、传感器、储能等领域有着广泛的应用。铁氧体磁性材料能够通过外加磁场调控其导电性质和反射性质,因此在信号处理和传感器技术方面有着独特的优势。以下是对半导体划片机在铁氧体划切领域应用的详细阐述: 一、半导体划片机的工作原理与特点半导体划片机是一种使用刀片或通过激光等方式高精度切割被加工物的装置,是半导体后道封测中晶圆切割和WLP切割环节的关键设备。它结合了水气电、空气静压高速主轴、精密机械传动、传感器及自动化控制等先进技术,具有高精度、高
    博捷芯划片机 2024-12-12 09:16 87浏览
  • 本文介绍瑞芯微RK3588主板/开发板Android12系统下,APK签名文件生成方法。触觉智能EVB3588开发板演示,搭载了瑞芯微RK3588芯片,该开发板是核心板加底板设计,音视频接口、通信接口等各类接口一应俱全,可帮助企业提高产品开发效率,缩短上市时间,降低成本和设计风险。工具准备下载Keytool-ImportKeyPair工具在源码:build/target/product/security/系统初始签名文件目录中,将以下三个文件拷贝出来:platform.pem;platform.
    Industio_触觉智能 2024-12-12 10:27 79浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦