【秒懂承载】热点技术名词——“RoCE”

原创 中兴文档 2024-03-11 12:01

今日和文档君一起学习技术名词:

RoCE(RDMA over Converged Ethernet,基于融合以太网的RDMA)—— 一种基于以太网的无损传输。
Q
什么是RoCE?

A

RoCE全称RDMA over Converged Ethernet,是一种允许在以太网上实现远程内存直接访问的网络协议。


基于以太网速率发展优势,利用RDMA(Remote Direct Memory Access)技术,可以在极少占用CPU资源的情况下,实现服务器之间的高速数据访问,提供大带宽、低时延的远程内存访问能力,适用于AI智算、高性能计算、高速存储等新型业务场景需求。


Q
为什么需要RoCE?
A

传统业务对丢包、时延、抖动等数据中心网络的传输性能指标并不敏感,但在AI智算/高性能计算/高速存储等场景下,业务对网络传输要求非常高。

以AI大模型为例,海量GPU之间的高速并行参数训练需要算力集群机间、卡间数据的高速互通,网络传输过程中的丢包重传越少、时延越短、吞吐效率越高,算力集群的有效计算时间占比就越高,大模型的训练速度会越快。同样在SSD(Solid State Drives)固态硬盘高速存储场景中,其性能相比HDD(Hard Disk Drives)机械硬盘存储提升了近100倍,也需要更快、更高质量的网络传输。 


传统TCP/IP机制,数据报文传输的每一次读取都需要通过CPU内核进行处理,这将带来大量的拷贝、封包解包开销,传输时延达到ms级,无法满足智算/高性能计算/高速存储中超低时延的传输要求。为此,RDMA远程内存直接访问技术应运而生,它与TCP/IP协议不同,将收/发包的工作卸载到网卡上,无需CPU处理,即可实现数据的直接访问,减少了拷贝、封包解包等等的开销。借用一个网上常见的比方,这就像车辆通过高速收费站,TCP/IP协议报文需要人工窗口(CPU)手动进行计费和收费,而RDMA协议报文则可以通过ETC,跳过人工取卡、收费等步骤,直接刷卡极速通过,极大地减少了CPU的负担,大大提高数据的转发效率。 


RDMA技术早期基于InfiniBand协议,必须使用IB交换机及IB网卡才可实现,生态极其封闭,使用成本非常高。以太网技术生态非常成熟,应用极其广泛。为了降低RDMA技术的使用成本,并提高网络通信技术的标准化,业界开始大力发展RoCE技术。 


RoCE通过一系列以太网流量、拥塞控制技术,调节数据包在发送端网卡、交换机网络、接收端网卡之间的传输速率、路径等,确保数据报文端到端零丢包、高速传输,实现基于以太网的RDMA。


Q
InfiniBand VS RoCE?

A

除了InfiniBand和RoCE,业界还有iWARP协议实现RDMA,前两种广泛商用,而后者应用则较少。

  • InfiniBand:性能领先、但生态封闭,好比苹果iOS。

  • RoCE:性能和生态相对平衡,好比谷歌Android。

  • iWARP:性能、生态相对落后于前两种,类似于黑莓OS。

三种技术的优劣势对比分析如下:


InfiniBandRoCEiWAP
成本
硬件IB交换机以太网交换机以太网交换机
稳定性出色一般
生态封闭开放开放
性能表现(时延、丢包等)出色较好
本文重点介绍应用较多的RoCE和InfiniBand的主要区别

1. RoCE在生态、端口速率和成本方面更具优势: 

  • 生态开放:RoCE生态基于成熟的以太网技术体系,业界支持厂商众多。相比于IB交换系统,RoCE网络不需要专用硬件,可以基于多厂商开放的硬件网卡/交换机等进行部署。

    同时业务的开通、运维与传统以太网技术一脉相承,配置、维护更为简单。 

  • 速率更快:以太网技术广泛应用于数据中心网络、城域网、骨干网,当前速率可以灵活支持1Gbps~800Gbps,未来有望演进至1.6Tbps。

    与IB相比,在互联端口速率和交换机总容量上更胜一筹。

  • 成本较低:以太网高端芯片经过多年的技术发展积累,其单位带宽成本更具竞争力,交换机成本整体更低。


2. InfiniBand在性能表现、商业应用等方面则相对领先: 

  • 性能优秀:IB通过高效轻量化的协议设计,相比以太网大幅降低了报文的开销,减少了传送时延。

    通过收/发设备之间基于信用的流量控制、端点之间的拥塞通知,确保了数据传送无丢包。

    基于子网管理器的集中控制,则保障了整网的高效部署和运维。

    基于上述技术,IB方案在时延、丢包、稳定性方面表现优异。 

  • 广泛商用:IB方案自1999年推出以来,作为服务器、存储之间的高速互联方案,有效替代了PCI总线技术,广泛应用在高性能计算、人工智能/机器学习集群等中小规模的数据中心网络中,产业生态链成熟。但在更大规模GPU的智算中心网络中,扩展性存在挑战,仍处于起步阶段。




Q
RoCE有哪些应用场景?
A

RoCE生态开放、速率更高、成本更低。可应用于AI智算、HPC高性能计算、高速存储等数据中心网络互联场景,解决了高速计算/存储等场景“InfiniBand”、“Fiber Channel”传统技术生态封闭、应用场景和供应链集中等问题,实现了“0”丢包、高吞吐、低时延的高速数据互访。


Q
RoCE技术业界进展?
A

最初发布的RoCEv1版本,将协议限制在以太网链路层,其数据帧不携带IP报文头,因此只能在L2子网内通信,限制了其可扩展性。

2014年,RoCEv2扩展了RoCEv1,将其报文头换成了UDP/IP,可以进行L3路由,大大提升了网络的可扩展性,目前已经被广泛认可使用。 

1. 传统RoCE技术发展 

由于RDMA要求网络传输性能无损“0”丢包,RoCE技术在以太网上承载,必须要解决以太网中的流量拥塞和丢包问题,现阶段已经有了一些比较成熟的拥塞流控技术,如PFC、ECN等,旨在提高转发效率,减少网络拥塞和丢包的发生,但两种技术控制方式略有不同。 

    • PFC(Priority-Based Flow Control,基于优先级的流控):在交换机上对流量进行优先级排序,当发生拥塞时,针对一个或几个优先级队列进行流控,通知上游停止流量发送,减少网络拥塞,确保数据不丢包。以高速公路收费站为例,将车辆分为多个队列在不同收费通道进行排队,当某个收费通道发生拥塞时,PFC机制将暂停上游车辆进入该通道排队。

    • ECN(Explicit Congestion Notification,显示拥塞通知):在发送端、交换网络和接收端之间进行协同,控制报文的发送速度,确保无阻塞转发。当网络中出现拥塞时,交换机通过设置拥塞标记ECN,通知发送端侧设备,降低报文的发送速度,以此来避免进一步拥塞。仍以高速公路收费站为例,ECN则是通过提前通知的方式,通知上游车辆减少在该通道排队,确保车流不拥堵。 


2. 增强RoCE技术发展 

RoCE在全路径负载均衡、端网协同等方面尚存在不足,业界仍在探索进一步优化的空间,比如: 

    • 负载均衡:网络侧通过DLB(Dynamic Loading Balance,动态负载均衡技术)优化传统的ECMP负载均衡算法,大幅提升网络吞吐效率。

    • 端网协同:交换机和DPU(Data Processing Unit,数据处理单元)进行端网协同,在数据报文发送和传输过程中,对包的大小、速率、路径进行端到端控制,确保“0”丢包、均衡、高速的传输。业界在端网协同方面进行了广泛的算法创新,目前已经有多个商用案例,但各个厂商的方案私有化程度极高,很难在全行业进行复制和推广。 


基于此,2023年,微软、英特尔、思科等海外厂商成立了超级以太网联盟UEC(Ultra-Ethernet-consortium),目标开发标准的超级以太网传输协议,满足AI和高性能计算领域对网络的需求。

同时,中国移动联合中兴通讯等产业合作伙伴共同提出了GSE(Global Scheduling Ethernet)全调度以太网技术架构,旨在突破智算中心网络性能瓶颈,打造无阻塞、高带宽及超低时延的新型智算中心网络,助力AIGC等高性能业务快速发展,值得持续关注。

我们是一群平均从业年限5+的通信专业工程师。
关注我们,带你了解通信世界的精彩!

中兴文档 通俗易懂且高颜值的通讯技术文档!
评论
  • 本文介绍瑞芯微RK3588主板/开发板Android12系统下,APK签名文件生成方法。触觉智能EVB3588开发板演示,搭载了瑞芯微RK3588芯片,该开发板是核心板加底板设计,音视频接口、通信接口等各类接口一应俱全,可帮助企业提高产品开发效率,缩短上市时间,降低成本和设计风险。工具准备下载Keytool-ImportKeyPair工具在源码:build/target/product/security/系统初始签名文件目录中,将以下三个文件拷贝出来:platform.pem;platform.
    Industio_触觉智能 2024-12-12 10:27 49浏览
  • RK3506 是瑞芯微推出的MPU产品,芯片制程为22nm,定位于轻量级、低成本解决方案。该MPU具有低功耗、外设接口丰富、实时性高的特点,适合用多种工商业场景。本文将基于RK3506的设计特点,为大家分析其应用场景。RK3506核心板主要分为三个型号,各型号间的区别如下图:​图 1  RK3506核心板处理器型号场景1:显示HMIRK3506核心板显示接口支持RGB、MIPI、QSPI输出,且支持2D图形加速,轻松运行QT、LVGL等GUI,最快3S内开
    万象奥科 2024-12-11 15:42 86浏览
  • 一、SAE J1939协议概述SAE J1939协议是由美国汽车工程师协会(SAE,Society of Automotive Engineers)定义的一种用于重型车辆和工业设备中的通信协议,主要应用于车辆和设备之间的实时数据交换。J1939基于CAN(Controller Area Network)总线技术,使用29bit的扩展标识符和扩展数据帧,CAN通信速率为250Kbps,用于车载电子控制单元(ECU)之间的通信和控制。小北同学在之前也对J1939协议做过扫盲科普【科普系列】SAE J
    北汇信息 2024-12-11 15:45 110浏览
  • 在智能化技术快速发展当下,图像数据的采集与处理逐渐成为自动驾驶、工业等领域的一项关键技术。高质量的图像数据采集与算法集成测试都是确保系统性能和可靠性的关键。随着技术的不断进步,对于图像数据的采集、处理和分析的需求日益增长,这不仅要求我们拥有高性能的相机硬件,还要求我们能够高效地集成和测试各种算法。我们探索了一种多源相机数据采集与算法集成测试方案,能够满足不同应用场景下对图像采集和算法测试的多样化需求,确保数据的准确性和算法的有效性。一、相机组成相机一般由镜头(Lens),图像传感器(Image
    康谋 2024-12-12 09:45 75浏览
  • 全球知名半导体制造商ROHM Co., Ltd.(以下简称“罗姆”)宣布与Taiwan Semiconductor Manufacturing Company Limited(以下简称“台积公司”)就车载氮化镓功率器件的开发和量产事宜建立战略合作伙伴关系。通过该合作关系,双方将致力于将罗姆的氮化镓器件开发技术与台积公司业界先进的GaN-on-Silicon工艺技术优势结合起来,满足市场对高耐压和高频特性优异的功率元器件日益增长的需求。氮化镓功率器件目前主要被用于AC适配器和服务器电源等消费电子和
    电子资讯报 2024-12-10 17:09 99浏览
  • 时源芯微——RE超标整机定位与解决详细流程一、 初步测量与问题确认使用专业的电磁辐射测量设备,对整机的辐射发射进行精确测量。确认是否存在RE超标问题,并记录超标频段和幅度。二、电缆检查与处理若存在信号电缆:步骤一:拔掉所有信号电缆,仅保留电源线,再次测量整机的辐射发射。若测量合格:判定问题出在信号电缆上,可能是电缆的共模电流导致。逐一连接信号电缆,每次连接后测量,定位具体哪根电缆或接口导致超标。对问题电缆进行处理,如加共模扼流圈、滤波器,或优化电缆布局和屏蔽。重新连接所有电缆,再次测量
    时源芯微 2024-12-11 17:11 109浏览
  • 习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习笔记&记录学习习笔记&记学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记
    youyeye 2024-12-11 17:58 86浏览
  • 我的一台很多年前人家不要了的九十年代SONY台式组合音响,接手时只有CD功能不行了,因为不需要,也就没修,只使用收音机、磁带机和外接信号功能就够了。最近五年在外地,就断电闲置,没使用了。今年9月回到家里,就一个劲儿地忙着收拾家当,忙了一个多月,太多事啦!修了电气,清理了闲置不用了的电器和电子,就是一个劲儿地扔扔扔!几十年的“工匠式”收留收藏,只能断舍离,拆解不过来的了。一天,忽然感觉室内有股臭味,用鼻子的嗅觉功能朝着臭味重的方向寻找,觉得应该就是这台组合音响?怎么会呢?这无机物的东西不会腐臭吧?
    自做自受 2024-12-10 16:34 170浏览
  • 天问Block和Mixly是两个不同的编程工具,分别在单片机开发和教育编程领域有各自的应用。以下是对它们的详细比较: 基本定义 天问Block:天问Block是一个基于区块链技术的数字身份验证和数据交换平台。它的目标是为用户提供一个安全、去中心化、可信任的数字身份验证和数据交换解决方案。 Mixly:Mixly是一款由北京师范大学教育学部创客教育实验室开发的图形化编程软件,旨在为初学者提供一个易于学习和使用的Arduino编程环境。 主要功能 天问Block:支持STC全系列8位单片机,32位
    丙丁先生 2024-12-11 13:15 63浏览
  • 近日,搭载紫光展锐W517芯片平台的INMO GO2由影目科技正式推出。作为全球首款专为商务场景设计的智能翻译眼镜,INMO GO2 以“快、准、稳”三大核心优势,突破传统翻译产品局限,为全球商务人士带来高效、自然、稳定的跨语言交流体验。 INMO GO2内置的W517芯片,是紫光展锐4G旗舰级智能穿戴平台,采用四核处理器,具有高性能、低功耗的优势,内置超微高集成技术,采用先进工艺,计算能力相比同档位竞品提升4倍,强大的性能提供更加多样化的应用场景。【视频见P盘链接】 依托“
    紫光展锐 2024-12-11 11:50 72浏览
  • 铁氧体芯片是一种基于铁氧体磁性材料制成的芯片,在通信、传感器、储能等领域有着广泛的应用。铁氧体磁性材料能够通过外加磁场调控其导电性质和反射性质,因此在信号处理和传感器技术方面有着独特的优势。以下是对半导体划片机在铁氧体划切领域应用的详细阐述: 一、半导体划片机的工作原理与特点半导体划片机是一种使用刀片或通过激光等方式高精度切割被加工物的装置,是半导体后道封测中晶圆切割和WLP切割环节的关键设备。它结合了水气电、空气静压高速主轴、精密机械传动、传感器及自动化控制等先进技术,具有高精度、高
    博捷芯划片机 2024-12-12 09:16 85浏览
  • 习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习笔记&记录学习习笔记&记学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记
    youyeye 2024-12-12 10:13 34浏览
  • 全球智能电视时代来临这年头若是消费者想随意地从各个通路中选购电视时,不难发现目前市场上的产品都已是具有智能联网功能的智能电视了,可以宣告智能电视的普及时代已到临!Google从2021年开始大力推广Google TV(即原Android TV的升级版),其他各大品牌商也都跟进推出搭载Google TV操作系统的机种,除了Google TV外,LG、Samsung、Panasonic等大厂牌也开发出自家的智能电视平台,可以看出各家业者都一致地看好这块大饼。智能电视的Wi-Fi连线怎么消失了?智能电
    百佳泰测试实验室 2024-12-12 17:33 46浏览
  • 首先在gitee上打个广告:ad5d2f3b647444a88b6f7f9555fd681f.mp4 · 丙丁先生/香河英茂工作室中国 - Gitee.com丙丁先生 (mr-bingding) - Gitee.com2024年对我来说是充满挑战和机遇的一年。在这一年里,我不仅进行了多个开发板的测评,还尝试了多种不同的项目和技术。今天,我想分享一下这一年的故事,希望能给大家带来一些启发和乐趣。 年初的时候,我开始对各种开发板进行测评。从STM32WBA55CG到瑞萨、平头哥和平海的开发板,我都
    丙丁先生 2024-12-11 20:14 69浏览
  • 应用环境与极具挑战性的测试需求在服务器制造领域里,系统整合测试(System Integration Test;SIT)是确保产品质量和性能的关键步骤。随着服务器系统的复杂性不断提升,包括:多种硬件组件、操作系统、虚拟化平台以及各种应用程序和服务的整合,服务器制造商面临着更有挑战性的测试需求。这些挑战主要体现在以下五个方面:1. 硬件和软件的高度整合:现代服务器通常包括多个处理器、内存模块、储存设备和网络接口。这些硬件组件必须与操作系统及应用软件无缝整合。SIT测试可以帮助制造商确保这些不同组件
    百佳泰测试实验室 2024-12-12 17:45 43浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦