以太网已成为超大规模数据中心服务器之间通信首选的网络协议,因为它允许企业分解网络交换机并独立安装其软件操作系统,并可以通过晶体管扩展来降低每比特的成本/功耗,实现经济高效、密集开放的交换机和网络技术。
以太网是一种计算机网络技术,它定义了开放系统互连 (OSI) 模型的物理层和数据链路层,IEEE 802.3 标准以一种结构化方式描述这些功能,强调系统的逻辑划分以及其如何组合在一起。由媒体接入控制 (MAC) 组成的数据链路层可创建以太网数据帧,并使用底层以太网物理层通过介质传输数据帧。
本文将向大家介绍高性能计算片上系统 (SoC) 中使用的以太网 PHY,以及完整的 MAC + PHY IP 如何加速协议遵从和设计收敛。
什么是以太网PHY?
以太网物理层(简称PHY)是一个抽象层,负责传输和接收数据。PHY对传输的数据帧进行编码,并按照特定的操作调制速度、传输媒体类型和支持的链路长度对接收的帧进行解码。
举个例子,我们的笔记本电脑都有“以太网接口”。图1描述了如何通过以太网电缆将数据传入和传出处理器。在这种情况下,由CPU中的以太网MAC组装的以太网数据帧(数据包),通过IEEE802.3标准定义的MII/GMII穿过母板(一个印刷电路板),到达以太网PHY。
▲ 在个人计算机中,以太网数据包从处理器传输到以太网 PHY 的一个简化示例
数据中心实际上是一种通过光和铜介质连接的计算和存储系统的网络。使用到的光纤有单模和多模两种,单模光纤 (SMF) 更加节能,同时可提供最大的覆盖范围,而多模光纤 (MMF) 更具成本效益,通常适用于 500 米以内的使用场景,服务器机架单元到机架顶部 (TOR) 交换机链路通常使用双轴铜缆实现。
▲ 数据中心的多个服务器通信中使用不同类型的光纤
来自服务器群某个机架单元处理器的数据包通过 PCIe 接口进入网络接口卡 (NIC),再通过实现 MAC 功能创建以太网帧。数据帧通过双轴铜缆 PHY 或 DAC 电缆到达架顶 (ToR) 交换机。根据 DAC 电缆长度和 ToR 机架单元物理位置中的交换芯片,可能还需要 retimers 来增强信号质量,以扩展电气信号的覆盖范围,ToR 交换机对数据帧进行路由,光模块则通过实现电气和光学 PHY 功能将媒介从电转换为光。
▲ 服务器群的机架单元中数据包如何移动
IEEE802.3-2018 和以太网技术联盟 (ETC) 分别定义了 400 Gb/s 和 800 Gb/s 的标准。值得注意的是,800 Gb/s以太网也是基于IEEE 802.3-2018和802.3ck的400 Gb/s以太网访问方法和物理层标准。
▲ 400 Gb/s 以太网 PHY 架构
首先,借助200GMII/400GMII,物理编码子层 (PCS)能满足多种需求,如:
直流平衡:PCS可实现64/66比特的线编码和加扰操作,以保持传输密度和直流平衡;
将编码数据传入/传出物理介质附件 (PMA);
补偿 200GMII/400GMII 和PMA之间的任何速率差异,这些差异是由于对齐标记插入或删除,或 PCS 通过插入、删除空闲控制字符纠正的任何速率差异引起的;
从66比特块转码到257比特块或从257比特块转码到66比特块;
实现正向纠错 (FEC) 功能:FEC 技术通过解码来校正接收端发生的错误,用于改善链路比特误码率 (BER),然而编解码收益和相关BER改进是以增加延迟为代价。考虑到这种权衡,基于链路BER可以实施不同的FEC。
为背板应用设置了基于协议定义的链路训练函数来调整均衡器分路器系数。
然后,PMA层将PCS格式的信号的逻辑或物理通道数量调整适当,从接收到的信号中恢复时钟,并为本地环回操作提供各种发送和接收测试模式。
再往下层,物理介质相关 (PMD) 层接口到传输介质,将PHY连接到介质,介质可以是许多不同类型的光纤或铜缆。
最后,自动协商层(AN)使设备能够监测远端设备的功能和状态。IEEE Std 802.3 标准第 73 条定义了新的通用自动协商协议,该协议使用独立于标准速度模式的信号。自动协商允许设备通告和共享信息,包括速度、模式、故障信号和其他控制信息。
而集成的以太网PHY IP包括PCS、PMA、PMD和自动协商功能,能够更快地采用最新的 800Gb/s和400Gb/s 以太网。图5显示了800G/400G PCS的实现案例。
▲ 以太网 PCS 框图
在这样的需求下,新思科技提供完整的200G/400G和800G以太网控制器和PHY IP解决方案,包括 PCS、PMD、PMA 和自动协商功能,如图 6 所示。
▲ 完整的 200G/400G 和 800G 以太网控制器和 PHY IP 解决方案
新思科技 的DesignWare®112G Ethernet PHY IP 提供卓越的信号完整性和抖动性能,超过 IEEE 802.3ck 和 OIF 标准电气规范,高效面积的 PHY 在信道损耗超过 42dB,功率效率小于 5pJ/bit 时显示零误码率。
DesignWare® 200G/400G和800G以太网MAC和PCS支持IEEE 802.3和联盟规格,包括Reed Solomon正向纠错 (FEC)和低抖动时间戳,以实现最大精度。
以太网已成为现代高性能计算数据中心服务器间通信的事实标准,高性能计算不断增加的带宽需求也在促使以太网互连和PHY技术不断变革,系统和 SoC开发者必须了解不同类型互连的特性以及针对其目标应用的PHY技术。
以太网数据帧通过各种通道和介质类型在多个服务器单元之间传输,以太网系统中完整的MAC和PHY方案则可以缩短设计周期时间并提供差异化的性能,因此以太网PHY IP将对高性能计算SoC起到重要的作用。