趋势丨芯片巨头光互连新方案有何异同

AI芯天下 2024-09-07 20:30

·聚焦:人工智能、芯片等行业

欢迎各位客官关注、转发






前言
在现代 AI 系统中,使用PCIe将加速器连接在一起已经太慢了

而光互连技术,正成为芯片巨头们竞相探索与突破的关键领域,为芯片间的数据传输带来了全新的变革与机遇。


作者 | 方文三
图片来源 |  网 络 


光互连的兴起


最近,在机架内部使用光互连的趋势日益增长。受人工智能的高带宽、低延迟要求(因为人工智能模型分布在数十个处理节点上)的推动,光互连正在帮助这些多节点系统尽可能快地运行。速度一如既往地至关重要。


光互连是一个充满创新的领域。一些初创公司正在开发全光分组交换——避免在电域和光域之间转换信号的需要,从而大大节省了功耗和延迟。


其他公司正在将光学技术应用到下一层,正在开发全光芯片到芯片甚至硅片到硅片的互连。在这里,通信带宽甚至更高。为了实现这一进步,共封装光学器件至关重要。代工厂和芯片封装公司正在大力投资这一功能。



大模型时代对PCIe技术进步的需求


PCIe总线协议作为计算机和服务器中使用最广泛的高速数据传输技术,其传输性能的提升对于满足这些需求至关重要。


传统连接方案主要依赖于铜缆进行电信号传输,用于单机内部计算芯片和设备之间互连。


众所周知,铜缆在信号完整性、延迟、传输距离和功耗等方面存在日益突出的局限,无法满足PCIe高性能互连系统的需求。


所需要的算力规模也变得越来越大,万卡成为算力系统设计的起点,单机内部的PCIe连接已经不能满足需求,机柜内互连和跨机柜的互连成为新的发展方向,以实现更高效的数据交换和资源共享。



核心光互连有三种技术


垂直腔面发射激光器(VCSEL)是整个行业光学AI互连技术的主力。其低功耗和低成本使其成为数据通信和传感应用的理想选择,唯一的限制是它在较短的链路距离内运行效果最佳。


电吸收调制激光器 (EML)非常适合扩展到更远距离和数十万甚至数百万个单元的AI系统。该技术在非常高的带宽下提供更好的性能,并且通常是第一个以下一代数据速率实现批量部署的技术。


共封装光学器件(CPO)是一种将高速硅光子学异质集成到专用集成电路上的先进技术,旨在解决下一代带宽和功率挑战。


这项新技术将为未来几代人工智能系统提供功率和成本领先优势,并支持大规模人工智能网络的基础设施。



英特尔的光互连新方案


英特尔推出的光学计算互连(OCI)芯粒备受瞩目。这一尚处于技术原型阶段的创新成果,可与CPU、GPU集成,面向数据中心和高性能计算应用。


其显著优势在于能够在最长100米的光纤上单向支持64个32Gbps通道,这对于实现可扩展的CPU和GPU集群连接意义重大,极大地提高了带宽,同时还有助于降低功耗,延长传输距离,为加速机器学习工作负载等高性能计算任务提供了有力支撑。


在一些大型数据中心,采用英特尔的OCI芯粒后,数据处理速度大幅提升,原本需要数小时才能完成的复杂数据分析任务,现在可以在更短的时间内完成,大大提高了工作效率。



博通的光互连领域新尝试


博通在光互连领域也展现出了强大的实力与创新精神。在Hot Chips 2024大会上,博通展示了带有光学附件的AI计算ASIC,将硅光子学和共封装光学器件(CPO)技术巧妙融合。


在其新一代的Tomahawk 5Bailly交换机中采用了CPO技术,直接将光学模块集成到芯片封装中,不仅显著减少了系统延迟,还大幅提高了数据传输速度和能效。


并且博通采用可插拔激光器的设计策略,提高了系统的可维护性,降低了维护成本,同时通过将计算 ASIC 与光学模块和高带宽内存(HBM)封装在一起,实现了更高的计算密度和更低的功耗。


在一些高速网络通信场景中,博通的光互连方案使得网络延迟降低到微秒级别,为实时视频会议、在线游戏等对网络延迟要求极高的应用提供了稳定可靠的保障。



巨头在光互连领域的差异


这些芯片巨头的光互连新方案既有相似之处,也存在一些差异。


相似之处在于,他们都看到了光互连技术在提升数据传输速度、降低功耗、提高带宽等方面的巨大潜力,并且都在积极将光互连技术与自身的芯片产品或系统进行深度整合,以满足日益增长的高性能计算和数据中心需求。


然而,在具体的技术实现路径、集成方式以及应用场景的侧重上,又各有千秋。


例如英特尔的OCI芯粒专注于为CPU和GPU集群连接提供解决方案。


博通更强调在交换机等网络设备中的应用以及可插拔激光器等独特设计。


总之,芯片巨头们的光互连新方案正推动着整个芯片行业朝着更高性能、更低功耗、更高速数据传输的方向迈进。



结尾:


创新成果不仅将重塑数据中心和高性能计算的未来格局,也为人工智能、6G、量子计算等前沿领域的发展奠定了坚实基础,引领着信息技术进入一个全新的发展阶段。


内容参考来源于:半导体行业观察:光互联,芯片巨头再出招;半导体行业观察:PCIe,新革命;光芯之路:博通的光互连技术;地面通三网互通:光互连和光处理如何改变数据中心


本公众号所刊发稿件及图片来源于网络,仅用于交流使用,如有侵权请联系回复,我们收到信息后会在24小时内处理。



END


推荐阅读:


商务合作请加微信勾搭:

18948782064

请务必注明:

「姓名 + 公司 + 合作需求」


AI芯天下 聚焦人工智能,AI芯片,5G通讯等行业动态
评论
  • TOF多区传感器: ND06   ND06是一款微型多区高集成度ToF测距传感器,其支持24个区域(6 x 4)同步测距,测距范围远达5m,具有测距范围广、精度高、测距稳定等特点。适用于投影仪的无感自动对焦和梯形校正、AIoT、手势识别、智能面板和智能灯具等多种场景。                 如果用ND06进行手势识别,只需要经过三个步骤: 第一步&
    esad0 2024-12-04 11:20 58浏览
  • 当前,智能汽车产业迎来重大变局,随着人工智能、5G、大数据等新一代信息技术的迅猛发展,智能网联汽车正呈现强劲发展势头。11月26日,在2024紫光展锐全球合作伙伴大会汽车电子生态论坛上,紫光展锐与上汽海外出行联合发布搭载紫光展锐A7870的上汽海外MG量产车型,并发布A7710系列UWB数字钥匙解决方案平台,可应用于数字钥匙、活体检测、脚踢雷达、自动泊车等多种智能汽车场景。 联合发布量产车型,推动汽车智能化出海紫光展锐与上汽海外出行达成战略合作,联合发布搭载紫光展锐A7870的量产车型
    紫光展锐 2024-12-03 11:38 101浏览
  • RDDI-DAP错误通常与调试接口相关,特别是在使用CMSIS-DAP协议进行嵌入式系统开发时。以下是一些可能的原因和解决方法: 1. 硬件连接问题:     检查调试器(如ST-Link)与目标板之间的连接是否牢固。     确保所有必要的引脚都已正确连接,没有松动或短路。 2. 电源问题:     确保目标板和调试器都有足够的电源供应。     检查电源电压是否符合目标板的规格要求。 3. 固件问题: &n
    丙丁先生 2024-12-01 17:37 102浏览
  • 作为优秀工程师的你,已身经百战、阅板无数!请先醒醒,新的项目来了,这是一个既要、又要、还要的产品需求,ARM核心板中一个处理器怎么能实现这么丰富的外围接口?踌躇之际,你偶阅此文。于是,“潘多拉”的魔盒打开了!没错,USB资源就是你打开新世界得钥匙,它能做哪些扩展呢?1.1  USB扩网口通用ARM处理器大多带两路网口,如果项目中有多路网路接口的需求,一般会选择在主板外部加交换机/路由器。当然,出于成本考虑,也可以将Switch芯片集成到ARM核心板或底板上,如KSZ9897、
    万象奥科 2024-12-03 10:24 68浏览
  • 最近几年,新能源汽车愈发受到消费者的青睐,其销量也是一路走高。据中汽协公布的数据显示,2024年10月,新能源汽车产销分别完成146.3万辆和143万辆,同比分别增长48%和49.6%。而结合各家新能源车企所公布的销量数据来看,比亚迪再度夺得了销冠宝座,其10月新能源汽车销量达到了502657辆,同比增长66.53%。众所周知,比亚迪是新能源汽车领域的重要参与者,其一举一动向来为外界所关注。日前,比亚迪汽车旗下品牌方程豹汽车推出了新车方程豹豹8,该款车型一上市就迅速吸引了消费者的目光,成为SUV
    刘旷 2024-12-02 09:32 119浏览
  • 概述 说明(三)探讨的是比较器一般带有滞回(Hysteresis)功能,为了解决输入信号转换速率不够的问题。前文还提到,即便使能滞回(Hysteresis)功能,还是无法解决SiPM读出测试系统需要解决的问题。本文在说明(三)的基础上,继续探讨为SiPM读出测试系统寻求合适的模拟脉冲检出方案。前四代SiPM使用的高速比较器指标缺陷 由于前端模拟信号属于典型的指数脉冲,所以下降沿转换速率(Slew Rate)过慢,导致比较器检出出现不必要的问题。尽管比较器可以使能滞回(Hysteresis)模块功
    coyoo 2024-12-03 12:20 111浏览
  •         温度传感器的精度受哪些因素影响,要先看所用的温度传感器输出哪种信号,不同信号输出的温度传感器影响精度的因素也不同。        现在常用的温度传感器输出信号有以下几种:电阻信号、电流信号、电压信号、数字信号等。以输出电阻信号的温度传感器为例,还细分为正温度系数温度传感器和负温度系数温度传感器,常用的铂电阻PT100/1000温度传感器就是正温度系数,就是说随着温度的升高,输出的电阻值会增大。对于输出
    锦正茂科技 2024-12-03 11:50 111浏览
  • 遇到部分串口工具不支持1500000波特率,这时候就需要进行修改,本文以触觉智能RK3562开发板修改系统波特率为115200为例,介绍瑞芯微方案主板Linux修改系统串口波特率教程。温馨提示:瑞芯微方案主板/开发板串口波特率只支持115200或1500000。修改Loader打印波特率查看对应芯片的MINIALL.ini确定要修改的bin文件#查看对应芯片的MINIALL.ini cat rkbin/RKBOOT/RK3562MINIALL.ini修改uart baudrate参数修改以下目
    Industio_触觉智能 2024-12-03 11:28 87浏览
  • 光伏逆变器是一种高效的能量转换设备,它能够将光伏太阳能板(PV)产生的不稳定的直流电压转换成与市电频率同步的交流电。这种转换后的电能不仅可以回馈至商用输电网络,还能供独立电网系统使用。光伏逆变器在商业光伏储能电站和家庭独立储能系统等应用领域中得到了广泛的应用。光耦合器,以其高速信号传输、出色的共模抑制比以及单向信号传输和光电隔离的特性,在光伏逆变器中扮演着至关重要的角色。它确保了系统的安全隔离、干扰的有效隔离以及通信信号的精准传输。光耦合器的使用不仅提高了系统的稳定性和安全性,而且由于其低功耗的
    晶台光耦 2024-12-02 10:40 120浏览
  • 11-29学习笔记11-29学习笔记习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习笔记&记录学习习笔记&记学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&学习学习笔记&记录学习学习笔记&记录学习学习笔记&记
    youyeye 2024-12-02 23:58 73浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦