PCIeoveroptics来了!

原创 SSDFans 2024-11-18 07:56


点击蓝字
关注我们



生成式AI革命正在重塑所有行业,并重新定义日常生活方方面面的可能性。创新的快速步伐给数据中心基础设施带来了重大挑战,包括:


  • 由于需要LLM大型语言模型)同时处理大量多模态数据集(文本、图像、音频和视频),因此对AI处理资源的需求激增,这些资源必须在整个数据中心相互连接;

  • 由于生成式AI应用的多样性和定制化,大量的平台架构正在以显著加快的年度升级节奏部署;

  • 因为云计算供应商面临着巨大的财务压力,需要为大规模的资本支出提供可观的投资回报率,所以要求部署AI基础设施的利用率达到最大化。


要满足现代AI模型的计算需求,只能将数千个GPUAI加速器与专门为AI工作负载构建的专用网络/结构互连在一起。该网络通常称为“后端”网络,由“向上扩展”的加速器集群结构和“向外扩展”的网络结构组成。“向上扩展”结构通常是一种任意对任意的网状互连,针对最大吞吐量和紧密耦合加速器的能力进行了优化,以快速交换AI模型训练/推理数据。“向外扩展”的例子包括NVLinkInfinity FabricPCI Express®PCIe®)、以太网等。这些技术用于连接多达数百个加速器。


PCIe接口在AI加速器和GPU上是原生可用的,一些AI平台还利用PCIe或基于PCIe的协议来扩展结构。随着AI集群的规模从1-2个机架、数十个GPU扩展到跨越多个机架、数百个GPU的大型pod,互连长度迅速成为限制。在PCIe 5.0数据速率下,跨度达7米的有源电缆足以连接几个机架。然而,在更高的数据速率,如PCIe 6.xPCIe 7.x,对于跨多个机架的GPU集群,需要光解决方案。



我们很高兴能够继续Astera LabsPCIe连接解决方案方面的领先地位,通过展示端到端PCIe/CXL®用于GPU集群的光学器件,为扩展生成式AI基础设施照亮了前进的道路!


应对AI互联的日常挑战


2017年以来,Astera Labs一直专注于释放AI和云基础设施的全部潜力,不断推出率先上市的高度创新的连接解决方案。我们的智能连接平台的基础是基于PCIe®CXL®和以太网半导体的解决方案,以及我们的COSMOS软件套件的系统管理和优化工具。该平台提供了可扩展和可定制的软件定义架构。


面对生成式AI基础设施建设的主要挑战,所有主要的超大规模企业和AI平台供应商都使用我们的智能连接平台,该平台已被证明:


  • 提供远距离和规模化的可靠连接,包括芯片对芯片、盒对盒、机架对机架;现在,我们提供了将其扩展到通过光学器件的PCIe到行的能力,以加速必须跨数据中心扩展的最大GPU集群的部署;

  • 通过我们的软件定义架构和对云规模的前期互操作性测试的巨大投资,加快了各种AI平台的部署时间;

  • 通过深度诊断、遥测和车队管理,实现对不断增加的连接链路的前所未有的可见性,从而最大限度地延长了昂贵的AI基础设施的正常运行时间和系统利用率。


支撑我们智能连接平台的产品系列包括:


  • Aries®PCIe®/CXL®智能DSP retimer经过现场测试,所有主要的超大规模厂商和平台供应商都广泛部署。我们的第三代Aries 6 Retimers将带宽提高了一倍,达到每通道64GT/sAries PCIe/CXL智能电缆模块™(SCM)提供业界首创的7米有源电缆,用于机架到机架的PCIe连接;

  • Taurus以太网智能电缆模块(SCM)支持每通道高达100Gb/s的以太网速率,支持交换机到交换机和交换机到服务器连接应用中坚固、纤薄和灵活的电缆;

  • Leo CXL®智能内存控制器是业界首个支持CXL®内存扩展、池化和共享的解决方案。经过优化,可以在低延迟下满足生成式AI工作负载不断增长的计算需求。


我们在技术周期的早期引入、提供解决方案以最大化平台利用率方面有着丰富的历史。这包括首次上市的PCIeCXL®解决方案,以及全面的云规模互操作实验室的扩展,这使我们有信心大规模部署先进的解决方案。


无缝AI连接的新范式


随着AI基础设施的扩展超出了单个机架的范围,并且超出了传统无源直接连接电缆(简称DAC)的范围,必须开发新的连接解决方案。更高速度下的信号丢失也限制了无源解决方案的有效性,要求新的有源电缆具有更好的覆盖范围和路由,以补充无源解决方案。


Aries PCIe/CXL®SCM™通过有源电缆(简称AEC)提供7米的覆盖范围,解决了DAC的限制。这些具有低延迟的经济高效的AEC使细布线能够轻松扩展到机架以外的AI加速器集群。



随着数据速率增加到PCIe 6.x (64GT/s), PCIe 7.x (128GT/s)及以上,传统的无源和有源电缆将仅限于单个机架。新的解决方案,如PCIe over optics,包括有源光缆(简称AOC),将在机架到机架的连接中发挥更大的作用,以维护和发展这些AI集群。


PCIe光连接


光纤链路已经成为高速以太网连接的骨干,提供长距离数据连接,覆盖超大规模数据中心。这些优势可以通过开发新的PCIe over optics解决方案(包括AOC)应用于PCIe连接,与铜缆相比,该解决方案将PCIe连接扩展到机架集群,并改进了电缆管理。



PCIe/CXL®在光学器件上的应用通常是由相对于以太网的低延迟需求驱动的,例如缓存一致内存事务和GPU之间的并行处理工作负载。这些应用还要求通过使用专门的软件对链路进行全面管理,以确保完全符合协议和可靠性。


Astera Labs提供经过现场验证的软件定义连接解决方案,开发了多代PCIe规范,可以通过光学无缝集成PCIe。我们已经在端到端、完全兼容的链接连接中演示了这一点,这些连接代表了AI基础设施部署用例。基于光连接的PCIe 演示包括一个CPU作为RC连接到一个目标GPU和一个目标远程分解内存系统。首次在多个设备之间演示一个长距离、完全兼容的PCIe光学链路的能力,为高速PCIe光学等新产品铺平了道路。此外,该解决方案利用COSMOS软件套件的综合诊断、遥测和车队管理功能,有助于加快部署时间,并促进优化基础设施利用率。



总而言之,Astera实验室将继续创新和执行新的连接解决方案,以支持AI平台的加速部署,促进下一代生成式AI应用程序的快速发展。利用通用COSMOS软件套件的软件定义架构提供解决方案,实现灵活可靠的连接,跨越芯片到芯片,箱到箱,机架到机架,现在,通过光学器件的PCIe演示,跨数据中心的行到行应用程序。


这对于超大规模企业和AI平台供应商来说是有价值的,因为基础设施管理的诊断和遥测集成是一项重大投资,可以充分利用最新的基于光连接的PCIe技术。我们很高兴成为第一个展示完整的端到端光学演示的公司,使用基于PCIe的光模块将PCIe 5.0 GPUCXL 2.0内存扩展器连接到RC


原文链接:

https://www.asteralabs.com/extending-our-connectivity-leadership-industrys-first-end-to-end-pcie-over-optics-demo/



高端微信群介绍

创业投资群


AI、IOT、芯片创始人、投资人、分析师、券商

闪存群


覆盖5000多位全球华人闪存、存储芯片精英

云计算群


全闪存、软件定义存储SDS、超融合等公有云和私有云讨论

AI芯片群


讨论AI芯片和GPU、FPGA、CPU异构计算

5G群


物联网、5G芯片讨论

第三代半导体群

氮化镓、碳化硅等化合物半导体讨论

储芯片群

DRAM、NAND、3D XPoint等各类存储介质和主控讨论

汽车电子群

MCU、电源、传感器等汽车电子讨论

光电器件群

光通信、激光器、ToF、AR、VCSEL等光电器件讨论

渠道群

存储和芯片产品报价、行情、渠道、供应链




< 长按识别二维码添加好友 >

加入上述群聊




长按并关注

带你走进万物存储、万物智能、

万物互联信息革命新时代

微信号:SSDFans




SSDFans AI+IOT+闪存,万物存储、万物智能、万物互联的闪存2.0时代即将到来,你,准备好了吗?
评论
  • RGB灯光无法同步?细致的动态光效设定反而成为产品客诉来源!随着科技的进步和消费者需求变化,电脑接口设备单一功能性已无法满足市场需求,因此在产品上增加「动态光效」的形式便应运而生,藉此吸引消费者目光。这种RGB灯光效果,不仅能增强电脑周边产品的视觉吸引力,还能为用户提供个性化的体验,展现独特自我风格。如今,笔记本电脑、键盘、鼠标、鼠标垫、耳机、显示器等多种电脑接口设备多数已配备动态光效。这些设备的灯光效果会随着音乐节奏、游戏情节或使用者的设置而变化。想象一个画面,当一名游戏玩家,按下电源开关,整
    百佳泰测试实验室 2025-02-27 14:15 137浏览
  • 应用趋势与客户需求,AI PC的未来展望随着人工智能(AI)技术的日益成熟,AI PC(人工智能个人电脑)逐渐成为消费者和企业工作中的重要工具。这类产品集成了最新的AI处理器,如NPU、CPU和GPU,并具备许多智能化功能,为用户带来更高效且直观的操作体验。AI PC的目标是提升工作和日常生活的效率,通过深度学习与自然语言处理等技术,实现更流畅的多任务处理、实时翻译、语音助手、图像生成等功能,满足现代用户对生产力和娱乐的双重需求。随着各行各业对数字转型需求的增长,AI PC也开始在各个领域中显示
    百佳泰测试实验室 2025-02-27 14:08 252浏览
  • 在物联网领域中,无线射频技术作为设备间通信的核心手段,已深度渗透工业自动化、智慧城市及智能家居等多元场景。然而,随着物联网设备接入规模的不断扩大,如何降低运维成本,提升通信数据的传输速度和响应时间,实现更广泛、更稳定的覆盖已成为当前亟待解决的系统性难题。SoC无线收发模块-RFM25A12在此背景下,华普微创新推出了一款高性能、远距离与高性价比的Sub-GHz无线SoC收发模块RFM25A12,旨在提升射频性能以满足行业中日益增长与复杂的设备互联需求。值得一提的是,RFM25A12还支持Wi-S
    华普微HOPERF 2025-02-28 09:06 143浏览
  • 构建巨量的驾驶场景时,测试ADAS和AD系统面临着巨大挑战,如传统的实验设计(Design of Experiments, DoE)方法难以有效覆盖识别驾驶边缘场景案例,但这些边缘案例恰恰是进一步提升自动驾驶系统性能的关键。一、传统解决方案:静态DoE标准的DoE方案旨在系统性地探索场景的参数空间,从而确保能够实现完全的测试覆盖范围。但在边缘案例,比如暴露在潜在安全风险的场景或是ADAS系统性能极限场景时,DoE方案通常会失效,让我们看一些常见的DoE方案:1、网格搜索法(Grid)实现原理:将
    康谋 2025-02-27 10:00 252浏览
  •         近日,广电计量在聚焦离子束(FIB)领域编写的专业著作《聚焦离子束:失效分析》正式出版,填补了国内聚焦离子束领域实践性专业书籍的空白,为该领域的技术发展与知识传播提供了重要助力。         随着芯片技术不断发展,芯片的集成度越来越高,结构也日益复杂。这使得传统的失效分析方法面临巨大挑战。FIB技术的出现,为芯片失效分析带来了新的解决方案。它能够在纳米尺度上对芯片进行精确加工和分析。当芯
    广电计量 2025-02-28 09:15 116浏览
  •           近日受某专业机构邀请,参加了官方举办的《广东省科技创新条例》宣讲会。在与会之前,作为一名技术工作者一直认为技术的法例都是保密和侵权方面的,而潜意识中感觉法律有束缚创新工作的进行可能。通过一个上午学习新法,对广东省的科技创新有了新的认识。广东是改革的前沿阵地,是科技创新的沃土,企业是创新的主要个体。《广东省科技创新条例》是广东省为促进科技创新、推动高质量发展而制定的地方性法规,主要内容包括: 总则:明确立法目
    广州铁金刚 2025-02-28 10:14 103浏览
  • Matter 协议,原名 CHIP(Connected Home over IP),是由苹果、谷歌、亚马逊和三星等科技巨头联合ZigBee联盟(现连接标准联盟CSA)共同推出的一套基于IP协议的智能家居连接标准,旨在打破智能家居设备之间的 “语言障碍”,实现真正的互联互通。然而,目标与现实之间总有落差,前期阶段的Matter 协议由于设备支持类型有限、设备生态协同滞后以及设备通信协议割裂等原因,并未能彻底消除智能家居中的“设备孤岛”现象,但随着2025年的到来,这些现象都将得到完美的解决。近期,
    华普微HOPERF 2025-02-27 10:32 212浏览
  • 振动样品磁强计是一种用于测量材料磁性的精密仪器,广泛应用于科研、工业检测等领域。然而,其测量准确度会受到多种因素的影响,下面我们将逐一分析这些因素。一、温度因素温度是影响振动样品磁强计测量准确度的重要因素之一。随着温度的变化,材料的磁性也会发生变化,从而影响测量结果的准确性。因此,在进行磁性测量时,应确保恒温环境,以减少温度波动对测量结果的影响。二、样品制备样品的制备过程同样会影响振动样品磁强计的测量准确度。样品的形状、尺寸和表面处理等因素都会对测量结果产生影响。为了确保测量准确度,应严格按照规
    锦正茂科技 2025-02-28 14:05 134浏览
  • 1,微软下载免费Visual Studio Code2,安装C/C++插件,如果无法直接点击下载, 可以选择手动install from VSIX:ms-vscode.cpptools-1.23.6@win32-x64.vsix3,安装C/C++编译器MniGW (MinGW在 Windows 环境下提供类似于 Unix/Linux 环境下的开发工具,使开发者能够轻松地在 Windows 上编写和编译 C、C++ 等程序.)4,C/C++插件扩展设置中添加Include Path 5,
    黎查 2025-02-28 14:39 140浏览
  • 在2024年的科技征程中,具身智能的发展已成为全球关注的焦点。从实验室到现实应用,这一领域正以前所未有的速度推进,改写着人类与机器的互动边界。这一年,我们见证了具身智能技术的突破与变革,它不仅落地各行各业,带来新的机遇,更在深刻影响着我们的生活方式和思维方式。随着相关技术的飞速发展,具身智能不再仅仅是一个技术概念,更像是一把神奇的钥匙。身后的众多行业,无论愿意与否,都像是被卷入一场伟大变革浪潮中的船只,注定要被这股汹涌的力量重塑航向。01为什么是具身智能?为什么在中国?最近,中国具身智能行业的进
    艾迈斯欧司朗 2025-02-28 15:45 221浏览
  • 美国加州CEC能效跟DOE能效有什么区别?CEC/DOE是什么关系?美国加州CEC能效跟DOE能效有什么区别?CEC/DOE是什么关系?‌美国加州CEC能效认证与美国DOE能效认证在多个方面存在显著差异‌。认证范围和适用地区‌CEC能效认证‌:仅适用于在加利福尼亚州销售的电器产品。CEC认证的范围包括制冷设备、房间空调、中央空调、便携式空调、加热器、热水器、游泳池加热器、卫浴配件、光源、应急灯具、交通信号模块、灯具、洗碗机、洗衣机、干衣机、烹饪器具、电机和压缩机、变压器、外置电源、消费类电子设备
    张工nx808593 2025-02-27 18:04 120浏览
  • 更多生命体征指标风靡的背后都只有一个原因:更多人将健康排在人生第一顺位!“AGEs,也就是晚期糖基化终末产物,英文名Advanced Glycation End-products,是存在于我们体内的一种代谢产物” 艾迈斯欧司朗亚太区健康监测高级市场经理王亚琴说道,“相信业内的朋友都会有关注,最近该指标的热度很高,它可以用来评估人的生活方式是否健康。”据悉,AGEs是可穿戴健康监测领域的一个“萌新”指标,近来备受关注。如果站在学术角度来理解它,那么AGEs是在非酶促条件下,蛋白质、氨基酸
    艾迈斯欧司朗 2025-02-27 14:50 400浏览
  • 一、VSM的基本原理震动样品磁强计(Vibrating Sample Magnetometer,简称VSM)是一种灵敏且高效的磁性测量仪器。其基本工作原理是利用震动样品在探测线圈中引起的变化磁场来产生感应电压,这个感应电压与样品的磁矩成正比。因此,通过测量这个感应电压,我们就能够精确地确定样品的磁矩。在VSM中,被测量的样品通常被固定在一个震动头上,并以一定的频率和振幅震动。这种震动在探测线圈中引起了变化的磁通量,从而产生了一个交流电信号。这个信号的幅度和样品的磁矩有着直接的关系。因此,通过仔细
    锦正茂科技 2025-02-28 13:30 100浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦