InfiniBand - 电子工程专辑

InfiniBand

Broadcom以太网AI集群：超越InfiniBand

点击蓝字关注我们Broadcom的Hasan Siraj在讨论AI的网络需求时，强调了以太网在扩展AI集群中的核心作用，并指出其在故障恢复和成本效率方面相较于InfiniBand的优势。网络是扩展大型AI集群的关键要素，而以太网是合适的技术选择。在训练推荐模型时，Meta发现网络所花费的时间占比在18%到57%之间，这直接影响了集群的投资回报率（ROI）。AI网络的独特之处在于其对极高带宽、RDM

SSDFans 2024-10-31 358浏览
InfiniBand：赋能高性能计算网络的卓越引擎

InfiniBand作为一种先进的内网计算平台，已成为驱动高性能计算（HPC）、人工智能（AI）以及超大规模云基础设施演进的核心力量，其展现出无可比拟的性能优势。专为满足服务器级连接需求而设计，InfiniBand在服务器间的高速通信、存储设备与网络设施之间的高效互联中扮演着至关重要的角色。这一技术凭借其卓越性能和可靠表现，不仅被InfiniBand行业协会广泛接纳并积极推广，更是在全球超级计算机

智能计算芯世界 2024-06-01 938浏览
InfiniBand：突破大模型训练性能瓶颈

ChatGPT对技术的影响引发了对人工智能未来的预测，尤其是多模态技术的关注。OpenAI推出了具有突破性的多模态模型GPT-4，使各个领域取得了显著的发展。这些AI进步是通过大规模模型训练实现的，这需要大量的计算资源和高速数据传输网络。端到端InfiniBand（IB）网络作为高性能计算和AI模型训练的理想选择，发挥着重要作用。在本文中，我们将深入探讨大型语言模型（LLM）训练的概念，并探索端到

智能计算芯世界 2024-05-12 811浏览
关于InfiniBand的技术问答

随着大数据和人工智能技术的进步，对高性能计算的需求不断增长。为了满足这一需求，英伟达（NVIDIA）Quantum-2 InfiniBand平台为用户提供了卓越的分布式计算性能，实现高速和低延迟的数据传输和处理能力。下载链接：InfiniBand，撼动不了以太网？英伟达Quantum-2 Infiniband平台技术A&Q一颗Jericho3-AI芯片，用来替代InfiniBand？RoCE技术

智能计算芯世界 2024-05-04 881浏览
InfiniBand网络内计算知多少？

InfiniBand在高性能计算（HPC）和人工智能（AI）应用中发挥着关键作用，体现在它提供了高速、低延迟的网络通信能力，以支持大规模数据传输和复杂计算任务。而InfiniBand的重要性还延伸至网络内计算领域，其在此领域的应用正在逐步扩大。通过在网络内部执行计算任务，InfiniBand进一步降低了延迟并提升了整体系统效率，有力推动了HPC和AI领域向更高性能和更强智能迈进。下载链接：机器人专

智能计算芯世界 2024-05-01 622浏览
英伟达InfiniBand：面向AIGC有那些优势技术？

在AIGC的训练场景，基本上不差钱的客户都会首选InfiniBand，作为跨AI服务器节点的网络组网方案，今天我们就来讲一讲InfiniBand到底有那些针对AIGC场景的技术优化：相关阅读：InfiniBand，撼动不了以太网？英伟达Quantum-2 Infiniband平台技术A&Q一颗Jericho3-AI芯片，用来替代InfiniBand？集体计算能力（Collective C

智能计算芯世界 2024-04-25 776浏览
JimKeller建议英伟达：使用以太网，而不是InfiniBand

智能汽车安全新媒体作为传奇 CPU 设计师兼 Nvidia 竞争对手Tenstorrent首席执行官、同时也是开放标准的坚定支持者，Jim Keller 在推特上表示，Nvidia 应该在基于 Blackwell 的GB200 GPU 中使用以太网协议芯片到芯片连接，用于 AI 和 HPC。凯勒认为，这可以为英伟达及其硬件用户节省大量资金。这也将使这些客户更容易地将他们的软件迁移到不同的硬件平

谈思汽车 2024-04-19 704浏览
探索InfiniBand网络、HDR和IB在超算中应用的意义

InfiniBand（IB）是由InfiniBand贸易协会（IBTA）建立的先进计算机网络通信标准。它在高性能计算（HPC）中的广泛采用归功于它能够为网络传输提供卓越的吞吐量、带宽和低延迟。InfiniBand是计算系统内部和外部的关键数据连接。无论是通过直接链路还是通过网络交换机进行互连，InfiniBand都有助于实现服务器到存储和存储到存储数据传输的高性能网络。InfiniBand网络可扩

智能计算芯世界 2024-04-16 1193浏览
JimKeller建议英伟达：使用以太网，而不是InfiniBand

来源：内容由半导体行业观察（ID：icbank）编译自tomshardware，谢谢。作为开放标准的坚定支持者，Jim Keller 在推特上表示，Nvidia 应该在基于 Blackwell 的GB200 GPU 中使用以太网协议芯片到芯片连接，用于 AI 和 HPC。凯勒认为，这可以为英伟达及其硬件用户节省大量资金。这也将使这些客户更容易地将他们的软件迁移到不同的硬件平台，而英伟达不一定希望这

路科验证 2024-04-15 555浏览
InfiniBand与RoCE对比分析：AI数据中心网络选择指南

在当前人工智能技术飞速发展的背景下，其在包括自然语言处理、计算机视觉、自动驾驶系统、虚拟助手服务、推荐算法以及医疗诊断在内的众多前沿应用中发挥着至关重要的作用。随着AI应用的不断深化与升级，数据中心基础设施必须应对日益严苛的要求，特别是对于低延迟、高吞吐量网络的需求愈发迫切，以确保能够高效处理复杂且数据密集型的工作负载。相关阅读：InfiniBand，撼动不了以太网？英伟达Quantum-2 In

智能计算芯世界 2024-04-02 1484浏览
35页PPT，了解InfiniBand和RoCE

*转载请保留标题页哈！★★★重点在这里★★★加入鲜枣课堂“知识星球”，就可以下载这份PPT的源文件！所有素材都可以直接编辑使用！加入星球，您可以获得：1、信息通信行业白皮书、研究报告汇总（全年持续更新）2、鲜枣课堂原创的课件（PPT源文件，授权使用）3、通信领域大量的思维导图4、一些优秀的通信知识学习资料5、每月不定期行业问题解答6、每日通信行业新闻简报7、通信行业小伙伴群内交流、资源共享目录截图

鲜枣课堂 2024-01-23 685浏览
InfiniBand，撼动不了以太网？

您可能会认为，随着当今对人工智能系统的所有投资，InfiniBand 互连销售的繁荣将蚕食数据中心高端以太网互连的销售。不是这种情况。下载链接：《NVIDIA InfiniBand网络技术新特性（2023）》1、NVIDIA InfiniBand-NDR Q&A2、NVIDIA Infiniband Networking Update 2023《OFA Workshop 2023合集》《NVIDI

智能计算芯世界 2024-01-13 719浏览
【光电通信】纵览：InfiniBand与以太网标准之异同

今日光电有人说，20世纪是电的世纪，21世纪是光的世纪；知光解电，再小的个体都可以被赋能。欢迎来到今日光电！----与智者为伍为创新赋能----来源：易飞杨通信申明：感谢原创作者的辛勤付出。本号转载的文章均会在文中注明，若遇到版权问题请联系我们处理。 ----与智者为伍为创新赋能----【说明】欢迎企业和个人洽谈合作，投稿发文。欢迎联系我们诚招运营合伙人，对新媒体感兴趣，对光电

今日光电 2023-11-04 736浏览
【光电通信】InfiniBand，到底是个啥？

今日光电有人说，20世纪是电的世纪，21世纪是光的世纪；知光解电，再小的个体都可以被赋能。欢迎来到今日光电！----与智者为伍为创新赋能----█ InfiniBand的发展历程PCI总线，其实就是一条通道。迈络思传统模式 VS RDMA模式InfiniBand组网示例Infiniband报文封装格式英伟达最新的Quantum-2平台好像采用的是NDR 400G具体速率和编码方式来

今日光电 2023-08-05 2093浏览
InfiniBand，到底是个啥？

文章来源于鲜枣课堂，作者小枣君对于InfiniBand，很多搞数通的同学肯定不会陌生。进入21世纪以来，随着云计算、大数据的不断普及，数据中心获得了高速发展。而InfiniBand，就是数据中心里的一项关键技术，地位极为重要。尤其是今年以来，以ChatGPT为代表的AI大模型强势崛起，更是让InfiniBand的关注热度大涨。因为，GPT们所使用的网络，就是英伟达公司基于InfiniBand构建的

EETOP 2023-08-01 1051浏览
InfiniBand，到底是个啥？

对于InfiniBand，很多搞数通的同学肯定不会陌生。进入21世纪以来，随着云计算、大数据的不断普及，数据中心获得了高速发展。而InfiniBand，就是数据中心里的一项关键技术，地位极为重要。尤其是今年以来，以ChatGPT为代表的AI大模型强势崛起，更是让InfiniBand的关注热度大涨。因为，GPT们所使用的网络，就是英伟达公司基于InfiniBand构建的。那么，InfiniBand到

鲜枣课堂 2023-07-31 1792浏览
直播预告|InfiniBand池化方案与存算分离数据库

InfiniBand 池化方案与存算分离数据库★内容数据库是典型的 IO 密集型应用，IO 的性能将直接决定着数据库的整体性能。存算分离、分布式等技术被广泛的应用在各类型数据架构中。而 InfiniBand & RDMA 技术，在优化存算分离架构下的数据库性能方面，扮演了非常重要的角色。NVIDIA 使用 InfiniBand 网络 NVMe over Fabric 的 SSD 池化方案，实现了多

英伟达NVIDIA中国 2023-01-09 740浏览
GTC20 | 软件定义、硬件加速的可编程InfiniBand NDR网络赋能E级AI和HPC平台

在之前的2020年全球数字超算大会（SC20大会）上，NVIDIA宣布推出NVIDIA® Mellanox® 400G InfiniBand产品，这是全球第一代400Gb/s网速的端到端网络解决方案，可为全球的AI和HPC用户提供最快的网络互连性能，同时将计算、可编程性和软件定义三种技术成功地融于一体，成为业界领先的软件定义、硬件加速的可编程网络，为全球的科研人员和工程人员设计新一代计算系统和提升

英伟达NVIDIA中国 2020-12-16 1668浏览

正在努力加载更多...

广告

今日新闻

热门文章排行

广告

最新评论更多>>

一般喜欢标榜“打破垄断”“国x领先”的都死的比较快。嘴比手厉害

56089689_... 评论文章 2025-01-07

砺芯慧感：量产薄膜铂电阻传感器，打破国外30年垄断
我这，原先V10.5跑的好好的代码，更新V11后，单片机初始化时就不断重启

vaov_3734... 评论文章 2025-01-06

FreeRTOSV11.0升级了多项重要功能，兼容V10版本

资料

文库

帖子

博文

在线研讨会

EE直播间

第三代功率半导体器件测试解决方案直播时间：03月06日 10:00

E聘热招职位