Meta的AI硬件愿景:让计算架构更加开放

原创 汽车电子设计 2024-10-25 08:18
芝能智芯出品

在2024年开放计算项目(OCP)全球峰会上,Meta推出了其最新的开放式AI硬件设计,展示了推动AI计算架构开放化的坚定决心。

Meta不仅致力于技术进步,还希望通过开放的硬件设计,推动全球AI基础设施的发展,设立全新标准。

Meta通过一系列创新硬件来实现的,包括为AI工作负载量身打造的高性能计算平台、尖端的开放式机架设计,以及专门为优化AI模型性能而开发的网络架构,提升AI的计算能力,还会为整个行业提供开放、灵活的基础设施,促进更多的技术合作与创新。



Part 1

Meta的开放式AI硬件设计:
Llama 3.1的突破

Meta的Llama 3.1模型展现了其在AI模型规模和技术上的重大突破。

Llama 3.1作为一个拥有4050亿个参数、支持128k token上下文窗口的密集转换器模型,对硬件提出了前所未有的计算需求。

为满足如此庞大的计算需求,Meta部署了超过16,000个NVIDIA H100 GPU,这标志着Meta在AI集群训练中的资源调度达到了新的高度。

Meta在一年内迅速扩展训练集群的规模,从最初的1K GPU一路攀升至如今的16K GPU,标志着AI计算能力的飞跃。

相较于以前依赖128个NVIDIA A100 GPU的小规模AI任务,这种大规模集群扩展不仅提高了计算能力,还为未来的AI硬件发展奠定了坚实基础。

 网络架构的核心作用:高效无阻塞网络

在构建大型AI集群时,网络架构和带宽是决定计算效率的关键因素。

Meta采用了高性能计算(HPC)系统与高带宽网络相结合的方式,确保GPU和加速器之间的通信高速且稳定。未来几年,Meta预计每个加速器的注入带宽将达到每秒1TB,标准化的二分带宽也将与之匹配。

这一增长远超现有网络能力,预示着AI计算的飞速发展。Meta研发了多层次无阻塞网络结构,该结构在重负载下通过拥塞控制,确保网络的可预测性和稳定性。

无论面对多么复杂的AI任务,Meta的新网络架构都将为AI集群提供持续的高效性能。

 Catalina机架:AI基础设施的开放架构

Meta在开放计算项目中推出的Catalina机架,Catalina基于NVIDIA Blackwell平台设计,专为AI工作负载打造,具备模块化和灵活性的特点。

它还支持NVIDIA GB200 Grace Blackwell超级芯片,能够满足AI任务不断增长的计算需求。

Catalina解决了AI集群中GPU功耗不断增加的难题。其Orv3高功率机架(HPR)设计,能够支持高达140kW的功率需求,通过开放硬件设计,更多合作伙伴可以基于Catalina定制和部署AI解决方案。

● Grand Teton平台:支持多加速器的开放平台

Meta的Grand Teton平台自发布以来,成为AI基础设施的重要组成部分。

Grand Teton平台最初是为大规模推荐模型等内存带宽受限任务设计的,如今Meta进一步扩展了其支持范围,新增了对AMD Instinct MI300X加速器的支持。

AMD Instinct MI300X的加入,为Meta的AI任务带来了更高的计算能力与内存带宽支持。

通过高度集成的单片系统设计,新一代Grand Teton平台不仅显著提升了内存容量,还扩展了网络带宽,使其能够有效应对更大规模的AI模型训练与推理任务。



Part 2

AMD Instinct MI300X

AMD Instinct MI300X在AI硬件领域的表现尤为亮眼。作为全球首款集成式APU(加速处理单元),MI300X将CPU和GPU通过高级封装技术融合在同一芯片上。

这种异构架构能够极大地缩短数据在计算单元之间的传输延迟,并提升性能密度,尤其适用于大规模并行计算的AI推理工作负载。

MI300X配备了128GB的高带宽内存(HBM3),为复杂的深度学习模型提供了充裕的内存支持。

这一内存容量和带宽的大幅提升,有效解决了深度学习训练和推理过程中的内存瓶颈问题。


AI集群的规模扩展对网络架构提出了新的挑战。Meta推出了分解式调度结构(DSF),在应对大规模加速器协作中显示出了巨大优势。

通过开放式网络架构,Meta能够灵活应对供应链、扩展性和功率密度等问题。

DSF支持基于以太网的RoCE接口,能够连接多家供应商的加速器和网络端点,包括NVIDIA、Broadcom和AMD等。

通过这种开放式网络设计,Meta不仅提高了系统的灵活性,还为多供应商合作提供了更多机会,推动了AI基础设施的开放化发展。


Meta与微软的长期合作,为开放式AI硬件的创新提供了重要支持。

两家公司在交换机抽象接口(SAI)、OAM标准等多个关键项目上紧密合作,并联合开发了Mount Diablo分解式电源机架。通过这种跨公司合作,Meta与微软展示了开放创新的强大力量,共同推动了AI硬件的技术前沿。

Meta的AI硬件愿景不仅是技术的进步,更是对全球AI社区开放合作的承诺。通过共享先进的硬件设计和推动标准化,Meta希望促进全球开发者和企业的参与,进一步推动AI技术的普及化与发展。

未来,Meta将继续投资于开放式硬件,推动AI技术的进步,并为全世界带来更多AI的创新与机遇。


小结

2024年开放计算项目上展示其前沿的开放式AI硬件愿景,从高性能的Catalina机架到支持多加速器的Grand Teton平台,Meta通过一系列硬件创新与开放设计,推动了AI基础设施的发展。

汽车电子设计 本公众号是博主和汽车电子的行业的工程师们一起交流、探讨、思考的小结,以作为技术交流和沟通的桥梁
评论
  • 2025年2月26日,广州】全球领先的AIoT服务商机智云正式发布“Gokit5 AI智能体开发板”,该产品作为行业首个全栈式AIoT开发中枢,深度融合火山引擎云原生架构、豆包多模态大模型、扣子智能体平台和机智云Aiot开发平台,首次实现智能体开发全流程工业化生产模式。通过「扣子+机智云」双引擎协同架构与API开放生态,开发者仅需半天即可完成智能体开发、测试、发布到硬件应用的全流程,标志着智能体开发进入分钟级响应时代。一、开发框架零代码部署,构建高效开发生态Gokit5 AI智能体开发板采用 “
    机智云物联网 2025-02-26 19:01 162浏览
  • 更多生命体征指标风靡的背后都只有一个原因:更多人将健康排在人生第一顺位!“AGEs,也就是晚期糖基化终末产物,英文名Advanced Glycation End-products,是存在于我们体内的一种代谢产物” 艾迈斯欧司朗亚太区健康监测高级市场经理王亚琴说道,“相信业内的朋友都会有关注,最近该指标的热度很高,它可以用来评估人的生活方式是否健康。”据悉,AGEs是可穿戴健康监测领域的一个“萌新”指标,近来备受关注。如果站在学术角度来理解它,那么AGEs是在非酶促条件下,蛋白质、氨基酸
    艾迈斯欧司朗 2025-02-27 14:50 400浏览
  •         近日,广电计量在聚焦离子束(FIB)领域编写的专业著作《聚焦离子束:失效分析》正式出版,填补了国内聚焦离子束领域实践性专业书籍的空白,为该领域的技术发展与知识传播提供了重要助力。         随着芯片技术不断发展,芯片的集成度越来越高,结构也日益复杂。这使得传统的失效分析方法面临巨大挑战。FIB技术的出现,为芯片失效分析带来了新的解决方案。它能够在纳米尺度上对芯片进行精确加工和分析。当芯
    广电计量 2025-02-28 09:15 116浏览
  • RGB灯光无法同步?细致的动态光效设定反而成为产品客诉来源!随着科技的进步和消费者需求变化,电脑接口设备单一功能性已无法满足市场需求,因此在产品上增加「动态光效」的形式便应运而生,藉此吸引消费者目光。这种RGB灯光效果,不仅能增强电脑周边产品的视觉吸引力,还能为用户提供个性化的体验,展现独特自我风格。如今,笔记本电脑、键盘、鼠标、鼠标垫、耳机、显示器等多种电脑接口设备多数已配备动态光效。这些设备的灯光效果会随着音乐节奏、游戏情节或使用者的设置而变化。想象一个画面,当一名游戏玩家,按下电源开关,整
    百佳泰测试实验室 2025-02-27 14:15 137浏览
  • 请移步 gitee 仓库 https://gitee.com/Newcapec_cn/LiteOS-M_V5.0.2-Release_STM32F103_CubeMX/blob/main/Docs/%E5%9F%BA%E4%BA%8ESTM32F103RCT6%E7%A7%BB%E6%A4%8DLiteOS-M-V5.0.2-Release.md基于STM32F103RCT6移植LiteOS-M-V5.0.2-Release下载源码kernel_liteos_m: OpenHarmon
    逮到一只程序猿 2025-02-27 08:56 195浏览
  • Matter 协议,原名 CHIP(Connected Home over IP),是由苹果、谷歌、亚马逊和三星等科技巨头联合ZigBee联盟(现连接标准联盟CSA)共同推出的一套基于IP协议的智能家居连接标准,旨在打破智能家居设备之间的 “语言障碍”,实现真正的互联互通。然而,目标与现实之间总有落差,前期阶段的Matter 协议由于设备支持类型有限、设备生态协同滞后以及设备通信协议割裂等原因,并未能彻底消除智能家居中的“设备孤岛”现象,但随着2025年的到来,这些现象都将得到完美的解决。近期,
    华普微HOPERF 2025-02-27 10:32 214浏览
  •           近日受某专业机构邀请,参加了官方举办的《广东省科技创新条例》宣讲会。在与会之前,作为一名技术工作者一直认为技术的法例都是保密和侵权方面的,而潜意识中感觉法律有束缚创新工作的进行可能。通过一个上午学习新法,对广东省的科技创新有了新的认识。广东是改革的前沿阵地,是科技创新的沃土,企业是创新的主要个体。《广东省科技创新条例》是广东省为促进科技创新、推动高质量发展而制定的地方性法规,主要内容包括: 总则:明确立法目
    广州铁金刚 2025-02-28 10:14 103浏览
  • 一、VSM的基本原理震动样品磁强计(Vibrating Sample Magnetometer,简称VSM)是一种灵敏且高效的磁性测量仪器。其基本工作原理是利用震动样品在探测线圈中引起的变化磁场来产生感应电压,这个感应电压与样品的磁矩成正比。因此,通过测量这个感应电压,我们就能够精确地确定样品的磁矩。在VSM中,被测量的样品通常被固定在一个震动头上,并以一定的频率和振幅震动。这种震动在探测线圈中引起了变化的磁通量,从而产生了一个交流电信号。这个信号的幅度和样品的磁矩有着直接的关系。因此,通过仔细
    锦正茂科技 2025-02-28 13:30 100浏览
  • 振动样品磁强计是一种用于测量材料磁性的精密仪器,广泛应用于科研、工业检测等领域。然而,其测量准确度会受到多种因素的影响,下面我们将逐一分析这些因素。一、温度因素温度是影响振动样品磁强计测量准确度的重要因素之一。随着温度的变化,材料的磁性也会发生变化,从而影响测量结果的准确性。因此,在进行磁性测量时,应确保恒温环境,以减少温度波动对测量结果的影响。二、样品制备样品的制备过程同样会影响振动样品磁强计的测量准确度。样品的形状、尺寸和表面处理等因素都会对测量结果产生影响。为了确保测量准确度,应严格按照规
    锦正茂科技 2025-02-28 14:05 134浏览
  • 在物联网领域中,无线射频技术作为设备间通信的核心手段,已深度渗透工业自动化、智慧城市及智能家居等多元场景。然而,随着物联网设备接入规模的不断扩大,如何降低运维成本,提升通信数据的传输速度和响应时间,实现更广泛、更稳定的覆盖已成为当前亟待解决的系统性难题。SoC无线收发模块-RFM25A12在此背景下,华普微创新推出了一款高性能、远距离与高性价比的Sub-GHz无线SoC收发模块RFM25A12,旨在提升射频性能以满足行业中日益增长与复杂的设备互联需求。值得一提的是,RFM25A12还支持Wi-S
    华普微HOPERF 2025-02-28 09:06 143浏览
  • 在2024年的科技征程中,具身智能的发展已成为全球关注的焦点。从实验室到现实应用,这一领域正以前所未有的速度推进,改写着人类与机器的互动边界。这一年,我们见证了具身智能技术的突破与变革,它不仅落地各行各业,带来新的机遇,更在深刻影响着我们的生活方式和思维方式。随着相关技术的飞速发展,具身智能不再仅仅是一个技术概念,更像是一把神奇的钥匙。身后的众多行业,无论愿意与否,都像是被卷入一场伟大变革浪潮中的船只,注定要被这股汹涌的力量重塑航向。01为什么是具身智能?为什么在中国?最近,中国具身智能行业的进
    艾迈斯欧司朗 2025-02-28 15:45 221浏览
  • 1,微软下载免费Visual Studio Code2,安装C/C++插件,如果无法直接点击下载, 可以选择手动install from VSIX:ms-vscode.cpptools-1.23.6@win32-x64.vsix3,安装C/C++编译器MniGW (MinGW在 Windows 环境下提供类似于 Unix/Linux 环境下的开发工具,使开发者能够轻松地在 Windows 上编写和编译 C、C++ 等程序.)4,C/C++插件扩展设置中添加Include Path 5,
    黎查 2025-02-28 14:39 140浏览
  • 美国加州CEC能效跟DOE能效有什么区别?CEC/DOE是什么关系?美国加州CEC能效跟DOE能效有什么区别?CEC/DOE是什么关系?‌美国加州CEC能效认证与美国DOE能效认证在多个方面存在显著差异‌。认证范围和适用地区‌CEC能效认证‌:仅适用于在加利福尼亚州销售的电器产品。CEC认证的范围包括制冷设备、房间空调、中央空调、便携式空调、加热器、热水器、游泳池加热器、卫浴配件、光源、应急灯具、交通信号模块、灯具、洗碗机、洗衣机、干衣机、烹饪器具、电机和压缩机、变压器、外置电源、消费类电子设备
    张工nx808593 2025-02-27 18:04 120浏览
  • 应用趋势与客户需求,AI PC的未来展望随着人工智能(AI)技术的日益成熟,AI PC(人工智能个人电脑)逐渐成为消费者和企业工作中的重要工具。这类产品集成了最新的AI处理器,如NPU、CPU和GPU,并具备许多智能化功能,为用户带来更高效且直观的操作体验。AI PC的目标是提升工作和日常生活的效率,通过深度学习与自然语言处理等技术,实现更流畅的多任务处理、实时翻译、语音助手、图像生成等功能,满足现代用户对生产力和娱乐的双重需求。随着各行各业对数字转型需求的增长,AI PC也开始在各个领域中显示
    百佳泰测试实验室 2025-02-27 14:08 255浏览
  • 构建巨量的驾驶场景时,测试ADAS和AD系统面临着巨大挑战,如传统的实验设计(Design of Experiments, DoE)方法难以有效覆盖识别驾驶边缘场景案例,但这些边缘案例恰恰是进一步提升自动驾驶系统性能的关键。一、传统解决方案:静态DoE标准的DoE方案旨在系统性地探索场景的参数空间,从而确保能够实现完全的测试覆盖范围。但在边缘案例,比如暴露在潜在安全风险的场景或是ADAS系统性能极限场景时,DoE方案通常会失效,让我们看一些常见的DoE方案:1、网格搜索法(Grid)实现原理:将
    康谋 2025-02-27 10:00 252浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦