人工智能对数据中心基础设施带来了哪些挑战?

安森美 2024-11-11 19:01

本文作者:安森美(onsemi)高级总监Aditya Jain

在加密货币和人工智能/机器学习(AI/ML)等新兴应用的驱动下,数据中心的能耗巨大,并将快速增长以满足用户需求。根据国际能源署(IEA)的最新报告,2022 年数据中心的耗电量将达到 460 TWh(太瓦时),约占全球总用电量的 2%。在美国,拥有全球三分之一的数据中心,耗电量为 260 TWh,占总用电量的 6%。



预测未来具有挑战性,这取决于部署了多少非常耗电的图形处理单元(GPU)来应对人工智能技术的需求,当然还取决于进一步增加空调来降低数据中心的温度。国际能源署的报告显示,到 2026 年,数据中心的耗电量将至少增长到 650 TWh(40%),但也可能高达 1,050  TWh(128%)。

数据中心支持人工智能趋势

人工智能是一项极其耗电的技术,支持其运行的数据中心需要具备足够的算力和电力输送能力。瑞典RISE研究机构最近的一项研究清楚地展示了由于该技术迅速普及所带来的巨大变化。例如,ChatGPT在2022年11月推出后仅五天内就达到了100万用户。他们在两个月内就拥有了 1 亿用户,而TikTok达到同一用户量级用了9个月,Instagram则用了两年半的时间。


作为参考,在谷歌上进行一次搜索仅需 0.28 Wh,相当于让一个60W的灯泡亮17秒。

相比之下,训练 GPT-4 需要 1.7 万亿个参数和 13 万亿个tokens(单词片段),这是一个完全不同的命题。要做到这一点,需要包含 25,000 个英伟达 A100 GPU的多台服务器,每台服务器的功耗约为 6.5 kW。OpenAI 表示,训练耗时 100 天,耗能约 50 GWh,耗资 1 亿美元。


显然,人工智能将极大地改变数据中心的游戏规则,其所需的计算能力和能耗水平将远远超过我们迄今为止所看到的任何水平。

数据中心 48V 架构

早期的数据中心采用集中式电源架构 (CPA),将主电源(电网)电压集中转换为 12V(母线电压),然后将其分配给各服务器,并使用相对简单的转换器在本地将其转换为5V 或 3.3V逻辑电平。


然而,随着功率需求的增长,12V 母线上的电流(以及相关损耗)变得高得令人无法接受,迫使系统工程师改用48V 母线布置。根据欧姆定律,电流减少了 4 倍,损耗则降低了 4 倍的平方。这种配置被称为分布式电源架构 (DPA)。


与此同时,处理器和其他一些元器件的电压也在不断降低,最终降至亚伏特级别,导致需要多个次级电压轨。为解决这一问题,采用了二阶转换技术,通过DC-DC转换器(称为中间母线转换器 - IBC)将 48V 电压转换为 12V 母线,再根据需要从 12V 母线输出其他电压。


图1 服务器电源系统的结构

对高能效 MOSFET的需求

数据中心内部的电力损耗给运营商带来了挑战。首先,也是最明显的一点是,他们正在为那些无助于服务器运行的电力付费。其次,任何浪费的能源都会转化为热量,这就必须设法处理。由于超大规模AI服务器的功率需求高达 120 kW(而且肯定会随着时间推移而增加),即使在 50% 负载的情况下,以 97.5% 的峰值效率计算 2.5% 的损耗,每台服务器也会浪费 1.5 kW的电力,相当于一台全时运行的电加热器。


处理热量可能需要在功率转换系统中采取散热措施,如散热器或风扇。这些措施会增大电源的体积,占用本可用于更多计算能力的空间,就风扇而言,还会耗费电能并增加成本。由于数据中心内的温度需要严格控制,过高的损耗也会使环境温度升高,这意味着需要更多的空调来降温。这既是资本支出,也是运营成本,同时还占用空间。


显然,尽可能高效地将主(电网)电压转换为驱动人工智能 GPU 和其他设备供电所需的电压,对数据中心运营商来说大有裨益。


因此,多年来人们在电源拓扑结构方面做了大量工作,在前端 PFC 阶段引入了图腾柱PFC (TPPFC) 等技术,以提高其效率。此外,为了提高效率,二极管整流器已被 MOSFET 所取代,并引入了同步整流等技术。


优化拓扑结构只是其中的一半,要优化效率,所有元件也必须尽可能高效,尤其是对转换过程至关重要的 MOSFET。


当 MOSFET 用于开关电源转换时,主要有两种形式的损耗:导通损耗和开关损耗。导通损耗由漏极和源极之间的电阻(RDS(ON))造成,在电流流动时一直存在。开关损耗是由栅极电荷 (Qg)、输出电荷 (QOSS) 和反向恢复电荷 (Qrr) 共同造成的,这些电荷在每个开关周期都会得到补充。由于目前的趋势是提高开关频率以减小磁性元件的尺寸,因此随着补充频率的增加,这种损耗也会变得相当显著。


显然,特定 MOSFET 的导通损耗和开关损耗越低,电源系统的整体转换效率就越高。

PowerTrench® T10 MOSFET 简介

同步整流现在已成为所有高性能、大电流、低压电源转换应用中的关键技术,特别是在数据中心服务器的应用中更是如此。在这种应用中,包括RDS(ON)、Qg、QOSS和Qrr在内的几个MOSFET参数会直接影响转换效率,器件制造商正努力寻求减小这些影响的方法。


安森美的 PowerTrench T10 MOSFET 采用新型屏蔽栅极沟道设计,实现了超低的 Qg 值,且 RDS(ON) 低于 1mOhm 。最新的 PowerTrench T10 技术不仅减少了振铃、过冲和噪声,其业界先进的软恢复体二极管还降低了 Qrr。这在导通电阻性能和恢复特性之间实现了良好的折中平衡,同时还可实现具有良好反向恢复特性的低损耗快速开关。


总体而言,PowerTrench T10 器件在参数方面的改进提高了中低压、大电流开关电源解决方案的效率。通常情况下,开关损耗比上一代器件最多可降低 50%,而导通损耗可降低 30%-40%。


安森美推出了PowerTrench T10技术的40V系列和80V系列产品。NTMFWS1D5N08X(80V、1.43mΩ、5mm x 6mm SO8-FL 封装)和 NTTFSSCH1D3N04XL(40V、1.3mΩ、3.3mm x 3.3mm 源下双冷却封装)为人工智能数据中心应用中的电源单元(PSU)和中间母线转换器(IBC)提供了同类极佳的效率(FOM)。它们达到了开放式机架(Open Rack) V3 规范要求的 97.5% 的 PSU 效率和 98% 的 IBC 效率。


图2 PowerTrench T10 MOSFET 的优势

结语

人工智能革命已经到来,没有人能够完全确定它对数据中心未来的电力输送需求究竟意味着什么。不过,可以肯定的是,一系列新的挑战已经出现。房地产资源稀缺和电网的限制使得很难找到容量充足的新地点。关键 IT 方面的总体电力需求激增,给电力成本带来沉重负担。为了满足这些需求,数据中心业主不仅要建设新设施,还要将现有设施推向极限,力求实现每平方英尺兆瓦级的高密度配置。


随着功率水平肯定会超过 100 kW,功率转换将成为关键重点,以实现高效运行,确保散热,可靠地提高功率密度,并在狭窄的现代数据中心中节省空间。


安森美的 PowerTrench T10 技术提供了业界先进的RDS(ON)、更高的功率密度、降低开关损耗,以及更好的热性能,从而降低总系统成本。PowerTrench T10 等创新功率半导体技术将成为未来的关键组成部分。



⭐点个星标,茫茫人海也能一眼看到我⭐

「 点赞、在看,记得两连~ 」

安森美 安森美(onsemi, 纳斯达克股票代码:ON)专注于汽车和工业终端市场,包括汽车功能电子化和安全、可持续能源网、工业自动化以及5G和云基础设施等。以高度差异化的创新产品组合,创造智能电源和感知技术,解决最复杂的挑战,帮助建设更美好的未来。
评论 (0)
  • 贞光科技代理品牌紫光国芯的车规级LPDDR4内存正成为智能驾驶舱的核心选择。在汽车电子国产化浪潮中,其产品以宽温域稳定工作能力、优异电磁兼容性和超长使用寿命赢得市场认可。紫光国芯不仅确保供应链安全可控,还提供专业本地技术支持。面向未来,紫光国芯正研发LPDDR5车规级产品,将以更高带宽、更低功耗支持汽车智能化发展。随着智能网联汽车的迅猛发展,智能驾驶舱作为人机交互的核心载体,对处理器和存储器的性能与可靠性提出了更高要求。在汽车电子国产化浪潮中,贞光科技代理品牌紫光国芯的车规级LPDDR4内存凭借
    贞光科技 2025-04-28 16:52 305浏览
  • 随着电子元器件的快速发展,导致各种常见的贴片电阻元器件也越来越小,给我们分辨也就变得越来越难,下面就由smt贴片加工厂_安徽英特丽就来告诉大家如何分辨的SMT贴片元器件。先来看看贴片电感和贴片电容的区分:(1)看颜色(黑色)——一般黑色都是贴片电感。贴片电容只有勇于精密设备中的贴片钽电容才是黑色的,其他普通贴片电容基本都不是黑色的。(2)看型号标码——贴片电感以L开头,贴片电容以C开头。从外形是圆形初步判断应为电感,测量两端电阻为零点几欧,则为电感。(3)检测——贴片电感一般阻值小,更没有“充放
    贴片加工小安 2025-04-29 14:59 275浏览
  • 4月22日下午,备受瞩目的飞凌嵌入式「2025嵌入式及边缘AI技术论坛」在深圳深铁皇冠假日酒店盛大举行,此次活动邀请到了200余位嵌入式技术领域的技术专家、企业代表和工程师用户,共享嵌入式及边缘AI技术的盛宴!1、精彩纷呈的展区产品及方案展区是本场活动的第一场重头戏,从硬件产品到软件系统,从企业级应用到高校教学应用,都吸引了现场来宾的驻足观看和交流讨论。全产品矩阵展区展示了飞凌嵌入式丰富的产品线,从嵌入式板卡到工控机,从进口芯片平台到全国产平台,无不体现出飞凌嵌入式在嵌入式主控设备研发设计方面的
    飞凌嵌入式 2025-04-28 14:43 174浏览
  • 浪潮之上:智能时代的觉醒    近日参加了一场课题的答辩,这是医疗人工智能揭榜挂帅的国家项目的地区考场,参与者众多,围绕着医疗健康的主题,八仙过海各显神通,百花齐放。   中国大地正在发生着激动人心的场景:深圳前海深港人工智能算力中心高速运转的液冷服务器,武汉马路上自动驾驶出租车穿行的智慧道路,机器人参与北京的马拉松竞赛。从中央到地方,人工智能相关政策和消息如雨后春笋般不断出台,数字中国的建设图景正在智能浪潮中徐徐展开,战略布局如同围棋
    广州铁金刚 2025-04-30 15:24 245浏览
  • 网约车,真的“饱和”了?近日,网约车市场的 “饱和” 话题再度引发热议。多地陆续发布网约车风险预警,提醒从业者谨慎入局,这背后究竟隐藏着怎样的市场现状呢?从数据来看,网约车市场的“过剩”现象已愈发明显。以东莞为例,截至2024年12月底,全市网约车数量超过5.77万辆,考取网约车驾驶员证的人数更是超过13.48万人。随着司机数量的不断攀升,订单量却未能同步增长,导致单车日均接单量和营收双双下降。2024年下半年,东莞网约出租车单车日均订单量约10.5单,而单车日均营收也不容乐
    用户1742991715177 2025-04-29 18:28 259浏览
  • 你是不是也有在公共场合被偷看手机或笔电的经验呢?科技时代下,不少现代人的各式机密数据都在手机、平板或是笔电等可携式的3C产品上处理,若是经常性地需要在公共场合使用,不管是工作上的机密文件,或是重要的个人信息等,民众都有防窃防盗意识,为了避免他人窥探内容,都会选择使用「防窥保护贴片」,以防止数据外泄。现今市面上「防窥保护贴」、「防窥片」、「屏幕防窥膜」等产品就是这种目的下产物 (以下简称防窥片)!防窥片功能与常见问题解析首先,防窥片最主要的功能就是用来防止他人窥视屏幕上的隐私信息,它是利用百叶窗的
    百佳泰测试实验室 2025-04-30 13:28 433浏览
  • 文/郭楚妤编辑/cc孙聪颖‍越来越多的企业开始蚕食动力电池市场,行业“去宁王化”态势逐渐明显。随着这种趋势的加强,打开新的市场对于宁德时代而言至关重要。“我们不希望被定义为电池的制造者,而是希望把自己称作新能源产业的开拓者。”4月21日,在宁德时代举行的“超级科技日”发布会上,宁德时代掌门人曾毓群如是说。随着宁德时代核心新品骁遥双核电池的发布,其搭载的“电电增程”技术也走进业界视野。除此之外,经过近3年试水,宁德时代在换电业务上重资加码。曾毓群认为换电是一个重资产、高投入、长周期的产业,涉及的利
    华尔街科技眼 2025-04-28 21:55 187浏览
  • 一、gao效冷却与控温机制‌1、‌冷媒流动设计‌采用低压液氮(或液氦)通过毛细管路导入蒸发器,蒸汽喷射至样品腔实现快速冷却,冷却效率高(室温至80K约20分钟,至4.2K约30分钟)。通过控温仪动态调节蒸发器加热功率,结合温度传感器(如PT100铂电阻或Cernox磁场不敏感传感器),实现±0.01K的高精度温度稳定性。2、‌宽温区覆盖与扩展性‌标准温区为80K-325K,通过降压选件可将下限延伸至65K(液氮模式)或4K(液氦模式)。可选配475K高温模块,满足材料在ji端温度下的性能测试需求
    锦正茂科技 2025-04-30 13:08 334浏览
  • 在智能硬件设备趋向微型化的背景下,语音芯片方案厂商针对小体积设备开发了多款超小型语音芯片方案,其中WTV系列和WT2003H系列凭借其QFN封装设计、高性能与高集成度,成为微型设备语音方案的理想选择。以下从封装特性、功能优势及典型应用场景三个方面进行详细介绍。一、超小体积封装:QFN技术的核心优势WTV系列与WT2003H系列均提供QFN封装(如QFN32,尺寸为4×4mm),这种封装形式具有以下特点:体积紧凑:QFN封装通过减少引脚间距和优化内部结构,显著缩小芯片体积,适用于智能门铃、穿戴设备
    广州唯创电子 2025-04-30 09:02 311浏览
  • 在CAN总线分析软件领域,当CANoe不再是唯一选择时,虹科PCAN-Explorer 6软件成为了一个有竞争力的解决方案。在现代工业控制和汽车领域,CAN总线分析软件的重要性不言而喻。随着技术的进步和市场需求的多样化,单一的解决方案已无法满足所有用户的需求。正是在这样的背景下,虹科PCAN-Explorer 6软件以其独特的模块化设计和灵活的功能扩展,为CAN总线分析领域带来了新的选择和可能性。本文将深入探讨虹科PCAN-Explorer 6软件如何以其创新的模块化插件策略,提供定制化的功能选
    虹科汽车智能互联 2025-04-28 16:00 219浏览
  • 文/Leon编辑/cc孙聪颖‍2023年,厨电行业在相对平稳的市场环境中迎来温和复苏,看似为行业增长积蓄势能。带着对市场向好的预期,2024 年初,老板电器副董事长兼总经理任富佳为企业定下双位数增长目标。然而现实与预期相悖,过去一年,这家老牌厨电企业不仅未能达成业绩目标,曾提出的“三年再造一个老板电器”愿景,也因市场下行压力面临落空风险。作为“企二代”管理者,任富佳在掌舵企业穿越市场周期的过程中,正面临着前所未有的挑战。4月29日,老板电器(002508.SZ)发布了2024年年度报告及2025
    华尔街科技眼 2025-04-30 12:40 250浏览
我要评论
0
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦