人工智能难逃“能源危机”?

美股研究社 2024-06-26 18:56


ChatGPT查询比传统的Google搜索耗电量高出6到10倍。


作者 | Calamos Investments
编译 | 华尔街大事件


所有在线互动都依赖于存储在远程服务器中的数据。这些服务器堆叠在世界各地的数据中心,需要大量能源。目前,数据中心约占全球用电量的1.0%–1.5%,预计到本世纪末,这一数字将增加到3%–4%,这在很大程度上是由于人工智能(AI)的蓬勃发展。

         

 

人工智能已经成为一股变革力量,改变了我们处理、分析和利用所有行业数据的方式。人工智能发展如此迅速,世界经济论坛报告称,维持人工智能崛起所需的计算能力大约每100天翻一番

         

 

而且,人工智能计算比传统的互联网查询耗能更多。例如,ChatGPT查询比传统的Google搜索耗电量高出6到10倍。

         

 

         

 

根据施耐德电气(OTCPK:SBGSF)白皮书,人工智能目前约占4.5 GW的电力消耗,预计将以每年25%至33%的速度增长,到2028年总消耗量将达到14 GW至18.7 GW。

         

 

         

 

如上表所示,AI工作负载分为两个关键阶段(训练和推理)。这两个阶段主要通过能源使用和水消耗来影响环境。目前,AI的环境足迹分为训练阶段约占20%,推理阶段占80%。

         

 

在训练阶段,AI模型通过消化大量数据来学习模式,这需要大量的能源。例如,训练GPT-3(ChatGPT的前身)的图形处理单元(GPU)估计消耗了1,300兆瓦时的电力,大致相当于1,450个美国家庭每月平均用电量。这些模型还需要冷却用水以及发电和制造用水。

         

 

据摩根大通的ChatESG 8称,“在微软最先进的美国数据中心训练GPT-3会蒸发70万升清洁淡水。”

         

 

训练完成后,AI模型将进入推理阶段并开始运行。新工具可以减轻人工智能的工作量:

         

 

限制功率。为了降低AI工作负载的能耗,制造商和开发商都在研究限制GPU功耗的方法,并提高工作负载的准确性。“限制功率”是一种可通过软件在数据中心采用的技术。它涉及设置GPU或CPU等硬件组件的功耗限制,以管理能源使用情况。根据麻省理工学院林肯实验室10的研究,在AI模型训练期间限制GPU的功率可使能耗减少12%–15%。但缺点是,限制功率可能会使任务时间增加约3%。但是,考虑到模型的训练时间为几天、几周或几个月,这个时间增加可以忽略不计。

         

 

剔除表现不佳的模型。此外,在训练期间,AI开发人员可以专注于提高准确性。通过分析模型学习的速度,开发人员可以尽早停止表现不佳的模型。再次引用林肯实验室的研究,“......尽早停止可以带来巨大的节省:用于模型训练的能量减少了80%。”

         

 

优化硬件。为了提高推理阶段的能源效率,可以利用优化器将AI模型与碳效率最高的硬件组合进行匹配,例如,在计算密集的推理部分使用高功率GPU,在计算要求较低的部分使用低功耗中央处理器(CPU),可以在不影响性能的情况下将能耗降低10%至20%11。

         

 

微软是一家采用工具来减轻AI工作量的公司。据该公司称,截至2023年6月,微软已将其功率上限系统部署到公司数据中心的数百万台服务器上,从而释放了数百兆瓦的收获电能12。该上限系统还允许Bing和Bing Ads通过最大化进气量(也称为涡轮增压)安全地提高性能,从而使性能提高约20%。

         

 

微软还开发了定制数据中心芯片,例如Azure Maia(也称为Maia 100),这是一款针对AI优化的GPU,专为运行复杂的AI工作负载而设计。它基于5nm节点构建,并针对可扩展性和可持续性进行了优化,具有动态功率优化和液体冷却等功能。

         

 

数据中心的能源需求由计算(占电力需求的40%)和冷却(占40%)驱动。剩余的20%则由电源、存储和通信设备13所占。因此,数据中心基础设施的改善也可以在减少数据中心对环境的影响方面发挥重要作用。

         

 

由于冷却占数据中心能源需求的40%,因此高效冷却是重中之重。从空气冷却到液体冷却的转变是一项潜在的基础设施创新,许多人认为它具有变革性。在直接进入芯片的液体冷却方法中,“……冷却液在服务器中循环以吸收和散发热量,并且作为一种处理AI集群产生的集中热量的更有效方法,它正在迅速普及。”14与空气冷却相比,液体冷却消耗的能量减少了10%15,提高了电力利用率,并减少了用水量。

         

 

英伟达正在积极支持其高性能数据中心GPU的直接芯片液体冷却。他们已经发布了采用这种冷却方法的首款数据中心PCIe GPU。此外,英伟达计划继续支持其GPU和HGX平台中的液体冷却。总之,这种方法提高了AI工作负载的效率、可持续性和最佳系统性能。此外,Nv获得了美国能源部(DOE)的500万美元奖励,用于开发一种结合两相直接芯片和浸入式冷却技术的冷却解决方案,使用符合环保要求的制冷剂16。

         

 

目前全球约有8,000个数据中心在运营。美国以占数据中心总数的三分之一领先,其次是欧洲(16%)和在华(10%)。在过去十年中,这些数据中心的性质已经发生了变化,从“传统”转变为“云”和“超大规模”。

         

 

    

         

 

随着超大规模企业(即最大的数据中心所有者-谷歌、微软和亚马逊)的崛起,数据中心的效率有所提高,因为上述所有公司都制定了气候目标,并面临着实现这些目标的内部和外部压力。但人工智能的崛起正在危及这些企业目标。目前采购可再生能源或利用碳信用/抵消的做法已不再足够。

         

 

谷歌除了确保使用高效硬件、弹性电源和冷却系统来改善AI工作负载之外,超大规模企业还必须确保采购可再生能源。为此,许多企业都在效仿谷歌进行“负荷转移”。超大规模企业不再仅仅依赖电网的化石燃料和可再生能源组合,而是试图以每日甚至每小时为单位转移全球数据中心的运营,以跨时区获取过剩的可再生能源生产运营。谷歌迈出了开创性的一步,按小时将其数据中心的电力使用与零碳能源保持一致。然而,实现不间断的清洁能源仍然难以实现。

         

 

人工智能是一项变革性技术,但它的使用直接导致碳排放量上升和数百万加仑淡水的消耗。然而,它也可以发挥积极作用,提高建筑效率、医疗保健和气候建模。显而易见的是,人工智能的发展不能以牺牲地球为代价。

         

 

因此,美国和国外的许多官方代表正在努力开发一个标准化系统,以报告人工智能对社会和环境的影响。引领这一进程的是国际标准化组织(ISO),它将发布“可持续人工智能”的标准,其中包括衡量能源效率、原材料使用、运输和水消耗的标准,以及在整个生命周期内减少人工智能影响的做法。“ISO希望让人工智能用户能够就他们的人工智能消费做出明智的决定。”


关注下面公众号

和我一起探索港股市场的所有秘密

👇🏻

美股研究社 美股研究社,一个专注研究美股的平台,专业的美股投资人都在这.想了解美国股市行情、美股开户、美股资讯、美股公司;
评论
  • 数字隔离芯片是现代电气工程师在进行电路设计时所必须考虑的一种电子元件,主要用于保护低压控制电路中敏感电子设备的稳定运行与操作人员的人身安全。其不仅能隔离两个或多个高低压回路之间的电气联系,还能防止漏电流、共模噪声与浪涌等干扰信号的传播,有效增强电路间信号传输的抗干扰能力,同时提升电子系统的电磁兼容性与通信稳定性。容耦隔离芯片的典型应用原理图值得一提的是,在电子电路中引入隔离措施会带来传输延迟、功耗增加、成本增加与尺寸增加等问题,而数字隔离芯片的目标就是尽可能消除这些不利影响,同时满足安全法规的要
    华普微HOPERF 2025-01-15 09:48 158浏览
  • 故障现象 一辆2007款法拉利599 GTB车,搭载6.0 L V12自然吸气发动机(图1),累计行驶里程约为6万km。该车因发动机故障灯异常点亮进厂检修。 图1 发动机的布置 故障诊断接车后试车,发动机怠速轻微抖动,发动机故障灯长亮。用故障检测仪检测,发现发动机控制单元(NCM)中存储有故障代码“P0300 多缸失火”“P0309 气缸9失火”“P0307 气缸7失火”,初步判断发动机存在失火故障。考虑到该车使用年数较长,决定先使用虹科Pico汽车示波器进行相对压缩测试,以
    虹科Pico汽车示波器 2025-01-15 17:30 87浏览
  • 随着消费者对汽车驾乘体验的要求不断攀升,汽车照明系统作为确保道路安全、提升驾驶体验以及实现车辆与环境交互的重要组成,日益受到业界的高度重视。近日,2024 DVN(上海)国际汽车照明研讨会圆满落幕。作为照明与传感创新的全球领导者,艾迈斯欧司朗受邀参与主题演讲,并现场展示了其多项前沿技术。本届研讨会汇聚来自全球各地400余名汽车、照明、光源及Tier 2供应商的专业人士及专家共聚一堂。在研讨会第一环节中,艾迈斯欧司朗系统解决方案工程副总裁 Joachim Reill以深厚的专业素养,主持该环节多位
    艾迈斯欧司朗 2025-01-16 20:51 71浏览
  • 晶台光耦KL817和KL3053在小家电产品(如微波炉等)辅助电源中的广泛应用。具备小功率、高性能、高度集成以及低待机功耗的特点,同时支持宽输入电压范围。▲光耦在实物应用中的产品图其一次侧集成了交流电压过零检测与信号输出功能,该功能产生的过零信号可用于精确控制继电器、可控硅等器件的过零开关动作,从而有效减小开关应力,显著提升器件的使用寿命。通过高度的集成化和先进的控制技术,该电源大幅减少了所需的外围器件数量,不仅降低了系统成本和体积,还进一步增强了整体的可靠性。▲电路示意图该电路的过零检测信号由
    晶台光耦 2025-01-16 10:12 84浏览
  • 近期,智能家居领域Matter标准的制定者,全球最具影响力的科技联盟之一,连接标准联盟(Connectivity Standards Alliance,简称CSA)“利好”频出,不仅为智能家居领域的设备制造商们提供了更为快速便捷的Matter认证流程,而且苹果、三星与谷歌等智能家居平台厂商都表示会接纳CSA的Matter认证体系,并计划将其整合至各自的“Works with”项目中。那么,在本轮“利好”背景下,智能家居的设备制造商们该如何捉住机会,“掘金”万亿市场呢?重认证快通道计划,为家居设备
    华普微HOPERF 2025-01-16 10:22 137浏览
  • 实用性高值得收藏!! (时源芯微)时源专注于EMC整改与服务,配备完整器件 TVS全称Transient Voltage Suppre,亦称TVS管、瞬态抑制二极管等,有单向和双向之分。单向TVS 一般应用于直流供电电路,双向TVS 应用于电压交变的电路。在直流电路的应用中,TVS被并联接入电路中。在电路处于正常运行状态时,TVS会保持截止状态,从而不对电路的正常工作产生任何影响。然而,一旦电路中出现异常的过电压,并且这个电压达到TVS的击穿阈值时,TVS的状态就会
    时源芯微 2025-01-16 14:23 128浏览
  • 80,000人到访的国际大展上,艾迈斯欧司朗有哪些亮点?感未来,光无限。近日,在慕尼黑electronica 2024现场,ams OSRAM通过多款创新DEMO展示,以及数场前瞻洞察分享,全面展示自身融合传感器、发射器及集成电路技术,精准捕捉并呈现环境信息的卓越能力。同时,ams OSRAM通过展会期间与客户、用户等行业人士,以及媒体朋友的深度交流,向业界传达其以光电技术为笔、以创新为墨,书写智能未来的深度思考。electronica 2024electronica 2024构建了一个高度国际
    艾迈斯欧司朗 2025-01-16 20:45 74浏览
  • 食物浪费已成为全球亟待解决的严峻挑战,并对环境和经济造成了重大影响。最新统计数据显示,全球高达三分之一的粮食在生产过程中损失或被无谓浪费,这不仅导致了资源消耗,还加剧了温室气体排放,并带来了巨大经济损失。全球领先的光学解决方案供应商艾迈斯欧司朗(SIX:AMS)近日宣布,艾迈斯欧司朗基于AS7341多光谱传感器开发的创新应用来解决食物浪费这一全球性难题。其多光谱传感解决方案为农业与食品行业带来深远变革,该技术通过精确判定最佳收获时机,提升质量控制水平,并在整个供应链中有效减少浪费。 在2024
    艾迈斯欧司朗 2025-01-14 18:45 120浏览
  • 一个易用且轻量化的UI可以大大提高用户的使用效率和满意度——通过快速启动、直观操作和及时反馈,帮助用户快速上手并高效完成任务;轻量化设计则可以减少资源占用,提升启动和运行速度,增强产品竞争力。LVGL(Light and Versatile Graphics Library)是一个免费开源的图形库,专为嵌入式系统设计。它以轻量级、高效和易于使用而著称,支持多种屏幕分辨率和硬件配置,并提供了丰富的GUI组件,能够帮助开发者轻松构建出美观且功能强大的用户界面。近期,飞凌嵌入式为基于NXP i.MX9
    飞凌嵌入式 2025-01-16 13:15 127浏览
  • 日前,商务部等部门办公厅印发《手机、平板、智能手表(手环)购新补贴实施方案》明确,个人消费者购买手机、平板、智能手表(手环)3类数码产品(单件销售价格不超过6000元),可享受购新补贴。每人每类可补贴1件,每件补贴比例为减去生产、流通环节及移动运营商所有优惠后最终销售价格的15%,每件最高不超过500元。目前,京东已经做好了承接手机、平板等数码产品国补优惠的落地准备工作,未来随着各省市关于手机、平板等品类的国补开启,京东将第一时间率先上线,满足消费者的换新升级需求。为保障国补的真实有效发放,基于
    华尔街科技眼 2025-01-17 10:44 76浏览
  • 随着智慧科技的快速发展,智能显示器的生态圈应用变得越来越丰富多元,智能显示器不仅仅是传统的显示设备,透过结合人工智能(AI)和语音助理,它还可以成为家庭、办公室和商业环境中的核心互动接口。提供多元且个性化的服务,如智能家居控制、影音串流拨放、实时信息显示等,极大提升了使用体验。此外,智能家居系统的整合能力也不容小觑,透过智能装置之间的无缝连接,形成了强大的多元应用生态圈。企业也利用智能显示器进行会议展示和多方远程合作,大大提高效率和互动性。Smart Display Ecosystem示意图,作
    百佳泰测试实验室 2025-01-16 15:37 132浏览
  •  光伏及击穿,都可视之为 复合的逆过程,但是,复合、光伏与击穿,不单是进程的方向相反,偏置状态也不一样,复合的工况,是正偏,光伏是零偏,击穿与漂移则是反偏,光伏的能源是外来的,而击穿消耗的是结区自身和电源的能量,漂移的载流子是 客席载流子,须借外延层才能引入,客席载流子 不受反偏PN结的空乏区阻碍,能漂不能漂,只取决于反偏PN结是否处于外延层的「射程」范围,而穿通的成因,则是因耗尽层的过度扩张,致使跟 端子、外延层或其他空乏区 碰触,当耗尽层融通,耐压 (反向阻断能力) 即告彻底丧失,
    MrCU204 2025-01-17 11:30 91浏览
  • 百佳泰特为您整理2025年1月各大Logo的最新规格信息,本月有更新信息的logo有HDMI、Wi-Fi、Bluetooth、DisplayHDR、ClearMR、Intel EVO。HDMI®▶ 2025年1月6日,HDMI Forum, Inc. 宣布即将发布HDMI规范2.2版本。新规范将支持更高的分辨率和刷新率,并提供更多高质量选项。更快的96Gbps 带宽可满足数据密集型沉浸式和虚拟应用对传输的要求,如 AR/VR/MR、空间现实和光场显示,以及各种商业应用,如大型数字标牌、医疗成像和
    百佳泰测试实验室 2025-01-16 15:41 129浏览
  • 电竞鼠标应用环境与客户需求电竞行业近年来发展迅速,「鼠标延迟」已成为决定游戏体验与比赛结果的关键因素。从技术角度来看,传统鼠标的延迟大约为20毫秒,入门级电竞鼠标通常为5毫秒,而高阶电竞鼠标的延迟可降低至仅2毫秒。这些差异看似微小,但在竞技激烈的游戏中,尤其在对反应和速度要求极高的场景中,每一毫秒的优化都可能带来致胜的优势。电竞比赛的普及促使玩家更加渴望降低鼠标延迟以提升竞技表现。他们希望通过精确的测试,了解不同操作系统与设定对延迟的具体影响,并寻求最佳配置方案来获得竞技优势。这样的需求推动市场
    百佳泰测试实验室 2025-01-16 15:45 177浏览
  • 全球领先的光学解决方案供应商艾迈斯欧司朗(SIX:AMS)近日宣布,与汽车技术领先者法雷奥合作,采用创新的开放系统协议(OSP)技术,旨在改变汽车内饰照明方式,革新汽车行业座舱照明理念。结合艾迈斯欧司朗开创性的OSIRE® E3731i智能LED和法雷奥的动态环境照明系统,两家公司将为车辆内饰设计和功能设立一套全新标准。汽车内饰照明的作用日益凸显,座舱设计的主流趋势应满足终端用户的需求:即易于使用、个性化,并能提供符合用户生活方式的清晰信息。因此,动态环境照明带来了众多新机遇。智能LED的应用已
    艾迈斯欧司朗 2025-01-15 19:00 71浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦