点击蓝字 关注我们
SUBSCRIBE to US
Alamy
对人工智能兴趣的激增正在产生对计算能力的巨大需求。在全球范围内,企业都在努力满足为越来越先进的人工智能模型提供动力所需的大量图形处理器(GPU)。虽然GPU不是运行人工智能模型的唯一选择,但由于它们能够高效地同时处理多项操作——这是开发深度学习模型时的一个关键特性,它们已成为首选硬件(https://spectrum.ieee.org/ai-chip-sambanova)。
但并非每个人工智能初创企业都有资金投资如今运行前沿模型所需的大量GPU。对一些企业来说,外包是更好的选择。这就催生了一项新业务:GPU-as-a-Service(GPUaaS,算力服务)。近年来,像Hyperbolic、Kinesis、Runpod和Vast.ai这样的公司纷纷涌现,为客户远程提供所需的处理能力。
虽然像亚马逊或微软这样提供云计算服务的科技巨头拥有自己的基础设施,但像Kinesis这样较小的初创企业已经创造出一些技术来充分利用现有的闲置算力。
“企业需要算力。他们需要模型得到训练,或者让他们的应用程序得以运行;他们不一定需要拥有或管理服务器,”Kinesis的联合创始人Bina Khimani说道。
研究表明,在任何特定时间,现有超过一半的GPU都处于未使用状态(https://dl.acm.org/doi/10.1145/3597503.3639232)。不管我们说的是个人电脑还是大型服务器群,很多处理能力都没有得到充分利用。Kinesis所做的就是识别全球服务器中GPU和CPU(中央处理器)的闲置算力,并将它们整合为一个单一的计算资源供企业使用。Kinesis与愿意出售其闲置计算能力的大学、数据中心、企业和个人开展合作。通过安装在他们服务器上的一种特殊软件,Kinesis检测闲置处理单元,对其进行准备工作,然后将它们提供给客户临时使用。
Khimani说:“在Kinesis公司,我们已经开发出相关技术,能将分散的闲置算力汇集起来,然后将其重新用于一个无服务器、自动管理的计算平台。”Kinesis的客户甚至可以选择他们所需的GPU或CPU的来源。
人工智能的发展速度超过了服务器的跟进速度
GPUaaS正在填补人工智能行业中日益扩大的缺口。随着学习模型变得更加复杂,它们需要更多的算力以及能够越来越快地处理信息的基础设施。换句话说,如果没有足够数量的GPU,大型人工智能模型就无法运行——更不用说改进了。10月,OpenAI的首席执行官Sam Altman承认,公司发布产品的频率没有达到他们的期望,因为他们在计算能力方面面临“诸多限制”(https://techcrunch.com/2024/10/31/openai-ceo-sam-altman-says-lack-of-compute-is-delaying-the-companys-products/)。
同样在10月,微软的首席财务官Amy Woods在一次电话会议中告知公司的投资者,对人工智能的需求“持续高于”他们的“可用产能”(https://www.microsoft.com/en-us/Investor/events/FY-2025/earnings-fy-2025-q1)。
GPUaaS最大的优势在于经济实惠。由于无需购买和维护物理基础设施,这使得企业能够避免在服务器和信息技术(IT)管理方面进行投资,转而将资源用于改进自身的深度学习、大语言和大视觉模型。它还能让客户按照使用GPU的实际数量付费,从而节省自身服务器必然会产生的闲置算力成本。
像Kinesis这样的无服务器初创企业还声称,与传统云计算公司相比,它们对环境更友好。他们表示,通过利用现有的闲置处理单元而非为额外的服务器供电,能够显著降低能耗。在过去五年中,由于人工智能消耗大量能源,谷歌和微软等大型科技公司的碳排放量飙升。作为回应,一些公司已经将目光投向核能,以便为其服务器可持续供电。Kinesis和其他新兴初创企业提供了第三条路线,即无需再接入更多服务器。
“行业领导者们坚定致力于可持续发展,”Khimani说道,“着眼于创新和效率,他们能够优化那些已经在运行且消耗能量的现有计算能力,而不必为运行的每个新应用不断增加更多服务器。”
对机器学习日益增长的需求以及海量的数据消耗正在使GPUaaS成为一个非常有利可图的科技领域。2023年,该行业的市场规模估值为32.3亿美元;2024年,增长到43.1亿美元。预计到2032年将增长到498.4亿美元(https://www.fortunebusinessinsights.com/gpu-as-a-service-market-107797)。
“人工智能行业正在迅速迈向一个新阶段,重点正从仅仅构建和训练模型转向优化效率,”Khimani说,“客户越来越多地提出这样的问题:‘在训练一个新模型时,我们如何能做到极具针对性,而不消耗大量需要巨额算力和能源的数据呢?’”
微信号|IEEE电气电子工程师学会
新浪微博|IEEE中国
· IEEE电气电子工程师学会 ·
往
期
推
荐
动手协作:建立机器人肌肉记忆
这个背包原型减轻了自身的重量和内部物品的晃动
脑机接口预示着未来生活质量的提高
最新研究表明AI工具能悄无声息地改变我们的观点