人工智能热潮催生了算力服务

点击蓝字 关注我们

SUBSCRIBE to US


Alamy


对人工智能兴趣的激增正在产生对计算能力的巨大需求。在全球范围内,企业都在努力满足为越来越先进的人工智能模型提供动力所需的大量图形处理器(GPU)。虽然GPU不是运行人工智能模型的唯一选择,但由于它们能够高效地同时处理多项操作——这是开发深度学习模型时的一个关键特性,它们已成为首选硬件(https://spectrum.ieee.org/ai-chip-sambanova)。


但并非每个人工智能初创企业都有资金投资如今运行前沿模型所需的大量GPU。对一些企业来说,外包是更好的选择。这就催生了一项新业务:GPU-as-a-Service(GPUaaS,算力服务)。近年来,像Hyperbolic、Kinesis、Runpod和Vast.ai这样的公司纷纷涌现,为客户远程提供所需的处理能力。


虽然像亚马逊或微软这样提供云计算服务的科技巨头拥有自己的基础设施,但像Kinesis这样较小的初创企业已经创造出一些技术来充分利用现有的闲置算力。


“企业需要算力。他们需要模型得到训练,或者让他们的应用程序得以运行;他们不一定需要拥有或管理服务器,”Kinesis的联合创始人Bina Khimani说道。


研究表明,在任何特定时间,现有超过一半的GPU都处于未使用状态(https://dl.acm.org/doi/10.1145/3597503.3639232)。不管我们说的是个人电脑还是大型服务器群,很多处理能力都没有得到充分利用。Kinesis所做的就是识别全球服务器中GPU和CPU(中央处理器)的闲置算力,并将它们整合为一个单一的计算资源供企业使用。Kinesis与愿意出售其闲置计算能力的大学、数据中心、企业和个人开展合作。通过安装在他们服务器上的一种特殊软件,Kinesis检测闲置处理单元,对其进行准备工作,然后将它们提供给客户临时使用。


Khimani说:“在Kinesis公司,我们已经开发出相关技术,能将分散的闲置算力汇集起来,然后将其重新用于一个无服务器、自动管理的计算平台。”Kinesis的客户甚至可以选择他们所需的GPU或CPU的来源。


人工智能的发展速度超过了服务器的跟进速度


GPUaaS正在填补人工智能行业中日益扩大的缺口。随着学习模型变得更加复杂,它们需要更多的算力以及能够越来越快地处理信息的基础设施。换句话说,如果没有足够数量的GPU,大型人工智能模型就无法运行——更不用说改进了。10月,OpenAI的首席执行官Sam Altman承认,公司发布产品的频率没有达到他们的期望,因为他们在计算能力方面面临“诸多限制”(https://techcrunch.com/2024/10/31/openai-ceo-sam-altman-says-lack-of-compute-is-delaying-the-companys-products/)。


同样在10月,微软的首席财务官Amy Woods在一次电话会议中告知公司的投资者,对人工智能的需求“持续高于”他们的“可用产能”(https://www.microsoft.com/en-us/Investor/events/FY-2025/earnings-fy-2025-q1)。


GPUaaS最大的优势在于经济实惠。由于无需购买和维护物理基础设施,这使得企业能够避免在服务器和信息技术(IT)管理方面进行投资,转而将资源用于改进自身的深度学习、大语言和大视觉模型。它还能让客户按照使用GPU的实际数量付费,从而节省自身服务器必然会产生的闲置算力成本。


像Kinesis这样的无服务器初创企业还声称,与传统云计算公司相比,它们对环境更友好。他们表示,通过利用现有的闲置处理单元而非为额外的服务器供电,能够显著降低能耗。在过去五年中,由于人工智能消耗大量能源,谷歌和微软等大型科技公司的碳排放量飙升。作为回应,一些公司已经将目光投向核能,以便为其服务器可持续供电。Kinesis和其他新兴初创企业提供了第三条路线,即无需再接入更多服务器。


“行业领导者们坚定致力于可持续发展,”Khimani说道,“着眼于创新和效率,他们能够优化那些已经在运行且消耗能量的现有计算能力,而不必为运行的每个新应用不断增加更多服务器。”


对机器学习日益增长的需求以及海量的数据消耗正在使GPUaaS成为一个非常有利可图的科技领域。2023年,该行业的市场规模估值为32.3亿美元;2024年,增长到43.1亿美元。预计到2032年将增长到498.4亿美元(https://www.fortunebusinessinsights.com/gpu-as-a-service-market-107797)。


“人工智能行业正在迅速迈向一个新阶段,重点正从仅仅构建和训练模型转向优化效率,”Khimani说,“客户越来越多地提出这样的问题:‘在训练一个新模型时,我们如何能做到极具针对性,而不消耗大量需要巨额算力和能源的数据呢?’”


微信号|IEEE电气电子工程师学会

新浪微博|IEEE中国

 · IEEE电气电子工程师学会 · 


动手协作:建立机器人肌肉记忆

这个背包原型减轻了自身的重量和内部物品的晃动

脑机接口预示着未来生活质量的提高

最新研究表明AI工具能悄无声息地改变我们的观点

IEEE电气电子工程师学会 IEEE是全球最大的专业技术协会之一,一直致力于推动电气电子技术在理论方面的发展和应用方面的进步。IEEE在全球160多个国家有超过四十万名会员。
评论
  •  万万没想到!科幻电影中的人形机器人,正在一步步走进我们人类的日常生活中来了。1月17日,乐聚将第100台全尺寸人形机器人交付北汽越野车,再次吹响了人形机器人疯狂进厂打工的号角。无独有尔,银河通用机器人作为一家成立不到两年时间的创业公司,在短短一年多时间内推出革命性的第一代产品Galbot G1,这是一款轮式、双臂、身体可折叠的人形机器人,得到了美团战投、经纬创投、IDG资本等众多投资方的认可。作为一家成立仅仅只有两年多时间的企业,智元机器人也把机器人从梦想带进了现实。2024年8月1
    刘旷 2025-01-21 11:15 616浏览
  •     IPC-2581是基于ODB++标准、结合PCB行业特点而指定的PCB加工文件规范。    IPC-2581旨在替代CAM350格式,成为PCB加工行业的新的工业规范。    有一些免费软件,可以查看(不可修改)IPC-2581数据文件。这些软件典型用途是工艺校核。    1. Vu2581        出品:Downstream     
    电子知识打边炉 2025-01-22 11:12 115浏览
  • 临近春节,各方社交及应酬也变得多起来了,甚至一月份就排满了各式约见。有的是关系好的专业朋友的周末“恳谈会”,基本是关于2025年经济预判的话题,以及如何稳定工作等话题;但更多的预约是来自几个客户老板及副总裁们的见面,他们为今年的经济预判与企业发展焦虑而来。在聊天过程中,我发现今年的聊天有个很有意思的“点”,挺多人尤其关心我到底是怎么成长成现在的多领域风格的,还能掌握一些经济趋势的分析能力,到底学过哪些专业、在企业管过哪些具体事情?单单就这个一个月内,我就重复了数次“为什么”,再辅以我上次写的:《
    牛言喵语 2025-01-22 17:10 149浏览
  •  光伏及击穿,都可视之为 复合的逆过程,但是,复合、光伏与击穿,不单是进程的方向相反,偏置状态也不一样,复合的工况,是正偏,光伏是零偏,击穿与漂移则是反偏,光伏的能源是外来的,而击穿消耗的是结区自身和电源的能量,漂移的载流子是 客席载流子,须借外延层才能引入,客席载流子 不受反偏PN结的空乏区阻碍,能漂不能漂,只取决于反偏PN结是否处于外延层的「射程」范围,而穿通的成因,则是因耗尽层的过度扩张,致使跟 端子、外延层或其他空乏区 碰触,当耗尽层融通,耐压 (反向阻断能力) 即告彻底丧失,
    MrCU204 2025-01-17 11:30 209浏览
  • 现在为止,我们已经完成了Purple Pi OH主板的串口调试和部分配件的连接,接下来,让我们趁热打铁,完成剩余配件的连接!注:配件连接前请断开主板所有供电,避免敏感电路损坏!1.1 耳机接口主板有一路OTMP 标准四节耳机座J6,具备进行音频输出及录音功能,接入耳机后声音将优先从耳机输出,如下图所示:1.21.2 相机接口MIPI CSI 接口如上图所示,支持OV5648 和OV8858 摄像头模组。接入摄像头模组后,使用系统相机软件打开相机拍照和录像,如下图所示:1.3 以太网接口主板有一路
    Industio_触觉智能 2025-01-20 11:04 184浏览
  • 高速先生成员--黄刚这不马上就要过年了嘛,高速先生就不打算给大家上难度了,整一篇简单但很实用的文章给大伙瞧瞧好了。相信这个标题一出来,尤其对于PCB设计工程师来说,心就立马凉了半截。他们辛辛苦苦进行PCB的过孔设计,高速先生居然说设计多大的过孔他们不关心!另外估计这时候就跳出很多“挑刺”的粉丝了哈,因为翻看很多以往的文章,高速先生都表达了过孔孔径对高速性能的影响是很大的哦!咋滴,今天居然说孔径不关心了?别,别急哈,听高速先生在这篇文章中娓娓道来。首先还是要对各位设计工程师的设计表示肯定,毕竟像我
    一博科技 2025-01-21 16:17 140浏览
  • 本文介绍瑞芯微开发板/主板Android配置APK默认开启性能模式方法,开启性能模式后,APK的CPU使用优先级会有所提高。触觉智能RK3562开发板演示,搭载4核A53处理器,主频高达2.0GHz;内置独立1Tops算力NPU,可应用于物联网网关、平板电脑、智能家居、教育电子、工业显示与控制等行业。源码修改修改源码根目录下文件device/rockchip/rk3562/package_performance.xml并添加以下内容,注意"+"号为添加内容,"com.tencent.mm"为AP
    Industio_触觉智能 2025-01-17 14:09 183浏览
  • 嘿,咱来聊聊RISC-V MCU技术哈。 这RISC-V MCU技术呢,简单来说就是基于一个叫RISC-V的指令集架构做出的微控制器技术。RISC-V这个啊,2010年的时候,是加州大学伯克利分校的研究团队弄出来的,目的就是想搞个新的、开放的指令集架构,能跟上现代计算的需要。到了2015年,专门成立了个RISC-V基金会,让这个架构更标准,也更好地推广开了。这几年啊,这个RISC-V的生态系统发展得可快了,好多公司和机构都加入了RISC-V International,还推出了不少RISC-V
    丙丁先生 2025-01-21 12:10 380浏览
  • Ubuntu20.04默认情况下为root账号自动登录,本文介绍如何取消root账号自动登录,改为通过输入账号密码登录,使用触觉智能EVB3568鸿蒙开发板演示,搭载瑞芯微RK3568,四核A55处理器,主频2.0Ghz,1T算力NPU;支持OpenHarmony5.0及Linux、Android等操作系统,接口丰富,开发评估快人一步!添加新账号1、使用adduser命令来添加新用户,用户名以industio为例,系统会提示设置密码以及其他信息,您可以根据需要填写或跳过,命令如下:root@id
    Industio_触觉智能 2025-01-17 14:14 137浏览
  • 数字隔离芯片是一种实现电气隔离功能的集成电路,在工业自动化、汽车电子、光伏储能与电力通信等领域的电气系统中发挥着至关重要的作用。其不仅可令高、低压系统之间相互独立,提高低压系统的抗干扰能力,同时还可确保高、低压系统之间的安全交互,使系统稳定工作,并避免操作者遭受来自高压系统的电击伤害。典型数字隔离芯片的简化原理图值得一提的是,数字隔离芯片历经多年发展,其应用范围已十分广泛,凡涉及到在高、低压系统之间进行信号传输的场景中基本都需要应用到此种芯片。那么,电气工程师在进行电路设计时到底该如何评估选择一
    华普微HOPERF 2025-01-20 16:50 109浏览
  • 故障现象 一辆2007款日产天籁车,搭载VQ23发动机(气缸编号如图1所示,点火顺序为1-2-3-4-5-6),累计行驶里程约为21万km。车主反映,该车起步加速时偶尔抖动,且行驶中加速无力。 图1 VQ23发动机的气缸编号 故障诊断接车后试车,发动机怠速运转平稳,但只要换挡起步,稍微踩下一点加速踏板,就能感觉到车身明显抖动。用故障检测仪检测,发动机控制模块(ECM)无故障代码存储,且无失火数据流。用虹科Pico汽车示波器测量气缸1点火信号(COP点火信号)和曲轴位置传感器信
    虹科Pico汽车示波器 2025-01-23 10:46 51浏览
  • 2024年是很平淡的一年,能保住饭碗就是万幸了,公司业绩不好,跳槽又不敢跳,还有一个原因就是老板对我们这些员工还是很好的,碍于人情也不能在公司困难时去雪上加霜。在工作其间遇到的大问题没有,小问题还是有不少,这里就举一两个来说一下。第一个就是,先看下下面的这个封装,你能猜出它的引脚间距是多少吗?这种排线座比较常规的是0.6mm间距(即排线是0.3mm间距)的,而这个规格也是我们用得最多的,所以我们按惯性思维来看的话,就会认为这个座子就是0.6mm间距的,这样往往就不会去细看规格书了,所以这次的运气
    wuliangu 2025-01-21 00:15 285浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦