MaaS模型即服务,发展现状和面临挑战

智能计算芯世界 2024-06-18 07:38

本文来自“模型即服务:MaaS框架与应用研究报告(2024年)”,随着以大模型为核心的人工智能技术的深入发展,模型即服务(MaaS,Model as a Service)作为一种新型人工智能服务模式焕发新生。本章将明确MaaS的概念及主要的服务能力范围,剖析大模型时代MaaS快速发展的必然性,阐述MaaS在解决大模型规模化落地方面的重要意义。

下载链接:
《2024年中国空间计算行业概览合集》
1、2024年中国空间计算行业概览(1):空间计算先行,软硬件内容生态共振 2、2024年中国空间计算行业概览(Ⅱ):空间计算设备产业链拆解(摘要版)
干货分享:“人工智能+”引爆新质生产力革命(2024)
模型即服务:MaaS框架与应用研究报告(2024年)
《Computex 2024系列主题演讲合集》
1、Computex 2024系列AMD主题演讲:CPU+GPU+UA互联厂商 2、Computex 2024英伟达主题演讲:AI时代如何在全球范围内推动新的工业革命


1、MaaS起源与概念

MaaS基本形态早已形成。2012年美国数据科学家DJ·帕蒂尔(DJ Patil)首次提出MaaS概念1,即“将机器学习算法打包成可重复使用的服务,使企业能够快速地构建、部署和监控模型,无须开发和维护底层基础架构”,以此来适应AI模型需求快速增长的情况。

此时MaaS多以AI能力开放平台的形式存在,平台之上承载人脸识别、光学字符识别(OCR)等特定场景的AI能力。该类AI能力由若干个模型及规则、数据库等组合构成,但覆盖功能和场景有限,应用方式较为单一,主要以工具包(SDK)等方式嵌入至业务系统。传统AI模型落地成本低且泛化性不足,MaaS所带来的增益尚不明显。

大模型背景下MaaS概念是指将AI模型及其相关能力打包成可重复使用的服务,使企业能够快速高效地构建、部署、监控、调用模型,无须开发和维护底层基础能力。与早期MaaS概念相比能力范围有所拓展,一方面机器学习算法扩展至包括深度学习、大模型等在内的所有AI模型;另一方面基于模型服务,用户不仅可直接调用服务进行推理,也可基于服务进行AI应用的构建,扩大模型服务的使用范围。MaaS主要提供三部分:

一是提供包括模型训练、调优和部署等在内的全栈平台型服务,以支持低门槛的模型开发与定制,用户无需关注AI算力、框架和平台即可生产和部署模型;

二是提供包括大小模型及公私域数据集的丰富资产库服务,以支持模型和数据集的灵活快速调用,用户无须生产和部署模型即可调用模型和数据集服务;

三是提供基于AI模型的应用开发工具服务,以支持快速打造场景化应用,用户无须搭建开发工具即可进行AI应用开发。

MaaS主要具备三个显著特性。技术低门槛,有助于将模型普惠更广泛的用户群体;模型可共享,推动行业资源的有效利用和技术进步;应用易适配,使得模型服务能够快速融入业务场景。

MaaS围绕模型生产、模型调用、模型应用开发等过程,提供包括平台服务、模型服务、数据集服务、AI应用开发服务在内的全栈服务,并对模型等资产进行统一管理,提升规模化生产效率,培育和打造新质生产力,为各行业带来变革。

MaaS通过提供全流程平台工具降低技术门槛。在模型训调方面,降低了学习新型训练或调优算法的成本;在模型部署及运营管理方面,对于部署上线过程复杂等问题,提供快速部署服务,并匹配全生命周期运营监控工具,降低了模型部署和运维的技术难度。

MaaS通过提供集约化的模型库和数据集,解决重复造轮子的资源浪费问题。在管理方面,当模型从单点试验向规模化落地发展时,模型的量变将引起效率的质变,通过模型共享可减少开发资源的浪费,通过模型等数字资产的统一管理有助于提升风险可控性,资源的高效利用和规范管理将成为企业长远发展的保障;在落地方面,通过直接调用模型服务和数据集,减少了数据处理、选择模型以及模型调优部署的过程,加快了开发进度,快速响应业务需求。

MaaS通过提供模型应用的高效开发能力,适配企业规模化场景需求。在面临单个模型无法解决复杂业务需求的情况下,提供检索增强生成(RAG)、大小模型协同、插件编排等多种方式以增强模型能力,并以智能体(AI Agent)等方式向用户提供更优质的服务。MaaS让更多用户可以生产个性化的模型应用,为AI模型规模化落地提供有效路径。

二、MaaS发展现状及挑战

MaaS作为一种智能化服务新模式得到迅速发展,本章将围绕产业图谱及落地方式阐述当前MaaS的产业发展现状,并分析MaaS落地面临的挑战。

(一)MaaS产业发展现状

MaaS在人工智能产业链中处于中游位置,基于平台服务、模型及数据集服务、应用开发服务的供给能力,形成了初步的产业图谱,且各类参与方积极发挥自身优势,形成不同落地模式。

1.MaaS产业图谱初步形成

MaaS基于算力基础设施的支持,面向场景提供多种应用,具备从模型生产到模型调取并打造成AI应用的全流程能力。

MaaS产业图谱中,平台服务构成了MaaS生态系统的基座能力。国外如Google的AI Platform、微软的AzureMachine Learning以及亚马逊的Amazon SageMaker等平台,提供了从数据处理到模型训练、验证、部署及监控的流水线服务。

国内如阿里云PAI平台、腾讯云太极平台、百度千帆大模型平台和华为的ModelArts平台等,均支持多种机器学习算法和大模型,并提供低代码开发环境与高效的模型训练及部署能力,能够适应多样化的模型定制需求。

2.MaaS两种落地方式

MaaS具备公有云和私有云两种落地方式,公有云模式下模型资源更加丰富,但私有云模式下模型资源的行业领域属性更专业。

公有云方式下,通过丰富的资源可吸引更多用户而提升产品知名度,有助于进一步商业转化。其模型面向社会大众提供服务,模型的种类和数量更多,通用性更强,但是对于业务需求较高的特定场景,部分模型难以直接应用。

私有云方式下,企业内研发团队专注于研究符合垂直领域场景需求的模型,旨在通过调用模型服务以直接解决业务需求,且模型资产和数据隐私性强,各团队在模型共享的过程中可降低资产泄露的风险。

(二)MaaS发展面临的挑战

随着MaaS的快速发展,平台、模型等服务能力迅速得以完善,但MaaS在规范性、生态建设等方面仍存在不足,模型服务的易用性仍有待提升。

模型服务质量缺乏规范性。目前产业界已发布多个MaaS产品,并汇聚了大量的模型服务,但服务内容和服务质量难以统一和衡量,无法确保用户获得满意的服务。一方面模型服务本身的可用性要求尚未建立统一规范,另一方面服务规模化落地所必须的稳定性、可靠性和安全性等并未形成标准体系。

模型服务易用性不足。由于模型卡片的建设尚不完善,导致模型信息的不透明现象较为普遍。用户无法获取清晰、准确的模型信息,从而难以选择所需模型。此外,模型的可解释性也相对较弱,使得用户难以理解模型的运作机制和输出结果。因此,加强模型卡片的信息透明度,增强模型的可解释性,提升模型服务易用性,是当前面临的重要挑战。

MaaS基建成本控制能力需加强。MaaS的体系构建离不开坚实的基建支撑,涵盖云计算基础设施如算力资源和数据中心的搭建,以及专业技术人才的培育,这些都需要巨额的资金投入。因此MaaS建设方应考虑有效地管理和利用基建资产,降低运营成本提高运营效率,从而降低和控制建设成本。

合规管理体系亟需进一步完善。MaaS在合规性方面面临数据规范与权责确认的双重考验。就数据合规而言,既要关注用户在使用模型服务时个人数据的隐私安全,也要确保用于模型训练和优化的数据来源合法合规。

下载链接:
英伟达GPU加速迭代,聚焦AI光通信核心厂商
《Computex 2024系列主题演讲合集》
1、Computex 2024系列AMD主题演讲:CPU+GPU+UA互联厂商 2、Computex 2024英伟达主题演讲:AI时代如何在全球范围内推动新的工业革命
科技前瞻专题:国际巨头的端侧AI布局(2024)
AIoT白皮书:AI硬化向实而生
异构大规模分布式网络设计与性能评估
2024面向未来的算力网络连接:中国算力网络市场发展白皮书
2024面向AIGC的数智广电新质生产力构建白皮书
2024大模型训练数据白皮书
存储器行业:双墙阻碍算力升级,四大新型存储应用探讨
生成式人工智能专题研究:国内大模型(生成式AI加速,国内厂商聚力突破)
《存储专题系列合集》
1、存储专题系列一:新应用发轫,存力升级大势所趋 
2、存储专题系列二:存力需求与周期共振,SSD迎量价齐升 
3、存储专题三:AI时代核心存力HBM
4、存储专题:AI发展驱动HBM高带宽存储器放量
机器人专题研究:产业发展概览(2024)
国产AI算力行业报告:浪潮汹涌,势不可挡(2024)
AI系列之HBM:AI硬件核心,需求爆发增长
2024中国“百模大战”竞争格局分析报告(2024)
2024年中国虚拟现实(VR)行业研究报告

《半导体行业深度报告合集(2024)》

《70+篇半导体行业“研究框架”合集》

600+份重磅ChatGPT专业报告
《人工智能AI大模型技术合集》
《56份GPU技术及白皮书汇总》


本号资料全部上传至知识星球,更多内容请登录智能计算芯知识(知识星球)星球下载全部资料。




免责申明:本号聚焦相关技术分享,内容观点不代表本号立场,可追溯内容均注明来源,发布文章若存在版权等问题,请留言联系删除,谢谢。



温馨提示:

请搜索“AI_Architect”或“扫码”关注公众号实时掌握深度技术分享,点击“阅读原文”获取更多原创技术干货。


智能计算芯世界 聚焦人工智能、芯片设计、异构计算、高性能计算等领域专业知识分享.
评论 (0)
  •   高空 SAR 目标智能成像系统软件:多领域应用的前沿利器   高空 SAR(合成孔径雷达)目标智能成像系统软件,专门针对卫星、无人机等高空平台搭载的 SAR传感器数据,融合人工智能与图像处理技术,打造出的高效目标检测、识别及成像系统。此软件借助智能算法,显著提升 SAR图像分辨率、目标特征提取能力以及实时处理效率,为军事侦察、灾害监测、资源勘探等领域,提供关键技术支撑。   应用案例系统软件供应可以来这里,这个首肌开始是幺伍扒,中间是幺幺叁叁,最后一个是泗柒泗泗,按照数字顺序组合
    华盛恒辉l58ll334744 2025-04-14 16:09 85浏览
  • 你知道精益管理中的“看板”真正的意思吗?在很多人眼中,它不过是车间墙上的一块卡片、一张单子,甚至只是个用来控制物料的工具。但如果你读过大野耐一的《丰田生产方式》,你就会发现,看板的意义远不止于此。它其实是丰田精益思想的核心之一,是让工厂动起来的“神经系统”。这篇文章,我们就带你一起从这本书出发,重新认识“看板”的深层含义。一、使“看板”和台车结合使用  所谓“看板”就是指纸卡片。“看板”的重要作用之一,就是连接生产现场上道工序和下道工序的信息工具。  “看板”是“准时化”生产的重要手段,它总是要
    优思学院 2025-04-14 15:02 70浏览
  •   电磁干扰测试系统:电子设备电磁兼容性保障利器   北京华盛恒辉电磁干扰测试系统作为评估电子设备在电磁环境中电磁兼容性(EMC)的关键工具,主要用于检测与分析设备在电磁干扰环境下的性能表现,确保其符合相关标准,能够在实际应用中稳定运行。   应用案例   目前,已有多个电磁干扰测试系统在实际应用中取得了显著成效。例如,北京华盛恒辉和北京五木恒润电磁干扰测试系统。这些成功案例为电磁干扰测试系统的推广和应用提供了有力支持。   系统组成   电磁干扰测试系统一般由以下核心部分构成:  
    华盛恒辉l58ll334744 2025-04-14 10:40 34浏览
  •  亥姆霍兹线圈的制造材料选择需兼顾导电性、绝缘性、机械强度及磁场性能,具体分类如下:一、‌导线材料1、‌高纯度铜线:‌作为线圈绕制的核心材料,铜因其you异的导电性(电阻率低)和热稳定性成为shou选。漆包铜线通过表面绝缘漆层实现匝间绝缘,避免短路‌。2、‌其他导电材料‌ 铝线等材料可用于特定场景(如轻量化需求),但导电性和抗氧化性较铜略逊二、‌磁源材料‌1、‌永磁体‌如钕铁硼(NdFeB)或铁氧体,适用于无需外部电源的静态磁场生成,但磁场强度有限。2、‌电磁铁‌通过电流控制磁场强度,
    锦正茂科技 2025-04-14 10:22 32浏览
  • 在公共安全、工业调度、户外作业等场景中,对讲机作为关键通信工具,正面临从“功能单一化”向“智能融合化”的转型需求。WT2605C蓝牙语音芯片凭借双模蓝牙架构、高扩展存储方案与全场景音频处理能力,推动传统对讲机实现无屏化操控、专业级音频解码与蓝牙音箱功能融合,为行业用户打造更高效、更灵活、更低成本的通信解决方案。一、无屏化交互革命:BLE指令重构操作逻辑针对工业环境中对讲机操作复杂、屏幕易损的痛点,WT2605C通过双模蓝牙(BR/EDR+BLE)与AT指令集,实现全链路无屏控制:手机APP远程控
    广州唯创电子 2025-04-14 09:08 33浏览
  • MASSAGE GUN 筋膜枪拆解 今天给车子做保养,厂家送了一个筋膜枪。产品拿在手里还是挺有分量的。标价108元。通过海鲜市场一搜索,几十元不等,而且还是爆款。不多说,我们就来看看里面用了什么料,到底值几个钱。外观篇 首先给它来个开箱照,从外观看,确实还是很精致,一点都不逊色品牌产品。 从箱中取出筋膜枪,沉甸甸的。附上产品的各方位视角 产品的全家福 我装上球头,使用了一番,还真不赖,有不同的敲击速度和根据力度调节不同的档位。拆解篇 拿出我的螺丝套装,对产品开始进行拆解,首先
    zhusx123 2025-04-13 16:52 69浏览
  • 软瓦格化 RISC-V 处理器集群可加速设计并降低风险作者:John Min John Min是Arteris的客户成功副总裁。他拥有丰富的架构专业知识,能够成功管理可定制和标准处理器在功耗、尺寸和性能方面的设计权衡。他的背景包括利用 ARC、MIPS、x86 和定制媒体处理器来设计 CPU SoC,尤其擅长基于微处理器的 SoC。RISC-V 指令集架构 (ISA) 以其强大的功能、灵活性、低采用成本和开源基础而闻名,正在经历各个细分市场的快速增长。这种多功能 ISA 支持汽车、航空航天、国防
    ArterisIP 2025-04-14 10:52 63浏览
  • 亥姆霍兹线圈的应用领域‌物理学研究‌:在原子物理中,用于研究塞曼效应;在磁学研究中,用于测试磁性材料的磁滞回线等特性;还可用于研究电子荷质比等实验‌。‌工程与技术领域‌:用于电子设备校准和测试,提供标准磁场环境;在大型加速器中用于磁场校准;用于电磁干扰模拟实验,测试电子设备在不同磁场干扰下的性能‌。‌生物医学领域‌:研究生物磁场效应,如探索磁场对生物细胞的影响;在生物医学工程基础研究中,提供可控磁场环境‌。‌其他应用‌:作为磁场发生装置产生标准磁场;用于地球磁场的抵消与补偿、地磁环境模拟;还可用
    锦正茂科技 2025-04-14 10:41 49浏览
  •     电气间隙是指两个带电体在空气中的最短距离。导体、电介质(空气),最短距离,就是这个术语的要素了。        (图源:TI)    电气间隙是由安装类别决定的,或者更本质地说,是瞬态过电压的最大值来决定的,而不是工作电压的高低。安装类别见协议标准第007篇,瞬态过电压另见协议标准第009篇。    实际设计中怎么确定电气间隙?可以按照CAT,工作电压和绝缘等级来定。 
    电子知识打边炉 2025-04-13 18:01 75浏览
  • 在制造业或任何高度依赖产品质量的行业里,QA(质量保证)经理和QC(质量控制)经理,几乎是最容易被外界混淆的一对角色。两者的分工虽清晰,但职责和目标往往高度交叉。因此,当我们谈到“谁更有可能升任质量总监”时,这并不是一个简单的职位比较问题,而更像是对两种思维方式、职业路径和管理视角的深度考察。QC经理,问题终结者QC经理的世界,是充满数据、样本和判定标准的世界。他们是产品出厂前的最后一道防线,手里握着的是批次报告、不合格品记录、纠正措施流程……QC经理更像是一位“问题终结者”,目标是把不合格扼杀
    优思学院 2025-04-14 12:09 54浏览
  • 时源芯微 专业EMC解决方案提供商  为EMC创造可能(适用于高频时钟电路,提升EMC性能与信号稳定性)一、设计目标抑制电源噪声:阻断高频干扰(如DC-DC开关噪声)传入晶振电源。降低时钟抖动:确保晶振输出信号纯净,减少相位噪声。通过EMC测试:减少晶振谐波辐射(如30MHz~1GHz频段)。二、滤波电路架构典型拓扑:电源输入 → 磁珠(FB) → 大电容(C1) + 高频电容(C2) → 晶振VDD1. 磁珠(Ferrite Bead)选型阻抗特性:在目标频段(如100MHz~1GH
    时源芯微 2025-04-14 14:53 53浏览
  •   电磁干扰测试系统软件:深度剖析   电磁干扰(EMI)测试系统软件,是电子设备电磁兼容性(EMC)测试的核心工具,在通信、汽车、航空航天、医疗设备等众多领域广泛应用。它的核心功能涵盖信号采集、频谱分析、干扰定位、合规性评估以及报告生成,旨在保障设备在复杂电磁环境中稳定运行。下面从功能、技术原理、应用场景、主流软件及发展趋势这五个方面展开详细解析。   应用案例  软件开发可以来这里,这个首肌开始是幺乌扒,中间是幺幺叁叁,最后一个是泗柒泗泗,按照你的顺序组合可以找到。   目前
    华盛恒辉l58ll334744 2025-04-14 10:02 26浏览
  • 一、磁场发生设备‌电磁铁‌:由铁芯和线圈组成,通过调节电流大小可产生3T以下的磁场,广泛应用于工业及实验室场景(如电磁起重机)。‌亥姆霍兹线圈‌:由一对平行共轴线圈组成,可在线圈间产生均匀磁场(几高斯至几百高斯),适用于物理实验中的磁场效应研究。‌螺线管‌:通过螺旋线圈产生长圆柱形均匀磁场,电流与磁场呈线性关系,常用于磁性材料研究及电子束聚焦。‌超导磁体‌:采用超导材料线圈,在低温下可产生3-20T的强磁场,用于核磁共振研究等高精度科研领域。‌多极电磁铁‌:支持四极、六极、八极等多极磁场,适用于
    锦正茂科技 2025-04-14 13:29 51浏览
  • 在当今汽车电子化和智能化快速发展的时代,车规级电子元器件的质量直接关系到汽车安全性能。三星作为全球领先的电子元器件制造商,其车规电容备受青睐。然而,选择一个靠谱的三星车规电容代理商至关重要。本文以行业领军企业北京贞光科技有限公司为例,深入剖析如何选择优质代理商。选择靠谱代理商的关键标准1. 授权资质与行业地位选择三星车规电容代理商首先要验证其授权资质及行业地位。北京贞光科技作为中国电子元器件行业的领军者,长期走在行业前沿,拥有完备的授权资质。公司专注于市场分销和整体布局,在电子元器件领域建立了卓
    贞光科技 2025-04-14 16:18 79浏览
我要评论
0
1
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦