昇思之路,从AI基础软件到生态繁花

原创 脑极体 2024-04-02 17:22


在今年两会政府工作报告中,明确提出了深化大数据、人工智能等研发应用,开展“人工智能+”行动,打造具有国际竞争力的数字产业集群。伴随着“人工智能+”首次被写入政府工作报告,各个行业、各个领域竞相展开了对AI技术的探索与追寻,AI技术的发展热情达到了全新高度。


在目前阶段,AI技术是发展新质生产力的重要引擎,已经成为社会各界的高度共识。而如何让AI技术源源不断导入各个生产场景,成为产业界、学术界的发展源动力,也就成为最受关注的话题。


这里我们必须看到,任何技术的普遍发展都离不开技术的茁壮成长。比如“互联网+”时代的到来,离不开IP网络等技术,以及社会化的网络基础设施建设。“人工智能+”行动的开展,也有赖于多种新型AI基础设施的建设。其中在软件层面,最为重要的一项就是AI框架。


AI框架是大模型的软件底座,是各行业、各领域接触人工智能技术、开发大模型的第一站,也是推动产业智能化发展的核心力量。AI框架如何面向新时代,新任务长足发展?如何将框架的技术能力转化为产学应用的行动力、生态发展的凝聚力?这些问题在今天都迫切需要答案。



近日,以“为智而昇,思创之源”为主题的昇思人工智能框架峰会2024在北京国家会议中心举办。会上公布了全新升级的昇思MindSpore 2.3版本,并展示了昇思在产学应用,生态赋能多方面的最新进展。


如何打通一条从技术领先,到深入产学应用,赋能生态加速发展的AI之路?


在这场峰会中,昇思已经给出了自己的答案。



降本增效筑通道

如何提升AI源动力?


所谓AI之路,应该是一条将底层技术高效引申到上层应用、开发生态当中,从而让社会经济各个层面从基础技术中汲取营养的道路。只有这条路通畅、便捷、低成本,AI技术才能全面开花结果,“人工智能+”行动才能够价值最大化。


而在目前阶段,想要实现这样的AI之路还面临着一系列挑战。技术与产业经济、学术研究、开发者生态之间还存在卡点和堵点。比如大模型开发成本大,难度高,各行业、各领域还难以完全掌握,再比如一些专业性强,较为复杂的领域还无法实现技术的深层渗透。总体而言,想要将AI技术变为社会经济发展的源动力,需要从三个层面来进行升级:



1.底座层。需要实现大模型训练效率更高,推理部署成本更低且全面提升开发易用性,实现训推能力全面升级,开发效率全面提升。而这尤其需要深度学习开发框架的升级与发展,在训练、推理与开发工具等方面实现持续进化。


2.应用层。AI技术需要与行业场景、科研领域进行深刻互动,实现人工智能技术与行业专精知识的立体结合,使能行业智能化升级,从而拓展AI技术的应用边界,提升场景化复制能力。尤其在AI for Science等关键领域,需要AI技术与基础学科研究者紧密配合、共同探索。


3.生态层。AI技术就像其他软件技术一样,没有生态不成规模,生态繁荣能达到技术越用越好的效果。而生态发展需要技术平台与产学研用各界以及无数开发者的有效互动,持续赋能。


由此可见,AI技术成为社会经济发展的源动力,需要构筑一条从底层技术到产学应用,再到生态赋能的完整通道。而这,也正是昇思正在践行的AI之路。



AI框架

昇思MindSpore 2.3全新升级


首先一个问题,是如何让AI技术持续创新,满足产学各界对AI基础软件的期待和要求。


在这方面,昇思不断精进。在训练、推理以及模型开发等方面实现立体化、协同化的能力升级。这一思路充分体现在了最新发布的昇思MindSpore 2.3版本当中。通过一系列升级,昇思让大模型开发训练更简、更稳、更高效。


在训练方面,昇思可以支撑大模型实现原生高效训练。通过原创的多副本、多流水交织等8种并行技术,使集群线性度达到90%,远远超过了业界不足60%的平均水平;通过整图优化及下沉执行等,使得算力利用率达到55%,大幅超越了业界不足40%的平均水准;针对集群故障率高,恢复时间长的普遍问题,通过编译快照,昇思通过确定性CKPT技术实现20分钟完成故障恢复。



在今天的大模型时代,大规模集群化的模型训练已经成了业界的最大痛点。昇思通过一系列基础能力的升级,全方位破解了集群线性度、AI算力利用效率、训练故障恢复等核心难题,让大模型训练不再充满挑战。


而在部署方面,昇思通过训推一体的架构升级脚本、分布式策略,以及运行时的统一,让Baichuan2-13B推理部署在1天内就可以完成;在大模型推理上,通过LLM Serving 实现推理吞吐提升2倍多;通过升级模型压缩工具金箍棒2.0,实现千亿大模型压缩至十倍。这些能力确保了AI大模型不仅可训练,还能够顺利推理应用,打通了AI落地的最后一公里。



除此之外,昇思还通过持续升级MindSpore TransFormers大模型套件,提供MindSpore One生成式套件等方式,全面提升开发者效率,让开发者一周即可完成大模型全流程的开发。在重点的AI for Science领域,昇思联合顶级科研机构和伙伴打造了AI生物计算套件,包含蛋白质结构预测、生成等20多个SOTA模型,加速相关领域的科学创新。


从训练到推理,再到一系列开发套件的升级,昇思持续深耕AI技术,让AI基础能力稳固发展。


只有基础软件技术能够源源不断提供养分,才能实现AI应用发芽,AI生态开花。



产学应用之芽

以昇思构筑AI for Science新范式


夯实了AI底座技术之后,需要将技术能力与应用场景进行深入结合。尤其是在复杂、关键的领域,比如AI for Science当中,更需要AI技术与科研工作进行跨越式探索,以此让AI框架在无数个行业,无数个领域发芽生长。


在峰会当中,我们可以看到昇思如何与气动外形设计这一关键领域进行结合,打通了AI for Science的新范式。所谓气动外形设计,是指飞机、船舶、汽车等交通工具的气动外形设计。这一领域事关国计民生,并且研究、验证的成本巨大。非常适合AI大模型作为新研究工具的加入。在此前,我们经常看到AI大模型在蛋白质折叠、材料分析相关研究领域的应用,昇思与气动外形设计的结合,又一次拓宽了AI for Science的边界。



中国科学院院士、中国空气动力学会理事长唐志共表示:基于昇思MindSpore,生成式气动设计大模型平台打破传统设计范式,设计时长由月级缩短到分钟级,满足概念设计要求。未来该平台将扩展到航空、航天、船舶、高铁、能源、汽车等多个气动领域的行业,引领大型工业装备的设计和制造能力跨越式发展。


据了解,生成式气动设计大模型平台基于昇思AI框架完成了自主创新开发。在模型开发阶段,昇思框架和流体力学套件MindSpore Flow提供全面的科学计算算法库和模型通用接口,提升模型开发效率。在模型的训练阶段,使用MindSpore多维分布式并行接口,基于成都智算中心算力支撑,模型和数据得以高效扩展。在模型部署阶段,使用昇思大模型套件,可以将专业知识融入气动设计大模型平台。


通过串联大语言模型、气动外形设计模型、气动预测模型和风雷软件等非AI工具,气动设计大模型平台可以支撑多种气动外形设计场景,为一系列关键领域提供基础科研支撑。


在各个行业,各个科研领域,都可以看到昇思的AI技术上,长出了AI应用的新芽。假以时日,这些新芽会变成参天大树。


AI技术也就由此开花结果,润泽四方。



生态发展之花

全面赋能学术与生态


从产学应用这层再向上看,AI技术的未来发展,有赖于广袤而繁荣的开发者生态。这就需要AI框架与产学各界积极合作,不断强化人才培养与生态赋能等工作。在这一领域,昇思采取了全面赋能学术与生态的策略,通过多管齐下的方式,让昇思的技术能力融入开发者需求,助力AI人才培养。



峰会当中,昇思MindSpore开源社区理事长丁诚公布了昇思赋能学术与生态的四项行动。


其中包括,昇思和中国人工智能学会、鹏城实验室合作的学术论文基金2.0,将在未来3年内携手50多家全球AI学者,在学术领域不断探索;昇思开发板应用创新行动,基于香橙派开发板,提供系统化的案例、教程与支持,帮助开发者快速上手、快速入门、快速打造个性化应用;昇思加速原生大模型孵化,通过激励、专项技术支持和市场联合推广,支持更多伙伴从昇思迁移适配走向原生开发;昇思开源社区实习活动,通过代码实践,让开发者真正地实践成长。



除了以转型行动赋能生态发展,昇思还积极推动开源事业创新,凝聚开源生态。2020年3月,开源昇思MindSpore AI框架正式推出,其后得到了广大AI开发者的积极回馈,总访问量已经达到了数千,有超过687万下载安装使用,在码云开源项目中综合排名第一,服务企业数量超过5500家,合作高校360所。


2023年以来,基于昇思框架发表的顶级会议论文数量超过1200篇,在所有AI框架中排名中国第一,全球第二,已成为国内最具创新活力的AI开源社区。Gitee是国内第一大开源代码托管平台,根据Gitee 指数 2.0 , MindSpore在各类指标中表现优异,成为Gitee-AI领域分类下全品类指数 NO.1。由此,昇思MindSpore成为“Gitee中国最佳开源贡献项目”,被开源中国董事长马越誉为“Gitee珍视的瑰宝”。


怒放的生态之花,开源之花,印证了昇思AI之路已经全线贯通。从AI基础技术到各个行业应用,再到万千开发者的信任,昇思已经构建出了全方位、立体化的AI开发底座。


在AI技术的时代浪潮里,社会经济希望智能化能力能够兼容高效与稳定,既好又快发展。


昇思的AI之路,是让技术更加扎实,应用茁壮发芽,生态向上开花。以此为基础,AI才能生长为参天大树,变为栋梁之材。也只有如此,时代对智能的呼唤才能变为现实,AI技术才能够新质生产力的源泉。


脑极体 从技术协同到产业革命,从智能密钥到已知尽头
评论
  • 在智能家居领域中,Wi-Fi、蓝牙、Zigbee、Thread与Z-Wave等无线通信协议是构建短距物联局域网的关键手段,它们常在实际应用中交叉运用,以满足智能家居生态系统多样化的功能需求。然而,这些协议之间并未遵循统一的互通标准,缺乏直接的互操作性,在进行组网时需要引入额外的网关作为“翻译桥梁”,极大地增加了系统的复杂性。 同时,Apple HomeKit、SamSung SmartThings、Amazon Alexa、Google Home等主流智能家居平台为了提升市占率与消费者
    华普微HOPERF 2025-01-06 17:23 145浏览
  • By Toradex 秦海1). 简介嵌入式平台设备基于Yocto Linux 在开发后期量产前期,为了安全以及提高启动速度等考虑,希望将 ARM 处理器平台的 Debug Console 输出关闭,本文就基于 NXP i.MX8MP ARM 处理器平台来演示相关流程。 本文所示例的平台来自于 Toradex Verdin i.MX8MP 嵌入式平台。  2. 准备a). Verdin i.MX8MP ARM核心版配合Dahlia载板并
    hai.qin_651820742 2025-01-07 14:52 45浏览
  • 村田是目前全球量产硅电容的领先企业,其在2016年收购了法国IPDiA头部硅电容器公司,并于2023年6月宣布投资约100亿日元将硅电容产能提升两倍。以下内容主要来自村田官网信息整理,村田高密度硅电容器采用半导体MOS工艺开发,并使用3D结构来大幅增加电极表面,因此在给定的占位面积内增加了静电容量。村田的硅技术以嵌入非结晶基板的单片结构为基础(单层MIM和多层MIM—MIM是指金属 / 绝缘体/ 金属) 村田硅电容采用先进3D拓扑结构在100um内,使开发的有效静电容量面积相当于80个
    知白 2025-01-07 15:02 75浏览
  • 这篇内容主要讨论三个基本问题,硅电容是什么,为什么要使用硅电容,如何正确使用硅电容?1.  硅电容是什么首先我们需要了解电容是什么?物理学上电容的概念指的是给定电位差下自由电荷的储藏量,记为C,单位是F,指的是容纳电荷的能力,C=εS/d=ε0εrS/4πkd(真空)=Q/U。百度百科上电容器的概念指的是两个相互靠近的导体,中间夹一层不导电的绝缘介质。通过观察电容本身的定义公式中可以看到,在各个变量中比较能够改变的就是εr,S和d,也就是介质的介电常数,金属板有效相对面积以及距离。当前
    知白 2025-01-06 12:04 173浏览
  • 本文介绍Linux系统更换开机logo方法教程,通用RK3566、RK3568、RK3588、RK3576等开发板,触觉智能RK3562开发板演示,搭载4核A53处理器,主频高达2.0GHz;内置独立1Tops算力NPU,可应用于物联网网关、平板电脑、智能家居、教育电子、工业显示与控制等行业。制作图片开机logo图片制作注意事项(1)图片必须为bmp格式;(2)图片大小不能大于4MB;(3)BMP位深最大是32,建议设置为8;(4)图片名称为logo.bmp和logo_kernel.bmp;开机
    Industio_触觉智能 2025-01-06 10:43 87浏览
  • 根据Global Info Research项目团队最新调研,预计2030年全球封闭式电机产值达到1425百万美元,2024-2030年期间年复合增长率CAGR为3.4%。 封闭式电机是一种电动机,其外壳设计为密闭结构,通常用于要求较高的防护等级的应用场合。封闭式电机可以有效防止外部灰尘、水分和其他污染物进入内部,从而保护电机的内部组件,延长其使用寿命。 环洋市场咨询机构出版的调研分析报告【全球封闭式电机行业总体规模、主要厂商及IPO上市调研报告,2025-2031】研究全球封闭式电机总体规
    GIRtina 2025-01-06 11:10 104浏览
  • 每日可见的315MHz和433MHz遥控模块,你能分清楚吗?众所周知,一套遥控设备主要由发射部分和接收部分组成,发射器可以将控制者的控制按键经过编码,调制到射频信号上面,然后经天线发射出无线信号。而接收器是将天线接收到的无线信号进行解码,从而得到与控制按键相对应的信号,然后再去控制相应的设备工作。当前,常见的遥控设备主要分为红外遥控与无线电遥控两大类,其主要区别为所采用的载波频率及其应用场景不一致。红外遥控设备所采用的射频信号频率一般为38kHz,通常应用在电视、投影仪等设备中;而无线电遥控设备
    华普微HOPERF 2025-01-06 15:29 127浏览
  • 随着市场需求不断的变化,各行各业对CPU的要求越来越高,特别是近几年流行的 AIOT,为了有更好的用户体验,CPU的算力就要求更高了。今天为大家推荐由米尔基于瑞芯微RK3576处理器推出的MYC-LR3576核心板及开发板。关于RK3576处理器国产CPU,是这些年的骄傲,华为手机全国产化,国人一片呼声,再也不用卡脖子了。RK3576处理器,就是一款由国产是厂商瑞芯微,今年第二季推出的全新通用型的高性能SOC芯片,这款CPU到底有多么的高性能,下面看看它的几个特性:8核心6 TOPS超强算力双千
    米尔电子嵌入式 2025-01-03 17:04 55浏览
  • 大模型的赋能是指利用大型机器学习模型(如深度学习模型)来增强或改进各种应用和服务。这种技术在许多领域都显示出了巨大的潜力,包括但不限于以下几个方面: 1. 企业服务:大模型可以用于构建智能客服系统、知识库问答系统等,提升企业的服务质量和运营效率。 2. 教育服务:在教育领域,大模型被应用于个性化学习、智能辅导、作业批改等,帮助教师减轻工作负担,提高教学质量。 3. 工业智能化:大模型有助于解决工业领域的复杂性和不确定性问题,尽管在认知能力方面尚未完全具备专家级的复杂决策能力。 4. 消费
    丙丁先生 2025-01-07 09:25 80浏览
  •     为控制片内设备并且查询其工作状态,MCU内部总是有一组特殊功能寄存器(SFR,Special Function Register)。    使用Eclipse环境调试MCU程序时,可以利用 Peripheral Registers Viewer来查看SFR。这个小工具是怎样知道某个型号的MCU有怎样的寄存器定义呢?它使用一种描述性的文本文件——SVD文件。这个文件存储在下面红色字体的路径下。    例:南京沁恒  &n
    电子知识打边炉 2025-01-04 20:04 100浏览
  • 根据环洋市场咨询(Global Info Research)项目团队最新调研,预计2030年全球无人机锂电池产值达到2457百万美元,2024-2030年期间年复合增长率CAGR为9.6%。 无人机锂电池是无人机动力系统中存储并释放能量的部分。无人机使用的动力电池,大多数是锂聚合物电池,相较其他电池,锂聚合物电池具有较高的能量密度,较长寿命,同时也具有良好的放电特性和安全性。 全球无人机锂电池核心厂商有宁德新能源科技、欣旺达、鹏辉能源、深圳格瑞普和EaglePicher等,前五大厂商占有全球
    GIRtina 2025-01-07 11:02 68浏览
  • PLC组态方式主要有三种,每种都有其独特的特点和适用场景。下面来简单说说: 1. 硬件组态   定义:硬件组态指的是选择适合的PLC型号、I/O模块、通信模块等硬件组件,并按照实际需求进行连接和配置。    灵活性:这种方式允许用户根据项目需求自由搭配硬件组件,具有较高的灵活性。    成本:可能需要额外的硬件购买成本,适用于对系统性能和扩展性有较高要求的场合。 2. 软件组态   定义:软件组态主要是通过PLC
    丙丁先生 2025-01-06 09:23 85浏览
  • 彼得·德鲁克被誉为“现代管理学之父”,他的管理思想影响了无数企业和管理者。然而,关于他的书籍分类,一种流行的说法令人感到困惑:德鲁克一生写了39本书,其中15本是关于管理的,而其中“专门写工商企业或为企业管理者写的”只有两本——《为成果而管理》和《创新与企业家精神》。这样的表述广为流传,但深入探讨后却发现并不完全准确。让我们一起重新审视这一说法,解析其中的矛盾与根源,进而重新认识德鲁克的管理思想及其著作的真正价值。从《创新与企业家精神》看德鲁克的视角《创新与企业家精神》通常被认为是一本专为企业管
    优思学院 2025-01-06 12:03 119浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦