异构计算统一标识与服务白皮书(附下载)

智能计算芯世界 2021-07-01 00:00


文章参考“异构算力统一标识与服务白皮书”,白皮书内容覆盖 异构算力产业发展现状 异构算力发展需求异构算力统一标识和资源抽象等。


下载链接:异构算力统一标识与服务白皮书

本号资料全部上传至知识星球,更多内容请登录智能计算芯知识(知识星球)星球下载全部资料。


当前算力网络架构中的算力可以由不同的硬件架构组成,一般包括 CPU、GPU、FPGA 和 AISC 等类型;CPU 主要有 X86 和 ARM,虽然 ARM 设计之初作为面向低功耗等场景推出的定制化的 ASIC 芯片,但是随着 ARM 在服务器和嵌入式终端的广泛应用,目前也是作为通用芯片来应用和部署;GPU 主要是快速实现矢量的图形化数据处理的专有架构;FPGA 作为可编程逻辑门电路在硬件加速等方面具有优势;而面向特定场景的处理需求需定制专用芯片来进行处理,比如当前针对深度学习设计的各种 TPU、NPU 属于领域的定制的 ASIC。



CPU 采用冯诺依曼架构,将计算分为取指、译码、发射、执行、写回等几个阶段,通过软件调度,可以完成任意特点计算。当前 CPU 的架构已经相当复杂,并且真正有效计算在 CPU 整体功耗比例中不到 10%,所以 CPU 适合控制复杂,而计算密度不高的应用场景。X86 CPU 在数据中心和云计算领域具有统治地位,而ARM CPU 由于其低功耗、低成本的特点占据绝大部分终端市场。另一方面,随着国内在推动国产化服务器的布局,ARM 服务器也已经逐渐进入数据中心作为异构算力的组成部分。


GPU 采用的是 SIMD/SIMT 架构,虽然本质上还是冯诺依曼架构,但减少了取值、译码开销,GPU 同样具有很强的通用性,以 NVIDIA 为代表的 GPU 厂商,培养了非常好的 GPU 生态系统,为用户提供了非常方便的开发环境,所以 GPU 在高性能计算、图像处理和 AI 领域都有非常广泛的应用。


FPGA 为现场可编程门电路,可以认为是细粒度可重构芯片,FPGA 非常适合数据流驱动的计算架构,具有高空间并发和低时延的特点,理论上 FPGA 可以实现任意功能,但 FPGA 开发周期比较长,同时对开发人员的专业技能要求也比较高,这些都影响了 FPGA 的应用场景。


ASIC 是一种专用芯片,与传统的通用芯片有一定的差异,是为了某种特定的需求而专门定制的芯片。ASIC 芯片的计算能力和计算效率都可以根据算法需要进行定制,所以 ASIC 与通用芯片相比,具有以下几个方面的优越性:体积小、功耗低、计算性能高、计算效率高、芯片出货量越大成本越低。但是缺点也很明显,只能针对特定的某个或某几个应用场景,一旦算法和流程变更可能导致 ASIC无法满足业务需求。


算力与高性能计算

高性能计算 HPC,主要应用在气象、地震、勘探等科学计算领域,一般是建设一定规模的计算集群通过高速网络互联。高性能计算项目中的算力一般使用X86 CPU 和中高端 GPU,近期 ARM 处理器的集群逐渐增多,在某些专用领域也可使用 FPGA 和 ASIC 来加速计算。


另外一种 HPC 的方案是分布式计算,利用分散的计算机和其它终端的闲置处理能力来解决大型计算问题,如生物病理研究、药物研究、寻找地外文明的信号等项目。主要利用的是 X86 CPU、消费级的显卡等算力资源。


算力与物联网

物联网(IOT)通过各种信息传感器设备,实时采集任何需要监控、连接、互动的物体或过程,采集其声、光、热等各种需要的信息,通过各类网络接入,实现物与物、物与人的泛在连接,实现对物品和过程的智能化感知、识别和管理。


物联网的应用场景包括工业物联网、家庭物联网、车联网等各种应用场景。物联网网关通过支持各种协议将数据收集、转换、传送到云端进行处理,不同应用场景对物联网网关的性能要求差别较大,传统的物联网网关采用配置低功耗 X86 或者 ARM 处理器的小型计算设备。物联网网关的趋势是承担更多的数据处理的任务,对算力的要求越来越高。


IOT 从传感器收集数据,网关做初步计算分析,在边缘云处做本地分析和处理,然后汇聚到数据中心,进行大数据处理和分析。



算力与边缘计算

边缘计算和 5G 的大带宽、低延时相辅相成,边缘计算是在网络边缘为应用开发者和内容服务商提供所需的云端计算功能、互联网技术服务环境等。边缘计算在靠近数据源、终端设备的位置对数据进行处理。边缘计算对算力的要求较高,在视频和图像识别、语音识别等场景需要较大算力,需配置 SoC、GPU、ASIC 或FPGA 等加速处理芯片。边缘计算所需算力分布广泛,可分布于智能装备、工业控制器、传感器、ICT 融合网关和边缘云等处。



算力与 AI

人工智能研究的主要目标是使机器能够胜任一些通常需要人类智能才能完成的复杂工作。人工智能的研究领域包括机器人、语言识别、图像识别、自然语言处理和专家系统等。人工智能的三要素是算力、算法和数据。人工智能的算力主要是 GPU、ASIC、FPGA、TPU 等。人工智能在不同层面使用不同算力水平的 GPU,如手机终端上的 GPU、边缘计算中的推理 GPU、数据中心的训练 GPU。



异构算力的统一标识是实现在算力网络连接范围内异构芯片的统一标识。实现异厂家和多数据中心算力资源接入算力网络内部以期能够共同打造算力流通,算力溯源以及确保数据在可信算力环境中可管可控提供切实有效的保障机制。建立异构算力统一标识,其出发点主要基于以下三个方面:


可信算力:基于统一标识,实现算力可信接入、安全认证和鉴权,打造算力安全有效的计算环境,切实保障算力网络安全有效的生态环境;


算力溯源:基于统一标识,可以实现算力溯源,实现算力在云、边、端侧的溯源和安全等级;


算力度量:基于统一标识,构建算力度量,实现算力在分场景下的算力匹配和专家推荐,从而实现算力在联盟范围内的流通。


异构算力统一标识和认证体系架构保障在一个算力联盟内部接入的算力资源提供切实可信的计算环境和算力溯源机制,从而让上层用户应用程序能够在保证数据安全、稳定、有效的计算环境中正常运行和处理;同时,结合不同应用场景提供算力度量机制,为算力流通提供可度量、可推荐的算力评价机制。



依据上述架构图,异构算力统一标识在原有多云接入方式下,通过各家厂商的云系统的 PIM 接口上报异构算力的具体信息,对于非云系统采用其他适配层的方式纳管算力资源。


在算力接入过程中需要通过第三方认证中心进行算力认证并且发放签名证书并通过操作系统保存在可信区中。当算力经过自有云系统或者第三方接口上报至统一资源模型时,需要凭借授权的证书进行认证鉴权,只有经过认证合法的算力才能够作为可信算力纳入到算力管理中,并且经过统一资源模型成为算力资源。


为了给上层用户提供安全可靠的异构算力使用生态环境,包括中国联通在内的整个行业实现异构算力公平可靠的流通,数据能够在可管可控的可信计算环境下安全有效的进行处理。需要具有公立的第三方安全可靠的鉴权认证中心实现可信算力的认证鉴权,并且为了能够降低算力使用者的使用门槛,需要构建统一的资源模型,进行有效的管理,并且能够建立标准的算力度量机制,从而保障算力公平、可靠的流通。


异构算力的统一调度系统框架,按照分层结构,其总体技术架构如下图所示:



面向异构计算节点资源实现统一的资源实时感知,并且对上层提供资源抽象和应用调度抽象,以满足上层多场景需求的使用,具体如下:


应用接口抽象层

该层衔接应用业务对资源的需求与系统资源的统一调度,以用户友好的应用资源需求表示方式和交互界面屏蔽异构算力的资源调度复杂性,实现调度器使用者与统一调度系统之间对作业的联动控制和实时反馈。


插件式调度策略引擎


该引擎根据应用的资源需求匹配最佳的异构算力资源分配,作业调度流程和策略具有高度模块化、灵活组合、可插件式扩展等能力。一方面满足调度器管理者对系统资源分配目标的统一控制,如控制不同场景任务的资源分配额度、优化系统特定维度资源的使用效率等;另一方面满足调度器使用者的应用个性化资源和业务模型需求,如控制多个应用间的运行依赖行为、资源竞争关系等。应用获取可使用资源的调度过程主要分为作业排队和资源分配两个阶段,其中作业排队用于决定当前优先获得调度资格的作业序列顺序,影响作业调度顺序的因素多种多样,如当前用户或所在组织的资源配额限制、作业之间的启动依赖关系、作业所在排队序列的资源分配策略及可调度份额等。


调度策略配置层

提供对插件式调度策略的控制面管理能力,根据调度器系统所服务的应用场景配置作业调度各阶段的策略启用行为,满足目标应用的异构算力资源调度需求;提供对租户面的资源配额、运行限制等多维度层次化管理配置能力。


资源实时感知层

该层实时收集系统内各节点的异构算力资源数量,感知硬件拓扑及运行健康变化,反馈到调度引擎用于匹配作业的资源需求。资源信息感知的反馈及时性对调度引擎的决策实时性和准确性至关重要。


统一调度核心流程满足多租户场景下的算力配额、多用户优先级(作业选择策略框架)、多任务CPU、NPU、GPU、ARM、TPU(资源调度策略框架)算力需求。



作业调度流程主要分为作业选择和资源分配两个阶段,其中作业选择阶段决定了作业调度的优先级,资源分配阶段决定了作业需求资源的最终分配方式。以批处理类作业和长时服务类作业为例,不同负载类型对应不同的核心调度流程和策略。


下载链接:异构算力统一标识与服务白皮书

云网融合向算网一体技术演进白皮书(2021)

2021年人工智能在工业领域的研究报告
人工智能“新基建”发展白皮书
RISC-V芯片产业指令集架构研究


服务器研究框架合集

1、华为鲲鹏生态研究框架
2、服务器研究框架
3、国产架构服务器研究框架
4、服务器系列报告(计算篇)CPU平台


异构芯片研究框架合集
1、EDA行业研究框架
2、半导体大硅片研究框架
3、封测行业研究框架
4、光刻机行业研究框架
4、国产FPGA研究框架
5、国产基带芯片研究框架
6、深度报告:NOR存储芯片研究框架


芯片技术设计和应用汇总
《三种使用PCIe IP的节能技术》
《5G如何影响芯片设计》 
《从数据中心到边缘的AI芯片设计》 
《多通道体系结构优化LPDDR4性能和功耗》 
《工业物联网在半导体行业中的机遇》 
《人工智能专用SoC芯片IP需求分析》


CPU和GPU研究框架合集

1、行业深度报告:GPU研究框架

2、信创产业研究框架

3、ARM行业研究框架

4、CPU研究框架

5、国产CPU研究框架

6、行业深度报告:GPU研究框架

本号资料全部上传至知识星球,更多内容请登录智能计算芯知识(知识星球)星球下载全部资料。




免责申明:本号聚焦相关技术分享,内容观点不代表本号立场,可追溯内容均注明来源,发布文章若存在版权等问题,请留言联系删除,谢谢。


电子书<服务器基础知识全解(终极版)>更新完毕,知识点深度讲解,提供182页完整版下载。

获取方式:点击“阅读原文”即可查看PPT可编辑版本和PDF阅读版本详情。



温馨提示:

请搜索“AI_Architect”或“扫码”关注公众号实时掌握深度技术分享,点击“阅读原文”获取更多原创技术干货。


智能计算芯世界 聚焦人工智能、芯片设计、异构计算、高性能计算等领域专业知识分享.
评论
  • 大模型的赋能是指利用大型机器学习模型(如深度学习模型)来增强或改进各种应用和服务。这种技术在许多领域都显示出了巨大的潜力,包括但不限于以下几个方面: 1. 企业服务:大模型可以用于构建智能客服系统、知识库问答系统等,提升企业的服务质量和运营效率。 2. 教育服务:在教育领域,大模型被应用于个性化学习、智能辅导、作业批改等,帮助教师减轻工作负担,提高教学质量。 3. 工业智能化:大模型有助于解决工业领域的复杂性和不确定性问题,尽管在认知能力方面尚未完全具备专家级的复杂决策能力。 4. 消费
    丙丁先生 2025-01-07 09:25 122浏览
  • 根据环洋市场咨询(Global Info Research)项目团队最新调研,预计2030年全球无人机锂电池产值达到2457百万美元,2024-2030年期间年复合增长率CAGR为9.6%。 无人机锂电池是无人机动力系统中存储并释放能量的部分。无人机使用的动力电池,大多数是锂聚合物电池,相较其他电池,锂聚合物电池具有较高的能量密度,较长寿命,同时也具有良好的放电特性和安全性。 全球无人机锂电池核心厂商有宁德新能源科技、欣旺达、鹏辉能源、深圳格瑞普和EaglePicher等,前五大厂商占有全球
    GIRtina 2025-01-07 11:02 127浏览
  •  在全球能源结构加速向清洁、可再生方向转型的今天,风力发电作为一种绿色能源,已成为各国新能源发展的重要组成部分。然而,风力发电系统在复杂的环境中长时间运行,对系统的安全性、稳定性和抗干扰能力提出了极高要求。光耦(光电耦合器)作为一种电气隔离与信号传输器件,凭借其优秀的隔离保护性能和信号传输能力,已成为风力发电系统中不可或缺的关键组件。 风力发电系统对隔离与控制的需求风力发电系统中,包括发电机、变流器、变压器和控制系统等多个部分,通常工作在高压、大功率的环境中。光耦在这里扮演了
    晶台光耦 2025-01-08 16:03 75浏览
  • By Toradex 秦海1). 简介嵌入式平台设备基于Yocto Linux 在开发后期量产前期,为了安全以及提高启动速度等考虑,希望将 ARM 处理器平台的 Debug Console 输出关闭,本文就基于 NXP i.MX8MP ARM 处理器平台来演示相关流程。 本文所示例的平台来自于 Toradex Verdin i.MX8MP 嵌入式平台。  2. 准备a). Verdin i.MX8MP ARM核心版配合Dahlia载板并
    hai.qin_651820742 2025-01-07 14:52 113浏览
  • 故障现象一辆2017款东风风神AX7车,搭载DFMA14T发动机,累计行驶里程约为13.7万km。该车冷起动后怠速运转正常,热机后怠速运转不稳,组合仪表上的发动机转速表指针上下轻微抖动。 故障诊断 用故障检测仪检测,发动机控制单元中无故障代码存储;读取发动机数据流,发现进气歧管绝对压力波动明显,有时能达到69 kPa,明显偏高,推断可能的原因有:进气系统漏气;进气歧管绝对压力传感器信号失真;发动机机械故障。首先从节气门处打烟雾,没有发现进气管周围有漏气的地方;接着拔下进气管上的两个真空
    虹科Pico汽车示波器 2025-01-08 16:51 86浏览
  • 村田是目前全球量产硅电容的领先企业,其在2016年收购了法国IPDiA头部硅电容器公司,并于2023年6月宣布投资约100亿日元将硅电容产能提升两倍。以下内容主要来自村田官网信息整理,村田高密度硅电容器采用半导体MOS工艺开发,并使用3D结构来大幅增加电极表面,因此在给定的占位面积内增加了静电容量。村田的硅技术以嵌入非结晶基板的单片结构为基础(单层MIM和多层MIM—MIM是指金属 / 绝缘体/ 金属) 村田硅电容采用先进3D拓扑结构在100um内,使开发的有效静电容量面积相当于80个
    知白 2025-01-07 15:02 145浏览
  • 「他明明跟我同梯进来,为什么就是升得比我快?」许多人都有这样的疑问:明明就战绩也不比隔壁同事差,升迁之路却比别人苦。其实,之间的差异就在于「领导力」。並非必须当管理者才需要「领导力」,而是散发领导力特质的人,才更容易被晓明。许多领导力和特质,都可以通过努力和学习获得,因此就算不是天生的领导者,也能成为一个具备领导魅力的人,进而被老板看见,向你伸出升迁的橘子枝。领导力是什么?领导力是一种能力或特质,甚至可以说是一种「影响力」。好的领导者通常具备影响和鼓励他人的能力,并导引他们朝着共同的目标和愿景前
    优思学院 2025-01-08 14:54 80浏览
  • 每日可见的315MHz和433MHz遥控模块,你能分清楚吗?众所周知,一套遥控设备主要由发射部分和接收部分组成,发射器可以将控制者的控制按键经过编码,调制到射频信号上面,然后经天线发射出无线信号。而接收器是将天线接收到的无线信号进行解码,从而得到与控制按键相对应的信号,然后再去控制相应的设备工作。当前,常见的遥控设备主要分为红外遥控与无线电遥控两大类,其主要区别为所采用的载波频率及其应用场景不一致。红外遥控设备所采用的射频信号频率一般为38kHz,通常应用在电视、投影仪等设备中;而无线电遥控设备
    华普微HOPERF 2025-01-06 15:29 172浏览
  • 本文介绍编译Android13 ROOT权限固件的方法,触觉智能RK3562开发板演示,搭载4核A53处理器,主频高达2.0GHz;内置独立1Tops算力NPU,可应用于物联网网关、平板电脑、智能家居、教育电子、工业显示与控制等行业。关闭selinux修改此文件("+"号为修改内容)device/rockchip/common/BoardConfig.mkBOARD_BOOT_HEADER_VERSION ?= 2BOARD_MKBOOTIMG_ARGS :=BOARD_PREBUILT_DTB
    Industio_触觉智能 2025-01-08 00:06 100浏览
  • 在智能家居领域中,Wi-Fi、蓝牙、Zigbee、Thread与Z-Wave等无线通信协议是构建短距物联局域网的关键手段,它们常在实际应用中交叉运用,以满足智能家居生态系统多样化的功能需求。然而,这些协议之间并未遵循统一的互通标准,缺乏直接的互操作性,在进行组网时需要引入额外的网关作为“翻译桥梁”,极大地增加了系统的复杂性。 同时,Apple HomeKit、SamSung SmartThings、Amazon Alexa、Google Home等主流智能家居平台为了提升市占率与消费者
    华普微HOPERF 2025-01-06 17:23 211浏览
  • 这篇内容主要讨论三个基本问题,硅电容是什么,为什么要使用硅电容,如何正确使用硅电容?1.  硅电容是什么首先我们需要了解电容是什么?物理学上电容的概念指的是给定电位差下自由电荷的储藏量,记为C,单位是F,指的是容纳电荷的能力,C=εS/d=ε0εrS/4πkd(真空)=Q/U。百度百科上电容器的概念指的是两个相互靠近的导体,中间夹一层不导电的绝缘介质。通过观察电容本身的定义公式中可以看到,在各个变量中比较能够改变的就是εr,S和d,也就是介质的介电常数,金属板有效相对面积以及距离。当前
    知白 2025-01-06 12:04 227浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦