如何简要理解亚马逊云基础架构的领先性

趣味科技v 2022-04-14 22:28

截止到2021年底,每天有大约6000万个实例在亚马逊云科技上启动和运行,这个数字是2019年的两倍。这说明,云计算正在以不可阻挡的趋势滚滚向前发展。除了基于Amazon EC2提供的托管服务以外(比如Amazon RDS),这里面应该有很大一部分实例都是以Amazon EC2的形式直面用户,Amazon EC2是一项特别基础又很重要的服务,换句话说,Amazon EC2就是许多人(组织)云上之旅开始的地方。


今天揭秘全球众多用户选择亚马逊云的原因之一,带大家了解Amazon EC2计算的领先性。


领先,不仅仅是Graviton



Amazon EC2实例类型之多,一时间我也数不清楚,上图大致点出了主要的计算实例类型,按照应用场景,可分为通用型、计算优化型、存储优化型、内存优化型以及加速计算型。随着AMD在数据中心市场的崛起,随着亚马逊云自研ARM处理器Graviton投入了大规模使用,亚马逊云彻底改变了只有英特尔x86可用的局面,在基础设施技术架构方面获得了更强的掌控力,也给了用户丰富多样的选择。


Graviton字面意思是万有引力,从伽利略到牛顿的探索,万有引力第一次解释了力基本相互作用的规律,是人类认识自然的历史上的一座里程碑。Graviton处理器似乎也带着类似的使命而来,它让通用计算生态发生了历史性变化,它不仅带来了颇具颠覆性的性价比(Graviton2比x86平台的性价比高出40%,Graviton3比Graviton2又高出了25%),更重要的是,Graviton还用实际行动证明了,在云上ARM服务器可以为用户提供更多选择,与x86服务器分庭抗礼。


构建新的通用计算架构生态是个世界级难题,技术本身都不是最难的,最难的点有两个:一个是得有丰富的应用生态,用户能轻松用起来;一个是有很大的出货量,这样才有成本优势。


两者类似于先有鸡还是先有蛋的问题,那要如何破局呢?


过去几年,亚马逊自己下手普及Graviton的应用场景,将许多服务交由Graviton实例来运行(比如Amazon RDS),用户在不知不觉中用上了Graviton,应用生态和用户量同步推进。


【使用了Graviton的亚马逊云托管服务】


【使用了Graviton的亚马逊 Serverless服务】


在性价比的吸引力之下,另外一部分用户则是将部分新型应用直接放到Graviton上,或者将老应用迁移至Graviton。这一过程中,积累了大量用户,也构建了越来越丰富的应用生态。


2021年底采访中,在被问到中国用户对于Graviton接受度如何时,亚马逊云科技大中华区产品部总经理顾凡肯定的答复是“Graviton在中国的业绩表现非常好”。


与Graviton在企业级市场类似,隔壁苹果自研的基于ARM的M1芯片也成了消费级市场上的一颗耀眼的明星,更巧的是,M1发布的2020年,苹果的mac电脑也插上Amazon Nitro卡,摇身一变成了全新的Amazon EC2实例,又过了一年,连M1芯片的苹果电脑也成了Amazon EC2实例。



亚马逊云不仅提供了所有常见和不常见(2022年,mac实例仅此一家)通用计算实例,在加速计算领域,还提供了基于AMD、英伟达的GPU以及FPGA加速卡的实例,面向机器学习场景,还推出了基于自研推理和训练芯片的加速计算实例,构建了百科全书级别的云计算实例体系。


我还想说的是,上图显示的是目前大部分可以买到的老实例,并不意味着老实例没有了,前不久发现了亚马逊云的一个“骚操作”让人由衷佩服,说的是用Amazon Nitro卡模拟旧的硬件,让用户可以继续使用老实例。


这点亚马逊云没怎么大张旗鼓地说,但想来确实很难得。因为运行这些老实例的硬件已经基本快退休了,不太能稳定正常工作了,运维管理成本也会特别的高,亚马逊云并没有把用户强行赶到老实例上,而是给了用户不迁移的自由,也给了用户充分的安全感,很贴心。


无论是创建各种实例还是延续老实例,站在背后的都是Amazon Nitro,Amazon EC2实例之所以如此丰富,也是因为Amazon Nitro,现在再来看Amazon Nitro卡,已经是亚马逊云 Amazon EC2的灵魂。


Amazon Nitro——Amazon EC2的灵魂


几年前,初识Amazon Nitro的我惊叹于它在Offload方面带来的巨大变革,回顾过往,Amazon Nitro一步步Offload CPU上的Hypervisior,去除虚拟化的性能损耗,为用户交付足量计算力,是降本增效的一把好手,也是提升性能和稳定性的重要手段。



亚马逊云 Amazon EC2的虚拟化技术变迁:从全由软件模拟到全由硬件支撑,近似裸金属性能Amazon Nitro的出现使得云计算整个业态都发生了变化,一样的处理器,一样的内存,一样的主板,一样的网卡,而Amazon EC2多了一个Nitro。这意味着,灵活性、稳定性和安全性以及性能都带有了脱胎换骨的变化,使得亚马逊云 Amazon EC2从一众云厂商中脱颖而出。


随后的两三年,陆续看到了NVIDIA发布的BlueField以及英特尔发布的IPU,在笔者看来,两者就是Amazon Nitro的跟随者,这是亚马逊云作为云势力向信息产业输出的一套杰出的实践,通俗点说,这是云厂商在教芯片巨头做芯片。


【Amazon Nitro的功能模块】


刚才提到的Offload其实是在说Amazon Nitro的第一大功能——Nitro Hypervisior,它首先承包了原本CPU需要扛起来的Hypervisior,消除虚拟机的性能损耗,从而让云主机输出近似裸金属的性能。


此外,Amazon Nitro还承包了一系列系统功能,包括VPC网络、EBS块存储、系统控制器等功能,另外,在安全方面,Amazon Nitro将安全芯片集成到主板上,提供硬件层的安全验证能力。


至此,Amazon Nitro将网络、存储、虚拟化(Hypervisior)和安全四大类功能从CPU侧卸载到专用板卡中,依托于Amazon Nitro来提供各种IaaS服务,将IaaS层的各类云服务融入到了Amazon Nitro中。


此时,亚马逊云的Amazon EC2与其他云厂商的云主机已经有了根本性的区别。Graviton通用处理器加上Amazon Nitro,多个核心技术都由亚马逊云来自由掌控,就好比隔壁苹果电脑区别于Windows兼容电脑,苹果手机区别于安卓手机一样。


近两年来,Amazon Nitro不断加入更多内涵,比如,在安全方面,Amazon Nitro Enclaves提供了一个隔离的计算环境,它可以保护并安全地让Amazon EC2处理高度敏感的数据。


2022年,亚马逊云还将推出Amazon Nitro TPM,它为系统生成、存储和使用秘钥。TPM可以用来校验系统的完整性和安全性,Amazon Nitro TPM的加入将意味着那些需要TPM的应用也能在Amazon EC2上运行了。


2021年re:Invent上,Amazon Nitro家族迎来了新成员——Amazon Nitro  SSD,云厂商自研SSD已经不是新鲜事儿,自研会提升对于SSD的掌控力,掌握Firmware的更新迭代节奏,最大化SSD的价值,让性能变得更可控,可预测。


计算的高级阶段,横向扩展的大规模集群



鉴于对于云技术的深度掌控,亚马逊云在应用场景上不断突破新边界,2021年re:Invent上,亚马逊云发布大型机现代化服务,云技术架构用的低成本硬件替代专有高成本硬件的变革之路,已经铺到了IBM大型机门前。


云技术的技术核心就是分布式架构,分布式技术的挑战就是要在不那么可靠的低成本硬件上构建可靠的服务。其实,多年前没有云的时代就有许多聪明的工程师致力于此,但公有云将分布式架构发扬光大,并对整个行业都产生了深远影响。


时至今日,用户对于云的需求也比较明确,希望利用云的弹性和灵活性,当计算需求增大的时候就添加更多资源,当需求缩减的时候就关停资源,以此应对,业务高峰期的流量,也避免业务低峰期的资源浪费。


2021年,亚马逊游戏发布了一款叫《新世界》的MMORPG(大型多人在线角色扮演游戏,游戏类型与《魔兽世界》一样)游戏,游戏的地图很大,画面制作精良,在欧美热度很高。从技术的角度看,这款游戏其实是一个大规模的分布式系统。



该游戏有一个叫“世界”的概念,相当于一个游戏区,每个区被切分成了14个方格,一台Amazon EC2负责2个方格里的各种事务,包括NPC之类的,有意思的是,玩家在地图上来回走的时候,完全不需要反复加载的过程,从技术角度看,玩家其实是切换Amazon EC2服务器而已。



玩家操控的角色所需的Amazon EC2资源则来自横跨整个Reigon的资源池(Instance pool),按照在线人数进行调配。每个“世界”可容纳的玩家有限,游戏刚上线的时候一共有185个“世界”,由于热度很高,随后不到10天就扩展到了500个“世界”,如果不是云架构则很难在短时间内完成。


此外,这套分布式系统还使用了多种Serverless服务承担一些非核心任务,使用了数据分析技术来帮助优化游戏,还使用了DynamoDB记录游戏的状态,在DynamoDB的帮助下,即使所有Amazon EC2实例都宕机了,也能快速恢复,架构可以提供极强的冗余性和业务连续性。


说到集群规模,亚马逊云用集群来提升机器学习的训练效率,解决训练大规模机器学习模型的难点,不断提升训练GPT-3的训练效率。



上图中,从P3dn到P4d再到Trn1n,一方面用于训练的芯片从英伟达V100升级为A10,最后换成了自研的Trainium芯片,另一方面,通过不断优化集群网络,提升网络的传输带宽减少集群间数据通信的开销。


最终,两周内训练完成GPT-3所需的实例数量大大缩减,未来更大规模的机器学习模型训练可以通过扩展规模来进行应对,因为机器学习模型继续膨胀是必然趋势,因此,将训练集群规模扩大将会是非常重要的能力,而这些能力,都来自云。


集群规模的优势是分布式存储架构追求的目标。


结语-计算改变世界,早已不是一句口号


对内,亚马逊云可以从各个关键技术层面上进行优化和创新,从Graviton核心通用计算芯片技术,到云计算关键的虚拟化技术,再到大规模集群的快速构建能力,亚马逊云全面掌控。


对外,亚马逊云塑造了极强的技术影响力,亚马逊云Amazon EC2实例的命名规则被大部分云厂商借鉴,Amazon Nitro引领的DPU成了云计算发展的重要方向,一些亚马逊自己的标准也成了行业标准,比如S3,亚马逊云自己的突破也为行业发展起到了牵头示范作用。


对于用户来说,亚马逊云能提供的是世界一流的云计算服务,总能给用户带来新的惊喜,如果说下一步亚马逊在计算上有什么新突破的话,我拍脑门随口一说,会不会是把苹果手机也插上Amazon Nitro卡呢,不知道广大iOS开发者怎么看?




汇聚众多行业大咖、以“云基础架构”为主题的“亚马逊云科技创新大会”,即将于2022年4月20日下午14:00在线上召开。届时大会主题演讲、6大分会场、30+前沿技术主题,将带您全面了解亚马逊云科技云基础架构知识,以及如何重构云底座,助力企业数字化转型。



点击“阅读原文”或扫描二维码即可报名,一起加速向未来!






趣味科技v 资深媒体人彭承文和他的小伙伴们耕耘打理的科技自媒体,传播趣味文章,八卦前卫科技,年度十大媒体人,十佳科技自媒体,美通社媒体传播专家,2018平昌冬奥会火炬手.
评论
  • Ubuntu20.04默认情况下为root账号自动登录,本文介绍如何取消root账号自动登录,改为通过输入账号密码登录,使用触觉智能EVB3568鸿蒙开发板演示,搭载瑞芯微RK3568,四核A55处理器,主频2.0Ghz,1T算力NPU;支持OpenHarmony5.0及Linux、Android等操作系统,接口丰富,开发评估快人一步!添加新账号1、使用adduser命令来添加新用户,用户名以industio为例,系统会提示设置密码以及其他信息,您可以根据需要填写或跳过,命令如下:root@id
    Industio_触觉智能 2025-01-17 14:14 145浏览
  •  光伏及击穿,都可视之为 复合的逆过程,但是,复合、光伏与击穿,不单是进程的方向相反,偏置状态也不一样,复合的工况,是正偏,光伏是零偏,击穿与漂移则是反偏,光伏的能源是外来的,而击穿消耗的是结区自身和电源的能量,漂移的载流子是 客席载流子,须借外延层才能引入,客席载流子 不受反偏PN结的空乏区阻碍,能漂不能漂,只取决于反偏PN结是否处于外延层的「射程」范围,而穿通的成因,则是因耗尽层的过度扩张,致使跟 端子、外延层或其他空乏区 碰触,当耗尽层融通,耐压 (反向阻断能力) 即告彻底丧失,
    MrCU204 2025-01-17 11:30 210浏览
  • 随着消费者对汽车驾乘体验的要求不断攀升,汽车照明系统作为确保道路安全、提升驾驶体验以及实现车辆与环境交互的重要组成,日益受到业界的高度重视。近日,2024 DVN(上海)国际汽车照明研讨会圆满落幕。作为照明与传感创新的全球领导者,艾迈斯欧司朗受邀参与主题演讲,并现场展示了其多项前沿技术。本届研讨会汇聚来自全球各地400余名汽车、照明、光源及Tier 2供应商的专业人士及专家共聚一堂。在研讨会第一环节中,艾迈斯欧司朗系统解决方案工程副总裁 Joachim Reill以深厚的专业素养,主持该环节多位
    艾迈斯欧司朗 2025-01-16 20:51 319浏览
  • 本文介绍瑞芯微开发板/主板Android配置APK默认开启性能模式方法,开启性能模式后,APK的CPU使用优先级会有所提高。触觉智能RK3562开发板演示,搭载4核A53处理器,主频高达2.0GHz;内置独立1Tops算力NPU,可应用于物联网网关、平板电脑、智能家居、教育电子、工业显示与控制等行业。源码修改修改源码根目录下文件device/rockchip/rk3562/package_performance.xml并添加以下内容,注意"+"号为添加内容,"com.tencent.mm"为AP
    Industio_触觉智能 2025-01-17 14:09 203浏览
  • 故障现象 一辆2007款日产天籁车,搭载VQ23发动机(气缸编号如图1所示,点火顺序为1-2-3-4-5-6),累计行驶里程约为21万km。车主反映,该车起步加速时偶尔抖动,且行驶中加速无力。 图1 VQ23发动机的气缸编号 故障诊断接车后试车,发动机怠速运转平稳,但只要换挡起步,稍微踩下一点加速踏板,就能感觉到车身明显抖动。用故障检测仪检测,发动机控制模块(ECM)无故障代码存储,且无失火数据流。用虹科Pico汽车示波器测量气缸1点火信号(COP点火信号)和曲轴位置传感器信
    虹科Pico汽车示波器 2025-01-23 10:46 72浏览
  •     IPC-2581是基于ODB++标准、结合PCB行业特点而指定的PCB加工文件规范。    IPC-2581旨在替代CAM350格式,成为PCB加工行业的新的工业规范。    有一些免费软件,可以查看(不可修改)IPC-2581数据文件。这些软件典型用途是工艺校核。    1. Vu2581        出品:Downstream     
    电子知识打边炉 2025-01-22 11:12 134浏览
  •  万万没想到!科幻电影中的人形机器人,正在一步步走进我们人类的日常生活中来了。1月17日,乐聚将第100台全尺寸人形机器人交付北汽越野车,再次吹响了人形机器人疯狂进厂打工的号角。无独有尔,银河通用机器人作为一家成立不到两年时间的创业公司,在短短一年多时间内推出革命性的第一代产品Galbot G1,这是一款轮式、双臂、身体可折叠的人形机器人,得到了美团战投、经纬创投、IDG资本等众多投资方的认可。作为一家成立仅仅只有两年多时间的企业,智元机器人也把机器人从梦想带进了现实。2024年8月1
    刘旷 2025-01-21 11:15 658浏览
  • 日前,商务部等部门办公厅印发《手机、平板、智能手表(手环)购新补贴实施方案》明确,个人消费者购买手机、平板、智能手表(手环)3类数码产品(单件销售价格不超过6000元),可享受购新补贴。每人每类可补贴1件,每件补贴比例为减去生产、流通环节及移动运营商所有优惠后最终销售价格的15%,每件最高不超过500元。目前,京东已经做好了承接手机、平板等数码产品国补优惠的落地准备工作,未来随着各省市关于手机、平板等品类的国补开启,京东将第一时间率先上线,满足消费者的换新升级需求。为保障国补的真实有效发放,基于
    华尔街科技眼 2025-01-17 10:44 238浏览
  • 临近春节,各方社交及应酬也变得多起来了,甚至一月份就排满了各式约见。有的是关系好的专业朋友的周末“恳谈会”,基本是关于2025年经济预判的话题,以及如何稳定工作等话题;但更多的预约是来自几个客户老板及副总裁们的见面,他们为今年的经济预判与企业发展焦虑而来。在聊天过程中,我发现今年的聊天有个很有意思的“点”,挺多人尤其关心我到底是怎么成长成现在的多领域风格的,还能掌握一些经济趋势的分析能力,到底学过哪些专业、在企业管过哪些具体事情?单单就这个一个月内,我就重复了数次“为什么”,再辅以我上次写的:《
    牛言喵语 2025-01-22 17:10 175浏览
  • 现在为止,我们已经完成了Purple Pi OH主板的串口调试和部分配件的连接,接下来,让我们趁热打铁,完成剩余配件的连接!注:配件连接前请断开主板所有供电,避免敏感电路损坏!1.1 耳机接口主板有一路OTMP 标准四节耳机座J6,具备进行音频输出及录音功能,接入耳机后声音将优先从耳机输出,如下图所示:1.21.2 相机接口MIPI CSI 接口如上图所示,支持OV5648 和OV8858 摄像头模组。接入摄像头模组后,使用系统相机软件打开相机拍照和录像,如下图所示:1.3 以太网接口主板有一路
    Industio_触觉智能 2025-01-20 11:04 194浏览
  • 数字隔离芯片是一种实现电气隔离功能的集成电路,在工业自动化、汽车电子、光伏储能与电力通信等领域的电气系统中发挥着至关重要的作用。其不仅可令高、低压系统之间相互独立,提高低压系统的抗干扰能力,同时还可确保高、低压系统之间的安全交互,使系统稳定工作,并避免操作者遭受来自高压系统的电击伤害。典型数字隔离芯片的简化原理图值得一提的是,数字隔离芯片历经多年发展,其应用范围已十分广泛,凡涉及到在高、低压系统之间进行信号传输的场景中基本都需要应用到此种芯片。那么,电气工程师在进行电路设计时到底该如何评估选择一
    华普微HOPERF 2025-01-20 16:50 122浏览
  • 嘿,咱来聊聊RISC-V MCU技术哈。 这RISC-V MCU技术呢,简单来说就是基于一个叫RISC-V的指令集架构做出的微控制器技术。RISC-V这个啊,2010年的时候,是加州大学伯克利分校的研究团队弄出来的,目的就是想搞个新的、开放的指令集架构,能跟上现代计算的需要。到了2015年,专门成立了个RISC-V基金会,让这个架构更标准,也更好地推广开了。这几年啊,这个RISC-V的生态系统发展得可快了,好多公司和机构都加入了RISC-V International,还推出了不少RISC-V
    丙丁先生 2025-01-21 12:10 588浏览
  • 2024年是很平淡的一年,能保住饭碗就是万幸了,公司业绩不好,跳槽又不敢跳,还有一个原因就是老板对我们这些员工还是很好的,碍于人情也不能在公司困难时去雪上加霜。在工作其间遇到的大问题没有,小问题还是有不少,这里就举一两个来说一下。第一个就是,先看下下面的这个封装,你能猜出它的引脚间距是多少吗?这种排线座比较常规的是0.6mm间距(即排线是0.3mm间距)的,而这个规格也是我们用得最多的,所以我们按惯性思维来看的话,就会认为这个座子就是0.6mm间距的,这样往往就不会去细看规格书了,所以这次的运气
    wuliangu 2025-01-21 00:15 320浏览
  • 高速先生成员--黄刚这不马上就要过年了嘛,高速先生就不打算给大家上难度了,整一篇简单但很实用的文章给大伙瞧瞧好了。相信这个标题一出来,尤其对于PCB设计工程师来说,心就立马凉了半截。他们辛辛苦苦进行PCB的过孔设计,高速先生居然说设计多大的过孔他们不关心!另外估计这时候就跳出很多“挑刺”的粉丝了哈,因为翻看很多以往的文章,高速先生都表达了过孔孔径对高速性能的影响是很大的哦!咋滴,今天居然说孔径不关心了?别,别急哈,听高速先生在这篇文章中娓娓道来。首先还是要对各位设计工程师的设计表示肯定,毕竟像我
    一博科技 2025-01-21 16:17 158浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦