如何简要理解亚马逊云基础架构的领先性

趣味科技v 2022-04-14 22:28

截止到2021年底,每天有大约6000万个实例在亚马逊云科技上启动和运行,这个数字是2019年的两倍。这说明,云计算正在以不可阻挡的趋势滚滚向前发展。除了基于Amazon EC2提供的托管服务以外(比如Amazon RDS),这里面应该有很大一部分实例都是以Amazon EC2的形式直面用户,Amazon EC2是一项特别基础又很重要的服务,换句话说,Amazon EC2就是许多人(组织)云上之旅开始的地方。


今天揭秘全球众多用户选择亚马逊云的原因之一,带大家了解Amazon EC2计算的领先性。


领先,不仅仅是Graviton



Amazon EC2实例类型之多,一时间我也数不清楚,上图大致点出了主要的计算实例类型,按照应用场景,可分为通用型、计算优化型、存储优化型、内存优化型以及加速计算型。随着AMD在数据中心市场的崛起,随着亚马逊云自研ARM处理器Graviton投入了大规模使用,亚马逊云彻底改变了只有英特尔x86可用的局面,在基础设施技术架构方面获得了更强的掌控力,也给了用户丰富多样的选择。


Graviton字面意思是万有引力,从伽利略到牛顿的探索,万有引力第一次解释了力基本相互作用的规律,是人类认识自然的历史上的一座里程碑。Graviton处理器似乎也带着类似的使命而来,它让通用计算生态发生了历史性变化,它不仅带来了颇具颠覆性的性价比(Graviton2比x86平台的性价比高出40%,Graviton3比Graviton2又高出了25%),更重要的是,Graviton还用实际行动证明了,在云上ARM服务器可以为用户提供更多选择,与x86服务器分庭抗礼。


构建新的通用计算架构生态是个世界级难题,技术本身都不是最难的,最难的点有两个:一个是得有丰富的应用生态,用户能轻松用起来;一个是有很大的出货量,这样才有成本优势。


两者类似于先有鸡还是先有蛋的问题,那要如何破局呢?


过去几年,亚马逊自己下手普及Graviton的应用场景,将许多服务交由Graviton实例来运行(比如Amazon RDS),用户在不知不觉中用上了Graviton,应用生态和用户量同步推进。


【使用了Graviton的亚马逊云托管服务】


【使用了Graviton的亚马逊 Serverless服务】


在性价比的吸引力之下,另外一部分用户则是将部分新型应用直接放到Graviton上,或者将老应用迁移至Graviton。这一过程中,积累了大量用户,也构建了越来越丰富的应用生态。


2021年底采访中,在被问到中国用户对于Graviton接受度如何时,亚马逊云科技大中华区产品部总经理顾凡肯定的答复是“Graviton在中国的业绩表现非常好”。


与Graviton在企业级市场类似,隔壁苹果自研的基于ARM的M1芯片也成了消费级市场上的一颗耀眼的明星,更巧的是,M1发布的2020年,苹果的mac电脑也插上Amazon Nitro卡,摇身一变成了全新的Amazon EC2实例,又过了一年,连M1芯片的苹果电脑也成了Amazon EC2实例。



亚马逊云不仅提供了所有常见和不常见(2022年,mac实例仅此一家)通用计算实例,在加速计算领域,还提供了基于AMD、英伟达的GPU以及FPGA加速卡的实例,面向机器学习场景,还推出了基于自研推理和训练芯片的加速计算实例,构建了百科全书级别的云计算实例体系。


我还想说的是,上图显示的是目前大部分可以买到的老实例,并不意味着老实例没有了,前不久发现了亚马逊云的一个“骚操作”让人由衷佩服,说的是用Amazon Nitro卡模拟旧的硬件,让用户可以继续使用老实例。


这点亚马逊云没怎么大张旗鼓地说,但想来确实很难得。因为运行这些老实例的硬件已经基本快退休了,不太能稳定正常工作了,运维管理成本也会特别的高,亚马逊云并没有把用户强行赶到老实例上,而是给了用户不迁移的自由,也给了用户充分的安全感,很贴心。


无论是创建各种实例还是延续老实例,站在背后的都是Amazon Nitro,Amazon EC2实例之所以如此丰富,也是因为Amazon Nitro,现在再来看Amazon Nitro卡,已经是亚马逊云 Amazon EC2的灵魂。


Amazon Nitro——Amazon EC2的灵魂


几年前,初识Amazon Nitro的我惊叹于它在Offload方面带来的巨大变革,回顾过往,Amazon Nitro一步步Offload CPU上的Hypervisior,去除虚拟化的性能损耗,为用户交付足量计算力,是降本增效的一把好手,也是提升性能和稳定性的重要手段。



亚马逊云 Amazon EC2的虚拟化技术变迁:从全由软件模拟到全由硬件支撑,近似裸金属性能Amazon Nitro的出现使得云计算整个业态都发生了变化,一样的处理器,一样的内存,一样的主板,一样的网卡,而Amazon EC2多了一个Nitro。这意味着,灵活性、稳定性和安全性以及性能都带有了脱胎换骨的变化,使得亚马逊云 Amazon EC2从一众云厂商中脱颖而出。


随后的两三年,陆续看到了NVIDIA发布的BlueField以及英特尔发布的IPU,在笔者看来,两者就是Amazon Nitro的跟随者,这是亚马逊云作为云势力向信息产业输出的一套杰出的实践,通俗点说,这是云厂商在教芯片巨头做芯片。


【Amazon Nitro的功能模块】


刚才提到的Offload其实是在说Amazon Nitro的第一大功能——Nitro Hypervisior,它首先承包了原本CPU需要扛起来的Hypervisior,消除虚拟机的性能损耗,从而让云主机输出近似裸金属的性能。


此外,Amazon Nitro还承包了一系列系统功能,包括VPC网络、EBS块存储、系统控制器等功能,另外,在安全方面,Amazon Nitro将安全芯片集成到主板上,提供硬件层的安全验证能力。


至此,Amazon Nitro将网络、存储、虚拟化(Hypervisior)和安全四大类功能从CPU侧卸载到专用板卡中,依托于Amazon Nitro来提供各种IaaS服务,将IaaS层的各类云服务融入到了Amazon Nitro中。


此时,亚马逊云的Amazon EC2与其他云厂商的云主机已经有了根本性的区别。Graviton通用处理器加上Amazon Nitro,多个核心技术都由亚马逊云来自由掌控,就好比隔壁苹果电脑区别于Windows兼容电脑,苹果手机区别于安卓手机一样。


近两年来,Amazon Nitro不断加入更多内涵,比如,在安全方面,Amazon Nitro Enclaves提供了一个隔离的计算环境,它可以保护并安全地让Amazon EC2处理高度敏感的数据。


2022年,亚马逊云还将推出Amazon Nitro TPM,它为系统生成、存储和使用秘钥。TPM可以用来校验系统的完整性和安全性,Amazon Nitro TPM的加入将意味着那些需要TPM的应用也能在Amazon EC2上运行了。


2021年re:Invent上,Amazon Nitro家族迎来了新成员——Amazon Nitro  SSD,云厂商自研SSD已经不是新鲜事儿,自研会提升对于SSD的掌控力,掌握Firmware的更新迭代节奏,最大化SSD的价值,让性能变得更可控,可预测。


计算的高级阶段,横向扩展的大规模集群



鉴于对于云技术的深度掌控,亚马逊云在应用场景上不断突破新边界,2021年re:Invent上,亚马逊云发布大型机现代化服务,云技术架构用的低成本硬件替代专有高成本硬件的变革之路,已经铺到了IBM大型机门前。


云技术的技术核心就是分布式架构,分布式技术的挑战就是要在不那么可靠的低成本硬件上构建可靠的服务。其实,多年前没有云的时代就有许多聪明的工程师致力于此,但公有云将分布式架构发扬光大,并对整个行业都产生了深远影响。


时至今日,用户对于云的需求也比较明确,希望利用云的弹性和灵活性,当计算需求增大的时候就添加更多资源,当需求缩减的时候就关停资源,以此应对,业务高峰期的流量,也避免业务低峰期的资源浪费。


2021年,亚马逊游戏发布了一款叫《新世界》的MMORPG(大型多人在线角色扮演游戏,游戏类型与《魔兽世界》一样)游戏,游戏的地图很大,画面制作精良,在欧美热度很高。从技术的角度看,这款游戏其实是一个大规模的分布式系统。



该游戏有一个叫“世界”的概念,相当于一个游戏区,每个区被切分成了14个方格,一台Amazon EC2负责2个方格里的各种事务,包括NPC之类的,有意思的是,玩家在地图上来回走的时候,完全不需要反复加载的过程,从技术角度看,玩家其实是切换Amazon EC2服务器而已。



玩家操控的角色所需的Amazon EC2资源则来自横跨整个Reigon的资源池(Instance pool),按照在线人数进行调配。每个“世界”可容纳的玩家有限,游戏刚上线的时候一共有185个“世界”,由于热度很高,随后不到10天就扩展到了500个“世界”,如果不是云架构则很难在短时间内完成。


此外,这套分布式系统还使用了多种Serverless服务承担一些非核心任务,使用了数据分析技术来帮助优化游戏,还使用了DynamoDB记录游戏的状态,在DynamoDB的帮助下,即使所有Amazon EC2实例都宕机了,也能快速恢复,架构可以提供极强的冗余性和业务连续性。


说到集群规模,亚马逊云用集群来提升机器学习的训练效率,解决训练大规模机器学习模型的难点,不断提升训练GPT-3的训练效率。



上图中,从P3dn到P4d再到Trn1n,一方面用于训练的芯片从英伟达V100升级为A10,最后换成了自研的Trainium芯片,另一方面,通过不断优化集群网络,提升网络的传输带宽减少集群间数据通信的开销。


最终,两周内训练完成GPT-3所需的实例数量大大缩减,未来更大规模的机器学习模型训练可以通过扩展规模来进行应对,因为机器学习模型继续膨胀是必然趋势,因此,将训练集群规模扩大将会是非常重要的能力,而这些能力,都来自云。


集群规模的优势是分布式存储架构追求的目标。


结语-计算改变世界,早已不是一句口号


对内,亚马逊云可以从各个关键技术层面上进行优化和创新,从Graviton核心通用计算芯片技术,到云计算关键的虚拟化技术,再到大规模集群的快速构建能力,亚马逊云全面掌控。


对外,亚马逊云塑造了极强的技术影响力,亚马逊云Amazon EC2实例的命名规则被大部分云厂商借鉴,Amazon Nitro引领的DPU成了云计算发展的重要方向,一些亚马逊自己的标准也成了行业标准,比如S3,亚马逊云自己的突破也为行业发展起到了牵头示范作用。


对于用户来说,亚马逊云能提供的是世界一流的云计算服务,总能给用户带来新的惊喜,如果说下一步亚马逊在计算上有什么新突破的话,我拍脑门随口一说,会不会是把苹果手机也插上Amazon Nitro卡呢,不知道广大iOS开发者怎么看?




汇聚众多行业大咖、以“云基础架构”为主题的“亚马逊云科技创新大会”,即将于2022年4月20日下午14:00在线上召开。届时大会主题演讲、6大分会场、30+前沿技术主题,将带您全面了解亚马逊云科技云基础架构知识,以及如何重构云底座,助力企业数字化转型。



点击“阅读原文”或扫描二维码即可报名,一起加速向未来!






趣味科技v 资深媒体人彭承文和他的小伙伴们耕耘打理的科技自媒体,传播趣味文章,八卦前卫科技,年度十大媒体人,十佳科技自媒体,美通社媒体传播专家,2018平昌冬奥会火炬手.
评论
  • 学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习笔记&记录学习习笔记&记学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&
    youyeye 2024-11-30 14:30 65浏览
  • RDDI-DAP错误通常与调试接口相关,特别是在使用CMSIS-DAP协议进行嵌入式系统开发时。以下是一些可能的原因和解决方法: 1. 硬件连接问题:     检查调试器(如ST-Link)与目标板之间的连接是否牢固。     确保所有必要的引脚都已正确连接,没有松动或短路。 2. 电源问题:     确保目标板和调试器都有足够的电源供应。     检查电源电压是否符合目标板的规格要求。 3. 固件问题: &n
    丙丁先生 2024-12-01 17:37 57浏览
  • 最近几年,新能源汽车愈发受到消费者的青睐,其销量也是一路走高。据中汽协公布的数据显示,2024年10月,新能源汽车产销分别完成146.3万辆和143万辆,同比分别增长48%和49.6%。而结合各家新能源车企所公布的销量数据来看,比亚迪再度夺得了销冠宝座,其10月新能源汽车销量达到了502657辆,同比增长66.53%。众所周知,比亚迪是新能源汽车领域的重要参与者,其一举一动向来为外界所关注。日前,比亚迪汽车旗下品牌方程豹汽车推出了新车方程豹豹8,该款车型一上市就迅速吸引了消费者的目光,成为SUV
    刘旷 2024-12-02 09:32 69浏览
  • 学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习笔记&记录学习习笔记&记学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&
    youyeye 2024-11-29 14:30 118浏览
  • 光耦合器作为关键技术组件,在确保安全性、可靠性和效率方面发挥着不可或缺的作用。无论是混合动力和电动汽车(HEV),还是军事和航空航天系统,它们都以卓越的性能支持高要求的应用环境,成为现代复杂系统中的隐形功臣。在迈向更环保技术和先进系统的过程中,光耦合器的重要性愈加凸显。1.混合动力和电动汽车中的光耦合器电池管理:保护动力源在电动汽车中,电池管理系统(BMS)是最佳充电、放电和性能监控背后的大脑。光耦合器在这里充当守门人,将高压电池组与敏感的低压电路隔离开来。这不仅可以防止潜在的损坏,还可以提高乘
    腾恩科技-彭工 2024-11-29 16:12 119浏览
  • 在电子技术快速发展的今天,KLV15002光耦固态继电器以高性能和强可靠性完美解决行业需求。该光继电器旨在提供无与伦比的电气隔离和无缝切换,是现代系统的终极选择。无论是在电信、工业自动化还是测试环境中,KLV15002光耦合器固态继电器都完美融合了效率和耐用性,可满足当今苛刻的应用需求。为什么选择KLV15002光耦合器固态继电器?不妥协的电压隔离从本质上讲,KLV15002优先考虑安全性。输入到输出隔离达到3750Vrms(后缀为V的型号为5000Vrms),确保即使在高压情况下,敏感的低功耗
    克里雅半导体科技 2024-11-29 16:15 119浏览
  • 艾迈斯欧司朗全新“样片申请”小程序,逾160种LED、传感器、多芯片组合等产品样片一触即达。轻松3步完成申请,境内免费包邮到家!本期热荐性能显著提升的OSLON® Optimal,GF CSSRML.24ams OSRAM 基于最新芯片技术推出全新LED产品OSLON® Optimal系列,实现了显著的性能升级。该系列提供五种不同颜色的光源选项,包括Hyper Red(660 nm,PDN)、Red(640 nm)、Deep Blue(450 nm,PDN)、Far Red(730 nm)及Ho
    艾迈斯欧司朗 2024-11-29 16:55 163浏览
  • 国产光耦合器因其在电子系统中的重要作用而受到认可,可提供可靠的电气隔离并保护敏感电路免受高压干扰。然而,随着行业向5G和高频数据传输等高速应用迈进,对其性能和寿命的担忧已成为焦点。本文深入探讨了国产光耦合器在高频环境中面临的挑战,并探索了克服这些限制的创新方法。高频性能:一个持续关注的问题信号传输中的挑战国产光耦合器传统上利用LED和光电晶体管进行信号隔离。虽然这些组件对于标准应用有效,但在高频下面临挑战。随着工作频率的增加,信号延迟和数据保真度降低很常见,限制了它们在电信和高速计算等领域的有效
    腾恩科技-彭工 2024-11-29 16:11 106浏览
  • 国产光耦合器正以其创新性和多样性引领行业发展。凭借强大的研发能力,国内制造商推出了适应汽车、电信等领域独特需求的专业化光耦合器,为各行业的技术进步提供了重要支持。本文将重点探讨国产光耦合器的技术创新与产品多样性,以及它们在推动产业升级中的重要作用。国产光耦合器创新的作用满足现代需求的创新模式新设计正在满足不断变化的市场需求。例如,高速光耦合器满足了电信和数据处理系统中快速信号传输的需求。同时,栅极驱动光耦合器支持电动汽车(EV)和工业电机驱动器等大功率应用中的精确高效控制。先进材料和设计将碳化硅
    克里雅半导体科技 2024-11-29 16:18 163浏览
  • 在现代科技浪潮中,精准定位技术已成为推动众多关键领域前进的核心力量。虹科PCAN-GPS FD 作为一款多功能可编程传感器模块,专为精确捕捉位置和方向而设计。该模块集成了先进的卫星接收器、磁场传感器、加速计和陀螺仪,能够通过 CAN/CAN FD 总线实时传输采样数据,并具备内部存储卡记录功能。本篇文章带你深入虹科PCAN-GPS FD的技术亮点、多场景应用实例,并展示其如何与PCAN-Explorer6软件结合,实现数据解析与可视化。虹科PCAN-GPS FD虹科PCAN-GPS FD的数据处
    虹科汽车智能互联 2024-11-29 14:35 151浏览
  • 《高速PCB设计经验规则应用实践》+PCB绘制学习与验证读书首先看目录,我感兴趣的是这一节;作者在书中列举了一条经典规则,然后进行详细分析,通过公式推导图表列举说明了传统的这一规则是受到电容加工特点影响的,在使用了MLCC陶瓷电容后这一条规则已经不再实用了。图书还列举了高速PCB设计需要的专业工具和仿真软件,当然由于篇幅所限,只是介绍了一点点设计步骤;我最感兴趣的部分还是元件布局的经验规则,在这里列举如下:在这里,演示一下,我根据书本知识进行电机驱动的布局:这也算知行合一吧。对于布局书中有一句:
    wuyu2009 2024-11-30 20:30 91浏览
  • 光伏逆变器是一种高效的能量转换设备,它能够将光伏太阳能板(PV)产生的不稳定的直流电压转换成与市电频率同步的交流电。这种转换后的电能不仅可以回馈至商用输电网络,还能供独立电网系统使用。光伏逆变器在商业光伏储能电站和家庭独立储能系统等应用领域中得到了广泛的应用。光耦合器,以其高速信号传输、出色的共模抑制比以及单向信号传输和光电隔离的特性,在光伏逆变器中扮演着至关重要的角色。它确保了系统的安全隔离、干扰的有效隔离以及通信信号的精准传输。光耦合器的使用不仅提高了系统的稳定性和安全性,而且由于其低功耗的
    晶台光耦 2024-12-02 10:40 70浏览
  • By Toradex胡珊逢简介嵌入式领域的部分应用对安全、可靠、实时性有切实的需求,在诸多实现该需求的方案中,QNX 是经行业验证的选择。在 QNX SDP 8.0 上 BlackBerry 推出了 QNX Everywhere 项目,个人用户可以出于非商业目的免费使用 QNX 操作系统。得益于 Toradex 和 QNX 的良好合作伙伴关系,用户能够在 Apalis iMX8QM 和 Verdin iMX8MP 模块上轻松测试和评估 QNX 8 系统。下面将基于 Apalis iMX8QM 介
    hai.qin_651820742 2024-11-29 15:29 151浏览
  • 戴上XR眼镜去“追龙”是种什么体验?2024年11月30日,由上海自然博物馆(上海科技馆分馆)与三湘印象联合出品、三湘印象旗下观印象艺术发展有限公司(下简称“观印象”)承制的《又见恐龙》XR嘉年华在上海自然博物馆重磅开幕。该体验项目将于12月1日正式对公众开放,持续至2025年3月30日。双向奔赴,恐龙IP撞上元宇宙不久前,上海市经济和信息化委员会等部门联合印发了《上海市超高清视听产业发展行动方案》,特别提到“支持博物馆、主题乐园等场所推动超高清视听技术应用,丰富线下文旅消费体验”。作为上海自然
    电子与消费 2024-11-30 22:03 76浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦