这位云计算的开创者,正在成为生成式AI的普惠者

原创 趣味科技v 2024-06-07 20:14

从全球云计算技术的开创者,到生成式AI技术的普惠者,亚马逊云科技正在用生成式AI重塑世界。

生成式AI正在重塑世界

人类历史上每一次重大的科技创新,往往都会带来世界的重塑。作为全球云计算技术的开创者和领军者,亚马逊云科技通过弹性、敏捷、按需付费的云服务,在无数企业的数字化转型之路上发挥了极其重要的作用。

从诞生至今,亚马逊云科技的基础设施已经覆盖了全球33个地理区域的105个可用区,可提供涵盖计算、存储、网络、安全合规、数据库、数据分析、人工智能、物联网、混合云等领域超过200项的云服务功能,拥有专业的行业解决方案服务团队以及遍布全球的合作伙伴网络,并且每年都在持续推陈出新,帮助客户以更低的价格、更高的效率开展业务创新。

通过亚马逊云科技的计算、存储和遍布全球的服务网络,Netflix正在为全球190多个国家提供流媒体播放服务,彻底改变了广大用户的娱乐方式;Moderna利用亚马逊云科技的机器学习服务,在疫情期间仅用短短两天就完成了mRNA新冠疫苗的基因测序,并在25天后进行了第一批临床试验,这些工作在过去往往需要耗时好几年;OPPO通过亚马逊云科技提供的云服务,将业务快速拓展至全球,实现了从制造业巨头到互联网手机品牌的转型;WPS AI办公软件携手亚马逊云科技将生成式AI能力全面引入产品线,帮助用户显著提升了工作效率,改善了办公体验……

如今,伴随着生成式AI与大模型技术的飞速发展,一个前所未有的、高度智能化的生成式AI时代正在来临。在2024亚马逊云科技中国峰会上,亚马逊云科技大中华区产品总经理陈晓建表示,为了推动生成式AI应用落地,亚马逊云科技推出了全面的三层技术栈,分别是底层用于基础模型训练和推理的基础设施、中间层使用基础模型进行构建的工具、顶层利用基础模型构建的应用程序。通过在每一层技术栈的持续创新,亚马逊云科技大幅降低了生成式AI应用落地的门槛,以技术普惠推动了生成式AI应用的加速普及。

用于基础模型训练和推理的基础设施

亚马逊云科技生成式AI三层技术栈的底层,是以GPU和自研芯片为代表的基础设施,用于基础模型的训练,以及在生产环境中运行推理。其中基础模型训练的目的,是通过从大量训练数据中学习来创建和改进基础模型;而基础模型推理,则是使用这些模型来生成文本、图像、视频等输出。

基础模型的训练和推理,都需要海量的算力支持。这就使得许多客户在运行训练和推理工作负载时,不得不综合考虑芯片和计算实例的性价比与经济可行性。有鉴于此,亚马逊云科技可以根据客户的实际需求与预算成本,为其量身定制包括英特尔、英伟达、AMD以及亚马逊云科技自研芯片在内的广泛计算实例,以及开箱即用的解决方案。通过这些量身定制的芯片和计算实例,客户不但可以满足自身的算力需求,而且能够大幅提高训练和推理的能效,减少耗费的资源,降低成本与开支。

与此同时,亚马逊云科技的Amazon SageMaker托管机器学习服务,还可以帮助开发人员更加轻松地构建、训练、微调和部署基础模型,加速生成式AI创新。借助Amazon SageMaker HyperPod,机器学习公司Hugging Face将训练模型时间减少了40%,一年节省了数百小时训练时间,大幅提升了训练效率;Amazon SageMaker Jumpstart则可以帮助客户获取、微调和部署最新公开可用的预训练基础模型,为机器学习从业者提供深度模型定制和评估功能。

陈晓建还在本届峰会上宣布,来自零一万物的Yi-1.5 6B/9B/34B的基础模型在中国区域正式登陆SageMaker Jumpstart,由百川智能提供的Baichuan-2 7B基础模型也即将上线中国区域的SageMaker Jumpstart。作为首批登陆中国区域SageMaker JumpStart的中文基础模型,它们在为中国企业提供丰富模型选择的同时,也满足了企业对安全合规、快速扩展、免运维的需求。这不仅标志着亚马逊云科技对于中国区投入的长期承诺,也展示了其与国内合作伙伴共同赋能客户生成式AI业务的决心。

使用基础模型加速生成式AI应用构建

亚马逊云科技生成式AI三层技术栈的中间层,是以Amazon Bedrock为代表的,提供可以访问所需基础模型,以及构建和扩展生成式AI应用的工具。

陈晓建表示,没有一个基础模型能够适用所有生成式AI场景,为此亚马逊云科技推出了Amazon Bedrock,来帮助客户简化评估、比较和选择基础模型的过程。“Amazon Bedrock是使用基础模型构建和扩展生成式AI应用程序的最简单方式,几乎所有行业的客户都在使用Amazon Bedrock来重塑用户体验、产品和流程,将生成式AI融入核心业务。与此同时,Amazon Bedrock还提供了模型选择、模型定制、应用集成、负责任AI等四大差异化价值,让生成式AI触手可及。”

1、模型选择:作为一项全托管服务,Amazon Bedrock可以让用户通过单一API访问来自AI21 Labs、Anthropic、Cohere、Meta、Mistral AI、Stability AI和亚马逊等领先人工智能公司的高性能基础模型,包括在第一时间使用和访问这些公司未来发布的最新基础模型。甚至基于Llama, Mistral和Flan T5等开源架构微调过的私有模型,也可以导入Amazon Bedrock进行全托管,而无需管理底层基础设施。

2、模型定制:自定义模型导入功能Custom Model Import for Amazon Bedrock,让用户可以将基于Llama, Mistral和Flan-T5开发的定制模型导入Bedrock,以完全托管的API方式进行访问;模型评估功能Model Evaluation for Amazon Bedrock,让企业既可以用Amazon SageMaker来持续预训练或者微调一个定制化模型,又能够充分享受Bedrock的诸多模型管理功能,无需管理底层设施;模型评估功能Model Evaluation for Amazon Bedrock,能够帮助客户找到最适合自己的模型,并简化评估、比较和选择基础模型的过程,将模型评估过程从几个星期缩短到几个小时;知识库功能Knowledge Base for Amazon Bedrock,可帮助企业基于私有的数据创建与业务相关的生成式AI应用,以及利用企业系统和数据源定制个性化的生成式AI应用;代理功能Agents for Amazon Bedrock,可以允许开发人员定义特定任务、工作流程或决策过程,增强控制和自动化,同时确保与预期用例保持一致。

3、应用集成:作为一站式生成式AI应用开发工作站,Amazon Bedrock Studio提供了支持单点登录的Web界面,让开发者可以快速访问和使用多种基础模型以及Bedrock知识库、Bedrock Agents、Bedrock Guardrails等Amazon Bedrock内置服务和工具,加快构建生成式AI应用。用户可以使用简单易用的交互界面进行模型选择与评估,还可以与团队成员协作,共同试验、创建和完善生成式AI应用。

4、负责任AI:以安全、可信和负责任的方式部署生成式AI,是亚马逊在生成式AI领域的最高行动纲领。亚马逊云科技承诺以负责任的方式构建服务,同时重点考虑公平和偏见、稳定性、可解释性、治理、透明度、隐私和安全性等6大方面。在保护数据安全和隐私方面,Amazon Bedrock承诺不会使用客户的数据来训练或改进原始的基础模型,客户的数据也永远不会被暴露于公共互联网、永远不会离开亚马逊云科技的网络,它将通过虚拟私有云进行安全传输,并且在传输和存储时始终加密。Amazon Bedrock Guardrails不但可以帮助客户轻松实施生成式AI应用程序的保护措施,阻止多达85%的有害内容,还能够根据客户要求和负责任AI政策进行定制。

开箱即用的生成式AI应用

亚马逊云科技生成式AI三层技术栈的顶层,是以Amazon Q为代表的,利用基础模型构建的开箱即用的生成式AI应用。这样用户无需任何专业知识,即可快速上手生成式AI。

作为一款强大的生成式AI助手应用,Amazon Q从一开始就着眼于安全性和隐私性进行了构建,能够帮助用户加速软件开发,并更好地利用企业业务数据。亚马逊云科技最新发布的Amazon Q Developer、Amazon Q Business、Amazon Q in QuickSight,目前均已正式可用。

其中,Amazon Q Developer可以协助开发人员完成从编码、测试、升级应用到故障排查、安全扫描和修复、优化云资源等繁琐工作,让开发者将更多时间精力专注于创新体验的开发,加快应用部署速度。在大规模消除技术门槛、提升开发者效率、提升代码质量与安全性等方面,Amazon Q Developer的表现都有口皆碑。

Amazon Q Business的愿景,是让每一家企业都能够通过生成式AI的力量,从所有数据(非结构化和结构化)中获得洞见,采取行动并构建应用程序。其四大应用场景包括:统一的对话检索式体验、生成总结与提炼关键发现、提升内容创作的效率、简化任务流程。除此以外,Amazon Q Business新发布的Amazon Q Apps功能,还可以让企业员工只需几秒钟,就可以通过自然语言对话构建生成式AI应用。

大力培养生成式AI人才

伴随着生成式AI的飞速发展,生成式AI人才的紧缺问题也愈发突出。为了大力培养生成式AI人才,亚马逊云科技采取了多项举措:

1、到2025年,亚马逊云科技将为全球2,900万人提供免费培训,目前已经有2,100万人受益。

2、通过Amazon Skill Builder和Amazon Educate,亚马逊云科技提供了超过100门关于人工智能、机器学习、生成式AI的课程和学习资源。

3、亚马逊云科技在全球54个国家拥有250多名亚马逊云科技专家,这些被称为亚马逊云科技Hero的专家,对知识分享的热情给社区带来了积极影响。与此同时,亚马逊云科技还有2,900名社区建设者、超过500个用户组以及超过75个云俱乐部。

4、在本届中国峰会上,亚马逊云科技正式发布了全景培训课程《对话构建者,LLM从入门到实践》。这是亚马逊云科技为中国开发者量身定制、能够真正帮助用户从基础到应用的课程,开发者可以在CSDN课程网站永久免费观看。

5、亚马逊云科技正式推出了云上探索实验室CloudLab平台。用户不需要注册账号、不需要购买云资源,只要扫码进入云上探索实验室,即可以在24小时之内无限构建生成式AI应用。

“今天我们所有人都有幸处在下一个技术变革的伟大时代。我们每个人的创新,都将对世界产生深远的影响,改变行业,甚至改变人类的生活。”陈晓建说道。

趣味科技v 资深媒体人彭承文和他的小伙伴们耕耘打理的科技自媒体,传播趣味文章,八卦前卫科技,年度十大媒体人,十佳科技自媒体,美通社媒体传播专家,2018平昌冬奥会火炬手.
评论
  • 故障现象 一辆2007款日产天籁车,搭载VQ23发动机(气缸编号如图1所示,点火顺序为1-2-3-4-5-6),累计行驶里程约为21万km。车主反映,该车起步加速时偶尔抖动,且行驶中加速无力。 图1 VQ23发动机的气缸编号 故障诊断接车后试车,发动机怠速运转平稳,但只要换挡起步,稍微踩下一点加速踏板,就能感觉到车身明显抖动。用故障检测仪检测,发动机控制模块(ECM)无故障代码存储,且无失火数据流。用虹科Pico汽车示波器测量气缸1点火信号(COP点火信号)和曲轴位置传感器信
    虹科Pico汽车示波器 2025-01-23 10:46 326浏览
  • 嘿,咱来聊聊RISC-V MCU技术哈。 这RISC-V MCU技术呢,简单来说就是基于一个叫RISC-V的指令集架构做出的微控制器技术。RISC-V这个啊,2010年的时候,是加州大学伯克利分校的研究团队弄出来的,目的就是想搞个新的、开放的指令集架构,能跟上现代计算的需要。到了2015年,专门成立了个RISC-V基金会,让这个架构更标准,也更好地推广开了。这几年啊,这个RISC-V的生态系统发展得可快了,好多公司和机构都加入了RISC-V International,还推出了不少RISC-V
    丙丁先生 2025-01-21 12:10 1230浏览
  • 前篇文章中『服务器散热效能不佳有解吗?』提到气冷式的服务器其散热效能对于系统稳定度是非常重要的关键因素,同时也说明了百佳泰对于散热效能能提供的协助与服务。本篇将为您延伸说明我们如何进行评估,同时也会举例在测试过程中发现的问题及改善后的数据。AI服务器的散热架构三大重点:GPU导风罩:尝试不同的GPU导风罩架构,用以集中服务器进风量,加强对GPU的降温效果。GPU托盘:改动GPU托盘架构,验证出风面积大小对GPU散热的影想程度。CPU导风罩:尝试封闭CPU导风罩间隙,集中风流,验证CPU降温效果。
    百佳泰测试实验室 2025-01-24 16:58 192浏览
  • 项目展示①正面、反面②左侧、右侧项目源码:https://mbb.eet-china.com/download/316656.html前言为什么想到要做这个小玩意呢,作为一个死宅,懒得看手机,但又想要抬头就能看见时间和天气信息,于是就做个这么个小东西,放在示波器上面正好(示波器外壳有个小槽,刚好可以卡住)功能主要有,获取国家气象局的天气信息,还有实时的温湿度,主控采用ESP32,所以后续还可以开放更多奇奇怪怪的功能,比如油价信息、股票信息之类的,反正能联网可操作性就大多了原理图、PCB、面板设计
    小恶魔owo 2025-01-25 22:09 624浏览
  • 2024年是很平淡的一年,能保住饭碗就是万幸了,公司业绩不好,跳槽又不敢跳,还有一个原因就是老板对我们这些员工还是很好的,碍于人情也不能在公司困难时去雪上加霜。在工作其间遇到的大问题没有,小问题还是有不少,这里就举一两个来说一下。第一个就是,先看下下面的这个封装,你能猜出它的引脚间距是多少吗?这种排线座比较常规的是0.6mm间距(即排线是0.3mm间距)的,而这个规格也是我们用得最多的,所以我们按惯性思维来看的话,就会认为这个座子就是0.6mm间距的,这样往往就不会去细看规格书了,所以这次的运气
    wuliangu 2025-01-21 00:15 821浏览
  • 不让汽车专美于前,近年来哈雷(Harley-Davidson)和本田(Honda)等大型重型机车大厂的旗下车款皆已陆续配备车载娱乐系统与语音助理,在路上也有越来越多的普通机车车主开始使用安全帽麦克风,在骑车时透过蓝牙连线执行语音搜寻地点导航、音乐播放控制或免持拨打接听电话等各种「机车语音助理」功能。客户背景与面临的挑战以本次分享的客户个案为例,该客户是一个跨国车用语音软件供货商,过往是与车厂合作开发前装车机为主,且有着多年的「汽车语音助理」产品经验。由于客户这次是首度跨足「机车语音助理」产品,因
    百佳泰测试实验室 2025-01-24 17:00 197浏览
  • 数字隔离芯片是一种实现电气隔离功能的集成电路,在工业自动化、汽车电子、光伏储能与电力通信等领域的电气系统中发挥着至关重要的作用。其不仅可令高、低压系统之间相互独立,提高低压系统的抗干扰能力,同时还可确保高、低压系统之间的安全交互,使系统稳定工作,并避免操作者遭受来自高压系统的电击伤害。典型数字隔离芯片的简化原理图值得一提的是,数字隔离芯片历经多年发展,其应用范围已十分广泛,凡涉及到在高、低压系统之间进行信号传输的场景中基本都需要应用到此种芯片。那么,电气工程师在进行电路设计时到底该如何评估选择一
    华普微HOPERF 2025-01-20 16:50 187浏览
  •  万万没想到!科幻电影中的人形机器人,正在一步步走进我们人类的日常生活中来了。1月17日,乐聚将第100台全尺寸人形机器人交付北汽越野车,再次吹响了人形机器人疯狂进厂打工的号角。无独有尔,银河通用机器人作为一家成立不到两年时间的创业公司,在短短一年多时间内推出革命性的第一代产品Galbot G1,这是一款轮式、双臂、身体可折叠的人形机器人,得到了美团战投、经纬创投、IDG资本等众多投资方的认可。作为一家成立仅仅只有两年多时间的企业,智元机器人也把机器人从梦想带进了现实。2024年8月1
    刘旷 2025-01-21 11:15 998浏览
  • 飞凌嵌入式基于瑞芯微RK3562系列处理器打造的FET3562J-C全国产核心板,是一款专为工业自动化及消费类电子设备设计的产品,凭借其强大的功能和灵活性,自上市以来得到了各行业客户的广泛关注。本文将详细介绍如何启动并测试RK3562J处理器的MCU,通过实际操作步骤,帮助各位工程师朋友更好地了解这款芯片。1、RK3562J处理器概述RK3562J处理器采用了4*Cortex-A53@1.8GHz+Cortex-M0@200MHz架构。其中,4个Cortex-A53核心作为主要核心,负责处理复杂
    飞凌嵌入式 2025-01-24 11:21 295浏览
  • 高速先生成员--黄刚这不马上就要过年了嘛,高速先生就不打算给大家上难度了,整一篇简单但很实用的文章给大伙瞧瞧好了。相信这个标题一出来,尤其对于PCB设计工程师来说,心就立马凉了半截。他们辛辛苦苦进行PCB的过孔设计,高速先生居然说设计多大的过孔他们不关心!另外估计这时候就跳出很多“挑刺”的粉丝了哈,因为翻看很多以往的文章,高速先生都表达了过孔孔径对高速性能的影响是很大的哦!咋滴,今天居然说孔径不关心了?别,别急哈,听高速先生在这篇文章中娓娓道来。首先还是要对各位设计工程师的设计表示肯定,毕竟像我
    一博科技 2025-01-21 16:17 241浏览
  •     IPC-2581是基于ODB++标准、结合PCB行业特点而指定的PCB加工文件规范。    IPC-2581旨在替代CAM350格式,成为PCB加工行业的新的工业规范。    有一些免费软件,可以查看(不可修改)IPC-2581数据文件。这些软件典型用途是工艺校核。    1. Vu2581        出品:Downstream     
    电子知识打边炉 2025-01-22 11:12 465浏览
  • 临近春节,各方社交及应酬也变得多起来了,甚至一月份就排满了各式约见。有的是关系好的专业朋友的周末“恳谈会”,基本是关于2025年经济预判的话题,以及如何稳定工作等话题;但更多的预约是来自几个客户老板及副总裁们的见面,他们为今年的经济预判与企业发展焦虑而来。在聊天过程中,我发现今年的聊天有个很有意思的“点”,挺多人尤其关心我到底是怎么成长成现在的多领域风格的,还能掌握一些经济趋势的分析能力,到底学过哪些专业、在企业管过哪些具体事情?单单就这个一个月内,我就重复了数次“为什么”,再辅以我上次写的:《
    牛言喵语 2025-01-22 17:10 501浏览
  • 现在为止,我们已经完成了Purple Pi OH主板的串口调试和部分配件的连接,接下来,让我们趁热打铁,完成剩余配件的连接!注:配件连接前请断开主板所有供电,避免敏感电路损坏!1.1 耳机接口主板有一路OTMP 标准四节耳机座J6,具备进行音频输出及录音功能,接入耳机后声音将优先从耳机输出,如下图所示:1.21.2 相机接口MIPI CSI 接口如上图所示,支持OV5648 和OV8858 摄像头模组。接入摄像头模组后,使用系统相机软件打开相机拍照和录像,如下图所示:1.3 以太网接口主板有一路
    Industio_触觉智能 2025-01-20 11:04 247浏览
  • 书接上回:【2022年终总结】阳光总在风雨后,启航2023-面包板社区  https://mbb.eet-china.com/blog/468701-438244.html 总结2019,松山湖有个欧洲小镇-面包板社区  https://mbb.eet-china.com/blog/468701-413397.html        2025年该是总结下2024年的喜怒哀乐,有个好的开始,才能更好的面对2025年即将
    liweicheng 2025-01-24 23:18 357浏览
  • 随着AI大模型训练和推理对计算能力的需求呈指数级增长,AI数据中心的网络带宽需求大幅提升,推动了高速光模块的发展。光模块作为数据中心和高性能计算系统中的关键器件,主要用于提供高速和大容量的数据传输服务。 光模块提升带宽的方法有两种:1)提高每个通道的比特速率,如直接提升波特率,或者保持波特率不变,使用复杂的调制解调方式(如PAM4);2)增加通道数,如提升并行光纤数量,或采用波分复用(CWDM、LWDM)。按照传输模式,光模块可分为并行和波分两种类型,其中并行方案主要应用在中短距传输场景中成本
    hycsystembella 2025-01-25 17:24 480浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦