当前,随着AI人工智能大模型相关技术的飞速发展,搭载AI智慧能力的终端设备开始出现在我们的日常生活和学习中。为了让设备能更好的贴合家庭教育场景,满足不断涌现的新需求,AI模型及时的更新和迭代就成了重中之重。
AI模型的训练和迭代通常都部署在云计算平台,但对诸如AR、VR虚拟现实和超高清视频流等高速访问超低延时的应用和海量终端互联来说,云计算是无法满足其性能要求的。前所未有的计算能力和连接设备快速积累了大量数据,这种大量的数据积累会导致云计算平台的宽带拥堵和高延迟问题。
设备端AI应用场景的关键指标就是信息要在终端上快速的处理,也就需要将越来越多的信息在本地生成并在本地消费。而大量的边缘设备存在可用计算和存储资源,为应对云计算存在的挑战、网络压力和提升用户体验满足业务需求,就将云计算平台迁移至网络边缘,即边缘计算。
边缘计算通过将计算、存储等能力从云数据中心扩展到离数据源较近的网络边缘而不是集中式服务器或者基于云的位置对客户端数据的处理和计算,展现了以下几个明显优势:
1、低时延:可支持在网络边缘执行深度学习、强化学习等AI人工智能算法,避免计算任务从网络边缘传输到数据中心的超长网络传输延迟,满足高实时性物联网应用(如增强现实、无人机等)的要求。
2、部署灵活:将边缘平台和边缘工作负载分隔开来,可建立一个既有软件又有硬件的编排,就可以运营一个以软件定义的平台,根据数据位置灵活选择服务不同用户群体。
3、数据安全:边缘计算技术还可避免因数据在公网传输、公共数据中心处理所带来的隐私泄露等安全隐患。
边缘计算需求激增下,“云边端一体化”为核心的云边协同成为边缘计算未来重要的演进方向。云边端一体化旨在屏蔽云、边、端分布式异构基础设施资源,实现资源统一管理、数据自由流通、应用一致运行环境、立体安全保障,满足用户多样化、实时敏捷、安全可靠业务需求。
在万物互联和行业智能化双重环境的催生下,云边端一体化有利于将算力下沉到更接近数据产生的现场,同时拥有更低的时延、更低的带宽占用、更低的部署成本,以及更加安全可靠的数据传输等优势,更好地满足企业智能化转型的需求。由此不难判断,在产业数字化升级背景下,云边端一体化的加速演进,将进一步提升数据处理效率,避免延迟,强化敏捷性,让边缘计算的优势得到更大的展现,成为企业数字化、智能化转型的优选项。
为了降低业务落地门槛,促进行业顺利发展,云边端一体化的融合就显得很有必要。一体化体现在多个方面:
1、统一管理。首先,要把复杂多变底层资源管理方案统一起来,尽量减少业务对底层细节的不必要感知,比如硬件架构、操作系统、网络环境等等。其次是提供的管理能力要尽可能与中心云保持统一,比如监控告警、发布运维等等各种业务常用的基础能力。
2、云边协同。在边缘计算场景下,把业务从中心下沉到边缘是很自然的事情,但是还不够。通常都需要让边缘和云协同工作起来,比如:把边缘的有用数据收集到中心进行分析处理,然后继续反馈到边缘也是非常有必要的。以AI场景为例,可以把推理放到边缘进行,然后从边缘收集数据在中心进行训练,训练好的模型又下发到边缘。另外,云上的能力也需要形成联动,比如把边缘的有用数据收集上来,在云上做呈现和再加工。
3、资源调度。边缘计算场景下资源很分散,负载随着时空不同而差异很大,如何根据时空差异对资源做合理有效的调节,使资源使用达到最佳效果也是一件很有意义的事情。合理的资源调度可以让系统变得更高效、稳定、低成本。
综上所诉,云边协同具体涉及到资源、管理和应用协同等多个层面。为了构建灵活、高效的云边协同计算环境,需要在不同层面实现云计算和边缘计算的协同,以优势互补的方式克服云计算和边缘计算中各自存在的缺点,放大云计算与边缘计算的价值。