图源:Yurchanka Siarhei/ShutterStock.com
机器学习是大多数AI应用的核心,负责教计算机学会识别数据中的模式。更具体地来说,其目标就是创建训练有素的模型。这可以通过监督学习来完成,这种学习方式向计算机提供学习实例。另外,这个过程也可以不受监督——计算机只是在数据中寻找其关心的模式。还有涉及连续学习或持续学习的技术,这些技术可以使计算机从错误中吸取教训,但这些不在本文讨论范围之内。
为了让您对所需的算力有个概念,表1列示了AWS P3实例的规格,这是一个针对ML应用进行了优化的处理平台:
表1:AWS P3实例规格
这些都是顶配机型。它们具备大容量RAM,以及极快的网络和存储访问权限。最重要的是,它们具有强大的CPU和GPU处理能力,正是这一要求使ML模型在网络边缘运行成为了真正的挑战。
目前为止,由于ML模型难以在网络边缘运行,因此大多数最著名的AI应用都依赖于云。但是,这种对云计算的依赖给AI的使用带来了一些限制。下面列出了集中式AI在运行方面的一些缺陷。
在为采矿和其他重工业创建智能物联网监控系统时,同样存在这种限制。通常在本地会有快速网络,但是互联网连接可能会依赖于卫星上行链路。
AI也越来越多地用于打造智能医疗设备。其中一些需要实时工作才能发挥真正的作用,但是连接到数据中心的平均往返时间约在10到100毫秒之间。因此,如果不将ML模型转移到网络边缘,就很难实现实时应用。
许多ML应用会处理安全数据或敏感数据。显然,这类数据可以通过网络发送,并被安全存储到云端。但是,当地政策通常禁止这样做。健康数据尤其敏感,许多国家对发送到云服务器这一做法有着严格的法规要求。总之,确保仅连接到本地网络的设备的安全性永远更加容易。
订购ML优化的云实例可能会非常昂贵—表1中所示的最低规格实例每小时花费约3美元。许多云提供商会收取额外的费用,例如用于存储和网络访问的费用,这笔费用也要考虑在内。实际上,运行一个AI应用每月可能要花费高达3,000美元。
实现成功的机器学习通常需要具有强大算力的基于云或服务器的资源。但是,随着应用的发展和新用例的出现,将机器学习转移到网络边缘变得更加引人注目,尤其是在需要优先考虑延迟、安全性和实现成本等因素的情况下。
作者:Mark Patrick
该发布文章为独家原创文章,转载请注明来源。对于未经许可的复制和不符合要求的转载我们将保留依法追究法律责任的权利。
贸泽电子设计圈由贸泽电子(Mouser Electronics)开发和运营,服务全球广大电子设计群体。贸泽电子原厂授权分销超过1,100家知名品牌,可订购500多万种在线产品,为客户提供一站式采购平台,欢迎关注我们,获取第一手的设计与产业资讯信息!