人工智能(AI)并不是一种新的技术,但从2010年开始,由于深度学习的出现,通过大量的数据使得算法可以自我升级,最终驱动了新一轮AI产业变革。这场变革不再仅由实验室中的科学家推动,而是由资本和产品经理所推动。技术驱动的AI大潮,正在转向应用驱动,对各行各业赋能。
2018年,AI将在哪七大应用市场爆发?
在刚过去不久的2018年CES展上,很多基于AI概念的应用开始真正落地。从展出产品来看,大致可分为三类:第一类是应用在汽车上的无人驾驶方案和高级驾驶辅助系统(ADAS);第二类是围绕语音类的助手服务;第三类则是图像识别类产品。除此之外,各大手机厂商也纷纷将AI视为5G商用前手机业最大的技术变革。
图1:人工智能的部分应用场景。
整体来看,AI目前大量的应用还是在云端,但是也开始出现了从云端向终端转移的趋势。Intel CEO科再奇认为,人工智能将使不可能成为可能:如推进对癌症、帕金森综合症与大脑疾病的研究;帮助寻找失踪儿童;进一步推动气候变化、空间探索和海洋研究的科研工作。启英泰伦科技总经理高君效认为,当前AI的应用首先要解决应用场景的问题,其次是找到真实的市场需求。在金融、电商、医疗等领域,通过云端大数据的积累,智能应用技术已经可以替代掉大量的人工,为企业节省人力成本;在终端侧,由于AI芯片和高体验感的配套解决产品方案的兴起,在对安全私密性及处理响应及时性更为看重的消费电子领域能得到飞速发展,特别是在智能家居家电设备、智能硬件定制等细分市场都能取得不错的成绩。
图2:Arm战略联盟业务发展总监金勇斌。
作为芯片IP公司的代表,Arm战略联盟业务发展总监金勇斌认为ADAS业务是一个热点,但是否会迎来商业爆发还不好说,因为汽车对于安全的需求非常高。另一个热点是安防,如智能摄像头等泛监控类产品。通过机器视觉、图像分析等技术用于各种安全应用的视频分析,如行人检测、汽车检测、人脸识别,能够在商场和机场等场所识别不规则行为,并提供自动和实时的警报。这些技术也被应用在无人机领域用来进行感测、避免碰撞和导航。
图3:深鉴科技CEO姚颂。
深鉴科技CEO姚颂认为,在安防领域,AI是强需求,并且国内市场总量每年约6000亿元。他指出,“2018年对于安防市场而言,是加速产品落地的一年,我们认为众多AI公司会在2018年加速产品化进程。届时在应用市场层面预计有新的爆发与增长。”
全志科技AI首席专家林建文表示,智能看护将成为安防领域的热门应用,随着当今社会老龄化趋势明显,人工成本越来越高,未来以陪护机器人/安全智能摄像头为载体的看护型人工智能产品将有巨大成长空间。人脸识别也是全志非常看好的方向,林建文认为在考勤领域,人脸识别替代指纹/卡片的趋势已经十分明显,即使只是存量市场的升级,也十分巨大。不过林建文也表示,目前的人脸识别可以适用于小区大门、酒店电梯等安全级别要求相对较低的领域,对于家庭大门安全等级还不够。
第三个热点是医疗诊断,但是医疗行业的壁垒较高,加上应用场景比较碎片化,是否会形成规模还有待观察。比特大陆产品战略总监汤炜伟表示,日前央视《机智过人》节目展示了一款中科大联合研制的医疗影像机器人,邀请15位三甲医院主任级专家与这个AI机器人PK医疗影像诊断,结果AI机器人胜出。有了这种AI机器人,未来可以在很多偏远地区,以及小城镇进行远程医疗诊断,提高落后地区的医疗水平。
第四个热点是基于语音的智能音箱,目前亚马逊的ALEX以及中国的智能语音设备爆发很快,未来的关注点是如何形成从感知端到后端服务的商业闭环。林建文表示,2018年语音控制将会逐渐替代传统的遥控器,尤其在智能家居领域。
第五个热点是智能手机,目前AI技术在手机的应用主要包括人脸检测和识别、刷脸支付、自动相册标签的场景识别分类、以及根据场景能自动优化相机设置(例如日光、弱光、运动、脸部等)、此外还包括一些虚拟显示技术。转换到实际体验中,AI本身也将影响到手机中的一切基础体验,比如个人健康监控;在游戏中,AI能够对用户本身的操作逻辑和习惯进行侦测,随后会在网络状况或是系统资源不足时提前做出预判以保证游戏的顺利进行;当手机拍照时,机器学习还能自动对用户的构图、对焦点进行预判,从而提高相机的表现。
第六个热点是智慧城市。中科创达副总裁杨宇欣认为,AI是一种工具,将更多和传统行业结合。智慧城市体量足够大,急需一些技术去改善流程和成本。目前已经看到一些通过AI来进行城市环境监控的应用。汤炜伟也表示,通过AI技术可以更好的利用城市大数据,挖掘重要的民生信息,最终将信息用于市政决策,产生社会效益。
第七个热点是工业。汤炜伟表示,目前AI技术主要应用在生产线的检测不良,以及物流上的包裹体积检测上。“我们现在正帮日本的客户通过视觉的方式去监测产品的裂痕。” 汤炜伟表示。
从云到端,AI芯片公司如何布局?
组成AI的三大要素包括算法、算力和数据。算法和数据的积累和演进已经持续了很多年,从运算发展的路径来看,由于算力有限,一开始都是靠算法解决问题,所以国内资本一开始重点关注云端算法公司。比如商汤、旷视、云从、依图四家算法公司,李开复称他们为人脸识别的“四个独角兽”。随着算力上升,算法差异不再明显,这时资本开始关注提供算力的公司,如地平线、深鉴科技、寒武纪、云天励飞四家公司。除了这些开发专用AI芯片的公司,各大芯片厂商也纷纷布局AI平台,可以说2017年是AI芯片的元年。
对于芯片IP厂商来说,AI是一个新的机会,也是新的挑战。金勇斌表示,尽管越来越多的公司在做专用硬件加速器,但是CPU仍然不可或缺。凭借ARM现有的芯片和软件巨大生态,足以构建以“CPU+专用加速器”为主的子系统。对于Arm来说,目前可以提供全套的CPU、GPU、深度学习加速器产品线,同时2018年还会陆续公布新的产品。除了在终端布局,Arm也在积极发力云端,通过Arm的服务器技术把终端设备管理起来,形成云端服务。“简单一句话,终端肯定是第一优先级,但云端是我们的发力点。” 金勇斌表示。
图4:CEVA公司视觉产品市场主管Liran Bar。
另一家IP公司CEVA也针对AI推出了专用处理器NeuPro系列,包含四个独立的专用AI处理器,主要用于终端设备上处理全部深度神经网络工作负载。针对每个应用层精确地搭配了不同的硬件、软件和可配置性能选项,从而实现对功耗、性能和面积(PPA)的优化。据介绍,CEVA将在2018年第二季为特选客户提供NeuPro授权许可,并将于第三季提供普遍授权。CEVA公司视觉产品市场主管Liran Bar表示,目前已有数十家客户在消费、监控和ADAS产品中部署了CEVA-XM4和CEVA-XM6视觉平台,与CDNN神经网络软件框架。这个全新的专用AI处理器提供出众的性能提升,范围从入门级处理器的每秒2万亿次运算(2TOPS)到最高级配置的12.5TOPS。NeuPro处理器产品系列将AI的应用扩展到机器视觉以外的新型前端应用,包括自然语言处理、实时翻译、认证、工作流管理,以及许多基于学习的其它应用,使设备变得更加智能,并减少人工参与。
CEVA副总裁兼视觉业务部门总经理Ilan Yona表示:“AI应用程序趋向于前端处理,而不是依靠云服务。前端处理所需要的计算能力,以及低功耗约束,要求使用专用处理器,而不是使用CPU、GPU或DSP。我们设计了NeuPro处理器,从架构和软件上都降低了进入AI领域的高门槛。我们的客户现在拥有经过优化和高效的标准AI平台,可完成众多基于AI的工作和应用。”
Intel对AI布局也非常早,Intel CEO 科再奇表示,Nervana神经网络处理器系列(前身为“Lake Crest”,简称Nervana NNP)经过3年的开发和制造终于面市。他认为机器学习和深度学习很快发展成为这个时代最重要的计算负载,尽管目前Intel至强可扩展处理器和Intel数据中心加速器可以支持当今绝大多数企业的通用机器学习和推理负载。不过在终端侧,客户需要满足不断变化的数据处理需求。Intel Nervana NNP是专门为深度学习构建的。这种新芯片的目的就是让深度学习基元更为灵活,同时让核心硬件组件尽可能的高效。Nervana NNP产品线不仅包含Intel至强可扩展处理器系列,还包含用于主动安全和自动驾驶等专门用途的视觉技术Intel Mobileye,用于深度学习推理的可编程加速器(FPGA)、边缘提供机器学习的低功耗视觉技术Movidius。“我们设计Intel Nervana NNP是为了把人们从现有设备所造成的限制中解放出来,因为现有的很多硬件并不是针对人工智能而设计的。” 科再奇表示。
图5:华为麒麟芯片市场总监周晨。
2017年9月,华为在IFA展上正式发布麒麟970芯片。据报道,华为麒麟970是全球首款内置神经元网络单元(NPU)的AI处理器,NPU运算能力达到1.92TFP16 。“我们有幸走到了这件事(AI)的前面,我们的麒麟970跟iPhone X的A11是在手机终端率先推出产品。”华为麒麟芯片市场总监周晨表示。“我们自己有GPU、DSP资源,把异构这件事做好以后,对于第三方的未知应用都尽可能加速到。因为手机是开放型平台,所以我们必须这样做。”周晨表示,麒麟的定位就是平台算力的提供者,同时会提供SDK让开发者来运行自己的应用和算法。“再往上可能华为在手机端会提供一些业务级的接口,这些接口不需要开发者自己来做算法,比如卡路里识别,App只要直接调用接口就可以了。”
相对华为而言,高通并没有效仿集成NPU的做法,而是依旧集合内部组件进行分散AI运算。因此高通认为其骁龙845移动平台已是第三代支持神经网络运算的旗舰SoC。由于AI运算带来更精准的人脸识别算法,高通骁龙845移动平台也能在SoC中提供类似于iPhone X的结构光,以及3D侦测的人脸识别特性。值得一提的是,高通SNPE神经网络引擎SDK就像是一个通用的神经运算平台,它能够兼容Google TensorFlowLite、Oaffe2、CNTK、MxNet等多个神经元架构,这意味着开发者无需进行太多更改,直接就能将代码和算法套用到装配有高通骁龙845移动平台的设备中。依靠高通所提供的SNPE神经网络引擎SDK,开发者还能实现更多的功能。
在手机芯片厂商纷纷高调推出各自的AI平台后,联发科技(MTK)也在最近推出了自己的AI平台NeuroPilot。与竞争对手有所不同的是,联发科技的AI平台不仅仅是针对智能手机,而是首次将终端人工智能(Edge AI)带入各种跨平台设备 —从智能手机、智慧家庭到自动驾驶汽车等。“我们看到AI未来将会无所不在,联发科技希望做终端人工智能的推动者,提供跨平台的完整软硬件的整合方案。帮助我们的合作伙伴大幅减少开发时间。” 联发科技CTO办公室协理(Assistant GM) 林宗瑶表示,联发科技将提供完整的人工智能解决方案,通过整合硬件(AI处理器:Artificial intelligence Processing Unit)及软件(如NeuroPilot SDK),让每年约15亿台采用联发科技芯片的各类消费性电子产品具备AI能力。在2017年年初,联发科技副董事长兼总经理谢清江就在接受《电子工程专辑》专访时表示,联发科技将斥资2000亿,在未来投资AI、5G等八大技术领域。谢庆江认为,AI是一个技术趋势,会带来很多新的商业机会,“大家知道AI要增加很多运算,很多半导体的机会就会出来。比如说一些低功耗的单元,或者说和云端互联的能力技术。”
实际上,到2017年联发科技在智能语音终端领域已经占到了七成份额,独占了亚马逊Echo、Essential Home智能语音助理的全部订单,其后又拿下了阿里巴巴的智能音箱订单。作为智能家庭的中枢控制器,联发科技有望凭借智能音箱进一步进军智能家居市场。
图:全志科技AI首席专家林建文。
作为国内领先的SoC和智能模拟芯片设计公司代表,全志科技也很早开始人工智能芯片相关技术的研发,目前已经上市的全志芯片已有部分带有专门用于视觉计算的功能模块。“AI系统,不只是一块芯片的事情,它是一个完整的大系统,除了人工智能的技术之外,连接技术,电源技术等都将发挥巨大的作用。” 全志科技AI首席专家林建文表示,全志从大系统(云端一体)的角度进行了全面的布局,将全志本身就拥有的WiFi/Bluetooth/4G,PMU电源管理等系统技术整合到了一起。除此之外,林建文认为,随着AI计算对于数据的吞吐量增长到以往的十倍、甚至百倍,对于内存(存储,带宽)等技术都提出了新的要求,目前全志也在积极地布局存储相关领域。林建文表示,全志对自己的定位就是算力的提供商。“在以往,全志的产品在各行各业遍地开花,很大一个原因是我们平台足够开放,并且我们提供的计算力能符合市场和产品的需要,各个厂商能在我们平台上作出差异化,实现自身的价值。AI时代,这是一个应用碎片化的时代,在这个时代里,我们会继续保持全志这种优良的基因,为各行各业提供高性价比的AI计算平台。” 林建文表示。
除了众多的SoC厂商,FPGA厂商也提早布局AI领域。由于很多AI算法还在不断的升级和改变中,由于FPGA的可编程性,使其可以灵活适应各种AI算法的变化。2017年赛灵思推出了Xilinx reVISION 堆栈,意味着将广泛的视觉导向机器学习应用领域得到实现。reVISION 正在汽车、医疗、工业、传统的高端消费市场航天航空与国防中实现一系列快速增长。此外,如协作机器人、自动驾驶汽车、自动监控、具有“感应和躲避”功能的无人机、增强现实和医疗诊断等新应用也迅速跟进。对于赛灵思来说,2018年AI将是其关注的重点,目前FPGA的应用领域主要集中在服务器端如云计算、大数据分析等。2017年赛灵思的平台不仅被亚马逊的语音计算平台采用,同时国内的华为、腾讯、阿里巴巴也是通过赛灵思的FPGA来进行云计算和加速运算。去年亚马逊就与赛灵思合作,推出了基于FPGA的亚马逊云服务、百度大脑也使用了基于FPGA版的AI专用芯片、腾讯云也发布了FPGA云服务器等。
图6:赛灵思全球销售和市场部亚太及日本地区高级总监周海天。
展望2018年,赛灵思希望在保持云端的市场外,进一步开拓AI在终端的应用。除了SoC厂商重点关注的手机市场外,赛灵思比较看好工业、汽车等领域。“这一块赛灵思的切入点主要是机器视觉,大家可以看到今天的摄像头越来越智能化,并且是从云端的智能向本地的智能转移。” 赛灵思全球销售和市场部亚太及日本地区高级总监Stephen Chow(周海天)表示。
不过FPGA虽然好处很多,但是门槛也较高,需要开发人员懂得硬件描述语言(Verilog或VHDL)而非计算机语言(C语言)。这就给了深鉴科技这样的公司机会,深鉴科技相当于给不愿意直接使用FPGA的厂商提供了一个带接口的黑盒子,厂商只需要把算法模型训练好后,通过接口输入就可以得到输出结果。目前深鉴科技的合作伙伴集中在无人机、安防、数据中心等领域,合作企业包括零度智控、东方网力、搜狗等。深鉴科技也与三星在存储方面合作,为AI芯片打造以深度学习处理器为核心的智能化解决方案。据了解,深鉴科技在2018年还会有一款名为听涛的SoC上市。这款SoC采用联发科技28nm TSMC工艺,仅用1.1W功耗就可以达到4.1TOPS的峰值性能。深鉴科技的定位是深度学习平台公司,公司以DPU为核心打造解决方案,不仅仅是提供芯片,还提供行业内的整体的接口和SDK,方便所有人使用。“我们的目标是不仅打造最好的深度学习处理器技术,也要打造最好用的解决方案和最高效的整体系统。” 深鉴科技CEO姚颂表示。
在国内,除了地平线、寒武纪、深鉴科技等资本圈重点关注的“明星企业”,其实还有不少玩家正在杀入AI产业。2015年11月成立的启英泰伦(chipintelli)就自主研发了第一代AI语音芯片CI1006,并在2017年实现量产,是业界首款AI终端离线语音识别专用芯片。与目前大部分专注图像视觉的公司不同,启英泰伦多专注于智能语音领域,正力争成为该细分领域的领跑者。另一家在本次CES崭露头角的本土AI芯片公司为眼擎科技。眼擎科技的主业在视觉采集端的算法和芯片上,着重研究AI算力和算法的交互逻辑。眼擎科技今年1月19日发布了全球首款面向AI视觉的专用成像芯片eyemoreX42,在AI产业中,眼擎科技是唯一一家专注于高品质成像的AI视觉芯片公司,注重跟AI交互解决应用场景问题的公司。重点关注基于人脸识别的泛安防、工业检测、机器人、自动驾驶、无人零售市场以及手机市场,三年内,眼擎科技的目标是完成500家AI视觉客户的Design-in,占领50%以上的AI视觉成像市场,成为成像领域的领导者。
图7:算丰张量加速计算芯片BM1680。
最后不得不提的是一家颇为低调的公司——比特大陆,这家公司是因为提供比特币矿机和矿池被外界熟知,目前该公司已经拥有全网算力的18%,2017年约收入18万比特币。2017年底,比特大陆正式发布旗下算丰TPU芯片BM1680,正式进军AI领域。BM1680是一款面向深度学习应用的张量计算加速处理的专用定制芯片,适用于CNN、RNN、DNN等深度神经网络的推理预测(Inference)和训练(Training)。基于BM1680芯片,比特大陆提供算丰 SC1和SC1+的板卡产品。同时,比特大陆发布了智能视频分析服务器算丰 SS1,这是一款新的深度学习服务器。专门为视频监控、互联网图像处理等多种应用场景提供强大的深度学习加速能力。按照规划,2018年比特大陆将发布第2代算丰AI芯片BM1682,计算力将有大幅提升。后续规划中还有第三代、第四代等陆续发布。比特大陆产品战略总监汤炜伟表示,按照规划每隔9个月左右就会推出新的算丰AI芯片,而再过一两代,比特大陆有信心在深度学习推理上超过GPU的实际性能。同时,比特大陆将围绕算丰AI芯片,不断为各个落地场景提供创新解决方案。目前发布的智能视频分析服务器SS1,是专为视频和图像智能分析而打造的服务器系统,基于自主研发的张量加速处理器BM1680和加速卡SC1+,具有人脸检测、人脸识别、人体检测、机非人检测分类等标准功能。未来比特大陆将为更多安防、大数据、互联网等场景,提供创新解决方案。
下一篇,请看:2018年AI芯片爆发倒计时(中):用FPGA还是专用ASIC?
本文为《电子工程专辑》原创,版权所有,谢绝转载
关注最前沿的电子设计资讯,请关注“电子工程专辑微信公众号”。