2017年可以说是AI元年,各投资机构和互联网公司都在大力布局AI技术。
产业分析师预测AI产值将于2023年超越140亿美元。各平台设备制造商正致力于使AI应用于更多设备,因而需要可展现高效运算处理能力、低功耗,又具备经济效益的解决方案。此外,连网设备现在为追求更快速的反应时间,对终端AI运算能力的需求多过于云端运算。除了算法和数据,作为AI的三大要素之一,算力也变得非常重要。目前各大芯片厂商都在开发各自的AI平台, 将AI运算从云端逐渐向终端转移。
在海思和高通等手机芯片厂商纷纷高调推出各自的AI平台后,联发科技也不甘示弱,在最近推出了自己的AI平台NeuroPilot。与竞争对手有所不同的是,MTK的AI平台不仅仅是针对智能手机,而是首次将终端人工智能(Edge AI)带入各种跨平台设备 —从智能手机、智慧家庭到自动驾驶汽车等。
从云端到终端,Edge AI的四大提升
2018年1月31日,联发科技在北京和深圳举行同步媒体沟通会,在会上,联发科技CTO办公室协理林宗瑶详细介绍了NeuroPilot平台与市面上其它AI平台的差异和优势,同时也阐述了联发科技在AI领域的发展战略。
“我们看到AI未来将会无所不在,联发科技希望做终端人工智能的推动者,提供跨平台的完整软硬件的整合方案。帮助我们的合作伙伴大幅减少开发时间。” 林宗瑶对《电子工程专辑》记者表示,联发科技将提供完整的人工智能解决方案,通过整合硬件(AI处理器:Artificial intelligence Processing Unit)及软件(如NeuroPilot SDK),让每年约15亿台采用联发科技芯片的各类消费性电子产品具备AI能力。
林宗瑶表示,如果说人工智能的发展前期主要集中在云端(Cloud),那么接下来的发展趋势将会往终端(Edge)转移。这个转移有四大好处:
第一是终端的回应速度大大提升,比如针对一些车载系统的智能应用,如ADAS应用,如果通过云端计算处理,再把资料从云端传回来的速度会比较慢。第二是如果把资料放到云端,隐私也非常容易暴露。第三是目前的上传流量资费成本也很高。第四是相对服务器端,终端的功耗会更低。实际上目前云端服务器的用电量已经达到全球电力的5%。从环保节能的角度来看,AI从云端往终端的迁移也会是一个潮流。
目前AI的深度学习还需要大量的数据来进行喂养,而手机等终端的数据量是非常庞大的。林宗瑶认为,未来云端和终端将会有更好的结合,通过“云管端”的方案能够更好的实现AI的普及。
提早布局,占据智能语音终端七成市场
联发科技在AI领域的布局其实很早,布局的技术包括视觉识别(AI Vision)和语音识别(AI Voice)。2015年,索尼(Sony)选择搭载联发科技芯片与Android TV平台推出智能电视。Sony随后透过Android智能电视导入语音搜寻;另透过Netflix与Amazon导入了Dolby Vision和4K HDR,皆由联发科技的芯片提供支持。索尼影像产品公司副社长木井一生表示:“自从Sony在2015年进入智能电视市场后,我们一直与联发科技密切合作。联发科技一直稳定提供卓越的系统单芯片效能与支持,随着AI时代来临,我们期待继续与联发科技在AI上合作。”
在2017年年初,联发科技副董事长兼总经理谢清江就在接受《电子工程专辑》专访时表示,联发科技将斥资2000亿,在未来投资AI、5G等八大技术领域。谢庆江认为,AI是一个技术趋势,会带来很多新的商业机会,“大家知道AI要增加很多运算,很多半导体的机会就会出来。比如说一些低功耗的单元,或者说和云端互联的能力技术。”
实际上,到2017年联发科技在智能语音终端领域已经占到了七成份额,独占了亚马逊Echo、Essential Home智能语音助理的全部订单,其后又拿下了阿里巴巴的智能音箱订单。作为智能家庭的中枢控制器,联发科技有望凭借智能音箱进一步进军智能家居市场。
重构AI生态,成为终端AI推动者
不过,在苹果、海思等竞争对手率先推出智能手机AI平台后,联发科技的AI平台及战略却一直“犹抱琵琶半遮面”。对于这一点,笔者认为并非联发科技的技术研发比较滞后,而是由于针对公开市场的第三方芯片公司公布新的平台或技术会偏保守,先要考虑到客户需求,以及是否愿意为新功能买单。毕竟以联发科技的出货量,哪怕是增加一个小功能,可能加起来就要增加巨大的成本。
此外,以前联发科技针对客户主要提供“turnkey”交钥匙方案,而到了AI生态圈与传统的CPU生态圈有了很大的不同,AI平台要适应的终端包括手机、数字电视、智能语音终端、车载、IoT设备等,这些都需要花时间来进行重新构建。
据介绍,联发科技希望凭借 NeuroPilot AI平台成为终端AI的推动者(Edge AI enabler)。NeuroPilot AI平台支持目前市面上主流的AI架构,包括Google的TensorFlow、Caffe、Amazon的MXNet、Sony的NNabla等。操作系统方面,联发科技同时支持Android与Linux系统。除了提供人工智能处理器,联发科技也将推出NeuroPilot SDK,让开发者得以更为便利地采用联发科技芯片,为消费型设备打造AI应用程序与功能。
“以CPU为例,基本上都和特定的OS捆绑,不管是微软还是安卓都是独占。但是AI不一样,开发者可以用不同的运算单元来运行算法,可以用CPU,也可以用GPU、DSP来支持,不会被某个硬件绑死。” 林宗瑶认为,现在做AI的公司可能在某些节点会有些技术,但布局不够广,而终端AI的产品线只有布局够广,才会产生重大的影响。“能够同时拥有这么多产品线的,放眼全球也就联发科技能做到。”
CPU+APU架构,为开发者提供友好工具包
“我们不会提供单独的AI芯片,因为以现在很多客户的能力很难支持单独的CPU、GPU运算开发。” 林宗瑶表示,对于一些中小客户来说,因为研发能力有限,光是提供一个单独的AI芯片还不够。此外,联发科技还会针对客户提供可移植性和客制化需求。对于手机客户和普通消费者来说,更关心的是AI硬件能搭配什么样的应用。目前主流的AI相关应用包括面部识别、面部美化、场景检测、手势检测、系统性能、语音识别等,有些功能比如人脸解锁和支付,需要跟软件做整合,避免安全性的问题。林宗瑶表示,NeuroPilot人工智能平台会支持目前市面上大多数常用的APP应用,例如,智能照相功能、语音及影像侦测或辨识等。也会针对一些专业性合作伙伴如商汤、旷视、思必驰、科大讯飞、有道等提供定制化需求。“我们预期在2018年针对方案提供商提供功能,2019年会有很多APP有AI功能进来。” 林宗瑶表示,过去MTK提供的是交钥匙的方案,现在提供AI平台将开放给所有的合作伙伴以及非专业的使用者。所以MTK会提供开发者友好SDK工具包。未来会更强调工具包的重要性,这个工具包是面向系统级的级别。
除了生态不同,AI平台本身在芯片设计上也要满足一些特殊的需求,比如性能和功率的平衡。由于AI算法的演进非常快,硬件的性能要能够跟得上算法的变化。目前业内的普遍架构是CPU加上硬件加速器的做法,将一部分可能需要升级的算法放到CPU,因为CPU可以灵活的处理各种算法,但是运算效率较差。另一部分比较固定的算法会放到硬件加速器中。CPU对于算法的弹性最好,但是效率最差,GPU更适合做图像的运算,硬件加速器的效率最好但是弹性不够。NeuroPilot采用的就是APU(Artificial intelligence Processing Unit)的方式,把目前已知的比较固定的80~90种算法固定到APU中,剩下一些一直演进的10个算法会放到CPU中,从而兼顾弹性和效率。“独立的DSP会有一个好处,功耗效能会比较好,比如谷歌的TPU效率比较好,但是弹性比较低。” 林宗瑶表示,APU将会包含已获得IP授权的DSP,未来也可能采用其它厂商的。
点评:MTK加入,千元AI入门机不再遥远
曾几何时,联发科技全新的商业模式颠覆了整个传统手机产业链格局,特别是对中国大陆的手机产业影响深远,使得众多的普通消费者有机会用上物美价廉的智能手机。联发科技的竞争策略一直是“敢为天下后”,经过慎重布局后谋定而后动,通过跟随策略杀入战场,最后凭借性价比和服务在某一个时间节点实现“弯道超车”。目前AI芯片平台成本还较高,主要被应用在高端旗舰机型中。但在智能手机进入创新瓶颈期的今天,AI将成为“5G”前手机厂商重要的一大卖点。笔者认为,联发科技的AI平台推出不一定是最新、最快的,但是一旦推出,在成熟稳定度以及产品线的广度、性价比上均占据优势,相信千元入门机上搭载AI平台的时间很快将会到来,而AI产业的竞争也将继续升级。
本文为《电子工程专辑》原创,版权所有,转载请注明出处并附链接
关注最前沿的电子设计资讯,请关注“电子工程专辑微信公众号”。