在500万人的城市中每年拯救30-300人的生命;令人们日均通勤时间缩短15-30分钟;每天人均节水量25-80升;犯罪率降低30-40%;疾病负担降低8-15%;应急响应时间缩短20-35%……根据麦肯锡的这份报告显示,现在起到2025年,人工智能(AI)会让关键生活质量指标提升60%,让生活变得更安全更美好。
回首过去的100年间,整个计算的演进历程从最早的模拟(机械)运算到电子运算,受益于摩尔定律,技术得以快速推动。1990年时,全球约有15亿台个人电脑终端,2007年进入智能手机时代后,这一数字翻倍来到了30亿。2016年的AlphaGo让大众认识了AI,也拉开了AI时代的序幕。时至今日,AI以各种形式落地,平均每个人身边都有数个智能设备,预计到2020年,智能机器数量将数倍于全球总人口数,这里面蕴含前所未有的商业机会。
AI是好东西,但是它面临巨大的挑战。首先就是隐私问题,AI设备遍布在我们身边采集数据,包括人像这种敏感数据。西方社会近些年已经严格地去立法管控个人隐私,比如说人脸、车牌等信息。如何让大家充分享受AI便利的同时,又能保护隐私?
“原始数据送到云端以后将变得不可控,因此我们认为应该选择边缘计算。” 在10 月 29日地平线的新产品发布会上,地平线联合创始人&技术副总裁黄畅说到,“原始数据在边缘采集时就能得到有效处理,脱敏之后再送到云端,这是欧洲现在最主流的一种隐私保护解决方案。”
地平线联合创始人&技术副总裁黄畅发布旭日二代
第二个挑战是训练和推理后面产生的巨大碳排放,这需要将算法、软件和芯片充分结合,针对AI应用领域推出专门的架构,提升整体的效能。第三个挑战来自于现实业务的诉求,“现实客户的需求非常长尾、碎片化,但是大家如果去安博会上走一走,就会看到这个行业大家真正能够提供落地的东西非常同质化。”黄畅表示,“就好比你只有七巧板,是很难搭建起乐高这样非常繁复、非常贴近碎片化、个性化的需求的产品。地平线对此的解决方案是通过开放生态和第三方下游社区,吸引更多人参与到共创过程中,去满足各式各样的长尾需求,从而丰富整个技术的提供。”
最后一个典型挑战,就是在很多传统行业中过去有非常多很好的应用,但是在AI时代,他们希望能够得到AI加持,进一步挖掘它的价值,提升它的效率,这就需要一个完整且易于集成的系统级方案。
旭日二代与核心板
为了解决以上几个AI落地的挑战,本次发布会地平线推出了新一代 AIoT 智能应用加速引擎——旭日二代边缘 AI 芯片及一站式全场景芯片解决方案。同时,地平线再次强调了其智能物联战略,即通过芯片架构创新重新定义效能比,打造一站式全场景解决方案,以底层技术赋能构建开放生态,不做上层业务应用,助力产业参与者应对普惠 AI 时代的数据计算挑战。
旭日一代是在2017年底发布的,据黄畅介绍,一年多的时间落地出货量就超过了10万片。作为一个芯片行业的新军,一代芯片就能到达这样的销量,而且是AI芯片,着实不易。
旭日二代开启 AIoT “芯”时代
旭日二代是地平线面向未来物联网推出的新一代智能应用加速引擎,采用28纳米工艺。在旭日二代上的实际测试结果表明,分类模型 MobileNet V2的运行速度超过每秒700张图片,检测模型Yolo V3的运行速度超过每秒40张图片。在运行这些高效模型方面,旭日二代能够达到甚至超过业内标称4TOPS算力的AI芯片,而其功耗仅为2W。
地平线旭日二代芯片核心参数
地平线联合创始人&技术副总裁黄畅在发布会现场表示:“地平线对重要应用场景中的关键算法发展趋势进行预判,前瞻性地将其计算特点融入到芯片架构的设计当中。因此,与其他典型的 AI 芯片相比,地平线的 AI 芯片随着算法的演进趋势,始终能够保持相当高的有效利用率,比如说它典型的算法模型算力利用率是超过90%的,这在业界几乎绝无仅有。”
黄畅表示,经典芯片性能评估方式是PPA(功耗Power、性能Performance、面积Area),AI芯片真实性能常用Tops/Watt与Tops/$来呈现。黄畅认为,这种评估方式没有充分考虑算法的发展趋势,让AI芯片在采用新算法时往往利用率显著下降。
“真实性能应该是能效、利用率、算法能力的乘积。这意味着不仅要对芯片和算法进行优化,还要对连接两者的编译器等中间环节进行优化,最终达成全面的优化。”黄畅说到,“以编译器优化所带来的利用率提升为例,即便有架构自动优化,有编译器相比没编译器的情况,单帧带宽消耗可从每帧141.9MB降到每帧34.4MB,单帧计算延迟可从43.77毫秒降到25.1毫秒,而计算资源利用率可从57%提升到95%。”
针对物联网场景下的主要目标群体“人”和“车”,旭日二代进行了大量的算法优化,集成地平线第二代 BPU 架构(伯努利架构),在边缘端即可实现全视频结构化能力,高效灵活地处理多类 AI 任务,包括10~30万人前端识别,密集人群时空属性行为分析,多种非机动车、机动车检测分类。黄畅表示,经过地平线的前期客户验证,旭日二代可完全满足商业、办公、社区、园区、教育等物联网场景需求。
此外地平线还提供完整芯片工具链——“天工开物(Horizon OpenExplorer )”,工具链兼备可视化调优调试工具、丰富的算法样例,能够为不同类型客户提供全面开放的赋能服务。基于生态开放协同理念,地平线还加入 96 Boards 社区并推出符合社区规范的边缘 AI 开发套件BOOTPRINT X2,为 AI 开发者提供“开发武器”。
目前旭日二代支持MXNet和TensorFlow等训练框架,预计明年年初支持PyTorch。相较而言海思只支持Caffe,一些主流安防终端厂商会因为这个而做出选择。
从现场公布的产品Roadmap我们还得知,旭日三代将于明年推出,是一款完整SoC方案,提供多种算力配置和多Camera输入支持,更好地整合多路的视频接入、视频处理、ISP、视频编辑码压缩等技术。
解决终端客户五大痛点
“得益于旭日AI芯片及深度学习算法,地平线智能物联芯片解决方案兼备性价比的 AI 芯片、极致功耗的效率、开放易用的平台、端云协同的方案、全面赋能的服务,可助力合作伙伴加速数字化管理,实现数据采集、存储、分析到优化的服务闭环,提升其市场竞争力。”地平线副总裁兼智能物联芯片方案产品线总经理张永谦在发布旭日二代AI芯片解决方案Horizon Hero时说到。
目前,地平线已形成了包括智能摄像机方案Hero Sights系列、人脸通行门禁&考勤方案Hero Spark系列、智能边缘分析盒HeroStream等形态在内的地平线 Hero 一站式全场景边缘 AI 芯片解决方案,方案整合地平线AI 芯片、算法、软件及摄像头模组,支持客户快速应用与落地量产,如打造具备高性能人脸识别技术的出入口门禁、可视对讲、办公考勤等产品。
地平线副总裁兼智能物联芯片方案产品线总经理张永谦发布 Hero 系列解决方案
张永谦还总结了一下地平线进入这个行业以来,发现的客户痛点,这也是他们为什么要做这个Hero解决方案的初衷。
首先,智能化是AI落地核心的价值点,现在落地需求最强烈的仍然是围绕人的应用场景,所以地平线打造了一个全场景立体化围绕人的智能算法集,帮助客户快速让产品有智能。但是光有算法集还不行,其实线下场景的多样化、碎片化是非常严重的,所以针对客户不同的应用,在算法集合的基础之上还有一层算法策略能力集。
其次,有了算法和策略,如果没有图像质量,再好的产品都出不来。用户在做产品开发的过程中,决定产品质量的因素非常多,首先要有镜头、图像传感器、ISP,针对不同场景还要选择不同的补光,“甚至包括有一些像智能面板交互的产品,连玻璃的材质都要考虑到。” 张永谦说到,“我们的图像调优团队会把各个场景里面图像部分的要素集成在一起,给客户提供完整的图像调优解决方案,一个智能化落地的核心能力包。”
第三,要让客户快速地开发上层应用,需要在软件架构上把端和边都打通,整个软件架构必须是一体化的。在这个基础上,只要在端模块上加上算法配置和通道管理模块,就可以迅速形成边缘侧的软件架构。地平线做了很多对设备管理、通用接口库、OTA升级、云对接SDK,支持客户快速开发应用,这套软件框架支持安卓和Linux。
第四,现在大家都希望快速完成硬件设计。地平线的做法是提供核心板,用户不需要研究透地平线芯片,就可以用核心模块和他们底层应用板或接口板快速实现硬件结合,张永谦表示:“同时我们也提供完整的原理图和PCB Layout设计,如果客户想选择更熟悉的元器件,我们也可以帮助他们在元器件上做整合和集成。”
最后就是怎样快速地完成系统整合。光有硬件上的核心设计仍然不够,很多终端厂商拿到整套方案后,做出来分析的效果仍然不好,这跟很多其他的因素相关。这时候就需要在补光灯、语音模块和刷卡模块用到一些模块化的参考设计,与此同时地平线还会提供结构和热设计。
张永谦表示,相较于市场上的 AI 方案,Hero 在以下方面拥有明显的落地优势:
1. 边缘计算:本地端即可完成计算,数据无需上传到云端;
2. 软硬结合:算法与芯片协同优化,使方案兼具高性能、低功耗特点;
3. 端边结合:方案覆盖智能摄像机, 面板机以及智能分析盒
4. 全场景一站式方案:完整解决方案支持客户快速应用开发和量产。
“地平线将持续深化在 AIoT 领域的战略布局与行业场景渗透,发挥软硬结合优势,通过芯片工具链与全场景一站式解决方案赋能行业,让合作伙伴真正实现“小投入、快量产”,让下游客户可以更容易的落地行业场景,加速普惠 AI 时代的到来。” 张永谦说到。
4年来的战绩
地平线从2015 年创立之初便聚焦边缘人工智能芯片领域,4年的时间,地平线留下了一些重要的轨迹。2015年9月,启动第一代人工智能计算架构 BPU 研发;2017年6月,成为全球首个在台积电流片的AI 芯片公司;2017年12月,发布中国首款边缘 AI 芯片;2018年4月,成为首个赋能海外 RoboTaxi 商业落地的国内 AI 芯片公司;2019年8月,宣布量产中国首款车规级 AI 芯片——征程二代。
地平线在 AIoT 领域部分可公开合作伙伴
据地平线方面介绍,在 AIoT 领域,旭日系列芯片解决方案截至目前出货量已达数十万套,是国内行业出货量最大的 AI 芯片方案。目前,地平线已拥有上百家 AIoT 合作伙伴,其中包括行业 Top 5 中的3家,在智慧社区、智慧商业、智能楼宇、智慧校园、智能办公等典型场景与头部行业客户完成合作落地,实现线下场景服务数千万人口。在商业化进程中优质客户案例的落地,往往能在助推行业智能升级中起到了行业标杆示范效应,如商米、冠林、多度、SK电讯等。
地平线的策略是基于边缘 AI 芯片,打造一个多层次、多维度、多样性的开放生态体系。黄畅表示: “在产业链赋能方面,地平线坚持底层技术能力研发与解决方案的打造,加速普惠 AI 时代到来;在开发者生态方面,地平线则通过工具链服务降低开发者门槛,助力上层应用产生,以此丰富整个 AIoT 应用生态,用行业的力量推动行业。 ”
地平线开放赋能生态体系
发布会最后,平安集团首席科学家、集团执委肖京博士,96Boards 创始人张旸博士,阿里云 IoT兼AI@Edge 技术负责人龙一民先生出席了本次发布会,并围绕“边缘计算的挑战与落地”这一话题,从技术趋势、产业赋能、开发者生态等方面分别发表了精彩观点。