11月5日,国际集成电路展览会暨研讨会(IIC Shenzhen 2024)在深圳福田会展中心拉开帷幕。作为业界最具影响力的系统设计盛会之一,IIC汇聚了国内外电子产业领袖、管理人员、设计精英及决策者。在同日举办的全球CEO峰会上,爱芯元智创始人、董事长仇肖莘博士受邀参会,并发表主题演讲,梳理了人工智能时代半导体发展的最新趋势,及云边端加速融合背景下AI芯片的挑战与机遇。
爱芯元智创始人、董事长仇肖莘博士
大模型助推万物互联,AI能力下沉至边端
随着大模型的逐渐普及,人工智能正在给人们的生产生活带来颠覆式的改变。仇肖莘表示,人工智能要深度造福人类,需要进一步向边缘侧和端侧下沉,当数据中心加速狂飙,边端侧智能在隐私保护、低延迟响应和控制设备成本方面更具优势,这也是万物互联的基础,“此前移动互联网的出现,极大地推动了半导体产业和技术的发展,特别是适配高效、低能耗移动设备的发展。而人工智能的爆发,则为半导体产业和技术提供了新的机遇,即在性能、成本、功耗都可控的情况下,让人工智能真正在边缘侧和端侧的设备上运行起来。”
“在过去三年里,人工智能进入百花齐放、百模争鸣的发展阶段。人工智能技术开始超越人类,在很大程度上已经能代替人们做一些逻辑推理的工作。”仇肖莘认为,种种现象都表明AI基础设施的真正落地已经迫在眉睫,而从半导体行业的角度出发,如何让AI芯片真正实现云边端智能一体化,是相关产业未来很长一段时间所面临的共同课题,而爱芯元智的初步答案是,边端侧人工智能芯片。
“爱芯元智认为,边缘AI芯片是撬动智能世界的重要支点”。仇肖莘指出,与云端相比,边缘侧AI芯片除计算之外,同样注重感知信号的处理,“边缘计算或者端侧芯片其中一个最重要的功能,就是以人工智能的方式,对物理世界的信息进行数字化转换。”与此同时,边端侧推理芯片能够在控制成本和能耗的基础上提高推理效率,也更有利于对垂直领域的数据进行训练及推理。
“边缘智能时代,更经济、更高效、更环保的AI芯片将受到更多企业关注”,仇肖莘强调,换而言之,高算力、低成本、大带宽、低功耗是AI芯片产业实际研发设计的真正方向。
降本增效拓场景,智能时代需要AI处理器
当芯片越做越大、训练和推理成本越来越高,企业就需要更符合实际应用的芯片产品和适配人工智能时代的AI处理器。为此,爱芯元智也在今年正式对外推出了爱芯通元AI处理器。仇肖莘在演讲中表示,爱芯通元AI处理器的核心亮点在于其创新的算子指令集与数据流微架构设计理念。该处理器底层采用了高度可编程的数据流微架构,这一设计巧妙地平衡了能效与算力密度之间的关系,使得处理器在执行复杂AI任务时能够展现出卓越的性能与效率。同时,其灵活的架构设计确保了算子指令集的完备性,为各类AI应用场景提供了坚实的支撑,极大地拓宽了AI技术的应用边界。
值得一提的是,由于较早预判了transformer网络架构的发展,爱芯通元AI处理器原生支持transformer,这也保证了其能效比领先于更高端的AI芯片,更加契合边缘大模型的落地应用。
基于爱芯智眸AI-ISP和爱芯通元NPU两大核心技术,爱芯元智在智慧城市、智能驾驶和边缘智能等领域不断落地。会上,仇肖莘以爱芯元智在智能驾驶领域的落地应用为例,现场演示了爱芯芯片产品应用于电子外后视镜(CMS)的实际效果:基于AI对传统影像处理的颠覆,爱芯智眸AI-ISP真正实现了“黑夜如白昼”的视觉效果,同时爱芯通元NPU则提升了图像处理的性能,依托这整套技术的CMS等智能驾驶配件,在极端场景下能够获得更好的视野,从而提高智能驾驶的安全性。
在演讲的最后,仇肖莘表示,技术的发展即不断发起对产业难题的挑战,如AI推理性能如何减少对DDR带宽的依赖、Chiplet在边端侧是否有未来、如何以技术创新打破低端内卷……“但生存和创新不应该是一个选择题,人工智能一定会走向万物智能的时代,可持续、向善地发展才能真正推动AI的普惠”。