我们都在谈摩尔定律失效的问题,这也是AI时代芯片所面临的挑战之一。摩尔定律失效说明是器件的尺寸缩小接近物理极限,延续摩尔定律的生命力,需要工艺以外的创新突破,如GPU芯片、存算一体芯片、IPU芯片、类脑芯片等AI芯片都需要突破。
GPU、CPU,和以TPU、NPU或者类似神经网络加速芯片的ASIC为主,都是传统的计算架构分离,这类智能芯片存在低效率高功耗的问题。冯·诺依曼架构处理与存储单元分离带来的数据交互存在存储墙问题。
IBM在很早提出的Dennard Scaling(单核处理器功率密度达到瓶颈)的功耗瓶颈问题,因为现在器件尺寸越小,密度越大,但功耗如果不能等比例缩小或者大致缩小,功耗会遇到非常大的问题。
集成电路发展为延续摩尔定律,已经从平面晶体管Planar MOSFET迭代到硅基鳍式晶体管FinFet工艺,再转向新型的环绕式栅极晶体管技术GAA工艺,在2022年下半年三星量产了基于GAA工艺的3nm芯片,台积电也将在2nm工艺上采用GAA工艺。北京大学集成电路学院院长 蔡一茂认为,进入AI时代,在功耗和应用的驱动下,我们需要寻找新的计算架构,包括内计算、随机计算、类脑计算甚至量子计算等等;新型的三维集成技术,比如TSV三维集成、Chiplet技术在延续摩尔定律同时,也使得集成电路芯片向多功能化、系统化发展,而且存储器和先进封装技术是AI芯片的重要助推器。
蔡一茂还表示,目前学术和产业界比较关注的研究热点是受脑启发的ANN(人工神经网络)和SNN(脉冲神经网络),人脑是整体计算系统,在面对包括存内计算、类脑计算、高性能存储,是怎样打破存储和能耗瓶颈的?存算一体被引起关注是因为,大家发现在以深度学习为主的人工神经网络里面,矩阵向量乘是最基本的运算之一,矩阵向量乘的交叉阵列的架构,不管作为电压还是电流,都能简单的实现矩阵向量乘的快速运算,让大家能很快的切入赛道。当很多存储器被提出来可以用于存内计算,在产业界首选成熟工艺甚至先进工艺来匹配SoC,SRAM便具有得天独厚的优势,但根据输出形式,SRAM存算一体架构包括电流域、电压域、时间域和数据域等也是各有优劣。整体来说,用最成熟的工艺SRAM/DRAM在存储单元、电流和系统等方面存在多种挑战需要解决。
AI芯片在智能汽车中的发展趋势?
AI智能芯片面临挑战之时,也迎来创新与未来。例如智能汽车领域,中国将成为全球顶级汽车智能芯片的角斗场,算力需求持续提升。此前传统基于规则计算,如通用计算、逻辑驱动计算架构会被数据驱动所替代。
算力的进化推动汽车智能化发展,在1980年颠覆式创新是个人电脑,2007年是智能手机,2020年智能汽车正成为人类科技发展最大的母生态。
智能汽车更像是自主机器人的第一形态,未来在智能汽车领域所开发的技术、平台、产品会大量外溢,去赋能各个行业,包括服务型机器人、工业机器人。
地平线联合创始人&CTO 黄畅为此认为,自动驾驶技术的新范式需要相匹配的计算架构。智能计算架构1.0是规则实现,是基于硅片语言,属于人的规则经验所构建的一套系统。通过端云数据不断的聚合,并且化繁为简的开发范式和算法,以及软硬件结合的计算架构不断迭代,我们推演智能计算架构2.0时代是典型的数据驱动,尤其以深度学习、增强学习为代表的全新计算架构衍生,让范式级智能算法和支持智能算法的硬件体系相结合,加速实现机器自编程和应用自适应。
自动驾驶处理流程不外乎四个大的阶段,第一是感知,第二是地图融合、第三是规划、第四是控制,它形成了机器人的基本的处理链路。黄畅表示,数据驱动的程度在不断加深,使得我们越来越摆脱对规则计算的依赖,同时端对端也变得越来越多的融合。事实上,如今感知和地图融合已经是在构成一个端到端的系统,这两个模块也越来越多的融合成一个模块,规划和控制也有这样的趋势。
为此,AI计算将逐步取代逻辑计算,成为车载计算的核心。
汽车传统架构基本上是域控制器将自动驾驶和座舱分离,它们各自里有人工智能的属性。当智能汽车走向L3的高级辅助驾驶,人机共驾成为一种趋势,AI算力得到增强,会向域控制器架构演进,规控走向逻辑计算和AI计算协同,智能HMI使驾驶行为更加安全,体验更加流畅。再往前演进,最终会走向中央计算平台,AI计算成为一个整体,会有一个AI中台去完成包括驾驶、交互等方面的智能计算,传统的如娱乐和控制方面就交给子系统去辅助AI中台完成。
这些场景,最终落在芯片上会是怎样的?
在行业中也有一个可预见的趋势正在不断被验证,就是越来越大的传统算法被AI算法、深度学习算法、神经网络算法所替代,这使得在图像处理、视频编解码,甚至包括GPU应用中越来越多可以用神经网络算法对它进行替代。
从未来发展趋势来看,一颗芯片上,除了必要的输出和输入外,95%以上的芯片面积和功耗都将为通用的神经计算服务,通用部分可灵活适配应用场景变化导致的不同算法需求,例如Neural、ISP/Codec/GPU。黄畅表示,地平线在过去几年里,尤其是对自动驾驶领域去思考,我们该如何将软硬件结合在一起去构建更好的一套架构,并且支撑这套架构的仿真平台和设计理念。越来越大看似非常复杂的规则算法正在加速被神经网络计算所替代,这使得我们更加有信心和决心将市面上的绝大多数的计算、存储,用于互联的面积、功耗用于神经网络的计算架构,只有不超过5%的芯片会用专用识别,针对应用场景中特定的算法,拓展必要的专用指令并实现硬件加速,这使得我们可以长期持续维护一个基于神经计算的一套软件架构之上的开发平台、开发范式。
汽车“新四化”推动AI芯片助力车路协同落地,什么是车路协同?总体来看是五个方面:智慧的路、实时的云(边缘云+中心云)、聪明的车、可靠的网、精确的图。也就是说,智慧的路通过全息感知,形成交通状况的全面感知的结果,通过可靠的网络发给实时的云和聪明的车,然后同时更新精准的地图,实现了车路云网图的联合适配。
车路协同核心技术——路侧边缘感知计算行业面临多元化算力,性能要求高,低时延,高精准的挑战。比如激光雷达、毫米波雷达、IPC等各种传感器接入需要边缘算力扩展性强,3D点云数据处理器性能开销大,而且低延时一般端到端的要求达到80-100ms,对路况感知的分析要准确。瀚博半导体创始人兼CTO 张磊表示,瀚博为车路协同推出了边缘AI推理加速卡和边缘计算MEC,为边缘AI计算提供超高性能和超低延迟算力。
资本市场怎么看?
在GTIC 2022全球AI芯片峰会的巅峰对话环节中,临芯投资董事长 李亚军先生表示,我投芯片投的很厉害,但对AI芯片一直敬而远之,偶尔会试一把。我最近开始加码AI芯片,大家都知道“S”曲线,第一波是不敢瞎参与,因为第一波偏重技术和理论,第二波偏向于产品和落地场景,我们最近也投了昆仑芯、一芯智能等企业。
近些年,中国芯片产业环境相当热闹,国内不同地区的发展也是各有特色,李亚军表示,上海是芯片产业的高地,以中芯国际为首,其次是无锡的封测能力是最强的,后面跟上的有亦庄,众所周知亦庄早期就开始做并购,从亦庄又辐射到深圳华为、中兴为首,最近特别有意思的现象是,几乎二三线城市的芯片热度也跟着起来,以合肥为首,还有武汉、南京等地,大有星火燎原之势,这么多力量进来本是好事,可以推动中国芯片产业进步。现在大部分地方的一二把手都开始以科技创新为推动力,如芯片、能源、制药,所以说现在芯片是星火燎原。
当芯片产业在一二线城市得到了大力支持,遍地开花、欣欣向荣的局面下,是否有过热隐忧的问题?
和利资本董事总经理 肖鹏认为是有的,他表示,根据中国目前公开披露企业,还没有登上全球前十大芯片设计公司,在这样驱使下看到的不是太热,是在某些方面存在虚火。我们希望能多点开花,资本进入的情况下,经过5-10年时间有企业能进入全球前10的设计公司排名,或者利润营收水平能达到接近台积电30%的范围,这是芯片从业者以及投资、产业界、地方政府都需要冷静思考的问题。
于AI芯片企业而言,该如何在创新中生存,在生存中发展?
李亚军认为,给我印象很深刻的是《稀缺经济学》以及《过剩经济学》,现在这么多GPU、CPU企业也将面临过剩,同时稀缺也是存在的。现在关键问题是,中低端市场已经饱和,高端市场还不足,我觉得现在已经到了攀高峰攻坚克难的时间,要想解决问题,赛马赛到一定时候就要聚焦收回来,这样才会把核心的难题解决。在投资层面,临芯投资的策略是两头延伸,所谓的两头延伸是指,第一是往并购上走,往早期孵化上走,第二是软硬件结合,软硬件结合在AI里特别合适,而且还要和场景应用结合起来。最后是拉动上游、下游、客户、伙伴一同尽心协力干同一件事。毫无疑问,所有企业里团队一定是很核心的,领导更是核心的关键。
肖鹏表示,AI芯片发展技术累积已经到了能够走向产业转化的地步,我们要清楚一个事情,究竟是“万物+AI”,还是“AI+万物”,当你落在一个场景里,要明白我们的附加值是在哪儿?所占成分是多少?这样在与客户接触,了解应用环境时才能做出真正的产品。在团队选择上,针对不同芯片不同场景做选择,比如做大芯片,首选领导人是有充足经验,其次所跟的团队也要整齐,还要有共事经验;对小芯片企业投资上,会看核心技术要求更高,因为越简单的东西本容易被替代。在团队基础上,会更倾向于能与我们互补的,补足其缺点,发扬其优势。
天数智芯首席技术官 吕坚平认为,中国有内在市场,创新需要通过跟客户合作的经验中学习,因为创新必须要迭代,不太可能闭门造车,毕竟产品都是自己开发的,自然就知道哪些地方需要突破,哪些地方需要持续改进。
智能驾驶芯片的应用也有了更多的案例,这个市场也将是一个充满想象力的赛道之一。智能汽车是人工智能落地很好的载体,也有望成为移动服务器。但汽车电子的起量速度远慢于消费电子,李亚军表示,手机可以卖上千万,那汽车能卖多少?这其中要考虑成本问题,一颗芯片研发要2-3年时间,以及3-5亿元资金投入都不止,还有先进工艺7nm也要花费几十万美金,这会导致一种情况出现,就是千军万马最后能跑出的不会有2-3家,必然会形成赢者通吃的局面。
当前大环境现状带来的诸多不确定性,地缘纷争、缺芯、供应链动荡,在持续消极的环境中该如何应对?李亚军和吕坚平都认为,这是周期性现象。李亚军认为,目前现状会拉长周期,当回归周期后的下跌可能会跌的更厉害,大家要有心理预期。但既然是周期,低谷一定会走出来,我觉得全球化浪潮是不可阻挡的,我们短期要做好准备,长期要充满信心。
肖鹏也对企业家们分享了三个看法:
一是,如果未来五年还是像前两年那么火热的环境下,你的合伙人会不会离开你单干?
二是,在行业有一点冷的时候,正是我们企业家把团队做好,把产品做好,把客户服务好的机会,不要天天想着竞争对手,那对你没有任何意义和价值。
三是,做好现金流的管理,把内功练好,等到行业起来的时候,就是你一飞冲天的机会。