被大家称呼为“Wally”的EDA产业老将Walden C. Rhines最近有新动向──他加入了一家开发多核心加速器芯片的美国硅谷新创公司Cornami担任首席执行官一职。
对Cornami来说,能够延揽在Mentor Graphics的首席执行官位置上待了23年、并仍保有Mentor, A Siemens Business荣誉首席执行官头衔的Wally,是一桩相当高调的人事案。这家总部位于美国加州Campbell的公司原名为Sviral,成立于2011年,在2015年更名Cornami,目前约有员工60人,正在为预期于3至4个月内将投片的加速器芯片筹募额外的量产资金。
Cornami 首席执行官Walden C. Rhines (截图自Cornami官网)
Cornami是以开发软件起家,透过最具效益的方式让应用程序能充分利用多核心处理器的优势。这个概念被发展为可重新配置计算架构的硬件设计,能从多核心扩展为众核心(many-core)──在单一芯片上有上千核心、或意味着在一个系统中有数百万核心──再加上专属高速单芯片网络(network-on-chip)进行通讯。
Cornami正在与客户合作加速AI工作负载,特别是自动驾驶应用中,芯片可以被配置为内含AI加速的完全处理器(不同于AI协同处理器),提供在性能与延迟方面的优势。而该公司的未来或许就是在目前没有竞争解决方案的具吸引力相关领域中。
接受新职的缘由
Wally透过视频接受《EE Times》采访时解释,他是在一次与Cornami共同创始人、也是半导体产业界知名资深人士Gordon Campbell的会谈后,激起了对这家公司的兴趣。
“我本来无意再次成为首席执行官,但我已经逐渐减少在Mentor投入的时间;”Wally表示:“AI芯片新创公司这个领域我已经观察了一段时间,虽然这里有点拥挤,但大多数公司在某种程度上都有其专业,而且拥有不同的利基…估值也都相当高。你看其中一些领导公司,他们营运前(pre-revenue)的平均估值就达到20亿美元多一点──这是非常令人兴奋的领域。”
在与Cornami团队的商谈中,他对该公司方案相较于市场现有加速器产品的高性能、低功耗表现印象深刻;Wally坦承在这一点上仍抱持着怀疑态度,因为根据他的经验,用“更好、更快、更便宜”的要求在一个已经吸引大量投资的拥挤领域作为卖点,仍会是艰难的挑战。不过Cornami在简报最后,提到了全同态加密(fully homomorphic encryption,FHE)。
Wally与美国国防部高等研究计划署(DARPA)有契约合作关系,任务是证明半导体产业是否有能力开发出加速FHE技术;这是美国国防部(DoD)的“保障资料而非数据中心安全”之策略的一个关键部分。Wally已经调查过,确定并没有这样的芯片即将问世。不过Cornami的另一位共同创始人暨首席技术官Paul Master斩钉截铁地声称,该公司能让FHE芯片成真。
“当他说我们可以做FHE的时候,我说:少来了!我知道你们不行的啦…因为我才刚针对所有半导体领导业者做过调查,他们都告诉我这是10~20年之后的事情;”Wally表示:“那些公司耐心地解释给我听,指出FHE会比今日最顶级Intel Xeon或Nvidia图形处理器(GPU)服务器强出百万倍性能,所以你可以想象我对于Paul的说法是如何充满怀疑。”
Wally指出,当时Paul不只说“是的,我们可以做到;”还说:“我们基本上可以马上做到,而且我们可以做到跟Nvidia服务器的成本一样。”
到目前为止Cornami的合作伙伴都是在汽车、5G与机器人等市场,并且对于以一种或多种形式加速机器学习应用兴趣浓厚。不过Wally认为Cornami之未来在于FHE的加速:“如果你可以做到所有这些事情,为何不做没有竞争对手的那件事,以及对于想要保全其数据的人来说几乎是无价的那件事?”
或许对DARPA来说有点太迟──根据Wally透露,DARPA决定投资一个五年期计划开发其自有FHE芯片,Cornami的FHE技术商机可能在于金融、云端计算领域等面临保障数据安全压力的应用。
“一旦他们相信某处有解决方案,金融科技领域人士的行动会很快速;”Wally表示,他们会说,“只要寄一块板子或一颗芯片给我们,我们就会采购你们能做出来的任何东西;我们会设置我们的评估平台,然后会将之推上云端。”
这种敏捷性比Cornami已经在关注的一些市场更具吸引力;汽车市场虽然将会是AI加速解决方案的一个很大的市场,众所周知其设计周期相当长。
众核心架构芯片
Cornami一开始是一家软件公司,专门开发能充分利用多核心处理器提供之效益的软件;这类软件可以透过核心数量与芯片数量实现线性性能的改善。该公司并围绕着相同的概念开发了一种硬件计算架构──是一种可重新配置的脉动数组(systolic array),通过芯片的数据流不需要缓冲储存于高速缓存中又清除,因此适合AI应用。
Cornami的核心可以独立编程,并且能对任何精确度的数据执行数学计算;该公司的芯片将会使用上千个核心,甚至以多芯片系统的形式扩展至上百万个。
虽然Conami尚未完全公开其芯片架构细节,但据我们所知,那是一种可重新配置的计算架构,能实现可扩展的众核心设计。
(图片来源:Cornami)
FHE是一种数据加密方法,能在不解密的情况下对加密数据执行数学计算──与已经商用的普通同态加密方法很类似,但那些同态加密方法通常只允许数字相加。
根据Wally的说法,FHE需要“数千个快速傅立叶变换(FFT)序列,以及系数为双位数精度浮点的500阶多项式;”换句话说,这相当复杂,常规计算机可能得花好几分钟才能完成单一位的一次计算。
Cornami的芯片能加速FHE到可用的程度,让该技术能实现对云端加密数据执行AI的承诺。包括医疗或金融信息等敏感数据,以往因为隐私保护问题而无法于云端进行处理,将会变得非常有价值。
Cornami的设计在可重新配置架构方面特别适合FHE,有很多新兴的函式库正争相采用FHE,像是Microsoft的简单加密算法函式库(simple encrypted arithmetic library,SEAL),还有IBM的HELib、开源Palisade项目等等。
Wally表示,Cornami已经花费一年半以FPGA进行其芯片的硬件仿真,完整的验证还要再花3至4个月的时间,预计2021上半年投片。这家新创公司目前正在积极募资,不过迄今的成果还不到3,000万美元。
编译:Judith Cheng
责编:Luffy Liu
(参考原文:Wally Rhines Joins AI Accelerator Startup Cornami as CEO,By Sally Ward-Foxton)