随着AI模型的大规模应用,芯片的算力需求越来越高,对芯片制造工艺也提出了更大的挑战。3月14日,美国芯片初创公司Cerebras Systems发布了第三代晶圆级AI加速芯片“WSE-3”(Wafer Scale Engine 3),其规格参数更加疯狂,而且在功耗、价格不变的前提下性能翻了一番。
据悉,这款芯片的单颗面积达到了约46225平方毫米,是通常芯片面积的50倍以上,比一本书的面积还要大。造成这一差异的主要原因在于Cerebras Systems走了不同寻常的制造工艺路线,即在普遍芯片制造商的制造流程还是从硅锭切下一片晶圆并将其分割成数百颗独立芯片时,Cerebras Systems选择直接将整片晶圆做成一颗芯片。
这种制造工艺也导致单颗芯片的面积与12英寸晶圆所能截取的矩形面积一样大,而Cerebras Systems生产的芯片也以"巨大"著称。
据悉,2019年8月,Cerebras Systems发布了Wafer Scale Engine(WSE)系列的首款芯片,该芯片集成了1.2万亿个晶体管,40万个AI核心。
2021年4月,Cerebras Systems又推出WSE-2。其官方数据显示,第二代芯片拥有2.6万亿个晶体管和85万个核心,相较第一代晶体管数、内核数、内存等增加一倍以上。其核心面积就已经达到了46225平方毫米,是彼时最大的GPU核心面积的56倍。2022年,Cerebras Systems生产的芯片被硅谷计算机历史博物馆收藏。
而WSE-3芯片是专为训练业界最大的AI模型而构建的。这款新器件使用台积电的5纳米工艺打造,包含4万亿个晶体管,90万个AI核心。而相比之下,英伟达H100芯片所包含的晶体管数量为800亿个。
图源:Cerebras Systems
Cerebras Systems表示,WSE-3芯片性能参数全面对标英伟达H100。其公司介绍页信息显示,在人工智能训练加速方面,该芯片的性能是H100的8倍。
该公司在新闻稿还介绍,"您可能已经看到Cerebras表示其平台比NVIDIA的平台更易于使用。造成这种情况的一个重要原因是Cerebras存储权重和激活的方式,并且它不必扩展到系统中的多个GPU,然后扩展到集群中的多个GPU服务器。"
尽管WSE-3芯片核心数量、缓存容量增加的不多,但性能实现了飞跃,峰值AI算力高达125PFlops,也就是每秒12.5亿亿次浮点计算,堪比顶级超算。
目前WSE-3的具体功耗、价格没公布,参考上一代产品的价格,估计该芯片价格要超过200万美元,不知会有多少企业愿意买单。
不过,值得一提的是,Cerebras Systems很受资本青睐,包括OpenAI创始人山姆·奥尔特曼(Sam Altman),AMD前CTO Fred Weber以及Benchmark、Coatue Management、Eclipse Ventures等,都是该企业的投资人或机构。
2021年,Cerebras Systems获得最新一笔融资,由Alphawave Ventures和阿布扎比增长基金(ADG)领投,融资金额2.5亿美元。截至该轮融资,Cerebras融资总额7.2亿美元,公司估值超40亿美元。