从这块比iPad还大的芯片,我们看到了AI芯片的未来

半导体小罗罗 2021-12-08 07:00


1
AI芯片江湖迎来搅局者



上面这位小姐姐,手上拿着的不是砖头。


而是一块芯片。


在CPU芯片领域,延续至今的“摩尔定律”正在随着制程工艺逼近物理极限而有了延缓的趋势,甚至失效的可能。


就在摩尔定律的增长放缓脚步的同时,半导体芯片的计算也正在从通用走向专用,其中AI计算正是其中增长最快的一种专用计算。


海量的可用数据、深度学习算法的发明和 GPU 计算的高性能这三种融合的力量共同推动了 AI 时代的到来。


众所周知,作为GPU(图形处理器)的发明者英伟达(NVIDIA)的主要收入来源是图形和游戏,但近些年来其用于数据中心的 GPU 销售额正在迅猛攀升。


2019 年,前四大云供应商 AWS、谷歌、阿里巴巴和 Azure 中 97.4% 的 AI 加速器实例(用于提高处理速度的硬件)部署了英伟达 GPU。


Cambrian AI Research 的分析师 Karl Freund 表示,它占据了人工智能算法训练市场“近 100%”的份额。Top 500 超级计算机中近 70% 使用了它的 GPU。



得益于在GPU领域的霸主地位,英伟达(NVIDIA)在AI芯片的发展中领先优势巨大,但挑战者也正在竞相迎头赶上。


  1. 谷歌于 2015 年开始制造自己的芯片;

  2. 在 2016 年收购 Annapurna Labs 后,亚马逊去年开始将 Alexa 的大脑转移到自己的 Inferentia 芯片上;

  3. 百度拥有昆仑,最近估值为 20 亿美元;

  4. 高通拥有 Cloud AI 100;

  5. IBM 正在致力研发一种节能设计。

  6. AMD 收购了 Xilinx 用于 AI 数据中心产品;

  7. 英特尔在 2019 年为其 Xeon 数据中心 CPU 添加了 AI 加速模块,它还收购了两家初创公司,2016 年以 4.08 亿美元收购了 Nervana,2019 年以 20 亿美元收购了 Habana Labs。


尚未被抢购走的初创公司则纷纷发布了他们自己的硬件:在过去几年中,Graphcore、SambaNova、Cerebras、Mythic AI、Blaize 和 TensTorrent 等公司都发布或展示了自己的 AI 芯片。


在这其中,Cerebras尤为值得关注,这是一家AI芯片初创公司。与传统芯片制造思路不同,Cerebras将整片晶圆制成了一个巨大的芯片,以储存处理更多数据。


世界最大芯片WSE


2019年8月20日,在Hot Chips顶会上,Cerebras发布了一款震惊世界的芯片:全球有史以来最大的计算机芯片wafer-scale engine (WSE),和餐盘差不多大。2021年4月21日,Cerebras Systems推出了其新的二代芯片Wafer Scale Engine 2(WSE-2)。


通常情况下,芯片制造商会将12英寸的硅切成薄片,切完后,晶圆片会继续被切割成数百个独立的小芯片,然后在这些小芯片上集成晶体管。


而Cerebras公司推出的WSE芯片跟我们常规理解的芯片不太一样,它直接生长在一整块晶圆上。


Cerebras特意设计了一套系统,可以绕过任何制造缺陷,保证100%的良品率,毕竟坏掉一颗,就直接废掉一块晶圆。这种晶圆级集成的技术使Cerebras公司的WSE芯片具备了足够的技术竞争力。


英伟达(NVIDIA)于2020年5月4日发布的全新Ampere GPU A100 (GA100核心)可以说是目前最强芯片之一,面积超过800平方毫米、有540亿晶体管,然而在Cerebras 的WSE芯片面前,GA100也得叫爸爸。


WSE总计1.2万亿个晶体管,核心面积超过46225mm2,集成了40万个核心以及18GB SRAM缓存


今年4月份发布的二代产品WSE 2,采用台积电7纳米制程工艺,WSE 2 的晶片尺寸与 WSE 保持一致,但几乎所有功能都翻倍增加。WSE 2 拥有 85万个核心,2.6 万亿个晶体管——相比之下,市场上第二大的 AI CPU 约为 826 平方毫米,拥有 0.054 万亿个晶体管。相比于 英伟达(NVIDIA)的Ampere GPU A100 (GA100核心) 的 40MB 内存,Cerebras 引入了 40GB SRAM 的板载内存,是前者的 1000 倍。


基于WSE-2、Cerebras的系统以及软件平台,Cerebras也推出了新一代深度学习系统CS-2,来突破系统上的限制。这么强大的性能自然需要强大的供电,CS-2采用了9+3的冗余供电配置来驱动WSE-2。但这样的供电自然也面临着散热上的挑战,Cerebras在CS-2内部运用了一套水冷散热系统,用水冷来对WSE-2散热,再由风冷来降低水温。


与此同时,CS-2的空间占用并不大,这个26英寸高的机器仅仅占用15U的机架空间,虽然大于英伟达的HGX A100系统,但考虑到性能的提升,这点空间占用还是可以接受的。


CS-2散热系统 / Cerebras

AI超级计算机CS-1


在2019年超级计算大会上,Cerebras展示了其基于Cerebras WSE的AI计算机CS-1。CS-1也不负众望,在具有5亿个变量的模拟计算中,击败今年世界排名第81的超级计算机Joule。



在2020年超级计算大会上,CS-1展示了自己针对火焰模拟的超强计算能力。在实际应用场景中,快速模拟燃煤电厂的燃烧过程,可以帮助人类预防大型事故的发生。


据Cerebras首席执行官Andrew Feldman表示,类似燃烧过程模拟、天气预报、飞机机翼设计、核电站温度预测等许多流体动力学模拟问题,都是CS-1的“长项”。 据悉,流体动力学模拟的难点在于要考虑的变量参数过多。比如,假设某个问题需要考虑100万个乃至更多的多维数据集,那么就可能需要50万个变量参与到模拟计算中。


而CS-1凭借三大性能优势应对这一难题:1、超高内存;2、高带宽和低延迟的有源通信结构;3、优化高带宽计算的处理器架构。在这背后,是CS-1搭载的Cerebras WSE带来的超强性能,Cerebras WSE单芯片即包含40万个AI核、18GB的内存、9PB的内存带宽和每秒100 PB的核对核带宽。“在这个工作量级,晶圆级CS-1是有史以来最快的机器,”Feldman说,“当今没有基于CPU甚至GPU的超算可以在模拟燃烧过程等应用场景内击败CS-1。”


基于第一代WSE-1芯片设计建造的CS-1系统自从两年前诞生以来,已在美国能源部的阿贡实验室和劳伦斯利弗莫尔国家实验室安装使用。另外,除了之前提到的美国匹兹堡超算中心部署了CS-1系统以外,爱丁堡大学的超算中心EPCC,英国制药公司葛兰素史克(GSK) 也是CS-1系统的用户。


据Cerebras官方网站介绍,当今最先进的模型,需要几天或几周的时间进行训练,并且通常在数十、数百甚至数千个GPU上进行分布式训练,以使训练时间更可控。这些庞大的处理器集群很难编程,并且面临通信和同步费用高的瓶颈。


基于第二代WSE-2芯片建造的新一代CS-2系统专门为加速AI应用而设计,旨在实现快速、灵活的训练和低延迟的数据处理,可以在更小的空间和更低的功耗下,提供更高的计算性能。



CS-2拥有更高的计算密度、更快的内存和更高的带宽互连,从而将训练速度提升数个数量级、使推理的延迟更低,并且易于部署。Cerebras芯片,将集群的AI计算和内存资源带到单个设备上,一个CS-2的性能相当于整个GPU集群的性能,同时具有单个设备的简单性。


CS-2在一个芯片上有85万个内核,提供了集群规模的速度,同时避免了通信缓慢的问题。同时这也意味着,即使是最大、最复杂的ML模型,也不需要分布式训练或并行编程,因此能节省数周的模型调整和配置时间。由于形成了最高带宽、最低延迟的通信结构,因此大型模型的实时推理延迟得以降低,无需量化、缩小规模和牺牲精度。


在2021年8月22 ~ 24日在线举办的“Hot Chips 33”上,Cerebras公司发表了面向本公司新一代AI(人工智能)加速器“CS-2”的新内存扩展技术和软件执行架构。这样一来,单个晶圆尺度芯片就可以训练120万亿个参数模型,据说人脑中约有100兆个突触,因此这也是世界上首个“大脑级”AI解决方案。


2
小众市场的突破口


尽管Cerebras的WSE-2是一个性能怪兽,但它的应用面并没有A100那么广,更像是面向小众市场。


就拿WSE-1的一些客户来说,多数在进行一些生物及医学研究,比如癌症治疗、药物发现等,且多用于超算中心与国家实验室,比如上面提到的匹茨堡超算中心和阿贡国家实验室。而英伟达的A100则可以用于各种AI和HPC应用,这也是Cerebras目前的解决方案没有突破的,但考虑到Cerebras的定位也不是为了做到全面覆盖,专注于一个市场反而是Cerebras能做到如此优秀的原因所在。


其实值得关注的是像WSE-2这种晶圆级集成的技术,实现这类芯片的良率是巨大的挑战,并不是每家公司都像Cerebras一样在WSE-2上实现100%良率的。


Cerebras 公司看准了晶圆级引擎的市场空白,切入到这一小众领域,这种差异化的竞争策略有利于其突破目前英伟达一家独大的AI芯片市场。可以预见,随着WSE版本迭代更替,这种晶圆级芯片能在未来AI和超算芯片市场上拥有一席之地。



免责声明:半导体小罗罗整理或转载相关内容仅为了传达不同观点和分享知识,不代表半导体小罗罗对该观点赞同或支持,如果有任何异议,欢迎联系半导体小罗罗。除原创作品外,本平台所使用的文章、图片、视频及音乐属于原权利人所有,因客观原因,或会存在不当使用的情况,如部分文章或文章部分引用内容未能及时与原作者取得联系,或作者名称及原始出处标注错误等情况,非恶意侵犯原权利人相关权益,敬请相关权利人谅解并与我们联系及时处理,共同维护良好的网络创作环境。



往期精选


1分钟了解光学光电行业领跑者——欧菲光

1分钟了解国产被动元器件龙头——风华高科

“小罗罗”本尊微信号:

bandaotilema

欢迎大家来

合作、转载、聊人生你说了算


一个不严肃的行业思考者

说大家都能听得懂的半导体知识


半导体小罗罗 一个不严肃的半导体行业思考者,说大家都能听懂的半导体知识。
评论
  • 根据环洋市场咨询(Global Info Research)项目团队最新调研,预计2030年全球无人机锂电池产值达到2457百万美元,2024-2030年期间年复合增长率CAGR为9.6%。 无人机锂电池是无人机动力系统中存储并释放能量的部分。无人机使用的动力电池,大多数是锂聚合物电池,相较其他电池,锂聚合物电池具有较高的能量密度,较长寿命,同时也具有良好的放电特性和安全性。 全球无人机锂电池核心厂商有宁德新能源科技、欣旺达、鹏辉能源、深圳格瑞普和EaglePicher等,前五大厂商占有全球
    GIRtina 2025-01-07 11:02 68浏览
  • 每日可见的315MHz和433MHz遥控模块,你能分清楚吗?众所周知,一套遥控设备主要由发射部分和接收部分组成,发射器可以将控制者的控制按键经过编码,调制到射频信号上面,然后经天线发射出无线信号。而接收器是将天线接收到的无线信号进行解码,从而得到与控制按键相对应的信号,然后再去控制相应的设备工作。当前,常见的遥控设备主要分为红外遥控与无线电遥控两大类,其主要区别为所采用的载波频率及其应用场景不一致。红外遥控设备所采用的射频信号频率一般为38kHz,通常应用在电视、投影仪等设备中;而无线电遥控设备
    华普微HOPERF 2025-01-06 15:29 127浏览
  • 根据Global Info Research项目团队最新调研,预计2030年全球封闭式电机产值达到1425百万美元,2024-2030年期间年复合增长率CAGR为3.4%。 封闭式电机是一种电动机,其外壳设计为密闭结构,通常用于要求较高的防护等级的应用场合。封闭式电机可以有效防止外部灰尘、水分和其他污染物进入内部,从而保护电机的内部组件,延长其使用寿命。 环洋市场咨询机构出版的调研分析报告【全球封闭式电机行业总体规模、主要厂商及IPO上市调研报告,2025-2031】研究全球封闭式电机总体规
    GIRtina 2025-01-06 11:10 104浏览
  • 在智能家居领域中,Wi-Fi、蓝牙、Zigbee、Thread与Z-Wave等无线通信协议是构建短距物联局域网的关键手段,它们常在实际应用中交叉运用,以满足智能家居生态系统多样化的功能需求。然而,这些协议之间并未遵循统一的互通标准,缺乏直接的互操作性,在进行组网时需要引入额外的网关作为“翻译桥梁”,极大地增加了系统的复杂性。 同时,Apple HomeKit、SamSung SmartThings、Amazon Alexa、Google Home等主流智能家居平台为了提升市占率与消费者
    华普微HOPERF 2025-01-06 17:23 145浏览
  • 村田是目前全球量产硅电容的领先企业,其在2016年收购了法国IPDiA头部硅电容器公司,并于2023年6月宣布投资约100亿日元将硅电容产能提升两倍。以下内容主要来自村田官网信息整理,村田高密度硅电容器采用半导体MOS工艺开发,并使用3D结构来大幅增加电极表面,因此在给定的占位面积内增加了静电容量。村田的硅技术以嵌入非结晶基板的单片结构为基础(单层MIM和多层MIM—MIM是指金属 / 绝缘体/ 金属) 村田硅电容采用先进3D拓扑结构在100um内,使开发的有效静电容量面积相当于80个
    知白 2025-01-07 15:02 75浏览
  • 大模型的赋能是指利用大型机器学习模型(如深度学习模型)来增强或改进各种应用和服务。这种技术在许多领域都显示出了巨大的潜力,包括但不限于以下几个方面: 1. 企业服务:大模型可以用于构建智能客服系统、知识库问答系统等,提升企业的服务质量和运营效率。 2. 教育服务:在教育领域,大模型被应用于个性化学习、智能辅导、作业批改等,帮助教师减轻工作负担,提高教学质量。 3. 工业智能化:大模型有助于解决工业领域的复杂性和不确定性问题,尽管在认知能力方面尚未完全具备专家级的复杂决策能力。 4. 消费
    丙丁先生 2025-01-07 09:25 80浏览
  • By Toradex 秦海1). 简介嵌入式平台设备基于Yocto Linux 在开发后期量产前期,为了安全以及提高启动速度等考虑,希望将 ARM 处理器平台的 Debug Console 输出关闭,本文就基于 NXP i.MX8MP ARM 处理器平台来演示相关流程。 本文所示例的平台来自于 Toradex Verdin i.MX8MP 嵌入式平台。  2. 准备a). Verdin i.MX8MP ARM核心版配合Dahlia载板并
    hai.qin_651820742 2025-01-07 14:52 44浏览
  • 本文介绍Linux系统更换开机logo方法教程,通用RK3566、RK3568、RK3588、RK3576等开发板,触觉智能RK3562开发板演示,搭载4核A53处理器,主频高达2.0GHz;内置独立1Tops算力NPU,可应用于物联网网关、平板电脑、智能家居、教育电子、工业显示与控制等行业。制作图片开机logo图片制作注意事项(1)图片必须为bmp格式;(2)图片大小不能大于4MB;(3)BMP位深最大是32,建议设置为8;(4)图片名称为logo.bmp和logo_kernel.bmp;开机
    Industio_触觉智能 2025-01-06 10:43 87浏览
  • 彼得·德鲁克被誉为“现代管理学之父”,他的管理思想影响了无数企业和管理者。然而,关于他的书籍分类,一种流行的说法令人感到困惑:德鲁克一生写了39本书,其中15本是关于管理的,而其中“专门写工商企业或为企业管理者写的”只有两本——《为成果而管理》和《创新与企业家精神》。这样的表述广为流传,但深入探讨后却发现并不完全准确。让我们一起重新审视这一说法,解析其中的矛盾与根源,进而重新认识德鲁克的管理思想及其著作的真正价值。从《创新与企业家精神》看德鲁克的视角《创新与企业家精神》通常被认为是一本专为企业管
    优思学院 2025-01-06 12:03 116浏览
  • 这篇内容主要讨论三个基本问题,硅电容是什么,为什么要使用硅电容,如何正确使用硅电容?1.  硅电容是什么首先我们需要了解电容是什么?物理学上电容的概念指的是给定电位差下自由电荷的储藏量,记为C,单位是F,指的是容纳电荷的能力,C=εS/d=ε0εrS/4πkd(真空)=Q/U。百度百科上电容器的概念指的是两个相互靠近的导体,中间夹一层不导电的绝缘介质。通过观察电容本身的定义公式中可以看到,在各个变量中比较能够改变的就是εr,S和d,也就是介质的介电常数,金属板有效相对面积以及距离。当前
    知白 2025-01-06 12:04 170浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦