从这块比iPad还大的芯片,我们看到了AI芯片的未来

半导体小罗罗 2021-12-08 07:00


1
AI芯片江湖迎来搅局者



上面这位小姐姐,手上拿着的不是砖头。


而是一块芯片。


在CPU芯片领域,延续至今的“摩尔定律”正在随着制程工艺逼近物理极限而有了延缓的趋势,甚至失效的可能。


就在摩尔定律的增长放缓脚步的同时,半导体芯片的计算也正在从通用走向专用,其中AI计算正是其中增长最快的一种专用计算。


海量的可用数据、深度学习算法的发明和 GPU 计算的高性能这三种融合的力量共同推动了 AI 时代的到来。


众所周知,作为GPU(图形处理器)的发明者英伟达(NVIDIA)的主要收入来源是图形和游戏,但近些年来其用于数据中心的 GPU 销售额正在迅猛攀升。


2019 年,前四大云供应商 AWS、谷歌、阿里巴巴和 Azure 中 97.4% 的 AI 加速器实例(用于提高处理速度的硬件)部署了英伟达 GPU。


Cambrian AI Research 的分析师 Karl Freund 表示,它占据了人工智能算法训练市场“近 100%”的份额。Top 500 超级计算机中近 70% 使用了它的 GPU。



得益于在GPU领域的霸主地位,英伟达(NVIDIA)在AI芯片的发展中领先优势巨大,但挑战者也正在竞相迎头赶上。


  1. 谷歌于 2015 年开始制造自己的芯片;

  2. 在 2016 年收购 Annapurna Labs 后,亚马逊去年开始将 Alexa 的大脑转移到自己的 Inferentia 芯片上;

  3. 百度拥有昆仑,最近估值为 20 亿美元;

  4. 高通拥有 Cloud AI 100;

  5. IBM 正在致力研发一种节能设计。

  6. AMD 收购了 Xilinx 用于 AI 数据中心产品;

  7. 英特尔在 2019 年为其 Xeon 数据中心 CPU 添加了 AI 加速模块,它还收购了两家初创公司,2016 年以 4.08 亿美元收购了 Nervana,2019 年以 20 亿美元收购了 Habana Labs。


尚未被抢购走的初创公司则纷纷发布了他们自己的硬件:在过去几年中,Graphcore、SambaNova、Cerebras、Mythic AI、Blaize 和 TensTorrent 等公司都发布或展示了自己的 AI 芯片。


在这其中,Cerebras尤为值得关注,这是一家AI芯片初创公司。与传统芯片制造思路不同,Cerebras将整片晶圆制成了一个巨大的芯片,以储存处理更多数据。


世界最大芯片WSE


2019年8月20日,在Hot Chips顶会上,Cerebras发布了一款震惊世界的芯片:全球有史以来最大的计算机芯片wafer-scale engine (WSE),和餐盘差不多大。2021年4月21日,Cerebras Systems推出了其新的二代芯片Wafer Scale Engine 2(WSE-2)。


通常情况下,芯片制造商会将12英寸的硅切成薄片,切完后,晶圆片会继续被切割成数百个独立的小芯片,然后在这些小芯片上集成晶体管。


而Cerebras公司推出的WSE芯片跟我们常规理解的芯片不太一样,它直接生长在一整块晶圆上。


Cerebras特意设计了一套系统,可以绕过任何制造缺陷,保证100%的良品率,毕竟坏掉一颗,就直接废掉一块晶圆。这种晶圆级集成的技术使Cerebras公司的WSE芯片具备了足够的技术竞争力。


英伟达(NVIDIA)于2020年5月4日发布的全新Ampere GPU A100 (GA100核心)可以说是目前最强芯片之一,面积超过800平方毫米、有540亿晶体管,然而在Cerebras 的WSE芯片面前,GA100也得叫爸爸。


WSE总计1.2万亿个晶体管,核心面积超过46225mm2,集成了40万个核心以及18GB SRAM缓存


今年4月份发布的二代产品WSE 2,采用台积电7纳米制程工艺,WSE 2 的晶片尺寸与 WSE 保持一致,但几乎所有功能都翻倍增加。WSE 2 拥有 85万个核心,2.6 万亿个晶体管——相比之下,市场上第二大的 AI CPU 约为 826 平方毫米,拥有 0.054 万亿个晶体管。相比于 英伟达(NVIDIA)的Ampere GPU A100 (GA100核心) 的 40MB 内存,Cerebras 引入了 40GB SRAM 的板载内存,是前者的 1000 倍。


基于WSE-2、Cerebras的系统以及软件平台,Cerebras也推出了新一代深度学习系统CS-2,来突破系统上的限制。这么强大的性能自然需要强大的供电,CS-2采用了9+3的冗余供电配置来驱动WSE-2。但这样的供电自然也面临着散热上的挑战,Cerebras在CS-2内部运用了一套水冷散热系统,用水冷来对WSE-2散热,再由风冷来降低水温。


与此同时,CS-2的空间占用并不大,这个26英寸高的机器仅仅占用15U的机架空间,虽然大于英伟达的HGX A100系统,但考虑到性能的提升,这点空间占用还是可以接受的。


CS-2散热系统 / Cerebras

AI超级计算机CS-1


在2019年超级计算大会上,Cerebras展示了其基于Cerebras WSE的AI计算机CS-1。CS-1也不负众望,在具有5亿个变量的模拟计算中,击败今年世界排名第81的超级计算机Joule。



在2020年超级计算大会上,CS-1展示了自己针对火焰模拟的超强计算能力。在实际应用场景中,快速模拟燃煤电厂的燃烧过程,可以帮助人类预防大型事故的发生。


据Cerebras首席执行官Andrew Feldman表示,类似燃烧过程模拟、天气预报、飞机机翼设计、核电站温度预测等许多流体动力学模拟问题,都是CS-1的“长项”。 据悉,流体动力学模拟的难点在于要考虑的变量参数过多。比如,假设某个问题需要考虑100万个乃至更多的多维数据集,那么就可能需要50万个变量参与到模拟计算中。


而CS-1凭借三大性能优势应对这一难题:1、超高内存;2、高带宽和低延迟的有源通信结构;3、优化高带宽计算的处理器架构。在这背后,是CS-1搭载的Cerebras WSE带来的超强性能,Cerebras WSE单芯片即包含40万个AI核、18GB的内存、9PB的内存带宽和每秒100 PB的核对核带宽。“在这个工作量级,晶圆级CS-1是有史以来最快的机器,”Feldman说,“当今没有基于CPU甚至GPU的超算可以在模拟燃烧过程等应用场景内击败CS-1。”


基于第一代WSE-1芯片设计建造的CS-1系统自从两年前诞生以来,已在美国能源部的阿贡实验室和劳伦斯利弗莫尔国家实验室安装使用。另外,除了之前提到的美国匹兹堡超算中心部署了CS-1系统以外,爱丁堡大学的超算中心EPCC,英国制药公司葛兰素史克(GSK) 也是CS-1系统的用户。


据Cerebras官方网站介绍,当今最先进的模型,需要几天或几周的时间进行训练,并且通常在数十、数百甚至数千个GPU上进行分布式训练,以使训练时间更可控。这些庞大的处理器集群很难编程,并且面临通信和同步费用高的瓶颈。


基于第二代WSE-2芯片建造的新一代CS-2系统专门为加速AI应用而设计,旨在实现快速、灵活的训练和低延迟的数据处理,可以在更小的空间和更低的功耗下,提供更高的计算性能。



CS-2拥有更高的计算密度、更快的内存和更高的带宽互连,从而将训练速度提升数个数量级、使推理的延迟更低,并且易于部署。Cerebras芯片,将集群的AI计算和内存资源带到单个设备上,一个CS-2的性能相当于整个GPU集群的性能,同时具有单个设备的简单性。


CS-2在一个芯片上有85万个内核,提供了集群规模的速度,同时避免了通信缓慢的问题。同时这也意味着,即使是最大、最复杂的ML模型,也不需要分布式训练或并行编程,因此能节省数周的模型调整和配置时间。由于形成了最高带宽、最低延迟的通信结构,因此大型模型的实时推理延迟得以降低,无需量化、缩小规模和牺牲精度。


在2021年8月22 ~ 24日在线举办的“Hot Chips 33”上,Cerebras公司发表了面向本公司新一代AI(人工智能)加速器“CS-2”的新内存扩展技术和软件执行架构。这样一来,单个晶圆尺度芯片就可以训练120万亿个参数模型,据说人脑中约有100兆个突触,因此这也是世界上首个“大脑级”AI解决方案。


2
小众市场的突破口


尽管Cerebras的WSE-2是一个性能怪兽,但它的应用面并没有A100那么广,更像是面向小众市场。


就拿WSE-1的一些客户来说,多数在进行一些生物及医学研究,比如癌症治疗、药物发现等,且多用于超算中心与国家实验室,比如上面提到的匹茨堡超算中心和阿贡国家实验室。而英伟达的A100则可以用于各种AI和HPC应用,这也是Cerebras目前的解决方案没有突破的,但考虑到Cerebras的定位也不是为了做到全面覆盖,专注于一个市场反而是Cerebras能做到如此优秀的原因所在。


其实值得关注的是像WSE-2这种晶圆级集成的技术,实现这类芯片的良率是巨大的挑战,并不是每家公司都像Cerebras一样在WSE-2上实现100%良率的。


Cerebras 公司看准了晶圆级引擎的市场空白,切入到这一小众领域,这种差异化的竞争策略有利于其突破目前英伟达一家独大的AI芯片市场。可以预见,随着WSE版本迭代更替,这种晶圆级芯片能在未来AI和超算芯片市场上拥有一席之地。



免责声明:半导体小罗罗整理或转载相关内容仅为了传达不同观点和分享知识,不代表半导体小罗罗对该观点赞同或支持,如果有任何异议,欢迎联系半导体小罗罗。除原创作品外,本平台所使用的文章、图片、视频及音乐属于原权利人所有,因客观原因,或会存在不当使用的情况,如部分文章或文章部分引用内容未能及时与原作者取得联系,或作者名称及原始出处标注错误等情况,非恶意侵犯原权利人相关权益,敬请相关权利人谅解并与我们联系及时处理,共同维护良好的网络创作环境。



往期精选


1分钟了解光学光电行业领跑者——欧菲光

1分钟了解国产被动元器件龙头——风华高科

“小罗罗”本尊微信号:

bandaotilema

欢迎大家来

合作、转载、聊人生你说了算


一个不严肃的行业思考者

说大家都能听得懂的半导体知识


半导体小罗罗 一个不严肃的半导体行业思考者,说大家都能听懂的半导体知识。
评论 (0)
  • 文/Leon编辑/cc孙聪颖‍2023年,厨电行业在相对平稳的市场环境中迎来温和复苏,看似为行业增长积蓄势能。带着对市场向好的预期,2024 年初,老板电器副董事长兼总经理任富佳为企业定下双位数增长目标。然而现实与预期相悖,过去一年,这家老牌厨电企业不仅未能达成业绩目标,曾提出的“三年再造一个老板电器”愿景,也因市场下行压力面临落空风险。作为“企二代”管理者,任富佳在掌舵企业穿越市场周期的过程中,正面临着前所未有的挑战。4月29日,老板电器(002508.SZ)发布了2024年年度报告及2025
    华尔街科技眼 2025-04-30 12:40 224浏览
  • 一、gao效冷却与控温机制‌1、‌冷媒流动设计‌采用低压液氮(或液氦)通过毛细管路导入蒸发器,蒸汽喷射至样品腔实现快速冷却,冷却效率高(室温至80K约20分钟,至4.2K约30分钟)。通过控温仪动态调节蒸发器加热功率,结合温度传感器(如PT100铂电阻或Cernox磁场不敏感传感器),实现±0.01K的高精度温度稳定性。2、‌宽温区覆盖与扩展性‌标准温区为80K-325K,通过降压选件可将下限延伸至65K(液氮模式)或4K(液氦模式)。可选配475K高温模块,满足材料在ji端温度下的性能测试需求
    锦正茂科技 2025-04-30 13:08 270浏览
  •  探针台的维护直接影响其测试精度与使用寿命,需结合日常清洁、环境控制、定期校准等多维度操作,具体方法如下:一、日常清洁与保养1.‌表面清洁‌l 使用无尘布或软布擦拭探针台表面,避免残留清洁剂或硬物划伤精密部件。l 探针头清洁需用非腐蚀性溶剂(如异丙醇)擦拭,检查是否弯曲或损坏。2.‌光部件维护‌l 镜头、观察窗等光学部件用镜头纸蘸取wu水jiu精从中心向外轻擦,操作时远离火源并保持通风。3.‌内部防尘‌l 使用后及时吹扫灰尘,防止污染物进入机械滑
    锦正茂科技 2025-04-28 11:45 115浏览
  • 随着电子元器件的快速发展,导致各种常见的贴片电阻元器件也越来越小,给我们分辨也就变得越来越难,下面就由smt贴片加工厂_安徽英特丽就来告诉大家如何分辨的SMT贴片元器件。先来看看贴片电感和贴片电容的区分:(1)看颜色(黑色)——一般黑色都是贴片电感。贴片电容只有勇于精密设备中的贴片钽电容才是黑色的,其他普通贴片电容基本都不是黑色的。(2)看型号标码——贴片电感以L开头,贴片电容以C开头。从外形是圆形初步判断应为电感,测量两端电阻为零点几欧,则为电感。(3)检测——贴片电感一般阻值小,更没有“充放
    贴片加工小安 2025-04-29 14:59 236浏览
  • 在智能硬件设备趋向微型化的背景下,语音芯片方案厂商针对小体积设备开发了多款超小型语音芯片方案,其中WTV系列和WT2003H系列凭借其QFN封装设计、高性能与高集成度,成为微型设备语音方案的理想选择。以下从封装特性、功能优势及典型应用场景三个方面进行详细介绍。一、超小体积封装:QFN技术的核心优势WTV系列与WT2003H系列均提供QFN封装(如QFN32,尺寸为4×4mm),这种封装形式具有以下特点:体积紧凑:QFN封装通过减少引脚间距和优化内部结构,显著缩小芯片体积,适用于智能门铃、穿戴设备
    广州唯创电子 2025-04-30 09:02 251浏览
  • 在CAN总线分析软件领域,当CANoe不再是唯一选择时,虹科PCAN-Explorer 6软件成为了一个有竞争力的解决方案。在现代工业控制和汽车领域,CAN总线分析软件的重要性不言而喻。随着技术的进步和市场需求的多样化,单一的解决方案已无法满足所有用户的需求。正是在这样的背景下,虹科PCAN-Explorer 6软件以其独特的模块化设计和灵活的功能扩展,为CAN总线分析领域带来了新的选择和可能性。本文将深入探讨虹科PCAN-Explorer 6软件如何以其创新的模块化插件策略,提供定制化的功能选
    虹科汽车智能互联 2025-04-28 16:00 192浏览
  • 贞光科技代理品牌紫光国芯的车规级LPDDR4内存正成为智能驾驶舱的核心选择。在汽车电子国产化浪潮中,其产品以宽温域稳定工作能力、优异电磁兼容性和超长使用寿命赢得市场认可。紫光国芯不仅确保供应链安全可控,还提供专业本地技术支持。面向未来,紫光国芯正研发LPDDR5车规级产品,将以更高带宽、更低功耗支持汽车智能化发展。随着智能网联汽车的迅猛发展,智能驾驶舱作为人机交互的核心载体,对处理器和存储器的性能与可靠性提出了更高要求。在汽车电子国产化浪潮中,贞光科技代理品牌紫光国芯的车规级LPDDR4内存凭借
    贞光科技 2025-04-28 16:52 273浏览
  • 一、智能家居的痛点与创新机遇随着城市化进程加速,现代家庭正面临两大核心挑战:情感陪伴缺失:超60%的双职工家庭存在“亲子陪伴真空期”,儿童独自居家场景增加;操作复杂度攀升:智能设备功能迭代导致用户学习成本陡增,超40%用户因操作困难放弃高阶功能。而WTR096-16S录音语音芯片方案,通过“语音交互+智能录音”双核驱动,不仅解决设备易用性问题,更构建起家庭成员间的全天候情感纽带。二、WTR096-16S方案的核心技术突破1. 高保真语音交互系统动态情绪语音库:支持8种语气模板(温柔提醒/紧急告警
    广州唯创电子 2025-04-28 09:24 191浏览
  • 文/郭楚妤编辑/cc孙聪颖‍越来越多的企业开始蚕食动力电池市场,行业“去宁王化”态势逐渐明显。随着这种趋势的加强,打开新的市场对于宁德时代而言至关重要。“我们不希望被定义为电池的制造者,而是希望把自己称作新能源产业的开拓者。”4月21日,在宁德时代举行的“超级科技日”发布会上,宁德时代掌门人曾毓群如是说。随着宁德时代核心新品骁遥双核电池的发布,其搭载的“电电增程”技术也走进业界视野。除此之外,经过近3年试水,宁德时代在换电业务上重资加码。曾毓群认为换电是一个重资产、高投入、长周期的产业,涉及的利
    华尔街科技眼 2025-04-28 21:55 173浏览
  • 你是不是也有在公共场合被偷看手机或笔电的经验呢?科技时代下,不少现代人的各式机密数据都在手机、平板或是笔电等可携式的3C产品上处理,若是经常性地需要在公共场合使用,不管是工作上的机密文件,或是重要的个人信息等,民众都有防窃防盗意识,为了避免他人窥探内容,都会选择使用「防窥保护贴片」,以防止数据外泄。现今市面上「防窥保护贴」、「防窥片」、「屏幕防窥膜」等产品就是这种目的下产物 (以下简称防窥片)!防窥片功能与常见问题解析首先,防窥片最主要的功能就是用来防止他人窥视屏幕上的隐私信息,它是利用百叶窗的
    百佳泰测试实验室 2025-04-30 13:28 348浏览
  • 浪潮之上:智能时代的觉醒    近日参加了一场课题的答辩,这是医疗人工智能揭榜挂帅的国家项目的地区考场,参与者众多,围绕着医疗健康的主题,八仙过海各显神通,百花齐放。   中国大地正在发生着激动人心的场景:深圳前海深港人工智能算力中心高速运转的液冷服务器,武汉马路上自动驾驶出租车穿行的智慧道路,机器人参与北京的马拉松竞赛。从中央到地方,人工智能相关政策和消息如雨后春笋般不断出台,数字中国的建设图景正在智能浪潮中徐徐展开,战略布局如同围棋
    广州铁金刚 2025-04-30 15:24 200浏览
  • 网约车,真的“饱和”了?近日,网约车市场的 “饱和” 话题再度引发热议。多地陆续发布网约车风险预警,提醒从业者谨慎入局,这背后究竟隐藏着怎样的市场现状呢?从数据来看,网约车市场的“过剩”现象已愈发明显。以东莞为例,截至2024年12月底,全市网约车数量超过5.77万辆,考取网约车驾驶员证的人数更是超过13.48万人。随着司机数量的不断攀升,订单量却未能同步增长,导致单车日均接单量和营收双双下降。2024年下半年,东莞网约出租车单车日均订单量约10.5单,而单车日均营收也不容乐
    用户1742991715177 2025-04-29 18:28 231浏览
  • 4月22日下午,备受瞩目的飞凌嵌入式「2025嵌入式及边缘AI技术论坛」在深圳深铁皇冠假日酒店盛大举行,此次活动邀请到了200余位嵌入式技术领域的技术专家、企业代表和工程师用户,共享嵌入式及边缘AI技术的盛宴!1、精彩纷呈的展区产品及方案展区是本场活动的第一场重头戏,从硬件产品到软件系统,从企业级应用到高校教学应用,都吸引了现场来宾的驻足观看和交流讨论。全产品矩阵展区展示了飞凌嵌入式丰富的产品线,从嵌入式板卡到工控机,从进口芯片平台到全国产平台,无不体现出飞凌嵌入式在嵌入式主控设备研发设计方面的
    飞凌嵌入式 2025-04-28 14:43 160浏览
我要评论
0
1
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦