从这块比iPad还大的芯片,我们看到了AI芯片的未来

半导体小罗罗 2021-12-08 07:00


1
AI芯片江湖迎来搅局者



上面这位小姐姐,手上拿着的不是砖头。


而是一块芯片。


在CPU芯片领域,延续至今的“摩尔定律”正在随着制程工艺逼近物理极限而有了延缓的趋势,甚至失效的可能。


就在摩尔定律的增长放缓脚步的同时,半导体芯片的计算也正在从通用走向专用,其中AI计算正是其中增长最快的一种专用计算。


海量的可用数据、深度学习算法的发明和 GPU 计算的高性能这三种融合的力量共同推动了 AI 时代的到来。


众所周知,作为GPU(图形处理器)的发明者英伟达(NVIDIA)的主要收入来源是图形和游戏,但近些年来其用于数据中心的 GPU 销售额正在迅猛攀升。


2019 年,前四大云供应商 AWS、谷歌、阿里巴巴和 Azure 中 97.4% 的 AI 加速器实例(用于提高处理速度的硬件)部署了英伟达 GPU。


Cambrian AI Research 的分析师 Karl Freund 表示,它占据了人工智能算法训练市场“近 100%”的份额。Top 500 超级计算机中近 70% 使用了它的 GPU。



得益于在GPU领域的霸主地位,英伟达(NVIDIA)在AI芯片的发展中领先优势巨大,但挑战者也正在竞相迎头赶上。


  1. 谷歌于 2015 年开始制造自己的芯片;

  2. 在 2016 年收购 Annapurna Labs 后,亚马逊去年开始将 Alexa 的大脑转移到自己的 Inferentia 芯片上;

  3. 百度拥有昆仑,最近估值为 20 亿美元;

  4. 高通拥有 Cloud AI 100;

  5. IBM 正在致力研发一种节能设计。

  6. AMD 收购了 Xilinx 用于 AI 数据中心产品;

  7. 英特尔在 2019 年为其 Xeon 数据中心 CPU 添加了 AI 加速模块,它还收购了两家初创公司,2016 年以 4.08 亿美元收购了 Nervana,2019 年以 20 亿美元收购了 Habana Labs。


尚未被抢购走的初创公司则纷纷发布了他们自己的硬件:在过去几年中,Graphcore、SambaNova、Cerebras、Mythic AI、Blaize 和 TensTorrent 等公司都发布或展示了自己的 AI 芯片。


在这其中,Cerebras尤为值得关注,这是一家AI芯片初创公司。与传统芯片制造思路不同,Cerebras将整片晶圆制成了一个巨大的芯片,以储存处理更多数据。


世界最大芯片WSE


2019年8月20日,在Hot Chips顶会上,Cerebras发布了一款震惊世界的芯片:全球有史以来最大的计算机芯片wafer-scale engine (WSE),和餐盘差不多大。2021年4月21日,Cerebras Systems推出了其新的二代芯片Wafer Scale Engine 2(WSE-2)。


通常情况下,芯片制造商会将12英寸的硅切成薄片,切完后,晶圆片会继续被切割成数百个独立的小芯片,然后在这些小芯片上集成晶体管。


而Cerebras公司推出的WSE芯片跟我们常规理解的芯片不太一样,它直接生长在一整块晶圆上。


Cerebras特意设计了一套系统,可以绕过任何制造缺陷,保证100%的良品率,毕竟坏掉一颗,就直接废掉一块晶圆。这种晶圆级集成的技术使Cerebras公司的WSE芯片具备了足够的技术竞争力。


英伟达(NVIDIA)于2020年5月4日发布的全新Ampere GPU A100 (GA100核心)可以说是目前最强芯片之一,面积超过800平方毫米、有540亿晶体管,然而在Cerebras 的WSE芯片面前,GA100也得叫爸爸。


WSE总计1.2万亿个晶体管,核心面积超过46225mm2,集成了40万个核心以及18GB SRAM缓存


今年4月份发布的二代产品WSE 2,采用台积电7纳米制程工艺,WSE 2 的晶片尺寸与 WSE 保持一致,但几乎所有功能都翻倍增加。WSE 2 拥有 85万个核心,2.6 万亿个晶体管——相比之下,市场上第二大的 AI CPU 约为 826 平方毫米,拥有 0.054 万亿个晶体管。相比于 英伟达(NVIDIA)的Ampere GPU A100 (GA100核心) 的 40MB 内存,Cerebras 引入了 40GB SRAM 的板载内存,是前者的 1000 倍。


基于WSE-2、Cerebras的系统以及软件平台,Cerebras也推出了新一代深度学习系统CS-2,来突破系统上的限制。这么强大的性能自然需要强大的供电,CS-2采用了9+3的冗余供电配置来驱动WSE-2。但这样的供电自然也面临着散热上的挑战,Cerebras在CS-2内部运用了一套水冷散热系统,用水冷来对WSE-2散热,再由风冷来降低水温。


与此同时,CS-2的空间占用并不大,这个26英寸高的机器仅仅占用15U的机架空间,虽然大于英伟达的HGX A100系统,但考虑到性能的提升,这点空间占用还是可以接受的。


CS-2散热系统 / Cerebras

AI超级计算机CS-1


在2019年超级计算大会上,Cerebras展示了其基于Cerebras WSE的AI计算机CS-1。CS-1也不负众望,在具有5亿个变量的模拟计算中,击败今年世界排名第81的超级计算机Joule。



在2020年超级计算大会上,CS-1展示了自己针对火焰模拟的超强计算能力。在实际应用场景中,快速模拟燃煤电厂的燃烧过程,可以帮助人类预防大型事故的发生。


据Cerebras首席执行官Andrew Feldman表示,类似燃烧过程模拟、天气预报、飞机机翼设计、核电站温度预测等许多流体动力学模拟问题,都是CS-1的“长项”。 据悉,流体动力学模拟的难点在于要考虑的变量参数过多。比如,假设某个问题需要考虑100万个乃至更多的多维数据集,那么就可能需要50万个变量参与到模拟计算中。


而CS-1凭借三大性能优势应对这一难题:1、超高内存;2、高带宽和低延迟的有源通信结构;3、优化高带宽计算的处理器架构。在这背后,是CS-1搭载的Cerebras WSE带来的超强性能,Cerebras WSE单芯片即包含40万个AI核、18GB的内存、9PB的内存带宽和每秒100 PB的核对核带宽。“在这个工作量级,晶圆级CS-1是有史以来最快的机器,”Feldman说,“当今没有基于CPU甚至GPU的超算可以在模拟燃烧过程等应用场景内击败CS-1。”


基于第一代WSE-1芯片设计建造的CS-1系统自从两年前诞生以来,已在美国能源部的阿贡实验室和劳伦斯利弗莫尔国家实验室安装使用。另外,除了之前提到的美国匹兹堡超算中心部署了CS-1系统以外,爱丁堡大学的超算中心EPCC,英国制药公司葛兰素史克(GSK) 也是CS-1系统的用户。


据Cerebras官方网站介绍,当今最先进的模型,需要几天或几周的时间进行训练,并且通常在数十、数百甚至数千个GPU上进行分布式训练,以使训练时间更可控。这些庞大的处理器集群很难编程,并且面临通信和同步费用高的瓶颈。


基于第二代WSE-2芯片建造的新一代CS-2系统专门为加速AI应用而设计,旨在实现快速、灵活的训练和低延迟的数据处理,可以在更小的空间和更低的功耗下,提供更高的计算性能。



CS-2拥有更高的计算密度、更快的内存和更高的带宽互连,从而将训练速度提升数个数量级、使推理的延迟更低,并且易于部署。Cerebras芯片,将集群的AI计算和内存资源带到单个设备上,一个CS-2的性能相当于整个GPU集群的性能,同时具有单个设备的简单性。


CS-2在一个芯片上有85万个内核,提供了集群规模的速度,同时避免了通信缓慢的问题。同时这也意味着,即使是最大、最复杂的ML模型,也不需要分布式训练或并行编程,因此能节省数周的模型调整和配置时间。由于形成了最高带宽、最低延迟的通信结构,因此大型模型的实时推理延迟得以降低,无需量化、缩小规模和牺牲精度。


在2021年8月22 ~ 24日在线举办的“Hot Chips 33”上,Cerebras公司发表了面向本公司新一代AI(人工智能)加速器“CS-2”的新内存扩展技术和软件执行架构。这样一来,单个晶圆尺度芯片就可以训练120万亿个参数模型,据说人脑中约有100兆个突触,因此这也是世界上首个“大脑级”AI解决方案。


2
小众市场的突破口


尽管Cerebras的WSE-2是一个性能怪兽,但它的应用面并没有A100那么广,更像是面向小众市场。


就拿WSE-1的一些客户来说,多数在进行一些生物及医学研究,比如癌症治疗、药物发现等,且多用于超算中心与国家实验室,比如上面提到的匹茨堡超算中心和阿贡国家实验室。而英伟达的A100则可以用于各种AI和HPC应用,这也是Cerebras目前的解决方案没有突破的,但考虑到Cerebras的定位也不是为了做到全面覆盖,专注于一个市场反而是Cerebras能做到如此优秀的原因所在。


其实值得关注的是像WSE-2这种晶圆级集成的技术,实现这类芯片的良率是巨大的挑战,并不是每家公司都像Cerebras一样在WSE-2上实现100%良率的。


Cerebras 公司看准了晶圆级引擎的市场空白,切入到这一小众领域,这种差异化的竞争策略有利于其突破目前英伟达一家独大的AI芯片市场。可以预见,随着WSE版本迭代更替,这种晶圆级芯片能在未来AI和超算芯片市场上拥有一席之地。



免责声明:半导体小罗罗整理或转载相关内容仅为了传达不同观点和分享知识,不代表半导体小罗罗对该观点赞同或支持,如果有任何异议,欢迎联系半导体小罗罗。除原创作品外,本平台所使用的文章、图片、视频及音乐属于原权利人所有,因客观原因,或会存在不当使用的情况,如部分文章或文章部分引用内容未能及时与原作者取得联系,或作者名称及原始出处标注错误等情况,非恶意侵犯原权利人相关权益,敬请相关权利人谅解并与我们联系及时处理,共同维护良好的网络创作环境。



往期精选


1分钟了解光学光电行业领跑者——欧菲光

1分钟了解国产被动元器件龙头——风华高科

“小罗罗”本尊微信号:

bandaotilema

欢迎大家来

合作、转载、聊人生你说了算


一个不严肃的行业思考者

说大家都能听得懂的半导体知识


半导体小罗罗 一个不严肃的半导体行业思考者,说大家都能听懂的半导体知识。
评论
  • 更多生命体征指标风靡的背后都只有一个原因:更多人将健康排在人生第一顺位!“AGEs,也就是晚期糖基化终末产物,英文名Advanced Glycation End-products,是存在于我们体内的一种代谢产物” 艾迈斯欧司朗亚太区健康监测高级市场经理王亚琴说道,“相信业内的朋友都会有关注,最近该指标的热度很高,它可以用来评估人的生活方式是否健康。”据悉,AGEs是可穿戴健康监测领域的一个“萌新”指标,近来备受关注。如果站在学术角度来理解它,那么AGEs是在非酶促条件下,蛋白质、氨基酸
    艾迈斯欧司朗 2025-02-27 14:50 363浏览
  • 应用趋势与客户需求,AI PC的未来展望随着人工智能(AI)技术的日益成熟,AI PC(人工智能个人电脑)逐渐成为消费者和企业工作中的重要工具。这类产品集成了最新的AI处理器,如NPU、CPU和GPU,并具备许多智能化功能,为用户带来更高效且直观的操作体验。AI PC的目标是提升工作和日常生活的效率,通过深度学习与自然语言处理等技术,实现更流畅的多任务处理、实时翻译、语音助手、图像生成等功能,满足现代用户对生产力和娱乐的双重需求。随着各行各业对数字转型需求的增长,AI PC也开始在各个领域中显示
    百佳泰测试实验室 2025-02-27 14:08 238浏览
  • 振动样品磁强计是一种用于测量材料磁性的精密仪器,广泛应用于科研、工业检测等领域。然而,其测量准确度会受到多种因素的影响,下面我们将逐一分析这些因素。一、温度因素温度是影响振动样品磁强计测量准确度的重要因素之一。随着温度的变化,材料的磁性也会发生变化,从而影响测量结果的准确性。因此,在进行磁性测量时,应确保恒温环境,以减少温度波动对测量结果的影响。二、样品制备样品的制备过程同样会影响振动样品磁强计的测量准确度。样品的形状、尺寸和表面处理等因素都会对测量结果产生影响。为了确保测量准确度,应严格按照规
    锦正茂科技 2025-02-28 14:05 114浏览
  •           近日受某专业机构邀请,参加了官方举办的《广东省科技创新条例》宣讲会。在与会之前,作为一名技术工作者一直认为技术的法例都是保密和侵权方面的,而潜意识中感觉法律有束缚创新工作的进行可能。通过一个上午学习新法,对广东省的科技创新有了新的认识。广东是改革的前沿阵地,是科技创新的沃土,企业是创新的主要个体。《广东省科技创新条例》是广东省为促进科技创新、推动高质量发展而制定的地方性法规,主要内容包括: 总则:明确立法目
    广州铁金刚 2025-02-28 10:14 90浏览
  • 1,微软下载免费Visual Studio Code2,安装C/C++插件,如果无法直接点击下载, 可以选择手动install from VSIX:ms-vscode.cpptools-1.23.6@win32-x64.vsix3,安装C/C++编译器MniGW (MinGW在 Windows 环境下提供类似于 Unix/Linux 环境下的开发工具,使开发者能够轻松地在 Windows 上编写和编译 C、C++ 等程序.)4,C/C++插件扩展设置中添加Include Path 5,
    黎查 2025-02-28 14:39 100浏览
  • 美国加州CEC能效跟DOE能效有什么区别?CEC/DOE是什么关系?美国加州CEC能效跟DOE能效有什么区别?CEC/DOE是什么关系?‌美国加州CEC能效认证与美国DOE能效认证在多个方面存在显著差异‌。认证范围和适用地区‌CEC能效认证‌:仅适用于在加利福尼亚州销售的电器产品。CEC认证的范围包括制冷设备、房间空调、中央空调、便携式空调、加热器、热水器、游泳池加热器、卫浴配件、光源、应急灯具、交通信号模块、灯具、洗碗机、洗衣机、干衣机、烹饪器具、电机和压缩机、变压器、外置电源、消费类电子设备
    张工nx808593 2025-02-27 18:04 92浏览
  • RGB灯光无法同步?细致的动态光效设定反而成为产品客诉来源!随着科技的进步和消费者需求变化,电脑接口设备单一功能性已无法满足市场需求,因此在产品上增加「动态光效」的形式便应运而生,藉此吸引消费者目光。这种RGB灯光效果,不仅能增强电脑周边产品的视觉吸引力,还能为用户提供个性化的体验,展现独特自我风格。如今,笔记本电脑、键盘、鼠标、鼠标垫、耳机、显示器等多种电脑接口设备多数已配备动态光效。这些设备的灯光效果会随着音乐节奏、游戏情节或使用者的设置而变化。想象一个画面,当一名游戏玩家,按下电源开关,整
    百佳泰测试实验室 2025-02-27 14:15 132浏览
  • 在物联网领域中,无线射频技术作为设备间通信的核心手段,已深度渗透工业自动化、智慧城市及智能家居等多元场景。然而,随着物联网设备接入规模的不断扩大,如何降低运维成本,提升通信数据的传输速度和响应时间,实现更广泛、更稳定的覆盖已成为当前亟待解决的系统性难题。SoC无线收发模块-RFM25A12在此背景下,华普微创新推出了一款高性能、远距离与高性价比的Sub-GHz无线SoC收发模块RFM25A12,旨在提升射频性能以满足行业中日益增长与复杂的设备互联需求。值得一提的是,RFM25A12还支持Wi-S
    华普微HOPERF 2025-02-28 09:06 101浏览
  •         近日,广电计量在聚焦离子束(FIB)领域编写的专业著作《聚焦离子束:失效分析》正式出版,填补了国内聚焦离子束领域实践性专业书籍的空白,为该领域的技术发展与知识传播提供了重要助力。         随着芯片技术不断发展,芯片的集成度越来越高,结构也日益复杂。这使得传统的失效分析方法面临巨大挑战。FIB技术的出现,为芯片失效分析带来了新的解决方案。它能够在纳米尺度上对芯片进行精确加工和分析。当芯
    广电计量 2025-02-28 09:15 89浏览
  • Matter 协议,原名 CHIP(Connected Home over IP),是由苹果、谷歌、亚马逊和三星等科技巨头联合ZigBee联盟(现连接标准联盟CSA)共同推出的一套基于IP协议的智能家居连接标准,旨在打破智能家居设备之间的 “语言障碍”,实现真正的互联互通。然而,目标与现实之间总有落差,前期阶段的Matter 协议由于设备支持类型有限、设备生态协同滞后以及设备通信协议割裂等原因,并未能彻底消除智能家居中的“设备孤岛”现象,但随着2025年的到来,这些现象都将得到完美的解决。近期,
    华普微HOPERF 2025-02-27 10:32 178浏览
  • 在2024年的科技征程中,具身智能的发展已成为全球关注的焦点。从实验室到现实应用,这一领域正以前所未有的速度推进,改写着人类与机器的互动边界。这一年,我们见证了具身智能技术的突破与变革,它不仅落地各行各业,带来新的机遇,更在深刻影响着我们的生活方式和思维方式。随着相关技术的飞速发展,具身智能不再仅仅是一个技术概念,更像是一把神奇的钥匙。身后的众多行业,无论愿意与否,都像是被卷入一场伟大变革浪潮中的船只,注定要被这股汹涌的力量重塑航向。01为什么是具身智能?为什么在中国?最近,中国具身智能行业的进
    艾迈斯欧司朗 2025-02-28 15:45 160浏览
  • 一、VSM的基本原理震动样品磁强计(Vibrating Sample Magnetometer,简称VSM)是一种灵敏且高效的磁性测量仪器。其基本工作原理是利用震动样品在探测线圈中引起的变化磁场来产生感应电压,这个感应电压与样品的磁矩成正比。因此,通过测量这个感应电压,我们就能够精确地确定样品的磁矩。在VSM中,被测量的样品通常被固定在一个震动头上,并以一定的频率和振幅震动。这种震动在探测线圈中引起了变化的磁通量,从而产生了一个交流电信号。这个信号的幅度和样品的磁矩有着直接的关系。因此,通过仔细
    锦正茂科技 2025-02-28 13:30 78浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦