AI大模型需要新型存储器!北京大学唐克超老师谈FeRAM铁电存储器挑战及解决之道

原创 EETOP 2024-09-24 11:33

2022年11月,ChatGPT的横空出世,加速了大模型时代的变革。大型模型通过吸收海量数据,进行训练、推理,建模,当前已经在诸如文本创作、多语种翻译、情绪识别、复杂问题解构与执行等众多领域取得了不错的应用成就。尤其2024年年初Sora诞生后,通过人工智能文生视频大模型,人类在理解真实世界场景并与之互动方面又取得了质的飞跃。


如何有效地整合规模化、高质量的数据以用于大型模型的训练,是推进大模型发展的关键动力。算力技术以AI芯片、AI服务器、AI集群为载体。随着AI应用复杂性的增加和对实时性、能效比需求的提升,高带宽内存更成为芯片发展的关键技术


01

存储器发展新趋势

存储器通常占集成电路总价值的1/3,同时,内存芯片也是整个芯片市场最大单品。而传统的存储技术无法实现数据高速访问与数据非易失存储的结合,造成现有计算存储架构分级体系复杂,能效较低;运算单元与存储器之间速度失配,严重制约计算机性能及能效比的进一步提升。并且,目前SRAM面积微缩越发困难,AI对存储和算力的几乎无限需求和工艺微缩的极限矛盾正在加剧。

为了降低云和边缘的功耗,兼具高性能和易失性的新型存储器以及基于新型材料的存储器技术,正加速新型存储器的创新之路,如自旋磁存储器MRAM(MagnetoresistiveRandom Access Memory)、阻变存储器RRAM(Resistive Random Access Memory)、相变存储器PCM(phase change memory)、铁电存储器FeRAM(Ferroelectric RAM)等。


MRAM,自旋磁存储器

MRAM是一种非易失性的磁性随机存储器,它利用磁电阻效应来存储数据,核心原理是利用材料的磁阻效应,即材料的电阻会随着外部磁场的变化而变化,从而通过改变电流方向和大小,可以改变其中一个磁性层的磁化方向,由此实现数据的写入和读取。


其实这也不是什么新兴技术。早在上世纪五十年代就已经被提出,并在军用方面得到广泛应用。近年来随着专利过期,才得以在民用市场不断突破创新。MRAM是当前主流非易失性存储器中能与DRAM 和SRAM读写速度相提并论的存储器,能满足从缓存到内存的非易失存储需求。MRAM有望根据不同的带宽需求逐步替代现有的不同类型的存储器,如SRAM、DRAM以及Flash 等。


MRAM的优势在于它在具有非易失性的同时在速度、功耗、成本上较为折中,因而得以具有广泛的应用前景。面对巨大的市场空间,全球掀起了以MRAM为代表的自旋芯片研发热潮。据了解,三星、IBM等已经实现商用。其中,三星自2019年,就开始量产28nm 嵌入式MRAM。据媒体报道,三星看好未来车用领域对 eMRAM 的需求。目前三星已完成 14nm eMRAM 的开发,8nm eMRAM 开发也基本完成,并计划 2027 年推出 5nm eMRAM


RRAM,阻变存储器

RRAM阻变存储器是一种新型的非易失性存储器,它通过向金属氧化物薄膜施加脉冲电压,产生大的电阻差值来存储“0”和“1”。其结构简单,从而简化了制造工艺,同时还可实现低功耗和高速重写等卓越性能。


RRAM阻变存储器其实也就是大家熟知的忆阻器,最早是在1971年由华裔科学家,时任教于加州大学伯克利分校的蔡少棠教授提出的。RRAM在独立式难以应用,但在嵌入式有广阔的应用前景,尤其在类脑计算领域,优势明显。


传统冯·诺依曼结构下,数据的存储和计算相互分离,即数据存储在储存器中,需要计算时再把它搬运到运算器里。然而,AI类应用(例如大模型)需要对大量数据进行矩阵运算,其核心是乘法和加法,在此情形下算力是比较吃紧的,面临着很大挑战。(EETOP此前有专门推送过忆阻器的文章,感兴趣的朋友,可点击链接,阅读原文:访谈清华大学高滨教授:大模型时代的存算一体芯片


RRAM的应用领域包括物联网、汽车电子、工业控制等。虽然过去业内认为RRAM还不够成熟,且主要面向的是小算力市场。不过,随着人工智能、大数据、大模型等技术的不断迭代更新及迅速落地应用后,自2023年开始,市场对RRAM的热度已经居高不下,很多国际大厂纷纷宣布要量产,如Intel、TSMC、三星、格罗方德、UMC、中芯国际、华力等。


与此同时,据IMARC Group的报告显示,2022年全球MRAM市场规模已经达到4.271亿美元。展望未来,IMARC Group预计:2023-2028年,MRAM的增长率(CAGR)为44.5%;到2028年该市场将高达45.25亿美元


PCM,相变存储器

PCM相变存储器是一种非易失存储设备,它利用硫族化合物在晶态和非晶态巨大的导电性差异来存储数据,具有存取速度快和可靠性高等优点。特别地,PCM因其具备非易失性、可字节寻址等特性而同时具备作为主存和外存的潜力,在其影响下,主存和外存之间的界限也正在逐渐变得模糊,有望部分替代目前被公众所熟知的传统存储技术如DRAM、Flash。据了解,目前成熟产品已经应用于数据中心。


FeRAM铁电存储器

FeRAM铁电存储器是一种随机存取存储器技术,是一种在断电时不会丢失内容的非易失存储器,具有高速、高密度、低功耗和抗辐射等优点。随着人工智能和大数据技术的飞速发展,对算力和存储的需求日益增长。传统的计算架构逐渐显露出局限性,这促使学术界和产业界开始探索新的计算架构和信息器件。

02

铁电材料和器件的现状与发展

与传统的钙钛矿铁电材料相比,铪基铁电具有更好的可微缩性,集成架构上兼容于DRAM和NAND,使其具有广阔的发展前景。最近, 泰克科技中国区技术总监张欣与北京大学集成电路学院的唐克超老师就“铁电材料和器件研究的难点痛点以及未来可能的解决之道”展开了前沿对话交流。

左:泰克科技中国区技术总监张欣

右:北京大学集成电路学院的唐克超

唐克超博士于2017年9月获得美国斯坦福大学博士学位,2020年入选海外高层次人才引进计划青年项目,任北京大学集成电路学院研究员、博士生导师。


针对铁电材料在集成电路领域的应用前景,唐克超老师介绍,目前有三种主流的铁电存储器技术:FeRAM、FeFET和FTJ,它们各自具有独特的特性和应用前景。


  • FeRAM,即基于电容型的铁电存储器,因其与现有DRAM结构的相似性而最接近产业化应用。它旨在提供非易失性存储解决方案,以结合DRAM的快速访问和低功耗特性,特别适合需要频繁刷新的场景

  • FeFET,即基于晶体管型的铁电存储器,也是唐克超老师团队的研究重点。这种存储器以其高集成密度、快速操作和低功耗而受到关注。FeFET的优势在于其三端器件的设计,这使得它非常适合用于存算一体、神经形态计算和安全应用等先进领域。此外,FeFET支持非破坏性读取,允许在不重写的情况下进行数据读取,这在提高存储效率方面是一个显著优势。

  • FTJ即基于隧穿结的铁电存储器,目前主要处于前沿研究阶段。FTJ面临的主要挑战是其较小的读电流,这限制了其速度潜力。尽管如此,FTJ在神经形态计算等低功耗应用中显示出巨大潜力。

 

对于FeFET的科研创新,唐克超老师分享说:“面临的最大挑战是耐久性问题,即在反复编程和擦写后性能衰减。”唐克超老师表示,铁电材料的极化状态通常需要电场的作用才能翻转,而在铁电场效应晶体管(FeFET)中,这一现象尤为显著。要解决这一问题,需要从多个角度进行全面的考量包括铁电材料本身对电场的响应,以及界面结构和界面缺陷对电场分布的影响。对于器件的测试,有很多不同的角度的测试,包括转移曲线Id-Vg的测试、读写速度的测试、耐久性测试、保持性测试,以及还需要在阵列方面读写、串扰方面的一些测试。

不过,铁电材料因其独特的物理特性,在集成电路、传感器、驱动器、热学器件以及光电探测器等多个领域展现出巨大的应用潜力。尤其是在大数据和人工智能技术迅速发展的今天,铁电材料的高性能特性,以及在存储和计算领域的潜在应用,使其成为推动技术进步的关键因素


结束语


随着人工智能技术的快速发展,到了人工智能大模型,AI PC的时代,AI堆栈正逐渐成为开发和部署AI应用程序的核心技术。随着多系统集成带来的新挑战,集成电路往更小尺度、更高集成度和更多功能方向发展,设计越来越复杂,信号越来越小,半导体检测精度和可靠性愈发严格和重要。

 

唐克超老师最后也表示:“随着技术的发展和阵列规模的增大,测试过程的自动化将变得越来越重要。”本文最后,为大家附上泰克张欣和北京大学唐克超老师老师此次的专家对话视频,同时为大家附上以下由泰克提供的”新一代高速存储单元及类脑计算、神经元网络测试方案”,助力大家在这个领域的学习和创新应用。


温馨提示:大家扫一扫下面的二维码,填写信息,即可一键获取全部资料

PDF资料列表:

  • 当代材料科学研究中电学特性测试方案汇编

  • 相变材料及器件电学表征测试方案 

  • 忆阻器单元基础研究测试方案

  • 忆阻器单元性能研究测试方案

  • 低维神经元网络阵列测试方案

  • 三端器件节点神经元网络阵列测试方案

  • 神经元网络阵列测试方案

  • 神经形态计算器件和阵列测试解决方案

  • 铁电材料及铁电电子器件电学表征

  • 自旋电子学 - 电输运表征及器件测试

 

视频资料列表

  • 后摩尔时代专题:铁电材料和器件的现状与发展(对话北京大学唐克超老师)

  • 忆阻器的发展及测试方案

  • 忆阻器存算一体芯片与类脑计算

  • 技术讲堂:大模型时代存算一体芯片(清华大学教授 高滨)

EETOP EETOP半导体社区-国内知名的半导体行业媒体、半导体论坛、IC论坛、集成电路论坛、电子工程师博客、工程师BBS。
评论
  •     IPC-2581是基于ODB++标准、结合PCB行业特点而指定的PCB加工文件规范。    IPC-2581旨在替代CAM350格式,成为PCB加工行业的新的工业规范。    有一些免费软件,可以查看(不可修改)IPC-2581数据文件。这些软件典型用途是工艺校核。    1. Vu2581        出品:Downstream     
    电子知识打边炉 2025-01-22 11:12 49浏览
  • 嘿,咱来聊聊RISC-V MCU技术哈。 这RISC-V MCU技术呢,简单来说就是基于一个叫RISC-V的指令集架构做出的微控制器技术。RISC-V这个啊,2010年的时候,是加州大学伯克利分校的研究团队弄出来的,目的就是想搞个新的、开放的指令集架构,能跟上现代计算的需要。到了2015年,专门成立了个RISC-V基金会,让这个架构更标准,也更好地推广开了。这几年啊,这个RISC-V的生态系统发展得可快了,好多公司和机构都加入了RISC-V International,还推出了不少RISC-V
    丙丁先生 2025-01-21 12:10 111浏览
  • 本文介绍瑞芯微开发板/主板Android配置APK默认开启性能模式方法,开启性能模式后,APK的CPU使用优先级会有所提高。触觉智能RK3562开发板演示,搭载4核A53处理器,主频高达2.0GHz;内置独立1Tops算力NPU,可应用于物联网网关、平板电脑、智能家居、教育电子、工业显示与控制等行业。源码修改修改源码根目录下文件device/rockchip/rk3562/package_performance.xml并添加以下内容,注意"+"号为添加内容,"com.tencent.mm"为AP
    Industio_触觉智能 2025-01-17 14:09 164浏览
  • 数字隔离芯片是一种实现电气隔离功能的集成电路,在工业自动化、汽车电子、光伏储能与电力通信等领域的电气系统中发挥着至关重要的作用。其不仅可令高、低压系统之间相互独立,提高低压系统的抗干扰能力,同时还可确保高、低压系统之间的安全交互,使系统稳定工作,并避免操作者遭受来自高压系统的电击伤害。典型数字隔离芯片的简化原理图值得一提的是,数字隔离芯片历经多年发展,其应用范围已十分广泛,凡涉及到在高、低压系统之间进行信号传输的场景中基本都需要应用到此种芯片。那么,电气工程师在进行电路设计时到底该如何评估选择一
    华普微HOPERF 2025-01-20 16:50 73浏览
  • Ubuntu20.04默认情况下为root账号自动登录,本文介绍如何取消root账号自动登录,改为通过输入账号密码登录,使用触觉智能EVB3568鸿蒙开发板演示,搭载瑞芯微RK3568,四核A55处理器,主频2.0Ghz,1T算力NPU;支持OpenHarmony5.0及Linux、Android等操作系统,接口丰富,开发评估快人一步!添加新账号1、使用adduser命令来添加新用户,用户名以industio为例,系统会提示设置密码以及其他信息,您可以根据需要填写或跳过,命令如下:root@id
    Industio_触觉智能 2025-01-17 14:14 121浏览
  • 临近春节,各方社交及应酬也变得多起来了,甚至一月份就排满了各式约见。有的是关系好的专业朋友的周末“恳谈会”,基本是关于2025年经济预判的话题,以及如何稳定工作等话题;但更多的预约是来自几个客户老板及副总裁们的见面,他们为今年的经济预判与企业发展焦虑而来。在聊天过程中,我发现今年的聊天有个很有意思的“点”,挺多人尤其关心我到底是怎么成长成现在的多领域风格的,还能掌握一些经济趋势的分析能力,到底学过哪些专业、在企业管过哪些具体事情?单单就这个一个月内,我就重复了数次“为什么”,再辅以我上次写的:《
    牛言喵语 2025-01-22 17:10 38浏览
  • 高速先生成员--黄刚这不马上就要过年了嘛,高速先生就不打算给大家上难度了,整一篇简单但很实用的文章给大伙瞧瞧好了。相信这个标题一出来,尤其对于PCB设计工程师来说,心就立马凉了半截。他们辛辛苦苦进行PCB的过孔设计,高速先生居然说设计多大的过孔他们不关心!另外估计这时候就跳出很多“挑刺”的粉丝了哈,因为翻看很多以往的文章,高速先生都表达了过孔孔径对高速性能的影响是很大的哦!咋滴,今天居然说孔径不关心了?别,别急哈,听高速先生在这篇文章中娓娓道来。首先还是要对各位设计工程师的设计表示肯定,毕竟像我
    一博科技 2025-01-21 16:17 100浏览
  •  光伏及击穿,都可视之为 复合的逆过程,但是,复合、光伏与击穿,不单是进程的方向相反,偏置状态也不一样,复合的工况,是正偏,光伏是零偏,击穿与漂移则是反偏,光伏的能源是外来的,而击穿消耗的是结区自身和电源的能量,漂移的载流子是 客席载流子,须借外延层才能引入,客席载流子 不受反偏PN结的空乏区阻碍,能漂不能漂,只取决于反偏PN结是否处于外延层的「射程」范围,而穿通的成因,则是因耗尽层的过度扩张,致使跟 端子、外延层或其他空乏区 碰触,当耗尽层融通,耐压 (反向阻断能力) 即告彻底丧失,
    MrCU204 2025-01-17 11:30 182浏览
  • 现在为止,我们已经完成了Purple Pi OH主板的串口调试和部分配件的连接,接下来,让我们趁热打铁,完成剩余配件的连接!注:配件连接前请断开主板所有供电,避免敏感电路损坏!1.1 耳机接口主板有一路OTMP 标准四节耳机座J6,具备进行音频输出及录音功能,接入耳机后声音将优先从耳机输出,如下图所示:1.21.2 相机接口MIPI CSI 接口如上图所示,支持OV5648 和OV8858 摄像头模组。接入摄像头模组后,使用系统相机软件打开相机拍照和录像,如下图所示:1.3 以太网接口主板有一路
    Industio_触觉智能 2025-01-20 11:04 150浏览
  • 随着消费者对汽车驾乘体验的要求不断攀升,汽车照明系统作为确保道路安全、提升驾驶体验以及实现车辆与环境交互的重要组成,日益受到业界的高度重视。近日,2024 DVN(上海)国际汽车照明研讨会圆满落幕。作为照明与传感创新的全球领导者,艾迈斯欧司朗受邀参与主题演讲,并现场展示了其多项前沿技术。本届研讨会汇聚来自全球各地400余名汽车、照明、光源及Tier 2供应商的专业人士及专家共聚一堂。在研讨会第一环节中,艾迈斯欧司朗系统解决方案工程副总裁 Joachim Reill以深厚的专业素养,主持该环节多位
    艾迈斯欧司朗 2025-01-16 20:51 195浏览
  • 2024年是很平淡的一年,能保住饭碗就是万幸了,公司业绩不好,跳槽又不敢跳,还有一个原因就是老板对我们这些员工还是很好的,碍于人情也不能在公司困难时去雪上加霜。在工作其间遇到的大问题没有,小问题还是有不少,这里就举一两个来说一下。第一个就是,先看下下面的这个封装,你能猜出它的引脚间距是多少吗?这种排线座比较常规的是0.6mm间距(即排线是0.3mm间距)的,而这个规格也是我们用得最多的,所以我们按惯性思维来看的话,就会认为这个座子就是0.6mm间距的,这样往往就不会去细看规格书了,所以这次的运气
    wuliangu 2025-01-21 00:15 183浏览
  • 日前,商务部等部门办公厅印发《手机、平板、智能手表(手环)购新补贴实施方案》明确,个人消费者购买手机、平板、智能手表(手环)3类数码产品(单件销售价格不超过6000元),可享受购新补贴。每人每类可补贴1件,每件补贴比例为减去生产、流通环节及移动运营商所有优惠后最终销售价格的15%,每件最高不超过500元。目前,京东已经做好了承接手机、平板等数码产品国补优惠的落地准备工作,未来随着各省市关于手机、平板等品类的国补开启,京东将第一时间率先上线,满足消费者的换新升级需求。为保障国补的真实有效发放,基于
    华尔街科技眼 2025-01-17 10:44 221浏览
  •  万万没想到!科幻电影中的人形机器人,正在一步步走进我们人类的日常生活中来了。1月17日,乐聚将第100台全尺寸人形机器人交付北汽越野车,再次吹响了人形机器人疯狂进厂打工的号角。无独有尔,银河通用机器人作为一家成立不到两年时间的创业公司,在短短一年多时间内推出革命性的第一代产品Galbot G1,这是一款轮式、双臂、身体可折叠的人形机器人,得到了美团战投、经纬创投、IDG资本等众多投资方的认可。作为一家成立仅仅只有两年多时间的企业,智元机器人也把机器人从梦想带进了现实。2024年8月1
    刘旷 2025-01-21 11:15 390浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦