广告

AI将重振内存式运算架构,比GPU快1万倍

时间:2018-05-04 02:00:56 作者:Rick Merritt 阅读:
业界开始重新审视十年前开发的处理器架构,看好速度较GPU更快1万倍的所谓“内存式运算”(In-Memory Computing;IMC),将有助于新一代AI加速器发展。
广告

新创公司、企业巨擘和学术界开始重新审视十年前开发的处理器架构,看好它或许刚好就是机器学习(machine learning)的理想选择。他们认为,“内存式运算”(In-Memory Computing;IMC)架构可望推动新型的人工智能(AI)加速器进展,使其速度较现行的GPU更快1万倍。

这些处理器承诺可在CMOS微缩速度放缓之际扩展芯片性能,而要求密集乘法累积数组的深度学习算法也正逐渐获得动能。这些芯片虽然距离商用化上市还有一年多的时间,但也可能成为推动新兴非挥发性内存成长的引擎。

例如,新创公司Mythic瞄准在闪存(flash)数组内部进行神经网络运算任务,致力于从模拟领域降低功耗。该公司的目标是在2019年底量产芯片,成为率先推出这一类新芯片的公司之一。

美国圣母大学(Notre Dame)电子工程系系主任Suman Datta说:“在我们学术界大多数的人认为,新兴内存将成为实现内存处理器(processor-in-memory;PIM)的技术之一。采用新的非挥发性内存将意味着创造新的使用模式,而内存式运算架构将是关键之一。”

Datta指出,在1990年代,有几位学者试图打造这样的处理器。诸如EXECUBE、IRAM和FlexRAM之类的设计都“失败了,而今,随着相变内存(PCM)、电阻式RAM (RRAM)和STT MRAM等新兴内存出现,以及业界对于机器学习硬件加速器的兴趣浓厚,开始振兴这个领域的研究。不过,据我所知,大部份的展示都还是在组件或组件数组层级进行,而不是一个完整的加速器。”

其中一家竞争对手来自IBM于2016年首次披露的“电阻处理器”(Resistive Processing Unit;RPU)。这是一款4,096 x 4,096交叉数组的模拟组件。

IBM研究员Vijay Narayanan认为,“其挑战在于找出正确的模拟内存元素是什么——我们正在评估相变、RRAM和铁电。”Vijay Narayanan同时也是一位材料科学家,他主要的研究领域是在高K金属闸极。

在2015年,美国斯坦福大学(Stanford University)也曾经发布在这一领域的研究。中国和韩国的研究人员也在追求这一理念。

为了实现成功,研究人员需要找到兼容于CMOS晶圆厂的内存组件所需材料。此外,Narayanan说,「真正的挑战」就在于必须在施加电压时展现对称的电导或电阻。
VijayNarayananIBMx500
IBM Research的材料科学家Vijay Narayanan表示,大多数用于AI的内存处理器仍处于研究阶段,距离可上市的时间约三至五年 (来源:IBM)

关于未来晶体管的几点思考

IBM至今已经制造出一些离散式组件和数组,但并不是一款具有4Kx4K数组的完整测试芯片,也尚未采用目前所认为的理想材料。Narayanan表示,IBM的Geoff Burr在500 x 661数组上采用相变材料进行深度神经网络(DNN)训练,而其结果显示“合理的精确度和加速度”。

“我们正稳步前进,但了解还必须改善现有的材料,而且也在评估新材料。”

IBM希望使用模拟组件,以便能够定义多个电导状态,从而较数字组件更有助于为低功耗操作开启大门。该公司还看好大型数组可望成为平行执行多项AI操作的大好机会。

Narayanan乐观地认为,IBM可以利用其于高k金属闸极方面累积的多年经验,找到调整AI加速器电阻的材料。他花了十几年的时间,才将IBM在该领域的专业知识从研究转向商业产品,并与格芯(Globalfoundries)和三星(Samsung)等业界伙伴合作。

展望未来,IBM将致力于开发闸极全环(GAA)晶体管,将纳米片用于7nm节点以外的应用。他认为这一类的设计并不存在根本的障碍,而只是实施的问题。

除了纳米片之外,研究人员正在探索负电容场效晶体管(FET),这些FET可在电压变化很小的情况下提供较大的电流变化。从研究人员发现这种掺杂氧化铪是铁电材料,而且可能兼容于CMOS后,过去这五年来,这种想法越来越受到关注。

但Narayanan也说,“目前还有很多反对者以及同时支持二者的人。”

“我们的研究显示,负电容是一种短暂的效应,”Notre Dame的Datta说,“因此,当极化开关切换时,通道电荷得以暂时启动,而一旦瞬时稳定后就不会再取得任何结果。”

美国加州大学伯克利分校(UC Berkeley)的研究人员则“相信这是一种重要的‘新状态’。因此,故事仍在继续发展中,可以说大部份的公司都在内部进行评估中。”

编译:Susan Hong

本文授权编译自EE Times,版权所有,谢绝转载

EETC wechat barcode


关注最前沿的电子设计资讯,请关注“电子工程专辑微信公众号”。

本文为EET电子工程专辑 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
Rick Merritt
EE Times硅谷采访中心主任。Rick的工作地点位于圣何塞,他为EE Times撰写有关电子行业和工程专业的新闻和分析。 他关注Android,物联网,无线/网络和医疗设计行业。 他于1992年加入EE Times,担任香港记者,并担任EE Times和OEM Magazine的主编。
  • AIPC DDR5速率冲至7200MT/s,信号完整性全靠这颗芯片 随着支持AI的应用程序的普及以及6400MT/s或更高速度成为主流,PC内存性能要求不断提高,使用CKD的系统数量将伴随时间的推移呈现显著增长的态势。
  • SK海力士成功开发出全球首款第六代10纳米级DDR5 DRAM SK海力士29日宣布,全球首次成功开发出采用第六代10纳米级(1c)工艺的16Gb(Gigabit,千兆比特)DDR5 DRAM。由此,公司向世界展现了10纳米出头的超微细化存储工艺技术。
  • AI数据中心“存力”需求猛增,美光上新PCIe 5.0 SSD与G9 NAND 在AI大模型的时代,行业中的一个关键趋势是更大的NAND裸片密度,这有助于推动更大容量的SSD,使系统构建者能够设计更多的服务器,以便拥有更大的容量或将更多的GPU或CPU放入服务器中。鉴于此,特别是随着人工智能的发展,GPU直接存储的能力变得愈发重要。 
  • SK海力士加速400+层堆叠NAND研发,目标2025年末完成量产准备 SK海力士将在其未来的NAND闪存中应用这种技术,通过在两块晶圆上分别制造外围电路和存储单元,然后使用W2W(晶圆对晶圆)形式的混合键合技术将这两部分整合为一个完整的闪存。
  • 仅OTS内存为下一代计算带来希望 几十年来,半导体行业一直在寻找替代内存技术,以填补传统高性能计算系统架构中DRAM(计算系统的主内存)和NAND闪存(系统的存储介质)之间的空白。
  • 专有存储器是一项高风险的事业 半导体技术因行业标准而生,也因行业标准而亡,但在某些时候,制造高度定制化甚至专有的存储器件是否有意义呢?
  • 全球折叠屏手机快速增长,中国品牌压 • 得益于西欧、关键亚洲市场和拉丁美洲市场的增长,以及中国品牌的持续领先,全球折叠屏手机出货量在2024年第二季度同比增长了48%。 • 荣耀凭借其在西欧特别强劲的表现,成为最大的贡献者,成为该地区排名第一的品牌。 • 摩托罗拉的Razr 40系列在北美和拉丁美洲表现良好,为其手机厂商的出货量贡献了三位数的同比增长。 • 我们预计,头部中国手机品牌厂商的不断增加将至少在短期内抑制三星Z6系列在第三季度的发布。
  • AI网络物理层底座: 大算力芯片先进 AI技术的发展极大地推动了对先进封装技术的需求,在高密度,高速度,高带宽这“三高”方面提出了严苛的要求。
  • 奕斯伟计算DPC 2024:发布RISAA(瑞 奕斯伟计算2024首届开发者伙伴大会以“绿色、开放、融合”为主题,从技术创新、产品应用、生态建设等方面,向开发者、行业伙伴等相关方发出开放合作倡议,加速RISC-V在各行各业的深度融合和应用落地,共同推动RISC-V新一代数字基础设施生态创新和产业发展。
  • 重磅发布:Canalys 2024年中国云渠道 2024年 Canalys 中国云计算渠道领导力矩阵冠军厂商分别是:阿里云、华为云和亚马逊云科技(AWS)
  • 全球第三!全球高端手机市场,华为猛涨80%,苹果坠落正拉开帷幕! 在全球智能手机竞争日益激烈的情况下,谁能在高端市场站稳脚跟,谁就占据了主动权。一直以来全球智能手机市场格局都是,苹果专吃高端,其他各大厂商分食全球中低端市场。但现在市场正在其变化。根据Canalys最
  • 又一芯片大厂终止研发! ‍‍Mobileye 将终止内部激光雷达开发Mobileye 宣布终止用于自动驾驶的激光雷达的开发,并裁员 100 人。Mobileye 认为,下一代 FMCW 激光雷达对可脱眼的自动驾驶来说必要性没
  • 在成都寻“金”,那可是来对地方了 文|德福很多去成都旅游的朋友都有个疑惑——为什么在成都官方的城市标志上看不到熊猫,而是一个圆环?其实这个“圆环”大有来头,它被唤作太阳神鸟,2001年出土于大名鼎鼎的金沙遗址,距今已有三千余年历史。0
  • 发奖金,人均105万,1.2万人有份! ‍‍近期,IC 设计大厂联发科宣布了2024年上半年度的员工分红计划,与8月份薪资一起发放。据外界估算,按照上半年税前盈余约648.66亿新台币(约 144.42 亿元人民币)进行估算,此次分红总额接
  • 大力拓展半导体行业-节卡复合机器人有何优势? 会议预告向世界展示中国最具创新力、领导力和品牌化的产品与技术!9月27号,“第6届国际移动机器人集成应用大会暨复合机器人峰会”将在上海举行,敬请关注!逐个击破现有痛难点。文|新战略半导体行业高标准、灵
  • 【光电通信】特种光纤与光纤通信-236页收藏  今日光电      有人说,20世纪是电的世纪,21世纪是光的世纪;知光解电,再小的个体都可以被赋能。追光逐电,光赢未来...欢迎来到今日光电!----追光逐电 光赢未来----来源:通信大讲堂申明
  • 又一上市半导体关厂,400名员工失业 ‍‍‍‍上市PCB厂商竞国(6108)日前出售泰国厂给予陆资厂胜宏科技后,近日惊传台湾厂惊传12月前关厂,并对客户发布通知预告客户转移生產,最后出货日期2024年12月25日。至於后续台湾厂400名员
  • 60%汽车供应商裁员! 疫情后的劳动力囤积和强有力的员工保护规则掩盖了德国高薪制造业工作市场令人担忧的变化。根据联邦劳工办公室的数据,欧元区最大经济体德国的失业率在2019年春季曾达到历史最低点4.9%,现已上升至6%。虽然
  • 骄成超声:引领超声波技术革新,助力碳化硅产业升级 8月28-30日,PCIM Asia 2024展在深圳举行。“行家说”进行了为期2天的探馆,合计报道了200+碳化硅相关参展企业(.点这里.)。其中,“行家说”还重点采访了骄成超声等十余家企业,深入了
  • 下线、投产...这3个电驱动项目传最新进展 近日,3个电驱动项目迎来最新进展,包括项目量产下线、投产、完成试验等,详情请看:[关注“行家说动力总成”,快速掌握产业最新动态]青山工业:大功率电驱项目下线9月5日,据“把动力传递到每一处”消息,重庆
广告
热门推荐
广告
广告
广告
EE直播间
在线研讨会
广告
广告
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了