ReRAM助力实现更像人脑的AI系统

近期发布的一项研究成果采用了以色列业者Weebit Nano的二氧化硅(silicon oxide，SiOx)可变电阻内存(ReRAM)技术打造出类人脑的人工智能(AI)系统，号称可执行高精确度的非监督式学习(unsupervised learning)任务。

该研究成果是由意大利米兰理工大学(Politecnico Milan)的研究人员与Weebit Nano共同发表，在一篇论文中介绍了以Weebit二氧化硅ReRAM为基础实现的创新AI自主学习。ReRAM被视为最具潜力的NAND闪存技术“接班人”，因为具备速度比NAND快1,000倍、所消耗能量又比NAND低1,000倍的优势，而且能以现有的制程生产。

有多家研究机构着眼于将ReRAM应用于AI领域，米兰理工大学就是其中之一；该校开发了利用Weebit之ReRAM技术的硬件，结合卷积神经网络(CNN)的效率以及启发自人脑的棘波神经网络(spiking neural networks，SNN)之可塑性，让硬件系统能在不忘记先前撷取信息的训练任务之情况下，再学习新事物。此外，该系统藉由调整运作频率来达到省电的目的，号称能藉此实现自主性AI系统的“终身学习”解决方案。

这项研究是由米兰理工大学教授Daniele Ielmini的团队所执行，目标是解决人工神经网络(ANN)──即便他们的物体识别能力胜过人类──无法不忘记先前的训练任务、再撷取新信息的缺点。Ielmini接受《EE Times》采访时表示，团队的研究成果展现了能调整运作频率以达到省电目的之电路可塑性。并能实现50%未经训练分类的连续性学习；这种分类上的优化以及过滤器的重新训练，克服了标准ANN会“遗忘”的重大缺点。

Ielmini表示，AI系统迄今遭遇的最大挑战，是能学习的东西有限制；举例来说，如果硬件系统已经接受训练去识别特定的数字，它就只能识别被训练过的数字，却无法识别额外的数字。类似地，系统无法标识符母，因为它只学过数字。

他进一步指出，研究团队的目标就是开发一种以ReRAM技术为基础、具备连续学习能力的新硬件，而且他们开发的推论系统也展现了能学习比被教过的东西多50%以上的能力；举例来说，该硬件被训练了100种图形，却仍能识别额外100个未被训练过的图形，“这实际上是我们的大脑进行学习时的情况。”

Ielmini解释，基本上，当大脑看到某个认得出的东西，就会有一个代表该目标的神经元被触发；每一次该神经元被触发，就会消耗能量。因为大脑会想要节省能量，会有一种内部回馈机制降低神经元触发的阈值，最终实现终身学习。团队研究人员就是以采用ReRAM的硬件来模仿人脑的架构，实现系统的高能源效率；“这是现今AI硬件很大的一个限制。”

Weebit Nano对于米兰理工大学的研究成果并不感到意外，该公司执行长Coby Hanoch表示，他们与Ielmini及其团队密切合作了三年以上的时间。“能展现二氧化硅ReRAM不仅能作为先进内存，也能实现其他先进应用，对我们来说相当重要；”他指出，Weebit Nano一直深信ReRAM具备在神经形态等先进应用上的庞大潜力。

Hanoch强调，Weebit Nano与众多研究人员合作开发ReRAM的潜在应用，与米兰理工大学的合作成果为目前的AI系统添加了可塑性。他指出，今日常见的AI系统是以监督式学习为基础，需要花费庞大的精力来训练系统，而且训练后只能执行被训练的单一任务；但人脑是能够在不需要被大量训练的情况下分类物体，这是因为具有可塑性、只要几张影像就能投射。

不过就算Weebit Nano对神经形态AI应用持续看好，Hanoch表示，身为一家商业公司、也是尚未产生营收的新创公司，他们还是将焦点集中在透过市场上的嵌入式产品或是开发独立式ReRAM产品，来产生初始营收。

“无论如何，我们准备好迎战被认为将颠覆半导体产业的神经形态系统未来应用，”他指出：“像是Google、Facebook、Microsoft、Intel等公司都在该领域投入很多精力，因为他们相信其巨大潜力，以及需要改善目前得在云端布署大量硬件、能源消耗量非常高的ANN系统。”

Weebit已经在二氧化硅ReRAM的内存应用与设计创新方面，申请了多项聚焦于制造、优化与编程技术的专利；Hanoch指出：“ReRAM组件将会是未来以ReRAM为基础之神经形态系统的基础。”

举例来说，该公司最近与长期合作伙伴──法国研究机构Leti合作的专利，定义了一种在ReRAM中实现更强韧多层储存的有效方法，能实现在每个内存单元储存超过1位以上的功能。这能提升内存的储存容量，又不需要增加内存单元的数量或内存数组的规模，使得该内存技术更具成本效益。

虽然上述方法是以Weebit Nano的二氧化硅ReRAM为基础，也能够扩展到其他ReRAM内存技术上；Hanoch表示，“我们相信我们的专利能被众家想要实现MLC的ReRAM公司采用，就算是不需要用该技术实现MLC的公司，如果想要实现更多层也会需要这种方法。”

而Weebit Nano也不是唯一开发ReRAM在AI应用领域潜力的公司──在2020年初，ReRAM制造商Crossbar和其他几家公司共同成立了一个名为SCAiLE (SCalable AI for Learning at the Edge)的AI联盟，致力于实现利用ReRAM的节能AI平台。

编译：Judith Cheng    责编：Yvonne Geng

(参考原文 ：ReRAM Research Improves Independent AI Learning，By Gary Hilson）