神经形态芯片面临的一大难题，是研究人员仍不知道大脑究竟是如何学习...
美国史丹佛大学(Stanford)教授Kwabena Boahen相信，更厉害的人工智能(AI)即将来临。他是数十位正在以人类大脑为模型开发芯片的研究学者之一，这种芯片号称能提供比目前的处理器更高几个等级的运算性能，功耗却更低。
Boahen最新的开发成果Braindrop除了在能源效益上胜过Nvidia的Tesla GPU，也超越其他研究机构的类似处理器；他已经着手为开发下一代可望有更高性能的芯片寻找资金，可能会采用Globalfoundries的铁电场效晶体管FET (ferroelectric FETs)工艺。
这类所谓的神经形态(neuromorphic)芯片面临的一大问题，是缺乏了某个关键元素──研究人员相信他们已经了解大脑用以运算的模拟处理，以及用来在神经元之间有效沟通的棘波神经网络(spiking neural network)机制，但他们不知道的是大脑如何学习。
那会是算法中非常重要的一个部份，却仍然缺失。像是Boahen等研究人员都因为数个不错的线索指出的发展路线感到乐观与热衷，但他们缺乏倒传递(back-propagation，或简写为backprop)的方程式。
在深度学习相关领域中，倒传递是训练过程的核心，速度非常缓慢而且需要昂贵的CPU、GPU资源，以及大量脱机运作内存；但这种算法可以在广泛的图形识别问题上提供出色结果。研究人员表示，倒传递与深度学习所遭遇的问题在于是“人工”的，并非以大脑的神经元以及等同于将超级计算机等级运算任务以35W电源来执行的机制为模型，Boahen在接受EE Times访问时表示：“在这个领域有非常大的机会，有很多在云端执行的应用有大量会产生延迟的需求，都不是使用深度学习网络。”
举例来说，神经形态芯片能实时监控并分析桥梁的震动，却仅需能量采集器提供的几微瓦(microwatt)电力，只在人类需要采取行动时进行通讯；“我们应该思考，我们如何能让所有的任务──不只是云端服务──都能利用神经系统。”
史丹佛大学团队开发的Braindrop芯片（来源：Stanford）
Boahen的乐观在最近一场于美国纽约州举行的技术研讨会(Neuro Inspired Computational Elements Workshop，NICE 2019)上获得了众多该领域顶尖研究学者的回响。如英特尔(Intel)的神经形态运算实验室负责人Mike Davies就表示：“我们希望能拓展我们能执行的运算种类范围，有很多在大脑中完成的有趣运算，并不在深度学习的范围内。”
Davis在该场研讨会的演说中指出：“深度学习所使用的只是神经元的粗略近似物，但因为倒传递算法支持脱机训练，所以很有用。这不是神经激发概念，而是一种随机梯度下降法(stochastic gradient descent)，但运作成果相当好。”
英特尔研究人员正在利用其14纳米Loihi研究芯片来改善神经形态运算；这种主要是数字逻辑的芯片内含12万8,000个神经元，该公司打算在6月推出内含768颗该芯片的5U系统。
Davies提及能实现以棘波神经网络进行训练的三种具潜力方法的研发工作，也乐观表示英特尔很快就能找到他们已经在Loihi芯片上执行的、训练某个版本长短期记忆(LSTM)神经网络的方法；“我们要研究人员利用该芯片研发算法以及其可编程性的基础问题，”在此同时，英特尔继续改善该研究芯片架构，以削减其因为整合了运算与内存的相对较高成本。
除了以上研究成果，德国海德堡大学(Heidelberg University)的研究人员已利用了晶圆级整合技术打造其BrainScales组件；他们正在为预计明年发表的第二代芯片添加可编程核心，以模仿大脑的可塑性。
IBM的半导体与AI研究副总裁Mukesh Khare则透露，该公司正在研发结合模拟核心与非挥发性内存的芯片，以交叉点数组(crosspoint arrays)储存权重。他在上述的技术研讨会上对听众表示：“运算的未来是位、神经元与量子位(qubits)。”
使用忆阻器(memristor)数组也是一个被广泛研究的方案。资深研究人员Steve Furber介绍了号称全球最大的棘波神经网络系统Spinnaker，位于英国曼彻斯特大学(University of Manchester)，在11个机柜里包含了上百万颗的Arm处理器核心，是欧洲为人脑研究项目(Human Brain Project)设置的众多系统之一，主要用来执行神经科学应用程序。
不过Fuber在演说中表示，为了因应打造人脑功能实际模型的挑战如此艰巨，除了Spinnaker本身的例行除错，没有任何一种应用程序会用到该系统10%以上的资源；“人脑仍然是最前沿的科学研究之一，我们基本上仍不了解我们的脑袋里正在发生的信息处理原则。”
(未完待续…完整阅读本文请看电子工程专辑台湾版杂志2019年6月刊) 编译：Judith Cheng
您可能感兴趣
