Loihi 2在一块芯片中植入了100万个神经元,其大小只有之前的一半
目前的大多数人工智能可能依赖于一种叫做神经网络的东西,但它们的工作方式并不是像人类和动物的大脑那样。几年来,英特尔一直在试验像大脑一样思考的计算机,他们的Loihi神经形态芯片取得了一些令人印象深刻但却有些古怪的结果。现在Loihi正在进行第一次升级,而且是一次相当大的升级。该公司使用一种名为英特尔4的制造工艺,这种工艺目前还不能用于商业芯片,该公司在一块只有Loihi一半面积的芯片中植入了比之前多达8倍的人工神经元。英特尔神经形态计算实验室主任迈克•戴维斯(Mike Davies)表示,这一点,加上过去几年的实验的一些研究成果,使Loihi 2更快、更灵活。
与传统人工智能中的人工神经元不同的是,Loihi的神经元以权重的形式存储信息,以衡量神经元之间的连接强度,Loihi的神经元以数字表征的峰值时间携带信息,这更类似于大脑中发生的事情。神经计算是由这些峰值触发的,所以不需要中央时钟来保持同步。而且当没有事件可观察时,大部分芯片将处于闲置状态,节省电力。
大约250个研究人员一直在使用Loihi系统来控制无人机或机器人手臂,优化列车时刻表,搜索数据库,以及学习识别不同的气味。戴维斯说“结果令人相当满意”。一些能源效率的提高是“数量级”的,也有能源效率和系统学习所需的数据量的提高。(研究结果发表在2021年5月的《IEEE学报》上。)
但这些实验也指出了戴维斯的团队想要在下一代人身上解决的一系列限制。Davies说,其一,Loihi使用的神经网络模型不够灵活,不能满足英特尔及其合作伙伴的所有要求。他们还发现,神经活动的二元脉冲模型(只有时间信息从一个神经元传递到另一个神经元)限制了Loihi计算的精度。其他问题还包括多个Loihi芯片之间的拥塞,以及将系统与传统计算机集成的挑战。
根据戴维斯的说法,Loihi 2用相同的基本架构解决了这些问题,但使用了一套“从头重新设计”的电路。以下是最新的总结:
提高精度的新spike:在原始的Loihi中,spike信号只包含时间信息。这种是否存在的信息称为二进制值峰值消息。《Loihi 2》允许同时具有时间和幅度参数的峰值,而没有太多能量或性能损失。戴维斯说:“如果我们有这个量级的时间信息,我们可以用更少的资源解决同样的问题。”
增强的可编程性:之前的Loihi是为一个特定的spike神经网络(SNN)模型设计的。Loihi 2神经形态核心现在还可以做算术、比较、程序控制流和其他操作,使芯片执行和扩展SNN模型集。
快速学习:Loihi基本上支持一套大脑启发学习规则。Loihi 2在某种程度上改变了这一点,它可以执行一些最新的学习算法,包括类似深度学习中使用的反向传播算法。这一改变意味着,只能在Loihi上进行概念验证的算法可以在Loihi 2上进行放大,从而让Loihi 2学习得更快。
更重要的是:如上所述,Loihi 2的制造工艺非常先进,该公司甚至还没有使用自己的商业芯片。也就是说Loihi 2的每个芯片有一百万个神经元,而Loihi有十二万五千。更重要的是,实现这些神经元及其记忆的电路和内存经过优化,为神经形态计算提供了2倍到160倍的资源,这取决于运行的是哪种网络。
更快的电路:Loihi 2重新设计的电路意味着,当更新神经元状态时,处理速度提高了一倍,突触操作速度提高了五倍,spike生成速度提高了10倍。总而言之,该芯片处理神经形态网络的速度比生物神经元快5000倍
新的芯片接口:Loihi 2芯片支持4倍快的异步芯片到芯片信号,并将芯片间带宽需求降低10倍。它还将以3D芯片堆叠的方式进行通信,并有一个以太网接口和一个用于其他事件传感器的接口,如prophet公司的相机芯片。
作为具有新架构的芯片,软件是充分利用它的关键。“软件继续阻碍着这个领域的发展,”戴维斯说。“在深度学习领域,还没有出现单一的软件框架。”
“因为还没有出现单一框架,所以我们现在自己提供一些东西,”他说。新的软件框架Lava吸取了之前三年半的研究项目的经验教训,并试图提供一个共同的平台来支持所有这些项目。Lava是一个开源框架,它支持基于事件的异步消息传递系统,而不仅仅是Loihi或Loihi 2。
戴维斯说,目前还没有将Loihi 2商业化的具体计划。“这仍然是我们将提供给研究合作伙伴的研究芯片。”戴维斯说Loihi背后的技术很可能首先出现在一个执行特定算法的系统芯片上,而不是作为一个通用芯片。
英特尔可能还没有准备好利用神经形态芯片开展业务,但这并不意味着其他公司没有准备好。总部位于悉尼的Brainchip公司于今年8月收到了第一批完成的基于事件的神经处理器芯片,该公司希望帮助客户开发低功耗系统,在这种系统中,增量学习和一次性学习将会有所帮助。
原文链接:https://spectrum.ieee.org/neuromorphic-computing-with-lohi2
高端微信群介绍 | |
创业投资群 | AI、IOT、芯片创始人、投资人、分析师、券商 |
闪存群 | 覆盖5000多位全球华人闪存、存储芯片精英 |
云计算群 | 全闪存、软件定义存储SDS、超融合等公有云和私有云讨论 |
AI芯片群 | 讨论AI芯片和GPU、FPGA、CPU异构计算 |
5G群 | 物联网、5G芯片讨论 |
第三代半导体群 | 氮化镓、碳化硅等化合物半导体讨论 |
存储芯片群 | DRAM、NAND、3D XPoint等各类存储介质和主控讨论 |
汽车电子群 | MCU、电源、传感器等汽车电子讨论 |
光电器件群 | 光通信、激光器、ToF、AR、VCSEL等光电器件讨论 |
渠道群 | 存储和芯片产品报价、行情、渠道、供应链 |
< 长按识别二维码添加好友 >
加入上述群聊
带你走进万物存储、万物智能、
万物互联信息革命新时代