来源 | 焉知智能汽车
智库 | 云脑智库(CloudBrain-TT)
云圈 | 进“云脑智库微信群”,请加微信:15881101905,备注您的研究方向
这种新型智能系统模仿线虫的神经系统来高效处理信息，比目前具有数百万参数的神经网络架构更加稳健、更易解释且训练速度更快。目前，该研究刊登在《自然-机器智能》子刊。
众所周知，当数据量足够多时，深度监督模型会被训练得很好，但目前的深度学习仍存在泛化性能不好和训练效率不高的问题，研究人员一直在寻求构建智能模型的新方法。当前人们探求的方向总是更深的网络，但这意味着更高的算力消耗。因此正如人们所思考的那样，必须寻找一种需要更少数据或更少神经网络层的方法，让机器实现智能化。自动驾驶汽车是当前机器学习研究者和工程师们正在探索的最复杂任务之一。它覆盖很多方面，而且要求必须高度稳定，只有这样我们才能保证自动驾驶汽车在道路上安全运行。通常，自动驾驶算法的训练需要大量真实人类驾车的训练数据，我们试图让深度神经网络理解这些数据，并复现人类遇到这些情况时的反应。
最近，来自奥地利科技学院（IST Austria）、维也纳工业大学（TU Wien）和麻省理工学院（MIT）的研究者成功训练了一种全新的人工智能系统来控制自动驾驶汽车。该方法受线虫等小型动物大脑的启发，仅用数十个神经元即可控制自动驾驶汽车，而常规深度神经网络方法（如 Inception、ResNet、VGG 等）则需要数百万神经元。这一新型网络仅使用 75000 个参数、19 个神经元，比之前减少了数万倍！该方法还带来了额外的好处，由于神经元数量稀少，这样的网络不再是深度模型的「黑箱」，人们可以知道网络在每个运行阶段的情况。该研究项目负责人 Radu Grosu 教授表示：「正如线虫（nematode C. elegans）这种生命，它们以惊人的少量神经元实现有趣的行为模式。」
线虫的神经系统（图源：https://www.i-programmer.info/news/105-artificial-intelligence/12243-nematode-worm-parks-a-car.html）这是因为线虫的神经系统能够以高效、协调的方式处理信息。该系统证明深度学习模型仍有改进空间。如果线虫在进化到接近最优的神经系统结构后，能够凭借极少量神经元做出有趣的行为反应，那我们也可以让机器做到。该神经系统可以让线虫执行移动、动作控制和导航行为，而这恰恰是自动驾驶等应用所需要的。该研究参与者之一 Thomas Henzinger 教授表示，他们按照这一神经系统，「开发了一种新型数学神经元和突触模型」——liquid time constant（LTC）神经元。简化神经网络的一种方式是使之变得稀疏，即并非每一个单元都与其他单元相连接。当一个单元被激活时，其他单元未被激活，这可以降低计算时间，因为所有未被激活单元没有任何输出（或者输出为 0，可以极大地加快计算速度）。研究人员还改变了每个单元的运行方式。Ramin Hasani 博士表示：「单个单元内的信号处理过程与之前深度学习模型的数学原则有所不同。」首先是一个紧凑的卷积神经网络，用于从输入图像像素中提取结构特征。使用这类信息，网络能够确定图像的哪些部分较为重要或有趣，并仅将这部分图像传输至下一个步骤。
第二个部分即「控制系统」，它利用一组生物启发神经元做出的决策来控制汽车。这一控制系统又叫做「神经电路策略」（neural circuit polic，NCP）。它将紧凑卷积模型的输出数据转换到仅有 19 个神经元的 RNN 架构中（该架构受线虫神经系统的启发），进而控制汽车。NCP 网络的实现细节参见相关论文及 GitHub 项目。这带来了参数量的锐减。论文一作 Mathias Lechner 表示「NCP 比之前的 SOTA 模型小了三个数量级」，参见下表 2。
由于该架构规模很小，因此我们可以看清楚其注意力在输入图像的哪一部分。研究者发现，用这么小的网络提取图像最重要部分时，这些神经元只关注路边和视野。在目前着重于分析图像每一个细节的人工智能系统中，这是很独特的行为。
与其他网络相比，传输至 NCP 网络的信息可谓少之又少。仅通过上图，我们就可以发现该方法比现有方法更加高效，计算速度也更快。此外，噪声对于现有方法而言是一个大问题，如下雨、下雪，但 NCP 系统对输入噪声展示出强大的抵抗力，这是由于其架构和新型神经模型，使其即使在输入摄像头有噪声的时候，注意力也能聚焦在路程视野上（参见以下视频）。
这一新方法因其规模小而呈现出更稳健、更快速的特征，又因其能够清晰地可视化神经网络内部活动而具备更高的可解释性。该方法将人工智能和生物神经系统结合起来，带来了新的研究角度。https://medium.com/towards-artificial-intelligence/a-new-brain-inspired-intelligent-system-drives-a-car-using-only-19-control-neurons-1ed127107db9－ The End －
声明：欢迎转发本号原创内容，转载和摘编需经本号授权并标注原作者和信息来源为云脑智库。本公众号目前所载内容为本公众号原创、网络转载或根据非密公开性信息资料编辑整理，相关内容仅供参考及学习交流使用。由于部分文字、图片等来源于互联网，无法核实真实出处，如涉及相关争议，请跟我们联系。我们致力于保护作者知识产权或作品版权，本公众号所载内容的知识产权或作品版权归原作者所有。本公众号拥有对此声明的最终解释权。
投稿/招聘/推广/合作/入群/赞助 请加微信：15881101905，备注关键词
微群关键词：天线、射频微波、雷达通信电子战、芯片半导体、信号处理、软件无线电、测试制造、相控阵、EDA仿真、通导遥、学术前沿、知识服务、合作投资.
“阅读是一种习惯，分享是一种美德，我们是一群专业、有态度的知识传播者.”
↓↓↓ 戳“阅读原文”，加入“知识星球”，发现更多精彩内容.
/// 先别走，安排点个“赞”和“在看” 吧！↓↓↓
