关键词:生物神经系统,脉冲神经网络,自组织,网络演化,强化学习



论文标题:Brain-inspired neural circuit evolution for spiking neural networks
论文来源:PNAS
斑图链接:https://pattern.swarma.org/paper/99c4719a-5811-11ee-813d-0242ac17000d
原文链接:https://www.pnas.org/doi/10.1073/pnas.2218173120

在生物神经系统中,不同神经元能够自组织形成不同的神经回路,以实现各种认知功能,然而,当前脉冲神经网络设计范式是基于深度学习导出的结构。这些结构主要由前馈连接主导,没有考虑到不同类型的神经元,这极大地阻碍了脉冲神经网络在复杂任务上实现其潜力,如何将生物神经回路的丰富动态特性应用于建模当前脉冲神经网络(Spiking Neural Networks, SNNs)的结构仍是一个挑战。

文章通过将前馈和反馈连接与兴奋性和抑制性神经元结合起来,提供了一个更具生物学可行性的进化空间。作者利用神经元的局部脉冲行为,通过脉冲时序相关可塑性的局部规律自适应地演化神经回路,如前向兴奋、前向抑制、反馈抑制和侧向抑制,并结合全局误差信号更新突触权重。

图1. A)神经结构的演化过程。神经元之间存在密集的初始化连接,这些连接根据局部神经活动不断变化。B)不同电路的示意图。C)由NeuEvo获得的电路示例。神经元a、b和c形成前向兴奋,信息由神经元a进行维度增强,然后分布到b和c。神经元b、d和e形成前向抑制;神经元c和g形成反馈抑制;神经元b、c和e形成侧向抑制。NeuEvo可以自动构建包含多个基本电路的复杂电路,以实现高效的信息处理。


通过使用演化的神经回路,作者构建了用于图像分类和强化学习任务的SNNs。使用脑启发的神经回路进化策略(NeuEvo)和丰富的神经回路类型,演化出的SNNs极大地增强了感知和强化学习任务的能力。NeuEvo在CIFAR10、DVS-CIFAR10、DVS-Gesture和N-Caltech101数据集上实现了最先进的性能,并在ImageNet上实现了先进的性能,结合在线和离线深度强化学习算法,它实现了与人工神经网络相当的性能。

演化出的脉冲神经回路为具有各种功能的复杂网络的演化奠定了基础。

图2 NeuEvo自动构建的SNNs性能更佳。



编译|董佳欣

NeuroAI读书会



详情请见:

NeuroAI 读书会启动:探索神经科学与人工智能的前沿交叉领域



推荐阅读

1. Nat. Commun. 速递:引入树突状结构,将树突结构整合进脉冲神经网络中
2. PNAS新研究揭示神经系统抗噪能力从何而来
3. Nat.Commun.速递:离体神经细胞网络“打乒乓球”时的临界动力学
4. 张江:第三代人工智能技术基础——从可微分编程到因果推理 | 集智学园全新课程
5成为集智VIP,解锁全站课程/读书会
6. 加入集智,一起复杂!


点击“阅读原文”,报名读书会