前沿的实验进展表明,由于大脑不同类型神经元的复杂树突结构和离子通道,单个神经元具有与5-8层深度学习网络相媲美的非凡计算能力。大脑精细模拟(Biophysically detailed simulation)是唯一能够捕捉到树突结构、离子通道和突触复杂性的数学方法。然而,高计算成本严重限制了其在神经科学和人工智能领域的应用。本次读书会将从树突计算研究的历史概述开始,阐明导致大脑精细模拟的理论基础,探究树突计算的当代理论研究及其在人工智能中的潜在应用,介绍基于GPU的模拟框架的最新进展。
集智俱乐部联合国内外多所知名高校的专家学者发起神经、认知、智能系列读书会第三季——「计算神经科学」读书会。从2024年2月22日开始,每周四19:00-21:00进行,持续时间预计10-15周,欢迎感兴趣的朋友报名参与,深入梳理相关文献、激发跨学科的学术火花!
最近超级人工智能模型“ChatGPT”的成功,正在改变我们对智能的理解。一个引人入胜的观点是,ChatGPT的智能似乎是从一个极其庞大而复杂的人工神经网络自动“涌现”出来的,该网络拥有超过近万亿个参数。这让我们不禁思考:智能是如何从我们自己的大脑中涌现出来的?在人类大脑中,有近1000亿个神经元,可以分为数千种不同类型。每种类型的神经元都有其独特而优雅的结构,以及丰富的离子通道。前沿的实验进展表明,由于它们复杂的树突结构和离子通道,单个神经元具有与5-8层深度学习网络相媲美的非凡计算能力。因此,个别生物神经元不应被视为简单的“点模型”,而应被视为高度复杂的神经网络。因此,我们的大脑可能包含一个参数比ChatGPT大4-5个数量级的超大型神经网络。
大脑精细模拟 (Biophysically detailed simulation) 是唯一能够捕捉到树突结构、离子通道和突触复杂性的数学方法。然而,高计算成本严重限制了其在神经科学和人工智能领域的应用。
在本次报告中,我将从树突计算研究的历史概述开始,阐明导致大脑精细模拟的理论基础。继此之后,我将探讨有关树突计算的当代理论研究及其在人工智能中的潜在应用,强调这种不断发展的理解如何正在重塑神经科学和人工智能范式。最后,我将介绍我们在基于GPU的模拟框架中的最新进展,该框架实现了相比传统基于CPU的NEURON模拟器高达1500倍的速度提升(Zhang, et.al., Nat Commun, 2023)。这一技术进步为在前所未有的规模上模拟和训练生物真实的神经网络打开了大门,为实现模拟人类的意识提供了的可能。
一、大脑精细模拟的理论基础
二、当代树突计算理论及其在人工智能的应用
三、基于GPU的模拟框架的最新进展介绍
杜凯:北京大学人工智能研究院助理研究员。杜凯博士于2002年在北京航空航天大学飞行器动力工程系获得学士学位,并于2016年在瑞典卡罗琳斯卡医学院神经科学系取得博士学位,随后在该院进行了博士后研究至2020年。在2013至2016年间,他是欧盟脑计划“大脑仿真平台”瑞典团队的主要成员。2020年,加入了北京大学人工智能研究院,并参与创建了北京智源人工智能研究院的生命模拟部门。
研究方向:大脑精细仿真,树突计算,以及基于大脑精细模型的新型人工智能系统和理论。主要贡献包括构建了首个针对基底核脑区的精细神经元模型,并开发了一种基于GPU的高性能计算框架—DeepDendrite。该框架不仅显著提高了大脑模拟的计算速度,还成功地将树突计算原理与人工智能模型进行了紧密的整合。
2024年3月28日(本周四)晚上19:00-21:00
扫码参与计算神经科学读书会,加入群聊,获取系列读书会回看权限,成为计算神经科学社区的种子用户,与社区的一线科研工作者与企业实践者沟通交流,共同推动计算神经科学社区的发展。
神经元树突表现出一系列线性和非线性机制,使它们能够实现基本计算。这两篇论文讨论树突特性对于神经元和网络执行的计算的重要性,并提供理论和实验示例来支持。
Stuart GJ, Spruston N. Dendritic integration: 60 years of progress. Nat Neurosci. 2015 Dec;18(12):1713-21. doi: 10.1038/nn.4157. Epub 2015 Nov 25. PMID: 26605882.
London M, Häusser M. Dendritic computation. Annu Rev Neurosci. 2005;28:503-32. doi: 10.1146/annurev.neuro.28.061604.135703. PMID: 16033324.
综述性介绍了树突计算建模领域发展,重点介绍了建模和实验神经科学界之间成功相互作用的研究。
Poirazi, Panayiota, and Athanasia Papoutsi. “Illuminating dendritic function with computational models.” Nature Reviews Neuroscience 21.6 (2020): 303-321.
提出了Dendritic Hierarchical Scheduling(DHS)方法,提高舱室模型模拟器求解大型线性方程组的能力。
Zhang, Yichen, et al. “A GPU-based computational framework that bridges Neuron simulation and Artificial Intelligence.” Nature Communications 14.1 (2023): 5798.
人类大脑是一个由数以百亿计的神经元相互连接所构成的复杂系统,被认为是「已知宇宙中最复杂的物体」。本着促进来自神经科学、系统科学、信息科学、物理学、数学以及计算机科学等不同领域,对脑科学、类脑智能与计算、人工智能感兴趣的学术工作者的交流与合作,集智俱乐部联合国内外多所知名高校的专家学者发起神经、认知、智能系列读书会第三季——「计算神经科学」读书会,涵盖复杂神经动力学、神经元建模与计算、跨尺度神经动力学、计算神经科学与AI的融合四大模块,并希望探讨计算神经科学对类脑智能和人工智能的启发。读书会从2024年2月22日开始,每周四19:00-21:00进行,持续时间预计10-15周,欢迎感兴趣的朋友报名参与,深入梳理相关文献、激发跨学科的学术火花!
详情请见:计算神经科学读书会启动:从复杂神经动力学到类脑人工智能
点击“阅读原文”,报名读书会