导语


在第三期的读书会中,我们介绍了描述复杂系统的 Sloppy 模型:这类模型的行为只取决于几个参数(或者参数的组合),而其它许多参数方向对模型预测来说并不重要(稳定性与敏感性的权衡:Sloppy模型与脑科学)。这类模型广泛存在于生命科学、物理学和人工智能等领域。本次报告旨在更全面介绍 Sloppy 模型的理论背景、分析方法、并展望该方法在计算神经科学以及更广泛的复杂科学领域中的应用前景。

集智俱乐部联合国内外多所知名高校的专家学者发起神经、认知、智能系列读书会第三季——「计算神经科学」读书会。从2024年2月22日开始,每周四19:00-21:00进行,持续时间预计10-15周,欢迎感兴趣的朋友报名参与,深入梳理相关文献、激发跨学科的学术火花!



分享简介




在本次读书会中,我们将首先回顾 Sloppy 模型的背景知识,再次分析参数空间与动力学空间的对应关系,结合前一讲中所介绍的实例[1],探讨参数空间的扰动稳定性(即 Sloppiness)与动力学空间敏感性之间的对应关系[2]。(复杂性中何以涌现简单性?Sloppy模型捕捉复杂系统的关键自由度

接下来,我们将深入介绍 Sloppiness 分析方法在大脑状态转变研究中的应用。通过具体实例,我们将展示如何利用 Sloppiness分析方法来理解大脑从清醒态转变到麻醉态的机制[3]。

在讨论与展望部分,我们将结合我们近期的一些工作(部分未发表),详细讨论 Sloppiness 分析方法的应用路线图,这部分内容涵盖以下几个方面:

  1. 群体模型与个体差异:我们将探讨如何在Sloppiness分析中引入群体模型,并利用该模型分析个体之间的差异,并建立起相应的差异与个体任务表现之间的定量关系,讨论 Sloppy 模型在这方面的应用潜力。
  2. 动力学不确定性与 Sloppiness:这部分将讨论复杂系统中的不确定性和可预测性问题,以及如何利用这些不确定性来直接获取与参数 Sloppiness 相关的信息。
  3. Sloppiness 分析中的损失函数和能量函数:我们将探讨Sloppiness 分析中常用的损失函数以及与之对应的能量函数,从数学上探讨其内在联系。
  4. 超越 Fisher 信息矩阵的 Sloppiness 分析:最后,我们将展望 Sloppiness 分析方法的未来发展方向,提出一些可能超越传统 Fisher 信息矩阵的创新方法[4],并讨论相关方法在神经科学中的应用。




分享大纲



 

  1. 背景回顾

  2. 参数空间与动力学空间的对应关系

  3. Sloppiness分析方法与大脑的状态转变

  4. 讨论与展望:Sloppiness分析方法的应用路线图

    1. 群体模型与个体差异

    2. 动力学不确定性与Sloppiness

    3. Sloppiness分析中的损失函数和能量函数

    4. 超越Fisher信息矩阵的Sloppiness分析
 



核心概念




参数空间(Parameter Space)

Fisher 信息矩阵(Fisher Information Matrix, FIM)

KL散度( Kullback-Leibler Divergence)

pairwise最大熵模型(pairwise Max Entropy Model)

最大熵概率分布(Maximum entropy probability distribution)

损失函数(Loss Function)

能量函数(Energy Function)




主讲人




唐乾元香港浸会大学助理教授,集智科学家,集智-凯风研读营学者。南京大学物理学博士,曾是是日本理化学研究所博士后。

研究方向:数据驱动的复杂系统研究;生物医学领域的人工智能;蛋白质进化和动力学;生物系统的复杂性和临界性。




直播信息




时间:
2024年6月6日(本周四)晚上19:00-21:00
参与方式:
扫码参与计算神经科学读书会,加入群聊,获取系列读书会回看权限,成为计算神经科学社区的种子用户,与社区的一线科研工作者与企业实践者沟通交流,共同推动计算神经科学社区的发展。

报名成为主讲人:
读书会成员均可以在读书会期间申请成为主讲人。主讲人作为读书会成员,均遵循内容共创共享机制,可以获得报名费退款,并共享本读书会产生的所有内容资源。具体见系列读书会详情:计算神经科学读书会启动:从复杂神经动力学到类脑人工智能




资料推荐




[1] Ponce-Alvarez, A., Mochol, G., Hermoso-Mendizabal, A., De la Rocha, J., & Deco, G. (2020). Cortical state transitions and stimulus response evolve along stiff and sloppy parameter dimensions, respectively. Elife, 9, e53268.

[2] Qian-Yuan Tang, Kunihiko Kaneko. Dynamics-Evolution Correspondence in Protein Structures. Physical Review Letters, 127, 098103 (2021).

蛋白质的动力学和进化之间的对应关系:两个不同时间尺度下的相同故事

[3] Ponce-Alvarez, A., Uhrig, L., Deco, N., Signorelli, C. M., Kringelbach, M. L., Jarraya, B., & Deco, G. (2022). Macroscopic quantities of collective brain activity during wakefulness and anesthesia. Cerebral cortex, 32(2), 298-311.

[4] Xie, Z., Tang, Q. Y., Sun, M., & Li, P. (2024). On the overlooked structure of stochastic gradients. Advances in Neural Information Processing Systems (NeuroIPS 2023), 36.


计算神经科学读书会


人类大脑是一个由数以百亿计的神经元相互连接所构成的复杂系统,被认为是「已知宇宙中最复杂的物体」。本着促进来自神经科学、系统科学、信息科学、物理学、数学以及计算机科学等不同领域,对脑科学、类脑智能与计算、人工智能感兴趣的学术工作者的交流与合作,集智俱乐部联合国内外多所知名高校的专家学者发起神经、认知、智能系列读书会第三季——「计算神经科学」读书会,涵盖复杂神经动力学、神经元建模与计算、跨尺度神经动力学、计算神经科学与AI的融合四大模块,并希望探讨计算神经科学对类脑智能和人工智能的启发。读书会从2024年2月22日开始,每周四19:00-21:00进行,持续时间预计10-15周,欢迎感兴趣的朋友报名参与,深入梳理相关文献、激发跨学科的学术火花!



详情请见:计算神经科学读书会启动:从复杂神经动力学到类脑人工智能



点击“阅读原文”,报名读书会