导语


复杂系统是高维非线性的动力系统，其组成成分之间存在异质相互作用。不同领域的研究者都试图找到简化复杂系统描述的方法，确定复杂系统中最重要的变量和特征，以便更好地理解系统的行为。近期发表于 Nature Physics 的一项最新研究关注低秩假设的有效性，发现许多复杂系统可以被简化，同时保留其初始高维网络的基本特征。另一篇发表于 PNAS 的论文提出了一种新方法，利用机器学习对复杂系统中的信息进行分解，以识别出与宏观行为最相关的变异。

本周五晚的「因果涌现」读书会将由东北大学未来技术学院博士生张鹏和北京交通大学经济管理学院的唐润璇分别介绍这两篇前沿工作。读书会于6月7日晚19:00-21:00进行，欢迎感兴趣的朋友参与讨论交流！





第一部分：复杂系统的低秩表示理论




内容简介

复杂系统是高维非线性的动力系统，其组成成分之间存在异质相互作用。为了对复杂系统的大规模行为做出可解释的预测，通常假定这些动力学可以简化为几个方程，涉及描述相互作用网络的低秩矩阵。近期发表于 Nature Physics 的一项最新研究关注并探讨这种低秩假设（low-rank hypothesis）的有效性，证实许多复杂系统可以被简化，并且仍然保留初始高维网络的基本特征。研究还表明，高阶相互作用从降维中自然涌现，从而为复杂系统中高阶相互作用的起源提供了启示。此次读书会第一部分将深入解读 Nature Physics 的这篇论文[1]。


内容大纲

  • 论文研究背景

  • 验证复杂网络低秩假说

    • 支持合成网络模型低秩假说的三个证据

    • 在真实网络上验证低秩假说

  • 复杂系统的动力学降维

    • 诱导出复杂系统的动力学降维方程

    • 高阶交互作用的涌现

  • 总结


核心概念

复杂系统 complex system

复杂网络 complex network

低秩假设 low-rank hypothesis

高阶相互作用 higher order interaction

降维 dimension reduction


参考文献

[1] Thibeault, Vincent, Antoine Allard, and Patrick Desrosiers. The low-rank hypothesis of complex systems. Nature Physics (2024): 1-9.
相关文章：Nature Physics评论：复杂系统的内在简单性
[2]Gao J, Barzel B, Barabási A L. Universal resilience patterns in complex networks[J]. Nature, 2016, 530(7590): 307-312.
[3] Laurence E, Doyon N, Dubé L J, et al. Spectral dimension reduction of complex dynamical networks[J]. Physical Review X, 2019, 9(1): 011042.
[4]Tu C, D’Odorico P, Suweis S. Dimensionality reduction of complex dynamical systems[J]. Iscience, 2021, 24(1).
[5]Vegué M, Thibeault V, Desrosiers P, et al. Dimension reduction of dynamics on modular and heterogeneous directed networks[J]. PNAS nexus, 2023, 2(5): pgad150.


主讲人

张鹏，东北大学未来技术学院控制理论与控制工程方向博士生，硕士毕业于东北大学流程工业综合自动化国家重点实验室。研究兴趣：网络的鲁棒性分析与攻击，机器学习，组合优化。





第二部分：机器学习对复杂系统进行信息分解




内容简介

复杂系统由大量相互作用的组成部分构成，这些系统的行为表现出丰富的动态特性和自组织现象。理解复杂系统的关键之一是识别出在系统组件的尺度上的变异，这些变异对于宏观尺度上的行为最为相关。然而，跨尺度的信息链接是一个挑战，因为系统的行为依赖于组件之间复杂的相互作用。此外，传统的分析方法往往难以处理高维数据和捕捉系统内部的非线性关系，这进一步增加了研究复杂系统的难度。这篇PNAS论文提出一种新方法，利用机器学习对复杂系统中的信息进行分解。该方法通过对系统测量的数据进行有损压缩，保留与宏观行为最相关的信息，同时丢弃其他信息。这种方法基于信息论中的分布式信息瓶颈（distributed information bottleneck, DIB）原理，通过优化损失压缩的测量值，来识别系统状态测量中与特定宏观行为最相关的变异[1]。

内容大纲

  • 论文研究背景

  • 分布式信息瓶颈

    • 信息瓶颈理论

    • 本文理论贡献

  • 实验验证

    • 实验1——布尔电路

    • 实验2——玻璃材料

  • 总结和展望


核心概念

复杂系统 complex system

信息分解 information decomposition

分布式信息瓶颈 distributed information bottleneck


参考文献

[1] Bassett, Dani S., and Kieran A. Murphy. Information decomposition in complex systems via machine learning. Proceedings of the National Academy of Sciences 121.13 (2024): e2312988121.

[2] Murphy, Kieran A., A. Alemi, I. Fischer, J. V. Dillon, and K. Murphy. Deep variational information bottleneck. International Conference on Learning Representations (ICLR) (2017).

[3] Tishby, N., F. C. Pereira, and W. Bialek. The information bottleneck method. arXiv [Preprint] (2000).

[4] Aguerri, I. E., and A. Zaidi. Distributed information bottleneck method for discrete and gaussian sources. International Zurich Seminar on Information and Communication (IZS 2018) Proceedings (ETH Zurich, 2018), pp. 35-39.

[5] Aguerri, I. E., and A. Zaidi. Distributed variational representation learning. IEEE Trans. Pattern Anal. Mach. Intell. 43, 120-138 (2021).

[6] Poole, B., S. Ozair, A. Van Den Oord, A. Alemi, and G. Tucker. On variational bounds of mutual information. International Conference on Machine Learning (PMLR, 2019), pp. 5171-5180.


主讲人

唐润璇，北京交通大学经济管理学院本科生，热衷于跨学科研究。项目经历：阿尔茨海默病预警，人机交互系统，人力资源管理。研究兴趣：神经计算建模，类脑计算，机器学习。





直播信息




时间：2024年6月7日（本周五）晚19:00-21:00
报名参与读书会：
斑图链接：https://pattern.swarma.org/study_group_issue/690

扫码参与因果涌现读书会，加入群聊，获取系列读书会回看权限，加入因果涌现社区，与社区的一线科研工作者沟通交流，共同推动因果涌现这一前沿领域的发展。


报名成为主讲人：

读书会成员均可以在读书会期间申请成为主讲人。主讲人作为读书会成员，均遵循内容共创共享机制，可以获得报名费退款，并共享本读书会产生的所有内容资源。详情请见：荟萃复杂系统前沿进展，集结因果涌现学术社区：因果涌现读书会第五季启动


因果涌现读书会第五季招募中


跨尺度、跨层次的涌现是复杂系统研究的关键问题，生命起源和意识起源这两座仰之弥高的大山是其代表。从2021年夏天至今，集智俱乐部已经陆续举办了四季「因果涌现」读书会，系统梳理了因果涌现理论的发展脉络，深入探讨了信息整合与信息分解的本质，并探索了在生物网络、脑网络、机器学习等跨学科领域的应用。此次因果涌现读书会第五季将追踪因果涌现领域的前沿进展，展示集智社区成员的原创性工作，希望探讨因果涌现理论、复杂系统的低秩表示理论、本征微观态理论之间的相通之处，对复杂系统的涌现现象有更深刻的理解。读书会从2024年4月19日开始，每周五晚20:00-22:00进行，持续时间预计8-10周。欢迎感兴趣的朋友报名参与！



详情请见：
荟萃复杂系统前沿进展，集结因果涌现学术社区：因果涌现读书会第五季启动


“复杂 AI 次方”开放实验室招募


作为北师大系统科学学院的教授，以及集智俱乐部、集智学园的创始人，集智科学研究中心院长，张江从2003年开始，就长期从事有关复杂系统建模的工作。近年来，张江带领着北师大的研究组开始聚焦在基于新兴AI技术进行基于数据驱动的自动建模研究，并立志破解复杂系统的涌现之谜。我们希望可以有对复杂系统自动建模领域有热情，且认可这个领域发展前景的朋友一起来合作，促进这一领域的快速发展。我们希望这个叫做“ Complexity AI ”，中文叫做“复杂AI次方”的开放实验室，能够真正实现思想共享、资源共享、跨学科交叉，共同为复杂系统自动建模而奋进。


详情请见：“复杂 AI 次方”开放实验室招募，挑战“涌现”难题



点击“阅读原文”，报名读书会