导语


复杂系统的大尺度结构何时涌现,涌现现象如何产生?为什么生命似乎只存在于原子与星系之间的中间尺度?自由意志可以通过底层的心理状态解释吗?从微观到宏观,系统的不同层级之间如何相互交流?本文系统梳理了用数学量化涌现现象的研究,从加州大学戴维斯分校物理学家 Jim Crutchfield 开创的计算力学,到 Giulio Tononi 与 Erik Hoel 提出的因果涌现理论,再到 Fernando Rosas 等人量化涌现现象的框架。

本周的「因果涌现」读书会将由北京师范大学系统科学学院教授、集智俱乐部创始人张江老师分享关于因果涌现理论的最新进展,探讨动力学可逆性与因果涌现之间的内在联系。读书会将于周日(6月16日)上午9:00-11:00进行,欢迎感兴趣的朋友参与讨论交流!

研究领域:复杂系统,量化涌现,因果涌现,计算封闭性,计算力学,自由意志


Philip Ball | 作者

龚铭康 | 译者

王志鹏 | 审校

梁金 | 编辑



文章题目:The New Math of How Large-Scale Order Emerges

文章链接:https://www.quantamagazine.org/the-new-math-of-how-large-scale-order-emerges-20240610/


几个世纪前,木星大气中五彩斑斓的混沌运动形成了被称之为“大红斑”的巨大漩涡。


大脑中亿万个神经元的剧烈活动,造就了你现在阅读这些文字的独特且连贯的体验。


当行人在拥挤的人行道上试图穿行时,他们开始跟随彼此,形成无人规定或有意选择的流动。


世界充满了这样的涌现现象:大尺度的模式和组织结构源于组成部分之间的无数相互作用。然而,目前没有公认的科学理论来解释涌现现象。一般来说,如果一个复杂系统的行为无法从其组成部分的特性中单独预测,那么它就可能被认为是涌现的。但这些大尺度结构和模式何时会出现?如何判断一个现象何时是涌现的,何时不是?对此一直存在困惑。“这是个乱局,”加州大学戴维斯分校的物理学家 Jim Crutchfield 说道。


“围绕涌现现象,哲学家长期以来争论不休,结果却一直在绕圈,”英国萨塞克斯大学的神经科学家 Anil Seth 说道。Seth 认为,问题在于我们没有合适的工具——“不仅仅是用于分析的工具,还有用于思考的工具。拥有涌现现象的度量和理论不仅可以应用于数据,还可以帮助我们更丰富地思考这些系统。”


虽然问题仍未解决,但在过去几年中,物理学家、计算机科学家和神经科学家们一直致力于更好地理解这一现象。这些研究人员开发了理论工具来识别涌现现象何时发生。今年2月,来自萨塞克斯大学的复杂系统科学家 Fernando Rosas 与 Seth 及五位合著者一起,提出了一个理解涌现现象如何产生的框架。


论文题目:Software in the natural world: A computational approach to hierarchical emergence

论文地址:https://arxiv.org/abs/2402.09090


Fernando Rosas,苏塞克斯大学(University of Sussex)的复杂系统科学家,整合信息分解框架(ΦID)的提出者。他建议将涌现现象视为“自然界中的软件”。

Fernando Rosas 于4月份在「因果涌现」读书会深入解读了这项最新工作,欢迎感兴趣的朋友扫描下方二维码观看视频回放:https://pattern.swarma.org/study_group_issue/644


根据新框架,复杂系统通过自我组织成各个层级的结构来表现出涌现现象,每个层级独立于较低层次的细节运作。研究人员认为,可以将涌现现象视为自然界中的一种“软件”。就像你笔记本电脑的软件无需追踪计算机电路中电子的所有微观信息那样,涌现现象受宏观规则支配,这些规则似乎是自成一体的,不需要关注组成部分的具体行为。


利用一种称为计算力学(computational mechanics)的数学形式体系,研究人员确定了判断哪些系统具有这种层级结构的标准。他们在已知显示涌现现象的多个模型系统上测试了这些标准,包括神经网络和生命游戏风格的元胞自动机(cellular automata)。实际上,这些系统在微观和宏观尺度上捕捉其行为的自由度或独立变量,确实具有理论所预测的关系。


在涌现系统中,宏观层次上不会出现微观层次没有的新物质或能量。更确切地说,从大红斑到有意识思想的涌现现象需要一种新的语言来描述。“这些作者所做的就是试图将其形式化,”密歇根州立大学的复杂系统研究者 Chris Adami 说道。“我完全赞成将这些现象数学化的想法。”





计算封闭的涌现




Rosas 从多个方向研究涌现这一主题。他的父亲是智利著名的指挥家,Rosas 最初学习并演奏音乐。“我在音乐厅中长大,”他说。后来他转向哲学,随后取得纯数学学位,这让他形成了“过度的抽象思维”,他用电气工程的博士学位“治愈”了这一点。


几年前,Rosas开始思考一个棘手的问题:大脑是否是计算机?考虑一下你的笔记本电脑里发生了什么。软件会为一组给定的输入生成可预测和可重复的输出。但如果你观察系统的实际物理情况,电子每次不会都遵循相同的轨迹。“它充满混乱,永远不会完全相同。”软件似乎是“封闭的”,因为它不依赖于微电子硬件的详细物理情况。大脑的行为也有点类似:尽管在任何情况下神经活动都不会完全相同,但我们的行为却具有一致性。


Rosas 和同事们认为,事实上涌现系统中涉及三种不同类型的封闭性。如果你投入大量时间和精力收集系统中所有微观状态(如电子能量等)的信息,你的笔记本电脑的输出会更可预测吗?答案是:通常不会。这对应于信息闭包(informational closure),如Rosas所说,“宏观层次以下的所有细节对于预测宏观层次没有帮助。”


如果你不仅要预测还要控制系统——低层次的信息是否有帮助?同样的,通常没有帮助:在宏观层次进行的干预,比如通过键盘输入改变软件代码,并不会通过改变单个电子轨迹而变得更可靠。如果低层次的信息对宏观结果没有进一步的控制作用,宏观层次就是因果封闭的(causally closed):它独立地导致其自身的未来


这种情况相当常见。例如,我们可以使用压力和粘度等宏观变量来讨论(和控制)流体流动,而了解单个分子的位置信息和轨迹对于这些目的没有帮助。我们可以通过将公司视为单一实体来描述市场经济,而忽略构成这些公司的个体的任何细节。


然而,Seth指出,有用的粗粒度描述对定义涌现现象来说还不够。“你需要从层级之间的关系上说一些其他的。”Rosas和同事们认为,完成整个概念框架除了需要信息、因果这两种层次的封闭性之外,还需要第三个层次的封闭性:计算封闭性。为此,他们转向了计算力学,这门学科由Crutchfield开创。


论文题目:Inferring statistical complexity (James P. Crutchfield and Karl Young, 1989)

论文地址:https://journals.aps.org/prl/abstract/10.1103/PhysRevLett.63.105


加州大学戴维斯分校的物理学家Jim Crutchfield展示了他最近设计的用于记录座头鲸发声的水下麦克风,他正在应用他的模式识别方法,希望能破译鲸鱼之间对话的因果关系。

「因果涌现」读书会此前曾深入解读过 Crutchfield 开创的计算力学框架,更多资料参看:计算力学:量化涌现的又一条路径
读书会分享:https://pattern.swarma.org/study_group_issue/532

Crutchfield 引入了一种称为ε-机器的概念装置。这种装置可以存在于某个有限的状态集合中,并根据其当前状态预测其未来状态。Rosas说,它有点像电梯;对机器的输入,比如按下按钮,会以一种确定的方式使机器转变到不同的状态(楼层),这种方式取决于它的过去历史——即当前楼层、是否在上升或下降以及已经按下了哪些其他按钮。当然,电梯有无数的组成部分,但你不需要考虑它们。同样,ε-机器以一种最优方式表示组成部分之间未明确的相互作用如何“计算”——或可以说“导致”——机器的未来状态。

计算力学允许将复杂系统组成部分之间的相互作用网络简化为最简单的描述,称为复杂系统的因果态(causal state)。复杂系统在任何时刻的状态都包括其过去状态的信息,并会产生可能未来状态的分布。当两个或更多这样的当前状态具有相同的可能未来分布时,它们被认为处于相同的因果态。我们的脑子从来不会有两次完全相同的神经元激发模式,但在很多情况下,我们最终会做同样的事情。

Rosas和同事们将一个一般复杂系统看作是不同尺度上工作的ε-机器的集合。其中一个可能表示所有分子尺度的离子、离子通道等,这些产生了我们神经元中的电流;另一个表示神经元本身的激发模式;再一个表示大脑中某些区域(如海马体和前额皮层)的活动。系统(在这里是大脑)在所有这些层次上进化,通常这些ε-机器之间的关系是复杂的。但对于一个计算封闭的涌现系统,各层级的机器可以通过粗粒化上一级的组件来构建:它们在研究人员的术语中是“强可合并的”(strongly lumpable)。例如,我们可以将神经元内外移动的离子和神经递质的所有动态合并为神经元是否激发的表示。从原理上讲,可以想象出所有类型的这种“合并”,但只有当表示它们的ε-机器是彼此的粗粒化版本时,系统才是计算封闭的。Rosas说,“这种结构是嵌套的”。

一个高度压缩的系统描述随后出现在宏观层面,它捕捉了那些与宏观尺度行为有关的微观层面的动力学——可以说,是通过中间的ε-机器嵌套网络过滤出来的。在这种情况下,仅使用宏观信息就可以尽可能完整地预测宏观层次的行为——无需参考更细尺度的信息。换句话说,它是完全涌现的(fully emergent)。研究人员说,这种涌现的关键特征是这种“强可合并因果态”(strongly lumpable causal states)的层级结构。




渗漏式涌现:

宏观与微观并不完全独立




研究人员通过观察已在一些模型系统中揭示的涌现行为来测试他们的想法。其中一个是随机游走模型,主体在一个网络中随机游走,这个网络可以代表一座城市的街道。一座城市通常表现出层级尺度——社区内的街道密集连接,而社区之间的街道则稀疏连接。研究人员发现,通过这样的网络进行的随机游走的结果是高度粗粒化的。也就是说,无论游走者在A或B社区内随机穿行哪些街道,其从A社区出发到达B社区的概率——宏观行为——保持不变。

研究人员还考虑了用于机器学习和人工智能算法的人工神经网络。不管网络中单个神经元状态之间有怎样的微观差异,其中一些网络会自组织成能够可靠识别数据中宏观模式的状态。Rosas说,决定网络将输出哪种模式的过程“在一个更高的层次上工作”。

Anil Seth,萨塞克斯大学研究意识的神经科学家,正在指挥一个关于感知的实验。

Rosas的方案是否有助于理解像木星大红斑这样稳固的大尺度结构的涌现?这个巨大的漩涡“可能满足计算封闭性”,Rosas说。“但我们需要进行适当的分析才能提出任何主张。”

至于生物体,它们有时似乎是涌现的,但有时则更加“垂直整合”(vertically integrated),微观变化确实会影响大尺度行为。以心脏为例。尽管在基因表达的细节上存在显著变化,在不同地方表达多少蛋白质也存在浓度变化,但所有心肌细胞似乎基本上以相同的方式工作,这使得它们能够作为整体运作,就像是由穿过组织的连贯宏观电脉冲驱动的泵一样。但情况并非总是如此。虽然我们携带的许多基因突变对健康没有影响,但有时一个突变——仅仅是DNA序列中一个“错误”的遗传“字母”——就可能是灾难性的。因此,宏观与微观的独立性并不完全:各层次之间存在一些“渗漏”。Rosas想知道生物体是否实际上通过允许这种“渗漏式”的部分涌现(“leaky” partial emergence)来进行优化——因为在生命中,有时宏观层次必须注意微观层次的细节。



因果性的涌现




Rosas的框架可能有助于复杂系统研究人员了解他们何时能或者不能期望开发出预测性的粗粒化模型。当系统满足计算封闭的关键要求时,“你通过模拟上层并忽略下层不会失去任何可信度。”但最终,Rosas希望像他这样的方法能够回答一些关于宇宙结构的深层问题——例如,为什么生命似乎只存在于原子与星系之间的中间尺度

该框架还对理解复杂和涌现系统中棘手的因果关系问题有影响。传统上,因果关系被认为是自下而上流动的:例如,我们的选择和行动最终归因于我们神经元的放电模式,而这些模式又是由离子穿过细胞膜的流动引起的。

但在涌现系统中不一定如此;因果关系可以独立于低层次细节在较高层次上运作。Rosas的新计算框架似乎捕捉到了涌现的这一方面,这在早期的工作中也得到了探索。2013年,威斯康星大学麦迪逊分校的神经科学家Giulio Tononi与Erik Hoel和Larissa Albantakis(也在威斯康星)合作,声称根据一种名为有效信息(effective informarion, EI)的因果效应度量,某些复杂系统的整体行为更多地由较高层级而非较低层级引起。这被称为因果涌现(causal emergence)

论文题目:Quantifying causal emergence shows that macro can beat micro
论文地址:https://www.pnas.org/doi/10.1073/pnas.1314922110
论文翻译:《量化因果涌现表明:宏观可以战胜微观
集智百科“有效信息”:https://wiki.swarma.org/index.php/有效信息

2013年使用有效信息的工作可能只是以这种方式测量因果效应的一个偶然现象。但最近,Hoel和神经科学家Renzo Comolatti表明事实并非如此。他们选取了文献中提出的12种不同的因果力度量方法,并发现所有这些度量在一些复杂系统都能够显示出因果涌现。“无论你选择哪种因果关系度量,”Hoel说,“我们只是到文献中去挑选其他人的因果定义,所有这些都显示出因果涌现。”如果这是所有这些不同度量的一种偶然现象,那将是非常奇怪的。

论文题目:Causal emergence is widespread across measures of causation

论文地址:https://arxiv.org/abs/2202.01854

Erik Hoel 在「因果涌现」读书会对这项研究的深入解读:
https://pattern.swarma.org/study_group_issue/193
https://pattern.swarma.org/study_group_issue/445
此次分享的整理《Erik Hoel:因果涌现理论怎样连通复杂系统的宏观与微观

对于Hoel来说,涌现系统是那些宏观行为对微观尺度上的随机性或噪声有一定免疫的系统。对于许多复杂系统,你很有可能找到能最小化这种噪声的粗粒化宏观描述。“这种最小化构成了一个良好涌现概念的核心。”他说。

Tononi说,虽然他的方法和Rosas及其同事的方法针对的是同类系统,但他们对因果涌现的标准有些不同。“他们定义当宏观系统能够预测自身的程度与从微观层次预测它的程度一样多时为涌现,”他说,“但我们需要在宏观层次比在微观层次上有更多因果信息。”

这些新想法涉及自由意志的问题。虽然坚定的还原论者认为不可能有自由意志,因为所有因果关系最终都来源于原子和分子的相互作用,但自由意志可能会被更高层次因果关系的形式化所拯救。如果我们行动的主要原因不是我们的分子,而是编码记忆、意图、信仰等的涌现心理状态,这是否足以使自由意志的概念有意义?新的工作表明“有合理的方法可以思考宏观层次的因果关系,解释主体如何能有一种有价值的因果效用形式,”Seth说。

尽管如此,研究人员对宏观的、主体层级的因果关系是否可以在复杂系统中涌现仍然存在分歧。“我对宏观层级能够驱动微观层级的想法感到不适,”Adami说, “宏观层级的自由度只不过是人们自己发明的。” 这正是Rosas及其同事提出的方案可能有助于解决的那类问题,通过钻研系统不同层级之间如何相互交流的机制,以及这种交流必须如何结构化以实现宏观层级与底层细节的独立性。

在这一点上,一些论点还相当模糊。但Crutchfield很乐观。“我们将在五到十年内弄清楚这一点,”他说,“我认为一切条件已经具备。”


– 活动预告 –




因果涌现读书会第五季招募中


跨尺度、跨层次的涌现是复杂系统研究的关键问题,生命起源和意识起源这两座仰之弥高的大山是其代表。集智俱乐部「因果涌现读书会第五季」由北京师范大学系统科学学院教授、集智俱乐部创始人张江老师领衔发起,将追踪因果涌现领域的前沿进展,展示集智社区成员的原创性工作,希望探讨因果涌现理论、复杂系统的低秩表示理论、本征微观态理论之间的相通之处,对复杂系统的涌现现象有更深刻的理解。读书会从2024年4月19日开始,每周五晚20:00-22:00进行,持续时间预计8-10周。欢迎感兴趣的朋友报名参与!



详情请见:
荟萃复杂系统前沿进展,集结因果涌现学术社区:因果涌现读书会第五季启动



“复杂 AI 次方”开放实验室招募


作为北师大系统科学学院教授、集智俱乐部与集智学园创始人、集智科学研究中心院长,张江从2003年开始长期从事有关复杂系统建模的工作。近年来,张江带领着北师大的研究组开始聚焦在基于新兴AI技术进行基于数据驱动的自动建模研究,并立志破解复杂系统的涌现之谜。我们希望可以有对复杂系统自动建模领域有热情,且认可这个领域发展前景的朋友一起来合作,促进这一领域的快速发展。我们希望这个叫做“ Complexity AI ”,中文叫做“复杂AI次方”的开放实验室,能够真正实现思想共享、资源共享、跨学科交叉,共同为复杂系统自动建模而奋进。



详情请见:“复杂 AI 次方”开放实验室招募,挑战“涌现”难题



推荐阅读
1. 涌现:21世纪科学的统一主题
2. 涌现、因果与自指——“因果涌现”理论能否破解生命与意识之谜
3. 集智科学研究中心重磅综述:复杂系统中的因果和涌现
4. 因果涌现:数学理论揭示整体怎样大于部分之和
5. 科学能解释自由意志吗?
6. 张江:第三代人工智能技术基础——从可微分编程到因果推理 | 集智学园全新课程
7. 龙年大运起,学习正当时!解锁集智全站内容,开启新年学习计划
8. 加入集智,一起复杂!



点击“阅读原文”,报名读书会