导语

从对称性到涨落耗散定理，物理学的基本概念和规律如何帮助理解人工智能系统？本周日上午的「非平衡统计物理」读书会邀请到麻省理工学院（MIT）和 NTT Research 博士后研究员刘子寅介绍在“深度学习的物理学”方向的前沿探索，同时邀请到加州大学圣迭戈分校（UCSD）副教授尤亦庄、中山大学物理学院教授黄海平、麻省理工学院（MIT）物理系博士生刘子鸣、康奈尔大学计算机科学系博士生杜沅岂，一起讨论这个方向的一些前沿进展和挑战。

为了探讨统计物理学的前沿进展，集智俱乐部联合西湖大学理学院及交叉科学中心讲席教授汤雷翰、纽约州立大学石溪分校化学和物理学系教授汪劲、德累斯顿系统生物学中心博士后研究员梁师翎、香港浸会大学物理系助理教授唐乾元，以及多位国内外知名学者共同发起「非平衡统计物理」读书会。读书会从12月12日开始，计划每周四晚20:00-22:00进行，持续时间预计12～15周。欢迎感兴趣的朋友一起讨论交流！

内容简介

对称性和噪声是物理学中的两个基本概念，有趣的是，它们在人工智能系统中也扮演着至关重要的角色。在本次读书会上，我将以我们最近的工作为例子，探讨如何通过这两个物理学的概念来理解（和改进）现代神经网络。本次研讨会的主旨可以分为两部分：

第一部分讨论神经网络中的参数对称性如何决定其学习动力学和最终的学习结果。我们证明，参数对称性会产生一种简化偏向 (simplicity bias)，使得学习算法在训练过程中更倾向于选择复杂度不高的解。第二部分讨论训练过程中的噪声这一关键因素如何促使有意义的神经表征的出现。

在整个读书会过程中，我会避开技术性的问题，把重点放在阐释深度学习与物理学中的核心机制（例如相变和涨落耗散定理）之间的联系。

内容大纲

 

• 人工智能的物理学？
• 深度学习的简化偏向 (simplicity bias)

• 对称性 + 正则项 = 有约束的优化？
• 对称性 + 噪音 = 神经网络的普适解 (universal solution)？
• 噪音 + 正则项 = 紧凑且有意义的表征？

• 如何用物理学理解深度学习？

圆桌讨论问题

关于 Physics of AI 以及 Physics for AI：

• 理论物理对研究神经网络真的有用么？

• 热力学过程对计算过程有什么启发？

• 统计物理与概率、统计等领域发展密不可分，物理问题如何启发机器学习研究？

• 计算过程是否依赖于物理直觉？是否可以先定义计算过程，再寻找物理直觉？或者说物理直觉是否是必要的？

• 是否如盲人摸象，模型的不同侧面会表现出不同的行为和不同“物理”规律，还是说我们应该期待存在一个“大一统”的理论？

• 物理对于人工智能的启发不止是技术上的，也可能是方法论上甚至哲学上的吗？

关于神经网络、大模型与AI：

• 神经网络是可压缩的么？

• “理解”如何定义？能预测为啥还需要理解？

• 大模型真的会思考么？

• 计算本身是否有不可克服的矛盾？

主讲人

刘子寅，MIT 和 NTT Research 博士后研究员，在 MIT 主要与物理系的 Isaac Chuang，与脑科学系的 Tomaso Poggio 合作。在卡耐基梅隆大学获得物理学与数学学士学位，在东京大学获得物理学博士学位，导师是 Masahito Ueda。研究兴趣是深度学习和生物学大脑的理论基础。主要研究方向是神经学习的物理学机制（神经网络的对称性破缺、相变、涨落-耗散关系等）。

个人主页：https://www.mit.edu/~ziyinl/

圆桌讨论嘉宾

尤亦庄，加州大学圣迭戈分校（UCSD）副教授，集智科学家。研究领域为理论凝聚态物理、量子多体物理、人工智能。

个人主页：https://everettyou.github.io/

黄海平，中山大学物理学院教授。在中山大学物理学院组建“物理、机器与智能” （PMI）研究小组，专注于各种神经计算的理论基础，长期目标是使用基于物理的近似来揭示机器及大脑智能的基本原理。

PMI Lab：https://www.labxing.com/hphuang2018

刘子鸣，麻省理工学院（MIT）物理系博士生，导师是Max Tegmark。此前2020年他从北京大学获得物理学士学位。他的研究兴趣在AI和物理的交叉：一方面AI for Physics，利用AI工具自动化物理规律和概念的发现；另一方面Physics for AI，利用物理启发构建AI理论和更具可解释性的模型。

个人主页：https://kindxiaoming.github.io/

杜沅岂，康奈尔大学计算机科学系的博士生，研究方向为人工智能及其与科学发现的交叉领域，导师为 Carla P. Gomes 教授。他的研究兴趣包括概率机器学习（生成模型、最优输运、随机控制、采样），结构与几何（神经架构、等变性、对称性、张量网络），以及面向科学的人工智能（分子设计、分子发现、化学反应与合成）。

个人主页：https://yuanqidu.github.io/

参与方式

直播信息

北京时间：3月2日（周日）上午 9:00-11:00

美国东部时间：3月1日（周六）晚 20:00-22:00

美国西部时间：3月1日（周六）晚 17:00-19:00

报名参与读书会：

斑图链接：https://pattern.swarma.org/study_group_issue/847

扫码参与「非平衡统计物理」读书会，加入群聊，获取系列读书会回看权限，加入统计物理社区，与社区的一线科研工作者沟通交流，共同推动这一前沿领域的发展。

报名成为主讲人

读书会成员均可以在读书会期间申请成为主讲人。主讲人作为读书会成员，均遵循内容共创共享机制，可以获得报名费退款，并共享本读书会产生的所有内容资源。详情请见：从热力学、生命到人工智能的统计物理之路：非平衡统计物理读书会启动！

参考文献

[1] Ziyin, Liu. Symmetry induces structure and constraint of learning. arXiv preprint arXiv:2309.16932 (2023). https://arxiv.org/abs/2309.16932

[2] Ziyin L, Xu Y, Poggio T, et al. Parameter Symmetry Breaking and Restoration Determines the Hierarchical Learning in AI Systems. arXiv preprint arXiv:2502.05300, 2025. https://arxiv.org/abs/2502.05300

[3] Ziyin L, Wang M, Li H, et al. Parameter Symmetry and Noise Equilibrium of Stochastic Gradient Descent. The Thirty-eighth Annual Conference on Neural Information Processing Systems. 2024. https://arxiv.org/abs/2402.07193

[4] Ziyin L, Chuang I, Galanti T, et al. Formation of Representations in Neural Networks. arXiv preprint arXiv:2410.03006, 2024. https://arxiv.org/abs/2410.03006

非平衡统计物理读书会启动！

2024年诺贝尔物理学奖授予人工神经网络，这是一场统计物理引发的机器学习革命。统计物理学不仅能解释热学现象，还能帮助我们理解从微观粒子到宏观宇宙的各个层级如何联系起来，复杂现象如何涌现。它通过研究大量粒子的集体行为，成功地将微观世界的随机性与宏观世界的确定性联系起来，为我们理解自然界提供了强大的工具，也为机器学习和人工智能领域的发展提供了重要推动力。

为了深入探索统计物理前沿进展，集智俱乐部联合西湖大学理学院及交叉科学中心讲席教授汤雷翰、纽约州立大学石溪分校化学和物理学系教授汪劲、德累斯顿系统生物学中心博士后研究员梁师翎、香港浸会大学物理系助理教授唐乾元，以及多位国内外知名学者共同发起「非平衡统计物理」读书会。读书会旨在探讨统计物理学的最新理论突破，统计物理在复杂系统和生命科学中的应用，以及与机器学习等前沿领域的交叉研究。读书会从12月12日开始，每周四晚20:00-22:00进行，持续时间预计12周。我们诚挚邀请各位朋友参与讨论交流，一起探索爱因斯坦眼中的普适理论！

详情请见：从热力学、生命到人工智能的统计物理之路：非平衡统计物理读书会启动！

AI+Science 读书会

AI+Science 是近年兴起的将人工智能和科学相结合的一种趋势。一方面是 AI for Science，机器学习和其他 AI 技术可以用来解决科学研究中的问题，从预测天气和蛋白质结构，到模拟星系碰撞、设计优化核聚变反应堆，甚至像科学家一样进行科学发现，被称为科学发现的“第五范式”。另一方面是 Science for AI，科学尤其是物理学中的规律和思想启发机器学习理论，为人工智能的发展提供全新的视角和方法。

集智俱乐部联合斯坦福大学计算机科学系博士后研究员吴泰霖（Jure Leskovec 教授指导）、哈佛量子计划研究员扈鸿业、麻省理工学院物理系博士生刘子鸣（Max Tegmark 教授指导），共同发起以“AI+Science”为主题的读书会，探讨该领域的重要问题，共学共研相关文献。读书会已完结，现在报名可加入社群并解锁回放视频权限。

详情请见：

人工智能和科学发现相互赋能的新范式：AI+Science 读书会启动

点击“阅读原文”，报名读书会