生成模型作为当前生成式人工智能背后的核心技术,有效地克服了维数灾难带来的挑战,在人工智能生成内容等领 域取得了重大突破,同时也引起了许多科学研究领域尤其是物理学的广泛关注。生成模型能够在传统方法无法处理或效率低下时提供高效可行的解决方案,在模拟物理系统、构建变分拟设和辅助蒙特卡洛采样等场景中有着重要应用。本次分享将为大家介绍如何使用生成模型来解决一些复杂物理系统中的计算问题。
AI+Science 是近年兴起的将人工智能和科学相结合的一种趋势。集智俱乐部联合斯坦福大学计算机科学系博士后研究员吴泰霖、哈佛量子计划研究员扈鸿业、麻省理工学院物理系博士生刘子鸣,共同发起以“AI+Science”为主题的读书会,从2023年3月26日开始,每周日早上 9:00-11:00 线上举行,持续时间预计10周。欢迎对探索这个激动人心的前沿领域有兴趣的朋友报名参与。
在本次分享中,刘晶将为大家介绍如何使用生成模型来求解几类复杂物理系统中的计算难题。首先,会简单地介绍生成模型在物理学中的主要应用;之后,将介绍如何使用生成模型来解决平衡态统计力学问题,并介绍提出的一类称为自回归矩阵乘积态的张量网络生成模型;接着,将介绍如何将已经在平衡态中得到广泛应用的生成模型方法推广并应用于非平衡态系统,并用于计算运动约束模型的动力配分函数;最后,将介绍如何使用Gumbel-softmax松弛化技巧并结合图神经网络等工具来解决组合优化与网络重构等基态问题。
-
生成模型的简单回顾以及在物理学中的应用
-
平衡态:计算平衡态经典自旋系统的配分函数
-
非平衡态:计算非平衡态系统的动力配分函数
-
基态:图上的组合优化/约束满足与数据驱动的网络重构
-
变分自回归网络(variational autoregressive network)
-
自回归矩阵乘积态(autoregressive matrix product state)
-
运动约束模型(kinetically constrained model)
-
动力配分函数(dynamical partition function)
-
Gumbel-softmax 技巧(Gumbel-softmax trick)
刘晶,博士和本科分别毕业于北京师范大学的系统科学学院和物理学系,博士阶段的研究兴趣主要集中在使用生成模型等机器学习方法求解复杂物理系统中的计算问题。
直播时间:
2023年6月4日(周日) 10:00-12:00
扫码参与读书会,加入群聊获取本系列读书会的视频回放权限、资料权限,与社区的一线科研工作者和企业实践者沟通交流。
Wang, Lei. 2018. “Generative Models for Physicists.” http://wangleiphy.github.io/lectures/PILtutorial.pdf
Wu, Dian, Lei Wang, and Pan Zhang. 2019. “Solving Statistical Mechanics Using Variational Autoregressive Networks.” Physical Review Letters 122 (8): 080602. https://doi.org/10.1103/PhysRevLett.122.080602. https://arxiv.org/pdf/1809.10606.pdf
Liu, Jing, Sujie Li, Jiang Zhang, and Pan Zhang. 2023. “Tensor Networks for Unsupervised Machine Learning.” Physical Review E 107 (1): L012103. https://doi.org/10.1103/PhysRevE.107.L012103. https://arxiv.org/pdf/2106.12974.pdf
Tang, Ying, Jing Liu, Jiang Zhang, and Pan Zhang. 2022. “Solving Nonequilibrium Statistical Mechanics by Evolving Variational Autoregressive Networks.” arXiv: 2208.08266. https://arxiv.org/pdf/2208.08266.pdf
Liu, Jing, Fei Gao, and Jiang Zhang. 2020. “Gumbel-Softmax Optimization: A Simple General Framework for Combinatorial Optimization Problems on Graphs.” In Complex Networks and Their Applications VIII, edited by Hocine Cherifi, Sabrina Gaito, José Fernendo Mendes, Esteban Moro, and Luis Mateus Rocha, 879–90. Cham: Springer International Publishing. https://arxiv.org/pdf/1909.07018.pdf
Zhang, Zhang, Yi Zhao, Jing Liu, Shuo Wang, Ruyi Tao, Ruyue Xin, and Jiang Zhang. 2019. “A General Deep Learning Framework for Network Reconstruction and Dynamics Learning.” Applied Network Science 4 (1): 110. https://doi.org/10.1007/s41109-019-0194-4. https://arxiv.org/pdf/1812.11482.pdf
AI+Science 是近年兴起的将人工智能和科学相结合的一种趋势。一方面是 AI for Science,机器学习和其他 AI 技术可以用来解决科学研究中的问题,从预测天气和蛋白质结构,到模拟星系碰撞、设计优化核聚变反应堆,甚至像科学家一样进行科学发现,被称为科学发现的“第五范式”。另一方面是 Science for AI,科学尤其是物理学中的规律和思想启发机器学习理论,为人工智能的发展提供全新的视角和方法。
集智俱乐部联合斯坦福大学计算机科学系博士后研究员吴泰霖(Jure Leskovec 教授指导)、哈佛量子计划研究员扈鸿业、麻省理工学院物理系博士生刘子鸣(Max Tegmark 教授指导),共同发起以“AI+Science”为主题的读书会,探讨该领域的重要问题,共学共研相关文献。读书会从2023年3月26日开始,每周日早上 10:00-12:00 线上举行,持续时间预计10周。欢迎对探索这个激动人心的前沿领域有兴趣的朋友报名参与。
集智学园最新AI课程推荐,
张江教授亲授:大数据驱动的人工智能
北京师范大学系统科学学院教授,集智俱乐部、集智学园的创始人张江老师,为大家带来了全新的《第三代人工智能技术基础——从可微分编程到因果推理》这门课程,试图系统化地梳理从机器学习到大语言模型,从图神经网络到因果推理等一系列可能成为第三代人工智能基础的技术要素,为研究者或学生在生成式AI、大模型、AI for Science等相关领域的学习和研究工作奠定基础。其中有一节课程中专门介绍了生成模型,会帮助理解GAN、VAE、Normalizing Flow、Diffusion Model的基本原理和局限性。
https://campus.swarma.org/course/5084?from=wechat
现实世界中大量问题的解决依赖于算法的设计与求解。传统算法由人类专家设计,而随着人工智能技术不断发展,算法自动学习算法的案例日益增多,如以神经网络为代表的的人工智能算法,这是算法神经化求解的缘由。在算法神经化求解方向上,图神经网络是一个强有力的工具,能够充分利用图结构的特性,实现对高复杂度算法的高效近似求解。基于图神经网络的复杂系统优化与控制将会是大模型热潮之后新的未来方向。
为了探讨图神经网络在算法神经化求解的发展与现实应用,集智俱乐部联合国防科技大学系统工程学院副教授范长俊、中国人民大学高瓴人工智能学院助理教授黄文炳,共同发起「图神经网络与组合优化」读书会。读书会将聚焦于图神经网络与算法神经化求解的相关领域,包括神经算法推理、组合优化问题求解、几何图神经网络,以及算法神经化求解在 AI for Science 中的应用等方面,希望为参与者提供一个学术交流平台,激发参与者的学术兴趣,进一步推动相关领域的研究和应用发展。读书会从2023年6月14日开始,每周三晚 19:00-21:00 举行,持续时间预计8周。欢迎感兴趣的朋友报名参与!
点击“阅读原文”,报名读书会