导语


自从大模型问世以来,由物理启发的深度生成模型大放异彩,比如生成高清图片、3D模型、蛋白质等。本次分享我将会介绍其中两种表现最好的生成模型,分别是基于热力学的扩散模型(diffusion model)和基于静电学的泊松流模型(PFGM)。本次分享将会梳理他们的发展,并且介绍一个更宽泛的扩展泊松流模型(PFGM++)框架。我还会讨论如何根据具体的任务来选择合适的生成模型。希望大家可以通过本次分享了解目前表现最好的生成模型大概有哪几种,它们是如何从物理现象转化而来的;以及在实践中,如何将物理启发的生成模型运用到关心的问题上?






分享简介




最近,我们见证了由物理启发的深度生成模型的大放异彩,比如生成高清图片、3D模型、蛋白质等。本次分享我将会介绍其中两种表现最好的生成模型,分别是基于热力学的扩散模型(diffusion model)和基于静电学的泊松流模型(PFGM)。本次分享将会梳理他们的发展,并且介绍一个更宽泛的扩展柏松流模型(PFGM++)框架。我还会讨论如何根据具体的任务来选择合适的生成模型。





分享大纲



(1) 生成模型概述

a. 物理启发的生成模型在如今的日常生活与科学探索中的应用
b. 从Normalizing flow model到由热力学启发的扩散模型的演化

(2) 泊松流模型(PFGM)

a.PFGM如何用静电学的理论来构建生成模型
b. PFGM的具体训练与采样算法
c. 讨论泊松比起之前已有模型(如diffusion model)的好处

(3) 对扩展泊松流模型 (PFGM++)的介绍

a. PFGM++如何通过变化增广空间的维度来统一PFGM与diffusion model
b. PFGM++揭示了PFGM和diffusion model各自的优劣
c. 如何根据具体的任务来选择合适的生成模型

(4) 物理过程能否提供给我们更多新的生成模型?


核心概念
生成模型
扩散模型(diffusion model)
泊松流模型(PFGM)
扩展泊松流模型 (PFGM++)

可以收获:
了解目前表现最好的生成模型大概有哪几种,它们是如何从物理现象转化而来的。在实际中,如何将物理启发的生成模型运用到关心的问题上




主讲人介绍




许逸伦是麻省理工学院(MIT)电子与计算机科学(EECS)系三年级在读博士生,师从Tommi Jaakkola教授。他本科就读于北京大学的图灵班。许逸伦的研究方向为机器学习,目前主要关注更高效、更可控的生成模型。他在国际人工智能顶级会议(如ICML、NeurIPS和ICLR等)上发表了十余篇文章,并多次获得口头报告的机会。个人主页:https://yilun-xu.com




直播信息




直播时间:

2023年5月14日(周日)  早晨10:00-12:00


参与方式:

扫码参与读书会,加入群聊获取本系列读书会的视频回放权限、资料权限,与社区的一线科研工作者和企业实践者沟通交流。




推荐资源



集智学园:

生成模型概览 (swarma.org):https://campus.swarma.org/course/5089

关于扩散模型的学习路径

https://calvinyluo.com/2022/08/26/diffusion-tutorial.html





推荐文献



Song, Y., & Ermon, S. (2019). “Generative Modeling by Estimating Gradients of the Data Distribution.” Neural Information Processing Systems“

推荐语:估计数据分布梯度:如何克服现有生成式模型的缺陷

Ho, J. C., Jain, A et al. (2020b). “Denoising Diffusion Probabilistic Models.” ArXiv

推荐语:AI绘画的基石: DDPM(Denoising Diffusion Probabilistic Model)

Song, Y., Sohl-Dickstein, J., Kingma et al. (2021). “Score-Based Generative Modeling through Stochastic Differential Equations.” International Conference on Learning Representations(ICLR)

推荐语:本研究构建了一个相当一般化的生成扩散模型理论框架,将 DDPM、SDE、ODE 等诸多结果联系了起来。

Karras, T., Aittala et al.(2022). “Elucidating the Design Space of Diffusion-Based Generative Models.” ArXiv .

推荐语:这篇论文将先前的研究组织成一个连贯的共同框架,以促成新的建模改进。对基于扩散过程的模型的理解和实现做出了重要贡献。

Xu, Y., Liu Z. et al (2023). “Poisson Flow Generative Models ” Neural Information Processing Systems (NeurIPS)

推荐语:这篇论文提出了一个由静电力学启发的生成模型PFGM。该模型比扩散模型更为鲁棒;且在有扩散模型相同或者更优的生成质量情况下,生成速度更快

Xu, Y., Liu Z. et al (2023). “PFGM++: Unlocking the Potential of Physics-Inspired Generative Models” International Conference on Machine Learning (ICML)

推荐语:这篇论文统一了现有的两种最优的生成模型: 扩散模型与PFGM; 该文章讨论了他们的优劣;并且提出如何找到一个同时具有他们各自优点的新的生成模型。



AI+Science 读书会启动


AI+Science 是近年兴起的将人工智能和科学相结合的一种趋势。一方面是 AI for Science,机器学习和其他 AI 技术可以用来解决科学研究中的问题,从预测天气和蛋白质结构,到模拟星系碰撞、设计优化核聚变反应堆,甚至像科学家一样进行科学发现,被称为科学发现的“第五范式”。另一方面是 Science for AI,科学尤其是物理学中的规律和思想启发机器学习理论,为人工智能的发展提供全新的视角和方法。

集智俱乐部联合斯坦福大学计算机科学系博士后研究员吴泰霖(Jure Leskovec 教授指导)、哈佛量子计划研究员扈鸿业、麻省理工学院物理系博士生刘子鸣(Max Tegmark 教授指导),共同发起以“AI+Science”为主题的读书会,探讨该领域的重要问题,共学共研相关文献。读书会从2023年3月26日开始,每周日早上 10:00-12:00 线上举行,持续时间预计10周。欢迎对探索这个激动人心的前沿领域有兴趣的朋友报名参与。


详情请见:
人工智能和科学发现相互赋能的新范式:AI+Science 读书会启动


点击“阅读原文”,报名读书会