物理启发的深度生成模型:模拟自然,创造未来丨周日直播· AI+Science 读书会

导语
自从大模型问世以来,由物理启发的深度生成模型大放异彩,比如生成高清图片、3D模型、蛋白质等。本次分享我将会介绍其中两种表现最好的生成模型,分别是基于热力学的扩散模型(diffusion model)和基于静电学的泊松流模型(PFGM)。本次分享将会梳理他们的发展,并且介绍一个更宽泛的扩展泊松流模型(PFGM++)框架。我还会讨论如何根据具体的任务来选择合适的生成模型。希望大家可以通过本次分享了解目前表现最好的生成模型大概有哪几种,它们是如何从物理现象转化而来的;以及在实践中,如何将物理启发的生成模型运用到关心的问题上?


分享简介
分享简介
最近,我们见证了由物理启发的深度生成模型的大放异彩,比如生成高清图片、3D模型、蛋白质等。本次分享我将会介绍其中两种表现最好的生成模型,分别是基于热力学的扩散模型(diffusion model)和基于静电学的泊松流模型(PFGM)。本次分享将会梳理他们的发展,并且介绍一个更宽泛的扩展柏松流模型(PFGM++)框架。我还会讨论如何根据具体的任务来选择合适的生成模型。
分享大纲
分享大纲
(1) 生成模型概述
(2) 泊松流模型(PFGM)
(3) 对扩展泊松流模型 (PFGM++)的介绍
(4) 物理过程能否提供给我们更多新的生成模型?
主讲人介绍
主讲人介绍

直播信息
直播信息
直播时间:
2023年5月14日(周日) 早晨10:00-12:00

推荐资源
推荐资源
生成模型概览 (swarma.org):https://campus.swarma.org/course/5089
https://calvinyluo.com/2022/08/26/diffusion-tutorial.html
推荐文献
推荐文献
Song, Y., & Ermon, S. (2019). “Generative Modeling by Estimating Gradients of the Data Distribution.” Neural Information Processing Systems“
推荐语:估计数据分布梯度:如何克服现有生成式模型的缺陷
Ho, J. C., Jain, A et al. (2020b). “Denoising Diffusion Probabilistic Models.” ArXiv
推荐语:AI绘画的基石: DDPM(Denoising Diffusion Probabilistic Model)
Song, Y., Sohl-Dickstein, J., Kingma et al. (2021). “Score-Based Generative Modeling through Stochastic Differential Equations.” International Conference on Learning Representations(ICLR)
推荐语:本研究构建了一个相当一般化的生成扩散模型理论框架,将 DDPM、SDE、ODE 等诸多结果联系了起来。
Karras, T., Aittala et al.(2022). “Elucidating the Design Space of Diffusion-Based Generative Models.” ArXiv .
推荐语:这篇论文将先前的研究组织成一个连贯的共同框架,以促成新的建模改进。对基于扩散过程的模型的理解和实现做出了重要贡献。
Xu, Y., Liu Z. et al (2023). “Poisson Flow Generative Models ” Neural Information Processing Systems (NeurIPS)
推荐语:这篇论文提出了一个由静电力学启发的生成模型PFGM。该模型比扩散模型更为鲁棒;且在有扩散模型相同或者更优的生成质量情况下,生成速度更快
Xu, Y., Liu Z. et al (2023). “PFGM++: Unlocking the Potential of Physics-Inspired Generative Models” International Conference on Machine Learning (ICML)
推荐语:这篇论文统一了现有的两种最优的生成模型: 扩散模型与PFGM; 该文章讨论了他们的优劣;并且提出如何找到一个同时具有他们各自优点的新的生成模型。
AI+Science 读书会启动

点击“阅读原文”,报名读书会





