关键词:AI for Science,神经算子,科学仿真,数值模拟




论文题目:Neural operators for accelerating scientific simulations and design
论文地址:https://www.nature.com/articles/s42254-024-00712-5
期刊名称:Nature Reviews Physics

在现代科学发现与工程设计领域,传统的物理实验耗时耗资,严重制约了科学家的研究与开发进程。尽管数值模拟为物理实验提供了替代方案,但面对复杂的实际应用,现有的数值方法往往因计算需求过高而难以实现。人工智能的崛起,尤其是神经算子(Neural Operators)的出现,提供了一种全新的、数据驱动的仿真模型,极大地加速了科学计算和设计优化的过程。

神经算子是一种基于AI的框架,能够学习定义在连续域上的函数之间的映射关系,例如时空过程和偏微分方程。与传统数值方法相比,神经算子不仅可以在训练过程中未见过的新位置进行预测,即实现零样本超分辨率,而且在许多应用中如计算流体动力学、天气预报和材料建模等方面,速度快4-5个数量级。神经算子可以整合物理和其他领域约束,在细粒度上强制高保真度的解决方案,从而实现良好的泛化效果。此外,由于神经算子是可微的,它们可以直接优化参数,用于逆向设计和其他逆问题。

在许多科学领域中,物理实验往往缓慢且昂贵,科学家只能通过试错和直觉选择有限的假设空间进行探索。如果能够用高保真的计算模拟替代昂贵的实验,我们将能够极大地扩展假设空间。神经算子通过学习非线性特征变换,避免了对精细网格的需求,实现了显著的加速。这种方法不仅在模拟复杂的多尺度过程方面表现出色,而且在逆向问题中,由于其可微特性,可以通过梯度优化直接反演训练的前向模型。

神经算子已在许多领域展示了其强大的应用潜力。例如,在天气预报中,它们可以进行中期预报,比当前的数值天气模型快数万倍,实现了准确的高分辨率(0.25度)天气预报。此外,在碳捕获与储存(CCS)领域,嵌套的FNO模型比传统数值模拟器快几十万倍,使得对CO2储存库的大规模评估成为可能。在流体动力学、3D工业级汽车空气动力学、城市微气候建模、材料变形等领域,神经算子同样展现出色。

尽管神经算子在科学建模中取得了巨大进展,但仍面临许多挑战。例如,处理庞大的训练数据集是一个实际问题,特别是在每个数据点本身就非常庞大的科学计算领域。为此,需要开发能够处理压缩格式的高效硬件和软件框架,以及诸如多重网格补丁等算法方法。此外,确保神经算子的良好学习和泛化能力也是一个重要课题。在某些领域,如气候建模,数据驱动模型的物理有效性至关重要,如何确保这些模型在捕捉罕见事件方面的准确性也是一个难题。

通过将数据与物理约束相结合的混合算子学习可以在一定程度上缓解这些挑战,但仍需解决许多深层次的问题。在混沌系统预测中,确保在长时间尺度上精确模拟系统演变是另一个开放问题。为此,需要在算子学习中结合长期守恒定律和其他物理约束。

神经算子正在推动更高效的科学建模,促进新的发明和发现。通过显著加速传统的模拟过程,我们可以实现更廉价的建模,并扩展到以前无法实现的更大系统。由于其可微特性,神经算子在设计等逆向问题中同样有效,使我们能够以前所未有的速度创造新发明,同时确保物理有效性。

图1. 神经网络(NN)与神经运算器(NO)的比较

图2. 伪谱解算器、傅立叶神经算子 (FNO) 和广义神经算子结构比较图


编译 龚铭康



AI+Science 读书会


AI+Science 是近年兴起的将人工智能和科学相结合的一种趋势。一方面是 AI for Science,机器学习和其他 AI 技术可以用来解决科学研究中的问题,从预测天气和蛋白质结构,到模拟星系碰撞、设计优化核聚变反应堆,甚至像科学家一样进行科学发现,被称为科学发现的“第五范式”。另一方面是 Science for AI,科学尤其是物理学中的规律和思想启发机器学习理论,为人工智能的发展提供全新的视角和方法。

集智俱乐部联合斯坦福大学计算机科学系博士后研究员吴泰霖(Jure Leskovec 教授指导)、哈佛量子计划研究员扈鸿业、麻省理工学院物理系博士生刘子鸣(Max Tegmark 教授指导),共同发起以“AI+Science”为主题的读书会,探讨该领域的重要问题,共学共研相关文献。读书会已完结,现在报名可加入社群并解锁回放视频权限。


详情请见:
人工智能和科学发现相互赋能的新范式:AI+Science 读书会启动


推荐阅读
1. 傅立叶神经算子:傅立叶变换应用于深度学习,顽强求解偏微分方程
2. ⼤模型社会模拟器MATRIX,价值对齐胜过GPT4
3. 战争还是和平?基于大型语言模型的多智能体系统模拟世界战争爆发
4. 张江:第三代人工智能技术基础——从可微分编程到因果推理 | 集智学园全新课程
5. 龙年大运起,学习正当时!解锁集智全站内容,开启新年学习计划

6. 加入集智,一起复杂!



点击“阅读原文”,报名读书会