复杂系统广泛存在于自然界和人类社会中,对复杂系统进行建模和调控是一个重要且具有实际价值的问题。复杂系统的建模包括对其时间上动力学以及空间上组成元素之间交互关系的建模。通过图神经网络学习复杂系统中元素间的交互关系,能够模拟复杂系统的动态演化,为复杂系统的调控和优化提供支持。本次分享将介绍图网络和强化学习相结合在交通信号灯控制、疾病传播、鸟群模型等若干复杂系统优化控制中的应用。
-
复杂系统背景介绍
-
复杂系统建模与调控相关工作
-
真实复杂系统建模与调控的挑战
-
牟牧云,北京师范大学系统科学学院博士生,研究方向:复杂系统、强化学习、图网络。
2023年8月2日(本周三)晚上19:00-21:00
扫码参与图神经网络与组合优化读书会,加入群聊,获取系列读书会回看权限,成为图神经网络社区的种子用户,与社区的一线科研工作者与企业实践者沟通交流,共同推动图神经网络社区的发展。
复杂系统 complex system由许多相互作用的元素组成。复杂系统的例子无处不在:全球气候、有机体、人脑、电网、交通、通讯系统等基础设施网络、城市社会和经济组织网络、生态系统、活细胞、甚至整个宇宙,这些都可以看作是复杂系统。具体参见集智百科:
https://wiki.swarma.org/index.php/%E5%A4%8D%E6%9D%82%E7%B3%BB%E7%BB%9F_Complex_Systems
复杂网络是一种理解现实世界复杂系统的抽象模型。它将复杂系统中的实体抽象成节点 ,将实体之间的关系抽象成连线。虽然数学中的图论也在研究网络, 但是现实中的网络会有更多的随机特性。因此,复杂网络 一般更加关注网络的统计特征。在网络理论的背景下,复杂网络是一个具有非平凡拓扑特征的图(网络)ーー这些特征不会出现在简单的网络中,如格或随机图,而是经常出现在代表实际系统的网络中。具体参见集智百科:
https://wiki.swarma.org/index.php/%E5%A4%8D%E6%9D%82%E7%BD%91%E7%BB%9C
• 图神经网络 (Graph Neural Network)
图神经网络是一种基于图结构的深度学习模型,用于处理图数据的建模和分析。它通过节点和边的表示学习,实现了对图中节点和边的特征提取和信息传递,从而实现对图数据的分类、预测和生成等任务。
图神经网络课程推荐:内容涉及网络嵌入、图卷积、图注意力网络、变分自编码器、网络补全和图生成等相关内容,能够让大家对图神经网络技术有一个全局的认知。具体参见集智学园:
https://campus.swarma.org/course/5091/study
• 强化学习 (Model-Based Reinforcement Learning)
强化学习大致分为无模型(MFRL)强化学习和有模型(MBRL)强化学习,在无模型强化学习中,智能体通过和环境交互学习行动的最优策略或者最优值函数。在有模型的强化学习中,智能体学习一个环境的世界模型,世界模型赋予了智能体想象的能力,智能体通过与世界模型进行交互获取仿真数据。理想情况下,当模型足够准确时,可以从中学习出优秀的策略。相较于无模型强化学习方法,有模型强化学习让智能体能够更充分地利用模型学习产生的经验数据,具有更高的样本利用率。具体参见集智百科:
https://wiki.swarma.org/index.php/%E5%BC%BA%E5%8C%96%E5%AD%A6%E4%B9%A0
1.Asikis T, Böttcher L, Antulov-Fantulin N. Neural ordinary differential equation control of dynamics on graphs[J]. Physical Review Research, 2022, 4(1): 013221.
这篇文献主要创新点是图神经网络与神经微分方程的有效结合,以及将其成功应用到图动力学的建模控制上。为基于图结构的数据的动态建模和控制提供了新的思路和方法。
Github:https://github.com/asikist/nnc
2.Baggio G, Bassett D S, Pasqualetti F. Data-driven control of complex networks[J]. Nature communications, 2021, 12(1): 1429.
这篇文献主要研究了在复杂网络的精确动力学模型不可知的情况下,如何利用数据驱动的方法来对复杂网络进行控制。
3.Wei H, Xu N, Zhang H, et al. Colight: Learning network-level cooperation for traffic signal control[C]//Proceedings of the 28th ACM International Conference on Information and Knowledge Management. 2019: 1913-1922.
这篇文献基于强化学习与注意力机制的大规模交通信号协同控制的文章,获得了理论与实验上的创新成果,为交通流优化提供了新思路。
Github:https://github.com/wingsweihua/colight
讲者在因果涌现读书会第二季分享了带隐状态的强化学习世界模型,感兴趣的朋友可以点击链接观看。
https://pattern.swarma.org/study_group_issue/361
集智学园最新AI课程,
张江教授亲授:
第三代人工智能技术基础
——从可微分编程到因果推理
自1956年“人工智能”诞生于达特茅斯会议以来,已经经历了从早期的以符号推理为主体的第一代人工智能,和以深度神经网络、机器学习为主体的第二代人工智能。ChatGPT的横空出世、生成式AI的普及、AI for Science等新领域的突破,标志着第三代人工智能的呼之欲出。可微分编程、神经微分方程、自监督学习、生成式模型、Transformer、基于图网络的学习与推理、因果表征与因果推断,基于世界模型的强化学习……,所有这些脱胎于前两代人工智能的技术要素很有可能将构成第三代人工智能的理论与技术的基础。
本课程试图系统梳理从机器学习到大语言模型,从图神经网络到因果推理等一系列可能成为第三代人工智能基础的技术要素,为研究者或学生在生成式AI、大模型、AI for Science等相关领域的学习和研究工作奠定基础。
https://campus.swarma.org/course/5084?from=wechat
AI+Science 是近年兴起的将人工智能和科学相结合的一种趋势。一方面是 AI for Science,机器学习和其他 AI 技术可以用来解决科学研究中的问题,从预测天气和蛋白质结构,到模拟星系碰撞、设计优化核聚变反应堆,甚至像科学家一样进行科学发现,被称为科学发现的“第五范式”。另一方面是 Science for AI,科学尤其是物理学中的规律和思想启发机器学习理论,为人工智能的发展提供全新的视角和方法。
集智俱乐部联合斯坦福大学计算机科学系博士后研究员吴泰霖(Jure Leskovec 教授指导)、哈佛量子计划研究员扈鸿业、麻省理工学院物理系博士生刘子鸣(Max Tegmark 教授指导),共同发起以“AI+Science”为主题的读书会,探讨该领域的重要问题,共学共研相关文献。读书会从2023年3月26日开始,每周日早上 9:00-11:00 线上举行,持续时间预计10周。欢迎对探索这个激动人心的前沿领域有兴趣的朋友报名参与。
现实世界中大量问题的解决依赖于算法的设计与求解。传统算法由人类专家设计,而随着人工智能技术不断发展,算法自动学习算法的案例日益增多,如以神经网络为代表的的人工智能算法,这是算法神经化求解的缘由。在算法神经化求解方向上,图神经网络是一个强有力的工具,能够充分利用图结构的特性,实现对高复杂度算法的高效近似求解。基于图神经网络的复杂系统优化与控制将会是大模型热潮之后新的未来方向。
为了探讨图神经网络在算法神经化求解的发展与现实应用,集智俱乐部联合国防科技大学系统工程学院副教授范长俊、中国人民大学高瓴人工智能学院助理教授黄文炳,共同发起「图神经网络与组合优化」读书会。读书会将聚焦于图神经网络与算法神经化求解的相关领域,包括神经算法推理、组合优化问题求解、几何图神经网络,以及算法神经化求解在 AI for Science 中的应用等方面,希望为参与者提供一个学术交流平台,激发参与者的学术兴趣,进一步推动相关领域的研究和应用发展。读书会从2023年6月14日开始,每周三晚 19:00-21:00 举行,持续时间预计8周。欢迎感兴趣的朋友报名参与!