导语


时空数据的生成在智能城市、交通管理、环境监测等多个领域有着广泛的应用。近年来，扩散模型（Diffusion Model）作为一种强大的生成方法，在图像处理、文本生成等领域取得了显著成果。将扩散模型应用于时空数据生成，能够有效提升数据的易用性和多样性，为复杂时空系统的研究和应用提供新思路和解决方案。此次「时序时空大模型读书会」第九期将由发起人——澳大利亚新南威尔士大学计算机学院讲师薛昊，邀请到卡内基梅隆大学博士后温浩珉、南方科技大学&香港城市大学联培博士生朱元绍围绕 “基于扩散模型时空数据生成” 主题直播分享，将探讨扩散模型在时空数据生成中的技术及应用。

特别地，本期作为读书会收官之作，我们邀请发起人老师们回顾整个读书会系列内容并且进行圆桌讨论，直播将于北京时间7月17日晚19:00-21:00线上公开进行，期待您的参与与交流！

研究领域：扩散模型、生成式模型、时间序列分析、时空图预测、轨迹大模型




分享内容简介




本期读书会是「时序时空大模型读书会」系列读书会的第九期直播分享，邀请到卡内基梅隆大学博士后温浩珉、南方科技大学&香港城市大学联培博士生朱元绍围绕 “基于扩散模型时空数据生成” 大主题，分享基于生成扩散模型的时空图预测、基于生成扩散模型的时空图预测两个专题。


特别地，本期作为读书会收官之作，我们邀请发起人澳大利亚新南威尔士大学讲师薛昊、香港科技大学（广州）助理教授梁宇轩、中国科学院计算技术研究所副研究员姚迪老师回顾整个读书会系列内容并且进行圆桌讨论，包括大模型怎样赋能时序时空数据通用智能、“大模型+时序/时空数据”未来发展、挑战和局限性等议题。





分享内容大纲



 

（一）温浩珉：基于生成扩散模型的时空图预测

  • Part1：Diffusion Models+时空数据挖掘背景介绍

  • Part2：基于Diffusion的时空图预测模型——DiffSTG


（二）朱元绍：基于扩散模型的轨迹生成

  • Part1：轨迹生成背景介绍

  • Part2：使用扩散模型进行轨迹生成

  • Part3：使用拓扑约束进行可控轨迹生成


（三）圆桌讨论：梁宇轩、姚迪、薛昊

  • 大模型怎样赋能时序时空数据通用智能？
  • “大模型+时序/时空数据”未来发展、挑战和局限性？
  • 大模型在处理大规模数据时的数据安全？
  • 多模态模型的发展和落地？




核心概念



 

  • 基座模型 Foundation Model

  • 大型语言模型 Large Language Model

  • 扩散模型 Diffusion Model

  • 数据挖掘 Data Mining

  • 时空图 Spatio-temporal Graph

  • 拓扑约束 Topological Constraint

  • 多模态生成 Multi-modal Generation





主题分享人



 

（1）分享人：温浩珉

温浩珉，卡内基梅隆大学（CMU）博士后，研究方向包括城市计算、时空数据挖掘等。

（2）分享人：朱元绍

朱元绍，南方科技大学&香港城市大学联培博士在读，研究方向包括时空数据挖掘、轨迹建模、联邦学习等。




圆桌嘉宾




（1）圆桌嘉宾兼主持人：薛昊

薛昊，目前在澳大利亚新南威尔士大学（UNSW Sydney）计算机科学与工程学院担任讲师职位。他于2020年从西澳大利亚大学获得博士学位。在完成博士学位后，曾在RMIT大学计算技术学院和UNSW Sydney工作过。目前是澳大利亚国家科研委员会（ARC）卓越决策与社会自动化中心（ADM+S）UNSW分支的副研究员。研究兴趣包括时空数据建模、时间序列预测、基于语言生成的预测以及时间序列表示学习。

（2）圆桌嘉宾：梁宇轩

梁宇轩，香港科技大学（广州）智能交通学域、数据科学与分析学域助理教授、博士生导师。长期从事人工智能与时空数据挖掘技术在城市计算等领域的跨学科交叉研究。在TPAMI、TKDE、AI Journal、KDD、WWW、NeurIPS、ICML、ICLR等多个权威国际期刊和会议发表高水平论文70余篇。谷歌学术引用量3700余次，h-index为30，多篇论文入选最具影响力KDD/IJCAI论文。长期担任TKDE、TMC等国际知名期刊审稿人，KDD、WWW、NeurIPS、ICML等国际顶级会议程序委员会成员，曾获评SIGSPATIAL杰出程序委员会成员。多次担任数据挖掘和人工智能顶级会议相关研讨会（UrbComp、AI4TS）的程序主席。曾获得新加坡数据科学联合会论文研究奖，第二十三届中国专利优秀奖，第四十九届日内瓦发明展银奖等海内外奖项，多项研究成果在京东智慧城市相关业务中落地应用。

（3）圆桌嘉宾：姚迪

姚迪，中国科学院计算技术研究所副研究员，硕士生导师，中国计算机学会高级会员，ACM SIGSPATIAL中国分会执行委员，主要研究方向为时空数据挖掘，异常检测，因果机器学习等。在KDD、WWW、ICDE、TKDE等领域内顶级学术会议和期刊发表论文30余篇，长期担任担任多个期刊会议的审稿人和程序委员会委员，获得中科院院长优秀奖，MDM最佳论文候选奖，入选微软亚洲研究院“铸星计划”，研究成果在阿里、网易、滴滴等多个互联网公司中应用。




本期主要参考文献



 

  1. Wen, Haomin, et al. “Diffstg: Probabilistic spatio-temporal graph forecasting with denoising diffusion models.” Proceedings of the 31st ACM International Conference on Advances in Geographic Information Systems. 2023.

  2. Jin M, Wen Q, Liang Y, et al. Large models for time series and spatio-temporal data: A survey and outlook[J]. arXiv preprint arXiv:2310.10196, 2023.

  3. Rasul K, Seward C, Schuster I, et al. Autoregressive denoising diffusion models for multivariate probabilistic time series forecasting[C]//International Conference on Machine Learning. PMLR, 2021: 8857-8868.

  4. Tashiro Y, Song J, Song Y, et al. Csdi: Conditional score-based diffusion models for probabilistic time series imputation[J]. Advances in Neural Information Processing Systems, 2021, 34: 24804-24816.

  5. Zhu Y, Ye Y, Zhang S, et al. Difftraj: Generating gps trajectory with diffusion probabilistic model[J]. Advances in Neural Information Processing Systems, 2024, 36.

  6. Zhu Y, Yu J J, Zhao X, et al. Controltraj: Controllable trajectory generation with topology-constrained diffusion model[J]. arXiv preprint arXiv:2404.15380, 2024.

  7. Chen W, Liang Y, Zhu Y, et al. Deep learning for trajectory data management and mining: A survey and beyond[J]. arXiv preprint arXiv:2403.14151, 2024.

读书会阅读材料较多，为了更好地阅读体验，可扫描下方二维码进入集智斑图页面，阅读并收藏感兴趣的论文。
https://pattern.swarma.org/article/293




直播信息




时间：
2024年7月17日（周三）晚上19:00-21:00（北京时间）
参与方式：

1、集智俱乐部 B 站免费直播，扫码可预约。

2、本期读书会公开进行，扫码即可直接获取读书会回看权限。欢迎感兴趣的朋友报名新一季时序时空大模型读书会，加入群聊，获取系列读书会回看权限，成为“Time-LLMs”社区的种子用户，与社区的一线科研工作者与企业实践者沟通交流，共同推动社区的发展。

斑图地址：https://pattern.swarma.org/study_group_issue/714



报名成为主讲人：
读书会成员均可以在读书会期间申请成为主讲人。主讲人作为读书会成员，均遵循内容共创共享机制，可以获得报名费退款，并共享本读书会产生的所有内容资源。具体见系列读书会详情：时序时空大模型读书会启动：大模型开启时序时空数据挖掘新视角



时序时空大模型读书会招募中


现代生活产生了大量的时序数据和时空数据，分析这些数据对于深入理解现实世界系统的复杂性和演化规律至关重要。近期，受到大语言模型（LLM）在通用智能领域的启发，”大模型+时序/时空数据”这个新方向迸发出了许多相关进展。当前的LLM有潜力彻底改变时空数据挖掘方式，从而促进城市、交通、遥感等典型复杂系统的决策高效制定，并朝着更普遍的时空分析智能形式迈进。

集智俱乐部联合美国佐治亚理工学院博士&松鼠AI首席科学家文青松、香港科技大学（广州）助理教授梁宇轩、中国科学院计算技术研究所副研究员姚迪、澳大利亚新南威尔士大学讲师薛昊、莫纳什大学博士生金明等五位发起人，共同发起以“时序时空大模型”为主题的系列读书会，鼓励研究人员和实践者认识到LLM在推进时序及时空数据挖掘方面的潜力，共学共研相关文献。读书会第一期分享从5月8日（周三）19:00 公开直播，后续分享时间为每周三19:00-21:00（北京时间）进行，预计持续10-12周。欢迎感兴趣的朋友报名参与！


详情请见：
时序时空大模型读书会启动：大模型开启时序时空数据挖掘新视角


点击“阅读原文”，报名读书会