导语


人工智能的发展为人类移动行为分析和模拟带来了新的可能性。大型语言模型（LLM）在这一领域中展现出强大的能力，通过理解和生成复杂的移动数据，为研究者提供了创新的方法和工具。此次「时序时空大模型读书会」第八期将由发起人——澳大利亚新南威尔士大学计算机学院讲师薛昊，邀请到新南威尔士大学博士生李沛博、日本国立情报学研究所（Japan National Institution of Informatics LLM center）研究员刘倩莹、清华大学直博生邵晨扬围绕 “LLM for Human Mobility” 主题直播分享，将深入探讨LLM在POI推荐和人类移动性行为模拟中的应用及前景。

直播将于北京时间7月10日晚19:00-21:00线上公开进行，欢迎感兴趣的朋友参与讨论交流！

研究领域：大语言模型、时空数据挖掘、POI推荐、移动行为生成




分享内容简介




本期读书会作为「时序时空大模型读书会」系列读书会的第八期直播分享，邀请到新南威尔士大学博士生李沛博、日本国立情报学研究所（Japan National Institution of Informatics LLM center）研究员刘倩莹、清华大学直博生邵晨扬围绕“LLM for Human Mobility”主题，展开大语言模型与POI推荐、生成模拟个人移动的LLM代理框架、基于大语言模型的移动行为生成专题进行。此次分享将涵盖最新的研究进展和实践应用，帮助参与者更好地理解和应用LLM在人类移动性数据处理中的潜力。





分享内容大纲



 

（一）李沛博：大语言模型与POI推荐

  • Part1：POI推荐背景介绍
  • Part2：基于微调LLM的POI推荐

  • Part3：LLM与POI推荐未来展望

github：https://github.com/neolifer/LLM4POI


（二）刘倩莹：生成模拟个人移动的LLM代理框架

  • Part1：生成模拟个人移动代理的背景与挑战
  • Part2：个人移动代理的两步式生成方法

  • Part3：实验结论与未来展望


（三）邵晨扬：基于大语言模型的移动行为生成

  • Part1：移动行为生成与大语言模型背景概览
  • Part2：基于大模型的生成框架——计划行为链工作流

  • Part3：总结与未来展望





核心概念




  • 基座模型 Foundation Model
  • 大型语言模型 Large Language Model
  • 时空数据挖掘 Spatio-temporal Data Mining
  • 个人移动代理 Human Mobility Agent
  • 移动行为生成 Human Mobility Generation
  • POI推荐 Point-of-Interest Recommendation

  • 常识推理 Commonsense Reasoning





分享人介绍




（1）主讲人：李沛博

李沛博，新南威尔士大学博士在读，研究方向包括大语言模型，Point-of-Interest(POI)推荐，可解释性等。


（2）主讲人：刘倩莹

刘倩莹，Japan National Institution of Informatics LLM center研究员，研究方向为大模型的数学推理、多语言现象以及多智能体系统。


（3）主讲人：邵晨扬

邵晨扬，清华大学直博生。研究方向包括：时空数据挖掘、大语言模型推理。


（4）主持人：薛昊

薛昊，澳大利亚新南威尔士大学（UNSW Sydney）计算机科学与工程学院担任讲师职位。他于2020年从西澳大利亚大学获得博士学位。在完成博士学位后，曾在RMIT大学计算技术学院和UNSW Sydney工作过。目前是澳大利亚国家科研委员会（ARC）卓越决策与社会自动化中心（ADM+S）UNSW分支的副研究员。研究兴趣包括时空数据建模、时间序列预测、基于语言生成的预测以及时间序列表示学习。





本期主要参考文献



  1. Peibo Li, M. D. Rijke, Hao Xue, et al. Large Language Models for Next Point-of-Interest Recommendation. arXiv:2404.17591, 2024

  2. Yang Song, Liu Jiamou, Zhao Kaiqi. GETNext: Trajectory Flow MapEnhanced Transformer for Next POI Recommendation. Proceedings of the 45th International ACM SIGIR Conference on Research and Development in Information Retrieval (SIGIR, 22: 1144–1153
  3. Yan Xiaodong, Song Tengwei, Jiao Yifeng, et al. Spatio-Temporal Hypergraph Learning for Next POI Recommendation. Proceedings of the 46th International ACM SIGIR Conference on Research and Development in Information Retrieval: 403–412
  4. Yang Dingqi, Zhang Daqing, Zheng Vincent W., et al. Modeling User Activity Preference by Leveraging User Spatial Temporal Characteristics in LBSNs. IEEE Transactions on Systems, Man, and Cybernetics: Systems, 45, 1
  5. Feng Jie, Li Yong, Zhang Chao, et al. Deepmove: Predicting human mobility with attentional recurrent networks. Proceedings of the 2018 World Wide Web conference: 1459–1468
  6. Luo Yingtao, Liu Qiang, Liu Zhaocheng. STAN: Spatio-temporal attention network for next location recommendation. Proceedings of the Web Conference 2021: 2177–2185
  7. Choi Seongjin, Kim Jiwon, Yeo Hwasoo. TrajGAIL: Generating urban vehicle trajectories using generative adversarial imitation learning. Transportation Research Part C: Emerging Technologies, 128(103091)
  8. Yuan Yuan, Ding Jingtao, Wang Huandong, et al. Activity trajectory generation via modeling spatiotemporal dynamics. Proceedings of the 28th ACM SIGKDD Conference on Knowledge Discovery and DataMining: 4752–4762
  9. Zhu Yuanshao, Ye Yongchao, Zhang Shiyao, et al. Difftraj: Generating GPS trajectory with diffusion probabilistic model. Advances in Neural Information Processing Systems, 36
  10. Ajzen I. The theory of planned behavior. Organizational behavior and human decision processes, 1991, 50(2): 179-211.
  11. Jason Wei, Xuezhi Wang, Dale Schuurmans, et al. Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. Advances in Neural Information Processing Systems, 2022
  12. González M C, Hidalgo C A, Barabási A L.. Understanding individual human mobility patterns. Nature, 2008, 453: 779–782
  13. D. Brockmann, L. Hufnagel, T. Geisel. The scaling laws of human travel. Nature, 2006, 2006(439): 462–465
  14. Massimiliano Luca, Gianni Barlacchi, Bruno Lepri, et al. A Survey on Deep Learning for Human Mobility. arXiv:2012.02825, 2021


读书会阅读材料较多，为了更好地阅读体验，可扫描下方二维码进入集智斑图页面，阅读并收藏感兴趣的论文。

https://pattern.swarma.org/article/293





直播信息




时间：
2024年7月10日（周三）晚上19:00-21:00（北京时间）
参与方式：

1、集智俱乐部 B 站免费直播，扫码可预约。

2、本期读书会公开进行，扫码即可直接获取读书会回看权限。欢迎感兴趣的朋友报名新一季时序时空大模型读书会，加入群聊，获取系列读书会回看权限，成为“Time-LLMs”社区的种子用户，与社区的一线科研工作者与企业实践者沟通交流，共同推动社区的发展。

斑图地址：https://pattern.swarma.org/study_group_issue/711



报名成为主讲人：
读书会成员均可以在读书会期间申请成为主讲人。主讲人作为读书会成员，均遵循内容共创共享机制，可以获得报名费退款，并共享本读书会产生的所有内容资源。具体见系列读书会详情：时序时空大模型读书会启动：大模型开启时序时空数据挖掘新视角



时序时空大模型读书会招募中


现代生活产生了大量的时序数据和时空数据，分析这些数据对于深入理解现实世界系统的复杂性和演化规律至关重要。近期，受到大语言模型（LLM）在通用智能领域的启发，”大模型+时序/时空数据”这个新方向迸发出了许多相关进展。当前的LLM有潜力彻底改变时空数据挖掘方式，从而促进城市、交通、遥感等典型复杂系统的决策高效制定，并朝着更普遍的时空分析智能形式迈进。

集智俱乐部联合美国佐治亚理工学院博士&松鼠AI首席科学家文青松、香港科技大学（广州）助理教授梁宇轩、中国科学院计算技术研究所副研究员姚迪、澳大利亚新南威尔士大学讲师薛昊、莫纳什大学博士生金明等五位发起人，共同发起以“时序时空大模型”为主题的系列读书会，鼓励研究人员和实践者认识到LLM在推进时序及时空数据挖掘方面的潜力，共学共研相关文献。读书会第一期分享从5月8日（周三）19:00 公开直播，后续分享时间为每周三19:00-21:00（北京时间）进行，预计持续10-12周。欢迎感兴趣的朋友报名参与！


详情请见：
时序时空大模型读书会启动：大模型开启时序时空数据挖掘新视角


点击“阅读原文”，报名读书会