导语


ChatGPT等AI大模型展现出了各种自然与人工复杂适应系统的普遍特征，例如涌现性（Emergence）、规模法则（Scaling Law）、临界相变、多尺度、层级等。那么，近期火热的AI大模型是否与从90年代发展起来的复杂适应系统理论（Theory of Complex Adaptive Systems，简称CAS）有着深刻联系呢？


本讲座将会引领你从复杂适应系统的视角重新解读ChatGPT，列举复杂科学相关理论和方法可能如何帮助人们理解神经网络以及AI大模型，内容涉及：从动力系统看待神经网络、从适应系统视角看待梯度反传算法、从图灵机角度看待自注意力与上下文学习（in-Context learning）、从相变与临界性的角度看待few-shot learning及思维链等。最后，讲座也就未来AI大模型如何帮助人们更好地理解复杂系统的普适性原理展开讨论。


集智俱乐部的“后 ChatGPT”读书会由北师大教授、集智俱乐部创始人张江老师联合肖达、李嫣然、崔鹏、侯月源、钟翰廷、卢燚等多位老师共同发起，旨在系统性地梳理ChatGPT技术，并发现其弱点与短板。同时，结合集智俱乐部常年来积累的各种人工智能技术讨论，展望后GPT时代的人工智能都有哪些可能性？读书会自2023年3月3日开始，每周五晚上19:00-21:00举办，持续时间预计6周，欢迎对本话题感兴趣的朋友报名参加！





与读书会整体主题之间的关系




从复杂适应系统理论的视角重新解读以ChatGPT为代表的AI大模型





主要涉及到的知识概念




复杂适应系统（Complex Adaptive System, CAS）
规模法则（Scaling Laws）
动力系统（Dynamical Systems）
Transformer
梯度反传（Gradient Backpropagation）
语言模型（Language Model）
图灵机（Turing Machine）
相变与临界性（Phase Transition and Criticality）




分享简介




ChatGPT等AI大模型展现出了各种自然与人工复杂适应系统的普遍特征，例如涌现性（Emergence）、规模法则（Scaling Law）、临界相变、多尺度、层级等。那么，近期火热的AI大模型是否与从90年代发展起来的复杂适应系统理论（Theory of Complex Adaptive Systems，简称CAS）有着深刻联系呢？

本讲座将会引领你从复杂适应系统的视角重新解读ChatGPT，列举复杂科学相关理论和方法可能如何帮助人们理解神经网络以及AI大模型，内容涉及：从动力系统看待神经网络、从适应系统视角看待梯度反传算法、从图灵机角度看待自注意力与上下文学习（in-Context learning）、从相变与临界性的角度看待few-shot learning及思维链等。最后，讲座也就未来AI大模型如何帮助人们更好地理解复杂系统的普适性原理展开讨论。





分享大纲




  • 什么是复杂适应系统（CAS）？
    • 复杂系统与复杂科学
    • 复杂适应系统
  • 为什么说AI大模型是复杂适应系统？
    • 大语言模型的涌现能力
    • 类比、上下文学习与思维链
    • 大语言模型的规模法则
  • 从CAS的视角理解ChatGPT
    • 复杂视角下的神经网络与机器学习
    • 神经网络与动力系统
    • 从Holland的分类器系统到误差反传算法
    • 图灵机与自注意力机制
    • 上下文学习的可能机理
    • 从相变与临界到大模型的涌现
  • 为什么说AI大模型可能助力复杂系统研究？
    • 复杂系统自动建模
    • AI可解释性问题
    • 通用大模型与通用原理




主讲人




张江，北京师范大学系统科学学院教授，集智俱乐部、集智学园、集智科学研究中心的创始人，曾任腾讯研究院、华为战略研究院等特聘顾问。主要研究领域包括复杂系统分析与建模、规模理论、机器学习等。
集智斑图个人主页：https://pattern.swarma.org/user/9




直播信息




时间：
2022年3月10日（周五）  晚上 19:00-21:00

参与方式：

扫码参与读书会，加入群聊获取本系列读书会的视频回放权限、资料权限，与社区的一线科研工作者和企业实践者沟通交流。


“后ChatGPT”读书会启动


集智俱乐部的“后 ChatGPT”读书会由北师大教授、集智俱乐部创始人张江老师联合肖达、李嫣然、崔鹏、侯月源、钟翰廷、卢燚等多位老师共同发起，旨在系统性地梳理ChatGPT技术，并发现其弱点与短板。同时，结合集智俱乐部常年来积累的各种人工智能技术讨论，展望后GPT时代的人工智能都有哪些可能性？读书会自2023年3月3日开始，每周五晚上举办，持续时间预计6周，欢迎对本话题感兴趣的朋友报名参加！


详情请见：
“后 ChatGPT”读书会启动：从通用人工智能到意识机器


集智学园最新AI课程推荐，

张江教授亲授


理解人类语言、创作艺术品、下围棋、蛋白质结构预测、新质子模型的发现、辅助数学定理证明，所有这些不同领域的难题都正在被新兴人工智能技术逐一攻破。人工智能， 特别是以大数据、机器学习、神经网络等技术为主体的智能技术，近年来获得了迅猛的发展，它正在与各个学科发生交叉、融合，逐渐演化为一种解决各种复杂系统问题的跨学科方论，成为支撑复杂系统分析与建模的重要新兴技术。

本课程面向具有一定理工科背景和编程技术基础的学生，全面介绍基于大数据技术驱动为主的人工智能技术的最新进展，包括但不限于：神经网络、深度学习、强化学习、因果推断、生成模型、语言模型、面向科学发现的AI等前沿领域。希望学员能够在本课程的学习过程中了解数据驱动的人工智能最新方法、技术和前沿发展情况，同时通过一定的课程项目实践，能够具备利用人工智能解决复杂问题的实操、编程能力。

课程定价：399元

课程时间：课程目前已上线到第2课。从2023年3月-6月，每周二中午12:00更新课程。法定节假日除外。
https://campus.swarma.org/course/5084?from=wechat


复杂系统入门与实战


地址https://campus.swarma.org/course/4577?from=wechat

推荐理由：一门带你学习科学家用来理解复杂系统的思想、工具、方法等的课程，包括涌现、混沌、群体行为、ABM、分形、动力学、人工生命、生命起源等。


图灵机


https://campus.swarma.org/course/1155?from=wechat

推荐理由：带你详细了解图灵机的定义、图灵机的计算、图灵机框架的模拟、通用图灵机、以及图灵停机问题，说明算法的上界。


点击“阅读原文”，报名读书会