MIT物理学教授 Tegmark 等学者探讨AI大模型的范式与挑战｜集智俱乐部20周年AIS²年会

以大模型为代表的人工智能技术爆发，正在掀起从科学范式到生产方式的新革命。自成立之初，集智俱乐部就始终探索着宇宙从何而来、生命怎样演变、智能何以涌现、秩序如何起源等复杂世界的本源问题。

8月26日，集智俱乐部与腾讯研究院将共同举办“AIS²系列学术报告和研讨活动”沙龙，共同提出AIS²倡议，意指AI+Society与AI+Science这两大如火如荼的前沿领域，并预言人工智能即将在跨学科研究中形成的集体涌现。

此次学术沙龙活动的第一部分以“智能边界：大语言模型能否再次涌现”为主题，我们邀请到 Max Tegmark 进行以“如何控制 AI 大模型”为主题的报告，与嘉宾司晓进行对谈；Jason Wei、张江、李嫣然、陆超超、Richard、刘子鸣等学者将进行圆桌讨论，分析大模型技术的机制和挑战。

学术报告面向公众开放报名，详情见正文。欢迎预约线上直播。

智能边界：大语言模型能否再次涌现？

GPT等大语言模型已经在自然语言处理领域取得了令人瞩目的成果，并具备了设计之外的涌现能力。但随着模型规模的增长，我们是否已经接近了其性能的上限？对于黑箱式的神经网络，更大的规模是否意味着更加不安全与不可控？我们邀请了Max Tegmark等学者分享他们关于大语言模型的最新研究成果，探讨模型的可解释性、可控性、可扩展性、泛化能力等一系列重要问题，并讨论如何通过创新模型架构、优化训练策略、借鉴人类学习等方法，推动大语言模型迎来新的发展机遇。

主题报告：如何控制 AI 大模型

随着AI技术的进步, 控制AI系统变得日益重要。给定一个训练有素的神经网络，我们如何理解它的工作原理？今天的大模型和其他强大的AI系统往往是不透明的黑箱，很少能保证它们会按照我们的期望行动。AI系统日益增强的力量会带来机遇和风险，那我们该如何通过技术手段确保AI系统的可解释性和可控性？

主讲人：Max Tegmark

麻省理工学院物理学教授、未来生命研究所（Future of Life Institute）创始人。在学术生涯的早期阶段，Max Tegmark 专注于宇宙学和量子信息的研究，利用基于信息论的数据分析工具进行宇宙微波背景辐射实验，结合最新观测数据和理论修正我们的宇宙学模型。现阶段，他的研究重点是将物理学和机器学习联系起来：AI for physics，physics for AI，利用基于物理的技术更好地理解生物和人工智能；同时也关注人工智能安全和可解释性。他在《穿越平行宇宙》一书中阐述了自己的“数学宇宙假说”（Mathematical universe hypothesis），在《生命3.0》中表达了对智能和未来生命终极形式的想象。

对谈嘉宾：

司晓，中南财经政法大学法学博士，斯坦福大学访问学者。现任腾讯集团副总裁，腾讯研究院院长。兼任中国法学会理事、中国版权协会常务理事、深圳市版权协会会长，中国产业互联网发展联盟副理事长，斯坦福大学华南校友会顾问，北京大学法学院硕士研究生兼职导师，中国社会与发展研究中心兼职研究员等社会职务。

圆桌讨论：大语言模型复兴——范式和挑战

大型语言模型改变了我们做AI的方式。在本次讨论中，我们将探索它们为何如此革命性，以及该领域现在与以前的不同。大模型在几方面与过去的深度学习范式不同。第一，随着计算和数据规模的扩大，大模型可能继续改进。第二，大模型是通用技术——它们可以通过指令执行各种任务，最终具备推理能力。这些想法改变了AI的前沿，包括AI公司的运营方式和AI研究人员的职业生涯。我们将围绕以下问题进行讨论：

● 鉴于我们所知道的信息，当前大型语言模型哪些部分是可以预测的，哪些部分是不可预测的?

● 大型语言模型能够真正进行推理吗?

● 语言模型的未来能力能够被预测吗?

● 我们可以做什么来使大型语言模型更加可靠安全?

● 用少量语料就可以激发语言模型的通用能力，说明了什么？

● 大型语言模型的学习过程是否可以/必须借鉴人类的学习方式？

● 大语言模型的推理能力能否进一步拆分，哪些特定的推理能力需要具身智能、社会协作才能完成？

● 大语言模型与 Agent 的关系，Agent 研究如何促进大语言模型能力的提升？

讨论嘉宾

Jason Wei，人工智能研究员，在OpenAI从事 ChatGPT 的研究工作，曾是谷歌大脑的高级研究科学家，推广了思维链提示，共同领导了第一批指令调整工作，并撰写了关于大型语言模型中的涌现的文章，并在 2022 年的谷歌 I/O 新闻发布会上介绍了思维链提示技术。

张江，北京师范大学系统科学学院教授，集智俱乐部、集智学园创始人，集智科学研究中心理事长，曾任腾讯研究院、华为战略研究院等特聘顾问。主要研究领域包括复杂系统分析与建模、规模理论、机器学习等。

李嫣然，集智学园讲师、集智俱乐部核心成员，曾任小米人工智能实验室高级算法工程师及场景对话团队研发负责人，同时也兼任着北京大学心理与认知学院的行业导师。多年担任 AAAI，ACL，EMNLP等国际顶级会议的审稿人，并担任 EMNLP 2022 领域主席。她曾在国际顶级会议及期刊上发表论文二十余篇，涵盖情感计算、人机对话、自然语言生成等研究领域，累计引用次数超过1800次。她的研究方向为人机对话、预训练模型的生成和生物智能机制。

陆超超，上海人工智能实验室Causal AI团队负责人，剑桥大学机器学习博士，他的主要研究兴趣是机器学习，特别是涉及到如何结合因果推理、贝叶斯推理、强化学习和深度学习各自的优势，并将它们应用在现实领域中解决实际问题，如计算机视觉和医疗等领域。

Richard，百川智能技术联合创始人，清华大学创新领军工程博士，曾是百度集团内最年轻晋升为主任研发架构师之一，百度集团总技术委员会成员，历经百度最核心的凤巢广告、搜索和智能助手等AI业务，在自然语言处理、搜索、计算广告、对话系统以及预训练语言模型等领域有10年+算法研发及管理经验。国内外专利35+，在AAAI/EMNLP/ICDM/ACL等AI顶会上发表过多篇论文，作为AI负责人领导研发出家喻户晓用户基数最大的人工智能助手，相关技术获得过DSTC10(全球多轮对话竞赛)世界冠军、EMNLP 2022 SereTOD(对话比赛)世界亚军、2022年吴文俊人工智能奖特等奖。

刘子鸣，目前是麻省理工学院（MIT）物理系博士生，导师是Max Tegmark。此前2020年他从北京大学获得物理学士学位。他的研究兴趣在AI和物理的交叉：一方面AI for Physics，利用AI工具自动化物理规律和概念的发现；另一方面Physics for AI，利用物理启发构建AI理论和更具可解释性的模型。

完整日程安排