「范畴论与机器学习」前言说明




范畴论与机器学习的交叉是一个令人兴奋且富有潜力的研究方向。将范畴论的概念和方法与机器学习相结合，可以为机器学习领域带来新的理论和实践进展，同时也可以为范畴论提供更广阔的应用领域。这一交叉研究还处于初级阶段，仍然存在许多挑战和待解决的问题。但正是这种交叉研究的努力和探索，有望为机器学习领域带来新的突破和进展，同时也为范畴论的应用领域拓展开辟新的道路。

为了帮助大家对这一交叉领域有深入的了解，理解机器学习方法背后的范畴意义，集智学园联合日本成蹊大学助理教授贾伊阳，计划推出「范畴论与机器学习」系列课程，旨在面向机器学习领域并且希望深入到理论思想层面、身在数学领域想要利用人工智能解决问题的、以及希望了解一些范畴论应用前景（例如和人工智能、量子计算融合的可能）的研究者，科普机器学习前沿领域论文中出现的范畴论知识。本次宣讲课是系列课程的一次概览性介绍。




宣讲课简介 




本次课程将以机器学习与范畴论的报告、论文、和教材为课程材料，介绍其中的一些概念，以及更重要的是在这些概念背后隐藏的思想。由范畴观点切入机器学习的时候，包括对机器学习的某些方法论建立背景的具体范畴的研究方法，以及从神经网络架构等出发研究在范畴上的某些结构，例如“层”，“纤维”，“topos”等的研究方法。这些繁琐的术语，复杂的概念如果从纯粹数学的角度出发，全然理解要耗费数年时间。

在本课程以及后续系列课程中，贾伊阳老师的主要目的是引导大家在避免过度消耗精力的同时快速了解这些概念和范畴架构在机器学习理论及应用中的意义。

阅读材料：
  1. Belfiore, Jean-Claude, and Daniel Bennequin. “Topos and stacks of deep neural networks.” arXiv preprint arXiv:2106.14587 (2021). https://arxiv.org/pdf/2106.14587.pdf   https://arxiv.org/abs/2106.14587
  2. https://www.laurentlafforgue.org/Expose_Lafforgue_topos_AI_ETH_sept_2022.pdf
  3. Bradley, Tai-Danae, John Terilla, and Yiannis Vlassopoulos. “An enriched category theory of language: from syntax to semantics.” La Matematica 1.2 (2022): 551-580. https://link.springer.com/article/10.1007/s44007-022-00021-2
  4. Shiebler, Dan, Bruno Gavranović, and Paul Wilson. “Category theory in machine learning.” arXiv preprint arXiv:2106.07032 (2021). https://arxiv.org/abs/2106.07032
  5. Seven Sketches in Compositionality: An Invitation to Applied Category Theory https://math.mit.edu/~dspivak/teaching/sp18/7Sketches.pdf




主讲老师 




贾伊阳，日本成蹊大学助理教授。研究重点是计算复杂性，算法，以及范畴相关理论。




分享信息与交流群




分享时间：2023年12月20日 19:30-20:30

分享流程：
  1. 19:30-20:10 主题分享
  2. 20:10-20:30 互动交流

分享方式：
1. 腾讯会议（加入交流群可见）
2. 集智俱乐部视频号直播
填表入群：我们为本次公开宣讲课程，创建了微信交流群，欢迎填表加入。
表单链接：https://campus.swarma.org/form/activity/95





填写问卷，让我们听到你的需求




集智学园与日本成蹊大学助理教授贾伊阳老师计划合作开发“范畴论与机器学习”主题系列课程，本系列课程的目的是帮助大家能快速理解范畴论的概念和框架在机器学习理论及应用中的意义，看到范畴论与一些前沿领域，如AI和量子计算融合的可能性。我们希望获得你的反馈，来做出更好的课程设计。你认真填写的问卷对我们非常有用，感谢你的时间！

问卷链接：https://swarma.feishu.cn/share/base/form/shrcnVd4rIm9NxF94hZpHZNLaab




推荐加入




范畴论入门系列课程，第一季课程我们以 “人人可学范畴论” 为宗旨，从相当低的起点组织内容，帮助大家用范畴的角度看待熟知的问题，感受范畴论的思维方式，获得从例子中学习抽象的范畴论知识的能力。课程中补充了必要的前置数学知识，以便更多的学员破除门槛登堂入室。第二季课程站在新的起点上，更多关注范畴论内在的问题，而不用过于关注具体的问题背景。例如在范畴论中，可以直接抽象地讨论一个作为函子的箭头如何运动到另一个函子箭头，这样需要理解函子范畴和自然变换的概念。通过掌握这些越来越抽象的思维工具，学员将逐渐感受到范畴论的强大抽象简化能力，感受到为何不同领域的研究前沿不约而同地应用这些工具。
第一季详情及试看：https://campus.swarma.org/course/2723
第二季详情及试看：https://campus.swarma.org/course/3456

AI+Science 读书会第三季：人工智能与数学
从AI for math和math for AI两个方面深入探讨了人工智能与数学的密切联系。读书会概述了人工智能在数学的应用，并深入探讨大模型与数学推理，定理自动证明， AI发现数学规律，符号计算等方向的研究工作。读书会还展开了大模型与神经网络的数学基础的梳理，并深入探讨几何与拓扑在机器学习的应用。详情及试看：
https://pattern.swarma.org/study_group/32

通用人工智能（AGI）读书会
围绕通用人工智能的基础理论与发展路线，梳理里智能的定义与度量、智能的原理、大语言模型与信息世界的智能、感知与具身智能、多视角下的人工智能、对齐技术与AGI安全性、AGI时代的未来社会七个板块的内容。重点梳理了大语言模型的底层机理，并针对多模态感知、具身智能等实现通用人工智能的路径进行了探讨。详情及试看：
https://pattern.swarma.org/study_group/33




推荐阅读




  1. 大模型的能力边界在哪里？来自范畴论视角的答案

  2. AI 为什么会有创造力？范畴论刻画大模型创造力的来源

  3. 智能是什么？范畴论为通用人工智能提供普适框架

  4. 当自然语言处理遇上量子计算与范畴论：人工智能开启更大想象空间

  5. 范畴论：数学的数学

  6. 一分钟数学：范畴论

  7. 构建数学和物理基础的范畴论：用「等价」取代「相等」

  8. 通用人工智能（AGI）已经到来？深度解析 ChatGPT 获得智能的数学物理机理

  9. 思维的极限：科学的进步将取决于人类还是AI ？

  10. 人人可学的范畴论——跨领域的科学方法论 | 精品入门系列课

  11. 人人可学的范畴论第二季——跨学科的科学方法论 | 精品入门系列课


点击“阅读原文”，填表加入