第五课“概率方法的范畴化”简介




本次课程将介绍依赖概率的机器学习方法(如贝叶斯算法等)的范畴化理论。给定的固定数据集下,大多数机器学习问题可以归结为优化问题。而有效解决机器学习问题需要对数据集的来源和限制进行推理。这种机器学习模型中的随机不确定性可以由概率和贝叶斯推理所建模,从而使得监督学习从一个函数逼近问题转变为一个分布逼近问题。通过引入范畴论,可以推理一些范畴内部的随机性,帮助理解概率学习泛性质,并阐明与其他领域的联系。


本节主要串联下列论文中的思想,同时提供给大家现阶段尚未解决的开放性问题


重点参考资料:

  1. Markov Categories and Entropy https://arxiv.org/abs/1908.07021

  2. Infinite products and zero-one laws in categorical probability https://arxiv.org/abs/1912.02769

  3. A category theory framework for Bayesian Learning https://arxiv.org/abs/2111.14293

  4. Bimonoidal Structure of Probability Monads https://arxiv.org/abs/1804.03527

  5. Representable Markov Categories and Comparison of Statistical Experiments in Categorical Probability https://arxiv.org/abs/2010.07416

  6. Compositional Semantics for Probabilistic Programs with Exact Conditioning https://arxiv.org/abs/2101.11351





主讲老师




贾伊阳,日本女子大学助理教授。研究重点是计算复杂性,算法,以及范畴相关理论。





分享信息




分享时间:2024年4月8日 20:00-22:00


分享方式:

1. 腾讯会议(报名付费课程可见)

2. 集智学园视频号直播


「范畴论与机器学习」系列课程

等你加入


为了帮助大家对范畴论与机器学习这一交叉领域有深入的了解,理解机器学习方法背后的范畴意义,集智学园联合日本成蹊大学助理教授贾伊阳,推出了「范畴论与机器学习」系列课程,旨在面向机器学习领域并且希望深入到理论思想层面、身在数学领域想要利用人工智能解决问题的、以及希望了解一些范畴论应用前景(例如和人工智能、量子计算融合的可能)的研究者,科普机器学习前沿领域论文中出现的范畴论知识。

本系列课程将以机器学习与范畴论的报告、论文和教材为课程材料,介绍其中的重要概念,以及更重要的是在这些概念背后隐藏的思想。从范畴观点切入机器学习,包括对机器学习的某些方法论建立背景的具体范畴的研究方法,以及从神经网络架构等出发研究在范畴上的某些结构,例如“层”,“纤维”,“topos”等的研究方法。这些繁琐的术语,复杂的概念如果从纯粹数学的角度出发,全然理解要耗费数年时间。本课程的主要目的是引导大家在避免过度消耗精力的同时快速了解这些概念和范畴架构在机器学习理论及应用中的意义

如果你对此主题感兴趣,欢迎加入课程与老师同学共同学习探讨。
1. 课程链接:https://campus.swarma.org/course/5305
2. 系列课程详细信息:站在范畴论视角看机器学习 | 「范畴论与机器学习」系列课程上线



加入VIP,解锁集智课程&读书会


集智长期深耕复杂系统与跨学科研究,在网络科学、系统理论、混沌科学等经典领域持续策划精品课程,同时也追踪因果科学、深度学习、复杂经济学、生命复杂性、社会计算、AI+Science、大模型、神经科学、城市科学等交叉前沿。汇集了大量的探索者,包括教授、硕博、工程师、创业者等等。

为了帮助有学习需求的朋友夯实学科基础,帮有科研需求的朋友深入前沿交流,我们开放了1年制和2年制的集智学园VIP计划。VIP用户可以深度参与集智俱乐部社区,并在会员期内解锁集智学园全站课程权限。

更多关于VIP介绍,请点击查看:加入集智学园VIP,一次性获取集智平台所有内容资源


推荐阅读:

  1. 大模型的能力边界在哪里?来自范畴论视角的答案

  2. AI 为什么会有创造力?范畴论刻画大模型创造力的来源

  3. 智能是什么?范畴论为通用人工智能提供普适框架

  4. 当自然语言处理遇上量子计算与范畴论:人工智能开启更大想象空间

  5. 范畴论:数学的数学

  6. 一分钟数学:范畴论

  7. 构建数学和物理基础的范畴论:用「等价」取代「相等」

  8. 通用人工智能(AGI)已经到来?深度解析 ChatGPT 获得智能的数学物理机理

  9. 思维的极限:科学的进步将取决于人类还是AI ?

  10. 人人可学的范畴论——跨领域的科学方法论 | 精品入门系列课

  11. 人人可学的范畴论第二季——跨学科的科学方法论 | 精品入门系列课


点击“阅读原文”,报名课程