导语


本周日(1月14日)上午9:00-11:00 将进行因果涌现读书会第四季的第六次分享,由北京师范大学系统科学学院硕士研究生刘凯威介绍信息分解在现实场景中的应用,一方面是信息分解在数据科学中的应用,保护个人隐私的数据披露方法——协同披露,另一方面是部分熵分解(PED)在脑网络上的应用。





内容简介




经典的信息分解(Partial Information Decomposition,PID)框架中冗余、协同以及特有信息原子在现实中有诸多应用。本次将分享信息分解在数据科学的应用,即保护个人隐私的数据披露方法——协同披露(Synergistic Disclosure),分析其保护隐私的机理,并从应用角度找到一种协同信息的计算方法,分析和因果涌现的关联。

在此基础上,我们会关注基于PID实现信息原子对称性的信息分解框架——部分熵分解(Partial Entropy Decomposition,PED)的应用,并结合其与因果涌现的关联,介绍在脑网络上的应用,即量化脑网络中除了二元功能连接,还存在高阶网络结构。





内容大纲




  • PID的应用——协同披露

    • 数据隐私与协同披露

    • 协同披露的计算方法

    • 协同披露与因果涌现、信息分解的关联

  • PED的应用——高阶脑网络结构

    • 二元网络的局限性

    • 高阶网络与脑网络





核心概念




  • 数据隐私 Data privacy
  • 协同信息 Synergistic Information
  • 协同披露 Synergistic Disclosure
  • 二元功能连接 Bivariate Functional Connectivity
  • 高阶网络 Higher-Order Network




主讲人简介




刘凯威,北京师范大学系统科学学院硕士研究生,师从张江老师。研究领域涉及生存分析、贝叶斯统计、复杂网络重构、因果涌现等方向。
学者主页:https://pattern.swarma.org/user/77240/master





直播信息




时间:2024年1月14日(本周日)上午9:00-11:00

参与方式:


斑图链接:https://pattern.swarma.org/study_group_issue/601


扫码参与因果涌现读书会,加入群聊,获取系列读书会回看权限,加入因果涌现社区,与社区的一线科研工作者沟通交流,共同推动因果涌现这一前沿领域的发展。




参考文献




[1] Borzoo Rassouli, Fernando E. Rosas, Deniz Gunduz. Data Disclosure under Perfect Sample Privacy. arXiv:1904.01711, 2019

[2] Rosas FE, Mediano PAM, Jensen HJ, Seth AK, Barrett AB, Carhart-Harris RL, et al. Reconciling emergences: An information-theoretic approach to identify causal emergence in multivariate data. PLoSComput Biol 16(12): e1008289,2020

[3] Williams, P. L., & Beer, R. D. (2010). Nonnegative decomposition of multivariate information. arXiv preprint arXiv:1004.2515.

[4] Varley T F. Uncovering Higher-Order Structures in Complex Systems with Multivariate Information Theory[D]. Indiana University, 2023.

[5] Olaf Sporns, Joshua Faskowitz, Andreia Sofia Teixeira, Sarah A. Cutts, Richard F. Betzel; Dynamic expression of brain functional systems disclosed by fine-scale analysis of edge time series. Network Neuroscience 2021; 5 (2): 405–433. doi: https://doi.org/10.1162/netn_a_00182

[6] Kaiwei Liu, Xing Lü, Fei Gao, et al. Expectation-Maximizing Network Reconstruction and MostApplicable Network Types Based on Binary Time Series Data. Physica D: Nonlinear Phenomena, 2023




学习资料推荐 




因果涌现读书会第二季

张章:信息分解方法及其在复杂系统中的应用

https://pattern.swarma.org/study_group_issue/227

张章:协同披露的信息分解:

https://pattern.swarma.org/study_group_issue/229
刘凯威:保护数据隐私下的信息披露:

https://pattern.swarma.org/study_group_issue/304


新信息论:从分解到整合

因果涌现读书会第四季招募中


什么是意识?意识能否度量?机器能否产生意识?对于意识问题,人们可能即将迎来一个大的突破,各种有关意识的理论正如雨后春笋般展现出勃勃生机。其中神经科学家 Giulio Tononi 的整合信息论(IID)被认为是最有前景的意识理论之一。如果说意识是大脑神经活动的一种涌现结果,那么刻画涌现便成为理解意识过程中一个重要环节。因果涌现理论目前发展出两个派别,除了 Erik Hoel 的有效信息因果涌现框架,还有一个是 Rosas 的信息分解(PID)框架,此后 Rosas 基于此进一步提出融合整合信息论的信息分解框架 ΦID,尝试构建新的意识理论。


一边是信息整合(IIT),一边是信息分解(PID),看似分裂,实际上都是对香农经典信息论的进一步发展。因果涌现读书会第四季「新信息论:从分解到整合」由北京师范大学系统科学学院教授、集智俱乐部创始人张江老师领衔发起,旨在梳理信息论领域的发展脉络,从香农的经典信息论开始,重点关注整合信息论和信息分解这两个前沿话题,及其在交叉领域的应用。希望通过对这些“新信息论”度量指标的深入探讨,帮助我们理解什么是意识,什么是涌现,并找到不同学科,不同问题背后的统一性原理。



详情请见:
新信息论:从分解到整合|因果涌现读书会第四季启动


因果涌现社区


跨尺度、跨层次的涌现是复杂系统研究的关键问题,生命起源和意识起源这两座仰之弥高的大山是其代表。因果涌现理论、机器学习重整化技术、信息论或信息分解等近年来新兴的理论与工具,有望破解复杂系统的涌现规律。


集智俱乐部因果涌现读书会目前已经进行了三季。第一季读书会系统地梳理了因果涌现的概念,以及它与Sloopy Model、复杂性阈值、自指等概念之间的联系,也探讨了因果涌现理论在复杂网络、机器学习中的应用。参看:因果涌现读书会启动:连接因果、涌现与自指——跨尺度动力学与因果规律的探索


第二季读书会探讨了涌现、因果科学和机器学习三大主题的融合,包括信息论拓展、因果涌现理论、因果表示学习、多尺度机器学习动力学建模。请参看:因果、涌现与机器学习:因果涌现读书会第二季启动


第三季读书会进一步围绕因果涌现的核心问题「因果涌现的定义」以及「因果涌现的辨识」进行深入学习和讨论,对 Erik Hoel 提出的 Causal Emergence,Causal Geometry 等因果涌现的核心理论进行探讨和剖析,并详细梳理其中涉及到的方法论,包括从动力学约简、隐空间动力学学习等其他领域中学习和借鉴相关的研究思路,最后探讨因果涌现的应用,包括基于生物网络、脑网络或者涌现探测等问题展开扩展,发掘更多的实际应用场景。请参看:因果涌现读书会第三季启动:深入多尺度复杂系统核心,探索因果涌现理论应用


此次读书会主题是「新信息论:从分解到整合」,是因果涌现系列读书会的第四季,将重点梳理信息分解与整合信息论的相关研究。请参看:新信息论:从分解到整合|因果涌现读书会第四季启动


因果涌现社区聚集了600+成员,积累了大量论文解读资料。欢迎感兴趣的朋友报名,加入因果涌现社区,解锁对应录播权限。


因果涌现读书会回放视频
第一季:https://pattern.swarma.org/study_group/7
第二季:https://pattern.swarma.org/study_group/16
第三季:https://pattern.swarma.org/study_group/28
第四季:https://pattern.swarma.org/study_group/35

因果涌现社区共创的文章



点击“阅读原文”,报名读书会