导语


结构因果模型(SCM)是表示因果关系的重要方法。图神经网络是在多个领域都取得出色表现的深度学习新贵。DeepMind9月10日提交在arXiv的最新工作“Relating Graph Neural Networks to Structural Causal Models”,提出了基于图神经网络的变分图自编码器来解决因果问题,在图神经网络和结构因果模型之间建立了新的联系,是在深度学习在因果推断问题上的新尝试。


集智俱乐部特别邀请到论文第一作者Matej Zečević进行一场线上直播,详细介绍这项工作并与感兴趣的国内外同行交流。直播时间为9月24日(周五)21:00-22:00,欢迎感兴趣的朋友报名。参与方式为zoom会议室和B站。本次直播交流语言为英文。



论文题目:

Relating Graph Neural Networks to Structural Causal Models

论文地址:

https://arxiv.org/abs/2109.04173


理解因果是人类认知的核心,而深度学习在函数拟合方面获取了巨大的成功,如何将因果关系与深度学习的理论相结合,是理解人类智能的关键之一。


本次分享将以神经-因果(Neuro-Causality)这个值得探讨的新方向开始,基于之前的探索,Xia, Lee, Bengio 和 Bareinboim最近形式化了因果与神经网络之间的关系(e.g. Kocaoglu et al. 2017, Ke et al. 2020),神经-因果模型有望可以在一些广泛的应用中,实现基于神经网络的因果推理。


Judea Pearl在他的开创性著作中对纯粹因果关系进行了形式化的思考,并用结构因果模型 (Structural causal model, SCM) 来描述它,因果结构模型可以描述现实世界中人们感兴趣的变量及其相互作用,是一种能够形式化表述数据背后因果假设的方法。对于大多数感兴趣的过程来说,底层的SCM只是部分可见的,因此因果推理试图利用任何可观测的信息。


图神经网络 (Graph neural networks, GNNs) 可以处理图类型数据,能够对连边和节点进行建模,在药物发现和地图预测等方面取得了很好的效果,但GNN模型在输入的结构上存在归纳偏置,即,输入的维度是相关的,这样它们就形成了一个图结构。


基于这两个模型的核心结构都是图结构,DeepMind团队Zečević, Dhami, Veličković, 和 Kersting设计了一种基于图神经网络的变分图自编码器,用于近似Pearl因果层次结构中的因果计算问题,建立了图神经网络和结构因果模型之间的转换机制。


本次分享作者将会从第一性原理出发,推导出GNN和SCM之间的理论联系,并提供一个对一般神经因果模型的扩展观点,提出了Neural Causal Models (NCM) 模型,通过形式化GNN的干预,利用变分图自编码器建立了一个新的神经因果模型类,并用实证检验了该理论模型在识别和估计任务中的实际因果推理,最后作者将对神经-因果的关系未来有趣的研究方向进行进一步的展望,提出更多可以进一步探索的方向。


分享人


Matej Zečević,达姆施塔特工业大学(Technische Universität Darmstadt)计算机科学专业博士候选人他的研究兴趣是强化学习中的Disentanglement问题。

个人主页:https://matej-zecevic.de/


主持人


陆超超剑桥大学机器学习组博士生,他的研究兴趣是机器学习,特别是涉及到如何结合因果推理、贝叶斯推理、强化学习和深度学习各自的优势,并将它们应用在现实领域中解决实际问题,如计算机视觉和医疗等领域。

个人主页:https://causallu.com/



时间:2021年9月24日21:00-22:00(北京UTC/GMT+8)

报名链接:https://pattern.swarma.org/mobile/activity/4

扫码报名



因果科学读书会第二季


哥伦比亚大学 CausalAI 实验室主任 Elias Bareinboim 在其 ACM 邀请文章中提到:“如果我们希望下一代人工智能系统是安全的,稳健的,与人类兼容的,提升人类社会福祉的,那么把因果之梯和人类经验连接起来是至关重要的步骤”。回顾人类从亚里士多德开始的 2000 多年的因果研究历程,探求事物之间的因果关系是哲学、自然科学和社会科学等众多研究所追求的终极目标。那么如何让 AI 系统超越曲线拟合,攀登因果之梯思考为什么,并使用因果建模回答因果问题?是本次读书会希望解决的问题。

详情请见:
连接统计学、机器学习与自动推理的新兴交叉领域——因果科学读书会再起航
600+学者共攀因果之梯,因果科学风暴再升级!



点击“阅读原文”,报名直播