背景

在机器学习算法被大量应用到真实世界的决策过程中的时候，研究人员开始关注那些对人有重大影响的高风险场景中（如金融、医疗相关的领域），依据算法作出的决定是否是公平的。如果有偏见的算法被广泛应用到人类社会中，我们可以想象它们将带来一系列的危害，如在招聘时根据性别、年龄淘汰候选人，在计算信用分数时对少数族裔不利等等。因此，确保机器学习算法的公平至关重要。

内容简介

本次分享主要集中在回答以下问题：如何有效利用因果模型来改进机器学习模型公平性？我们会首先介绍传统的、量化机器学习模型公平性的指标。然后，我们介绍因果模型在定义公平性时扮演的角色，如反现实公平性的定义。最后，我们介绍一些基于因果模型对机器学习算法公平性进行优化的工作，例如如何使图神经网络和文本分类模型满足反现实公平性。

主讲人

郭若城，香港城市大学助理教授，研究方向为因果机器学习。2021年获亚利桑那州立大学杰出计算机科学博士生奖项。在重要学术期刊ACM CSUR、ACM Trans和数据挖掘领域重要国际学术会议SIGKDD、WSDM、ICWSM、IJCAI等发表学术论文30余篇。

参考文献

1. Kusner, Matt J., Joshua Loftus, Chris Russell, and Ricardo Silva. “Counterfactual fairness.” Neurips 2017.
2. Kilbertus, Niki, Philip J. Ball, Matt J. Kusner, Adrian Weller, and Ricardo Silva. “The sensitivity of counterfactual fairness to unmeasured confounding.” In UAI 2020.
3. Garg, Sahaj, Vincent Perot, Nicole Limtiaco, Ankur Taly, Ed H. Chi, and Alex Beutel. “Counterfactual fairness in text classification through robustness.” In AIES 2019.
4. Makhlouf, Karima, Sami Zhioua, and Catuscia Palamidessi. “Survey on causal-based machine learning fairness notions.” arXiv preprint arXiv:2010.09553 (2020).
5. Ma, Jing, Ruocheng Guo, Mengting Wan, Longqi Yang, Aidong Zhang, and Jundong Li. “Learning Fair Node Representations with Graph Counterfactual Fairness.” WSDM 2022.

直播信息

时间：

2022年3月13日上午10:00-12:00

参与方式：

• 文末扫码参加读书会第三季，加入群聊，获取系列读书会回看权限，成为因果社区种子用户，与900余位社区的科研工作者沟通交流，共同推动因果科学的发展。
• 集智俱乐部 B 站免费直播，扫码可预约。

扫码预约

因果科学读书会第三季启动

读书会大纲一览：

Donald Rubin：Essential Concepts of causal inference

因果推断在观察性研究中的应用（续）：ANALYSIS

因果与公平性和可解释性

「深入理论学习」

点击“阅读原文”，报名直播

本篇文章来源于微信公众号: 集智俱乐部