1.因果推理召唤图网络

现实世界中，很多实际应用都需要推断潜在的因果链或者构建对观察、预测的解释。

例如在物理世界中，我们想要在给定很少观察现象的情况下推理出移动物体的轨迹; 在视频流系统中，我们希望推荐模型能够跟踪不断变化的用户兴趣，以提供将用户观看与推荐视频相关联的个性化推荐原因。

在此，我们介绍一篇近期发表在 arxiv.org 上的论文，研究者运用图网络（Graph Network）模型，专注基于图的场景，旨在推断出基于给定图的节点和连边导致观察到的结果的隐含的关系链。

论文题目：

Modeling Attention Flow on Graphs

论文地址：

https://arxiv.org/abs/1811.00497

图网络模型是一系列神经网络，它们在图上运行并且带有很强的关系归纳能力。因此，图网络具有处理图结构数据的强大能力。

然而，当建模可解释的推理过程时，图网络模型的黑盒性质使得它相比其他可微分的逻辑推理模型更不具竞争力。因此，这项工作在图上开发了一种新的注意力机制，称为注意力流，用于对推理过程进行建模，以便可解释预测的最终结果。

文中使用图网络中的消息传递算法来得到随时间步长演变的转换矩阵，以驱动注意力流；另外还让注意力集中在传递的消息上，称为信息流。为了评估模型，本文设计了一组轨迹推理任务，其中仅观察轨迹的源和目标，学习中间轨迹。

这篇文章首先基于图网络建立了注意力流机制（attention flow mechanism），相当于引入了一种新的方法来提高应用图网络时的透明度。其次，文章还展示了注意力流如何能够有效地影响在图网络中进行的消息传递，类似于强化学习。

实验表明，具有显式和后向作用（explicit and backward acting）注意力流的图网络模型在预测准确性和可解释性方面都较优。

图网络的基本架构，图的特征以三种形式表示：节点（nodes），边的关系（relations）以及全局属性（global attributes）

2.设计推理任务

现实场景通常需要对过程进行推理，即通过列出一系列将开头与结果联系起来的因果关系来构建解释。因此，本文通过一个模拟系统来生成事件轨迹，由潜在因素控制其动力学，例如由外力控制的运动物体的轨迹，只允许观察源和目标，进而进行轨迹推理。

文中构建了一个不完整的N×N的网格，随机删除其中一小部分节点或边。

每个节点和它的邻居最多有8种类型的有向边，例如东（E）和东北（NE）。任意选取其中一个节点作为源v0，然后绘制了一系列连续节点来构建轨迹（v0，v1，…，vT），vt为最终目标。

除了源之外的轨迹上的每个节点都是从前一个节点V（x，y）的邻域中选择的，即根据由时间t和位置（x，y）决定的隐方向函数。

如果选择到不存在的边或达到最大步骤，轨迹就会终止。具体来说，生成了四种类型的轨迹：

倾斜的直线
方向随时间变化的sin曲线
方向随当前位置变化
方向取决于历史位置信息

针对轨迹推理问题，本文使用了监督学习的方法。仅考虑可用的源和目标，训练判别模型以通过输入源节点来预测目标节点。

本文中利用了不完整的网格的图结构来解决问题，因为这个问题中包含的很强的推理，关系（连续节点的序列）和非关系（隐方向函数取决于时间，位置和历史信息）。

考虑到许多候选路径将源链接到目标，其实轨迹推理问题是很困难的，可以观察到的唯一线索是由移除的节点或边形成的块引向的目标节点。

在本文中，并没有简单地寻找最短路径，而是寻找了一些潜在动力学支配的真实轨迹模式。本文的评估标准基于预测的准确性和解释的可读性。

图1 双流模型架构

3.引入注意力流模型

建模图上的注意力流

在本文中，给定源预测目标的问题被视为在给定输入注意力分布的情况下预测节点上的输出注意力分布，注意力分布表示参加节点的概率分布。对于每对（Vsrc，Vdst），输入注意力分布全部集中在源节点上，然后在对图上进行一系列计算之后，得到的输出注意力分布预测最可能的节点即是目标。注意力从源传递到目标，意味着通过图上存在一个模仿潜在的因果链的流。

接下来文章尝试从三个不同的角度对图上的注意力流进行建模。

1.图网络中的隐注意力流

图网络主要采用由神经网络构建块来实现消息传递机制，例如MLP和GRU模块。图网络中的表示包括节点级状态hi∈Rd，边级别消息mij∈Rd，以及图级别全局状态g∈Rd。

图网络框架有三个阶段：初始化阶段，传播阶段和输出阶段。

传播阶段的模型包括：

信息函数
信息整合操作
节点更新函数
全局更新函数

为了建模注意力流，首先要好定义初始状态

其中是注意力状态，是辅助状态。研究者初始化源节点为1，其余节点为0。而作为用于计算注意力分布的参考向量。

研究者设置，在输出阶段，通过计算softmax作为输出的注意力分布。

这个模型将注意力流包装在开头的消息传递过程中，并在结束时将其取出。基于神经网络的计算使得传播模型成为黑盒子，缺乏描述注意力流的明确方式，对解释目标无能为力。

2.基于随机游走的显式注意力流（explicit attention flow）

为了显式化地模拟注意力流，研究者使用随机游走（random walks）中可学习的转移矩阵T。注意力流动的动力学由驱动，其中和代表两个连续的注意力分布。

在这里，研究者采用两种模型设置T：

稳定转换设置：

并对每行计算softmax ，转移矩阵T在输入和每一步之间是静止的。
动态转换设置：

请注意，这里没有任何消息传递（message passing）。全局状态的更新，基于受影响的节点状态的加权和。研究者强调注意力分布不仅可以作为内部状态的输出，还可以有效地影响内部状态。在没有利用消息传递的情况下，想以这种方式捕获图的前后关系（context）仍然受到限制。

3.基于图网络的显式注意力流

在享受图网络的表达性时，研究者也希望可以明确注意力流的可解释性。研究者通过引入节点级注意力（node-level attention，又被成为集中注意力 focused attention ）和连边级注意力（ dege-level attention，又被称为流注意力 flowing attention ）来呈现注意力流动机制。在上述的t时刻，动力学由以下因素驱动：

其中，转移矩阵被称为信息流（information flow），它依赖于在图网络中传递的消息所携带的丰富上下文。参见图1中的双流模型架构。

很明显，信息流决定了注意力流，但研究者更关注注意力流如何影响信息流。我们已经看到集中注意力中的节点级的向后传播行为主要关注节点状态之和。这篇文章研究了在连边级别（edge level）上注意力流是如何影响信息流的。

首先通过定义消息参与函数（message attending function），以替换原始消息。

为了设计一个有意义的，当时，使独立于，也就意味着当没有注意力在这条消息上时，消息参与函数不一定是0。研究者找到了消息在大多数情况下，参与函数何时表现最佳，这不仅揭示了向后作用的重要性，而且还揭示了“即使没有参与，也要保持信息流动”的必要性。

与强化学习和概率隐模型的联系

如果注入噪声，然后在每一步中选择表现最好的节点，那么该过程就会以某种类似于强化学习的方式出现。如果在Gumbel-Softmax或Concrete分布中应用噪声并且保持噪声的柔和，它就会变成概率隐模型（probabilistic latent model）。注意流可以被视为，在概率空间中而非离散的样本空间，直接地用数字操作完成图级计算（graph-level computation）。