论文浅尝 | 从 6 篇顶会论文看「知识图谱」领域最新研究进展 | 解读 & 代码

本文内容源自往期「论文浅尝」，由 PaperWeekly 精选并重新排版整理，感谢 PaperWeekly。

ISWC 2018

■ 链接 | http://www.paperweekly.site/papers/1912

■ 源码 | https://github.com/quyingqi/kbqa-ar-smcnn

■ 解读 | 吴桐桐，东南大学博士生，研究方向为自然语言问答

概述

随着近年来知识库的快速发展，基于知识库的问答系统（KBQA ）吸引了业界的广泛关注。该类问答系统秉承先编码再比较的设计思路，即先将问题和知识库中的三元组联合编码至统一的向量空间，然后在该向量空间内做问题和候选答案间的相似度计算。该类方法简单有效，可操作性比较强，然而忽视了很多自然语言词面的原始信息。

因此，本文提出了一种 Attentive RNN with Similarity Matrix based CNN（AR-SMCNN）模型，利用 RNN 和 CNN 自身的结构特点分层提取有用信息。

文中使用 RNN 的序列建模本质来捕获语义级关联，并使用注意机制同时跟踪实体和关系。同时，文中使用基于 CNN 的相似矩阵和双向池化操作建模数据间空间相关性的强度来计算词语字面的匹配程度。

此外，文中设计了一种新的实体检测启发式扩展方法，大大降低了噪声的影响。文中的方法在准确性和效率上都超越了 SimpleQuestion 基准测试的当前最好水平。

模型

模型如上图所示，假设单关系问题可以通过用单一主题和关系论证来查询知识库来回答。因此，只需要元组（s，r）来匹配问题。只要s和r的预测都是正确的，就可以直接得到答案（这显然对应于o）。

根据上述假设，问题可以通过以下两个步骤来解决： 

1. 确定问题涉及的 Freebase 中的候选实体。给定一个问题 Q，我们需要找出实体提及（mention）X，那么名称或别名与实体提及相同的所有实体将组成实体候选 E。现在 E 中的所有实体都具有相同的实体名称，因此我们暂时无法区分他们。具体地，模型中将命名实体识别转换成了基于 Bi-LSTM 完成的序列标注任务。 

2. 所有与 E 中的实体相关的关系都被视为候选关系，命名为 R。我们将问题转换为模式 P，它是通过用 <e> 替换问题中的提及而创建的。为了找出与问题真正相关的关系，我们将 P 与 R 中的每个关系进行比较并对它们进行评分，然后将得分最高的关系作为最终结果。

为了更好地进行关系匹配，模型从单词字面表达和语义两个层面对自然语言进行了建模。具体操作如下图所示：

图中所示的 AR-SMCNN 模型，输入是经替换 mention 后的问题模版（pattern）P 和候选关系 rk。

模型左边的部分是结合了 attention 机制的 BiGRU，用于从语义层面进行建模。右边的部分是 CNN 上的相似性矩阵，用于从字面角度进行建模。最终将特征