GRN: Gated Relation Network to Enhance Convolutional Neural Network for Named Entity Recognition

论文地址:http://ise.thss.tsinghua.edu.cn/MIG/2019-2.pdf

摘要

        这个领域方法对命名实体识别(N-ER)较多适用复杂循环神经网络(RNN),例如长短句存储(LSTM)。然而,RNNs受到限制被他们的循环自然相对于计算有效性。相对的,卷积神经网络(CNN)可以全部开发GPU并行用它们的反馈框架。然而,较少的注意在NER使用CNNs,主要归因于他们困难的在容量长句内容信息在一个序列中。在这篇文章中,我们提出了一个简单但是有效的基于CNN的网络对于NER,门相关网络(GRN),它能够容纳很多对比普通的CNNs在处理长句内容。明确地,在GRN我们首先利用CNNs去搜索居于内容特征对每个词。然后我们模型关联在单词和使用它们作为门去融合局部内容特征进入到全局来预测标签。没有使用循环层处理一个句子在一个顺序方式,我们的GRN允许计算工作并行通过整句。实验在两个基准数据集上(CoNLL-2003 以及 Ontonotes 5.0)表明,我们提出的GRN能够实现先进的性能在有或者没有先验知识的情况下。它也有低时间消耗在训练和测试上。

核心网络流程说明

GRN: Gated Relation Network to Enhance Convolutional Neural Network for Named Entity Recognition

使用CNN提取不同类型的特征对一个单词

GRN: Gated Relation Network to Enhance Convolutional Neural Network for Named Entity Recognition

提取单词的局部内容特征

GRN: Gated Relation Network to Enhance Convolutional Neural Network for Named Entity Recognition

在GRN中组成全局内容特征

数据集说明

GRN: Gated Relation Network to Enhance Convolutional Neural Network for Named Entity Recognition