本文共 757 字，大约阅读时间需要 2 分钟。

贴一下汇总贴：

论文链接：

一、摘要

到目前为止，关系抽取系统已经广泛使用了由语言分析模块生成的特征。这些特征中的错误导致关系检测和分类的错误。在这项工作中，我们通过引入用于关系提取的卷积神经网络，从句子中自动学习特征，并最小化对外部工具包和资源的依赖，从而摆脱了这些具有复杂特征工程的传统方法。我们的模型利用过滤器的多窗口大小和预先训练的单词嵌入作为非静态架构上的初始化器来提高性能。我们强调不平衡语料库的关系抽取问题。实验结果表明，我们的系统不仅在关系抽取方面明显优于最好的基线系统，而且在关系分类方面也优于最先进的系统。

二、结论

我们提出了一个用于关系抽取的CNN，它强调了不平衡的语料库，并最小化了外部监督的自然语言处理工具包对特征的使用。该网络使用多种窗口大小进行过滤，使用位置嵌入进行相对距离编码，使用预先训练的单词嵌入进行非静态架构中的初始化。实验结果证明了该神经网络在钢筋混凝土和钢筋混凝土上的有效性。

我们未来的工作包括：

• (1)用更多的可再生能源特征来丰富神经网络的表示；
• (2)研究神经网络在其他相关任务中的应用；
• (3)研究可再生能源的其他神经网络模型。

三、模型结构

基本结构也是基于卷积神经网络 + 最大池化层来做关系抽取任务，使用的不在是单一的卷积核，而是采用 2014 年kim做情感分类时提出的模型结构，可以多个卷积核，不同宽度，更加多粒度获取句子信息。

• 模型输入部分采用词向量和位置向量特征拼接，其中词向量采用的是预训练的方法，位置向量是当前词与两个实体的相对位置距离，映射为位置向量。
• 卷积神经网络部分采用的是多个卷积核，通过利用多个不同宽度的卷积核来抽取多粒度的特征。
• 最后也是最大池化 + softmax，其中还应用了dropout和$L_2$正则化等策略。

转载地址：http://xrpq.baihongyu.com/