上传者: 38705873
|
上传时间: 2022-02-25 18:44:22
|
文件大小: 128KB
|
文件类型: -
句子的分类非常具有挑战性,因为句子包含的上下文信息有限。 在本文中,我们提出了一种用于句子分类的注意力门控卷积神经网络(AGCNN),该方法通过使用专用的卷积编码器从不同大小的特征上下文窗口中生成注意权重。 它充分利用有限的上下文信息来提取和增强重要特征在预测句子类别中的影响。 实验结果表明,我们的模型可比标准CNN模型提高3.1%的精度,并且在六项任务中的四项上均能获得超过基准的竞争性结果。 此外,我们设计了一个激活函数,即自然对数重定比例的整流线性单位(NLReLU)。 实验表明,NLReLU的性能优于ReLU,可与AGCNN上的其他知名激活功能相媲美。