摘要

在句子级情感分类任务中,针对深度学习模型易受噪声干扰而导致的分类效果差问题,提出一种结合对抗训练和注意力机制(Attetion)改进树形长短时记忆网络(Tree-LSTM)的模型。该模型为多层级结构,包括对抗样本的词嵌入层、Tree-LSTM层、注意力机制层。模型中词嵌入层即在词向量添加扰动形成对抗样本,将原始样本与对抗样本一起训练模型,对模型进行正则化处理,增强模型的泛化能力,Tree-LSTM层可以提取句子结构特征,注意力机制层对Tree-LSTM树的节点赋予不同的权重值以区分不同程度的情感词汇,从而改善模型的分类性能。实验结果显示在数据集SST、MR、COAE2014上,提出模型相比传统模型NBSVM、MNB、LSTM准确率明显提高,比未引入对抗样本的Att-TLSTM模型准确率提高,有更快的收敛速度和稳定性,证明该方法能有效提高情感分类任务中的分类性能。

全文