科研之友
微信
新浪微博
Facebook
分享链接
摘要
针对先前提示学习方法中存在的模板迭代更新周期长，泛化能力下降等问题，该文基于改进的提示学习方法提出一种双通道的情感分析模型。该模型首先在提示学习方法中将序列化后的提示模板同输入词向量一起引入到注意力机制结构中，随着输入词向量在多层注意力机制中更新的同时迭代更新提示模板。然后在另一通道采用ALBERT(A Lite BERT)模型来提取语义信息，最后采用集成的方式将提取出来的语义特征输出，以提升整体模型的泛化能力。该文模型在SemEval2014的Laptop和Restaurants数据集、ACL(Association for Computational Linguistics)的Twitter数据集以及斯坦福大学创建的SST-2数据集上进行实验，分类准确率达到80.88%,91.78%,76.78%,95.53%与基线模型Bert Large相比分别有0.99%,1.13%,3.39%,2.84%的提升。与改进前方法的模型相比在Restaurants数据集、Twitter数据集以及SST-2数据集上分别有2.88%,3.60%,2.06%的提升，且比原方法更早达到收敛状态。
- 出版日期2023
- 单位湖北大学
