基于BERT-LSTM模型的情感分析研究

作者：蒲秋梅; 黄方俐; 王辉

来源：中国电子科学研究院学报, 2023, 18(10): 912-920.

DOI：10.3969/j.issn.1673-5692.2023.10.006

• 情感分类
• 自然语言处理
• BERT
• LSTM
• 深度学习
• 机器学习

情感分类技术在舆论评价和商品评价等诸多领域均有广泛使用，对自然语言处理领域来说具有很重要的研究意义。在当前的社交网络文本中，用户不仅仅使用文字来传达情感，其文本中的表情元素也带有浓厚的情感色彩。传统情感分析模型容易忽略表情元素，从而导致模型未能正确判断文本情感。文中将BERT预训练模型和长短时记忆网络相结合，运用带表情元素的weibo＿senti＿100k数据集实现一个针对微博评论的情感二分类模型。BERT-LSTM模型利用BERT嵌入层对预处理后的句子进行分割并将其转换为动态词向量，结合LSTM模型提取文本和表情元素的特征，最后以预测评论文本的情感极性。实验验证表情元素的重要性和BERT-LSTM模型情感分类的有效性，结果表明同时考虑文字和表情元素相较于纯文字来说模型分类准确率提高20%,BERT-LSTM模型的分类准确率为98.31%、F1值为98.28%,相比传统机器学习模型和其他深度学习模型在最终结果上表现出明显优势。

• 出版日期2023
• 单位中央民族大学