基于XLNet的医学文本实体关系识别模型

作者：郑增亮; 沈宙锋; 苏前敏^*

来源：智能计算机与应用, 2023, 13(04): 8-13.

• 医疗文本
• 医疗实体关系抽取
• XLNet
• 双向门控循环单元
• 注意力机制
• TextCNN

目前在处理医学文本实体间关系提取任务中，使用传统的词向量表示方法无法解决医学文本中的词多义性问题，加上基于长短时记忆网络对文本语义局部特征抽取不够充分，不能充分捕捉医疗文本隐藏的内部关联信息。因此，提出一种基于XLNet-BiGRU-Attention-TextCNN的医疗文本实体关系抽取模型。利用XLNet模型将输入的医疗文本转化为向量形式，接着连接双向门控循环神经网络(BiGRU)提取文本语句的长距离依赖关系，然后使用注意力机制(Attention)为特征序列分配权重，降低噪声影响，最后利用文本卷积神经网络(TextCNN)对序列进行局部特征提取并通过softmax层输出关系抽取结果。实验结果表明，本文所提模型在精确率、召回率和F值上均优于基准模型。

• 出版日期2023
• 单位上海工程技术大学