摘要

为更好捕获和理解长文本的上下文信息,提出一种基于全局信息语法增强的长文本机器阅读理解模型。在预训练语言模型基础上,引入语法依存关系树,将语法信息融合进上下文建模中,增强长文本表示;针对长文本存在的全局信息丢失问题,引入门控循环单元神经网络,负责处理和传递各分段信息。通过在大规模标准数据集上进行实验,验证了该模型较于其它方法有不同程度的提升,能够有效处理长文本机器阅读理解任务。

全文