一个以注意力机制结合隐式和显式的特征交叉的CTR预估模型

作者：王越; 于莲芝

来源：小型微型计算机系统, 2021, 42(09): 1884-1890.

• 因子分解机
• CTR预估
• 推荐系统
• 注意力机制
• 深度神经网络

随着深度学习的发展,近年来CTR预估模型的研究往往基于深度学习使用不同的特征交叉方式来实现CTR预估模型的性能提升.目前最新最有效的研究成果是xDeepFM,它综合了进行隐式和显式的高阶特征交叉方式的子模型.但经实验发现xDeepFM的子模型选择并不完美,而且子模型的组合策略过于简单.对此,本文提出了一种新模型,不仅改进了子模型的选择,而且用注意力机制改进子模型组合方式.为了方便,在本文中将提出的新模型叫做Attentional-xDeepFM-C.在Avazu和Criteo数据集上进行实验,新模型在两组数据集下的AUC得分分别比xDeepFM模型高2.17%和4.97%.本文已在公开网站#上发布了Attentional-xDeepFM-C模型的源代码.

• 出版日期2021
• 单位上海理工大学