面向深度卷积神经网络的确定性连接丢弃算法

作者：李鸿杨; 潘静; 何宇清; 庞彦伟^*

来源：陕西师范大学学报(自然科学版), 2020, 48(02): 32-37.

DOI：10.15983/j.cnki.jsnu.2020.01.005

• 深度学习
• 卷积神经网络
• 正则化
• 连接丢弃

针对深度卷积神经网络中存在的过拟合问题,本文提出了一种确定性连接丢弃的正则化方法。核心思想是根据不同卷积滤波器权重对结果的贡献度不同,确定性丢弃卷积层层间连接,通过降低卷积滤波器权重的空间维度,使得卷积神经网络各层之间的连接更稀疏。通过将算法应用于图像分类任务来验证算法的性能,在MNIST、CIFAR-10和CIFAR-100数据集上,错误率分别为0.32%、5.33%、26.88%,相比于原始实验错误率分别降低0.15%、1.09%、1.36%。实验表明,本算法能够有效处理深度卷积神经网络的过拟合问题,并能提升网络的鲁棒性和泛化能力。

• 出版日期2020
• 单位天津大学; 电子工程学院; 天津职业技术师范大学