一种神经网络模型随机化方法

作者:李森林; 马竹根; 邓小武
来源:怀化学院学报, 2018, 37(05): 57-60.
DOI:10.16074/j.cnki.cn43-1394/z.2018.05.014

摘要

随着神经网络结构越来越深,参数越来越多,训练更加复杂,导致在交互式应用中难以推广应用.随机化是改善神经网络模型性能的一种有效方法(如随机化初始连接权值和随机化"Dropout"神经网络节点).本文提出了一种基于随机化处理方法,简化了网络结构,降低了网络训练难度.该方法的主要思路:1)对原始数据降维;2)当进行网络训练时,随机交换部分邻域节点输出值;3)引入卷积网络的池化技术,随机池化网络节点连接权值.通过在不同数据集上的实验表明,引入随机化处理的神经网络,预测准确率在80%95%左右,基本满足一般用户需求.

全文