一种神经网络量化方法

作者:樊春晓; 胡洲; 宋光明; 王振兴
来源:2020-06-28, 中国, CN202010599019.8.

摘要

本发明公开了一种神经网络量化方法,属于深度学习训练算法技术领域,一种神经网络量化方法,具体过程包括神经网络训练的前向传播阶段、神经网络训练的反向传播阶段、重复上述过程直至神经网络收敛,完成深度神经网络量化。使用本发明量化深度神经网络相对于未量化网络来说精度损失可忽略不计,并且可降低模型存储容量和运算复杂度,便于移植到嵌入式硬件设备发挥量化神经网络在硬件上的计算优势。本发明的量化方法量化过的神经网络可通过使用低比特位编码表示高精度量化值,能有效降低模型存储量和运算复杂度,同时也不会降低网络的高精度,且更适应于硬件的移位计算方式,能够部署在相应硬件上来充分发挥量化神经网络的计算优势。