基于异构数据的联邦学习系统

作者:蔡文渊; 魏森辉; 高明; 顾海林; 徐林昊; 孙嘉
来源:2021-03-23, 中国, ZL202110309164.2.

摘要

本发明涉及一种基于异构数据的联邦学习系统,包括中央服务器、K个客户端、存储有计算机程序的存储器和处理器,所述中央服务器存储有每轮联邦学习得的全局控制变量S、全局模型参数W,所述全局控制变量S用于记录本轮全局模型更新的方向;所述客户端存储有每次参与联邦学习得到每一参与客户端得到的本地控制变量S~i,所述本地控制变量S~i用于记录客户端本次参与联邦学习训练的本地模型更新的方向,i的取值为1到K。本发明降低了基于异构数据的联邦学习的通信代价,提高了联邦学习收敛速度和收敛稳定性。