联邦学习相关内容简介

2022-08-14

类别: 软件技术

联邦学习

联邦机器学习（Federated Machine Learning），简称为联邦学习（Federated Learning）是谷歌在 2016 年提出的概念，它本质上是一种保护隐私的多方协作机器学习框架，它允许参与方建立一个联合训练模型，但参与方均在本地维护其底层数据而不将原始数据进行共享。

多个数据拥有方 $F_{i} (i = 1, 2, \dots, N)$ 的目的是将各自的数据 $D_{i}$ 联合，共同训练机器学习模型。传统做法是把数据整合到一方形成全局数据集 $D = {D_{i} ， i = 1, 2, \dots, N}$ ，并利用 $D$ 训练生成模型 $M_{s u m}$ 。然而，该方案因违背数据隐私保护条例而难以实施。为了解决这一问题，联邦学习思想的定义如下

联邦学习是指使得这些数据拥有方 $F_{i}$ 在不用给出己方数据 $D_{i}$ 的情况下也可进行模型训练并得到全局模型 $M_{f e d}$ 的计算过程，并能够保证模型 $M_{f e d}$ 的效果 $V_{f e d}$ 与传统模型 $M_{s u m}$ 的效果 $V_{s u m}$ 间的差距足够小，即
$| V_{f e d} - V_{s u m} | < δ$
其中， $δ$ 为设定的小正量值。