8.3 联邦学习

新型系统

1. 知识点论述
「8.3 联邦学习」是《分布式计算系统》新型系统部分的核心知识点。把前述原理迁移到图计算、机器学习、云原生与边缘场景。本知识点首先把握:数据留在参与方,交换的是模型更新。学习时请把它放回整门课主线——把独立计算机组织成对用户像一台机器的系统,并用通信、数据放置、复制、容错与调度把这件事做可靠。
2. 视频教程

什么是联邦学习

3. 知识点详解

下面围绕本知识点展开要点说明,建议结合上方视频边看边对照。

  1. 数据留在参与方,交换的是模型更新。
  2. 横向:样本不同、特征空间重叠。纵向:样本重叠、特征不同。
  3. 训练:本地更新,服务器聚合,再下发。
  4. 难点:参与方算力和网络不均,以及中途退出。
学习建议:先抓住定义与问题,再理解机制步骤,最后对照应用场景思考“何时用、何时不用、代价是什么”。
4. 应用场景
  • 医疗、金融等数据不出域的联合建模。
  • 横向/纵向联邦场景划分。
  • 处理参与方掉线与算力不均。