8.3 联邦学习
新型系统
1. 知识点论述
「8.3 联邦学习」是《分布式计算系统》新型系统部分的核心知识点。把前述原理迁移到图计算、机器学习、云原生与边缘场景。本知识点首先把握:数据留在参与方,交换的是模型更新。学习时请把它放回整门课主线——把独立计算机组织成对用户像一台机器的系统,并用通信、数据放置、复制、容错与调度把这件事做可靠。
2. 视频教程
什么是联邦学习
3. 知识点详解
下面围绕本知识点展开要点说明,建议结合上方视频边看边对照。
- 数据留在参与方,交换的是模型更新。
- 横向:样本不同、特征空间重叠。纵向:样本重叠、特征不同。
- 训练:本地更新,服务器聚合,再下发。
- 难点:参与方算力和网络不均,以及中途退出。
学习建议:先抓住定义与问题,再理解机制步骤,最后对照应用场景思考“何时用、何时不用、代价是什么”。
4. 应用场景
- 医疗、金融等数据不出域的联合建模。
- 横向/纵向联邦场景划分。
- 处理参与方掉线与算力不均。