7.3 推测执行

并行批处理

1. 知识点论述
「7.3 推测执行」是《分布式计算系统》并行批处理部分的核心知识点。把大批量计算拆开调度,并在失败时可靠恢复。本知识点首先把握:慢任务可能拖住整个作业。学习时请把它放回整门课主线——把独立计算机组织成对用户像一台机器的系统,并用通信、数据放置、复制、容错与调度把这件事做可靠。
2. 视频教程

YARN 任务推测执行

3. 知识点详解

下面围绕本知识点展开要点说明,建议结合上方视频边看边对照。

  1. 慢任务可能拖住整个作业。
  2. 在另一个节点用同样数据再跑一份,采用先完成的结果。
学习建议:先抓住定义与问题,再理解机制步骤,最后对照应用场景思考“何时用、何时不用、代价是什么”。
4. 应用场景
  • MapReduce/Spark 对慢任务再启动一份。
  • 降低长尾延迟对整体作业完成时间的影响。
  • 注意推测执行带来的额外资源开销。