7.4 故障检测与恢复

并行批处理

1. 知识点论述
「7.4 故障检测与恢复」是《分布式计算系统》并行批处理部分的核心知识点。把大批量计算拆开调度,并在失败时可靠恢复。本知识点首先把握:规模越大,故障越常见。心跳、历史预测、Gossip 都可用于检测。学习时请把它放回整门课主线——把独立计算机组织成对用户像一台机器的系统,并用通信、数据放置、复制、容错与调度把这件事做可靠。
2. 视频教程

Spark 的 cache 与 checkpoint

3. 知识点详解

下面围绕本知识点展开要点说明,建议结合上方视频边看边对照。

  1. 规模越大,故障越常见。心跳、历史预测、Gossip 都可用于检测。
  2. 独立检查点:各自存档,可能出现孤儿消息,连续回滚会变成多米诺效应。
  3. 协调检查点:Chandy-Lamport 在系统继续运行时记录进程状态和通道消息,得到一致快照。
  4. 消息日志:记录消息,减少必须回滚的距离;悲观日志在发送前先落盘。
  5. 前向恢复:不回到旧状态,从当前错误状态设法继续向前。
学习建议:先抓住定义与问题,再理解机制步骤,最后对照应用场景思考“何时用、何时不用、代价是什么”。
4. 应用场景
  • 检查点与消息日志用于长作业容错。
  • Chandy-Lamport 一致快照思想。
  • 前向恢复适用于可补偿业务。