内容简介:检查点(Checkpoint)机制是 Flink 实现错误容忍机制的核心。通过持续以异步的方式保存轻量级的镜像,当错误(机器、网络或者软件原因)发生时,系统重启操作并重置操作到最新保存成功的检查点。Flink 镜像参考论文:Flink 检查点需要两点:
检查点(Checkpoint)机制是 Flink 实现错误容忍机制的核心。通过持续以异步的方式保存轻量级的镜像,当错误(机器、网络或者软件原因)发生时,系统重启操作并重置操作到最新保存成功的检查点。
Flink 镜像参考论文: Lightweight Asynchronous Snapshots for Distributed Dataflows
前提
Flink 检查点需要两点:
- 持久化数据源支持重放(Replay)数据,如消息队列(Kafka 等)文件系统(HDFS 等)
- 持久化存储,通常为分布式文件系统(HDFS 等)
初始化
默认情况下,检查点是禁用的,启用检查点调用 StreamExecutionEnvironment.enableCheckpointing
方法。
val env = StreamExecutionEnvironment.getExecutionEnvironment() // 每 1000 ms 保存一次检查点 env.enableCheckpointing(1000) // 高级选项: // 设置模式为恰好一次(默认) env.getCheckpointConfig.setCheckpointingMode(CheckpointingMode.EXACTLY_ONCE)
参考
以上所述就是小编给大家介绍的《学习 Flink(六):检查点》,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对 码农网 的支持!
猜你喜欢:- Oracle-OCP学习笔记:检查点队列
- MySQL(InnoDB剖析):06---Checkpoint(检查点)技术
- k8s与健康检查--grpc服务健康检查最佳实践
- Nginx 健康检查
- Nginx健康检查模块
- Java调试检查表
本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们。
时间的朋友2018
罗振宇 / 中信出版集团 / 2019-1
2018年,有点不一样。 从年头到现在,各种信息扑面而来。不管你怎么研判这些信息的深意,有一点是有共识的:2018,我们站在了一个时代的门槛上,陌生,崭新。就像一个少年长大了,有些艰困必须承当,有些道路只能独行。 用经济学家的话说,2018年,我们面对的是一次巨大的“不确定性”。 所谓“不确定性”,就是无法用过去的经验判断未来事情发生的概率。所以,此时轻言乐观、悲观,都没有什么意......一起来看看 《时间的朋友2018》 这本书的介绍吧!