当前位置: 首页 > news >正文

Flink从ck拉起任务脚本

#!/bin/bashAPP_NAME="orderTest"CHECKPOINT_BASE_PATH="hdfs:///jobs/flink/checkpoints/aaa-test/"is_running=$(yarn application -list | grep -w "$APP_NAME" | grep -c "RUNNING")if [ $is_running -gt 0 ]; thenecho "应用程序 '$APP_NAME' 在运行中,退出脚本"exit 1
elseecho "应用程序 '$APP_NAME' 不在运行中,准备拉起任务"
figet_latest_checkpoint() {latest_checkpoint=$(hdfs dfs -ls -t -R $CHECKPOINT_BASE_PATH  | grep '_metadata' | sort -k6,7r | head -n 1 | awk '{print $8}'  )if [ -z "$latest_checkpoint" ]; thenecho "没有找到适合的ck,退出执行"exit 1ficheckpoint_dir=$(dirname "$latest_checkpoint")echo $checkpoint_dir
}LATEST_CHECKPOINT=$(get_latest_checkpoint)
echo " '$APP_NAME' 任务将从 '$LATEST_CHECKPOINT' 启动"flink run \-t yarn-per-job \-d \-p 1 \-Dyarn.application.queue=realtime \-Dyarn.application.name=$APP_NAME\-Djobmanager.memory.process.size=1024mb \-Dtaskmanager.memory.process.size=1000mb \-Dtaskmanager.memory.managed.size=0mb \-Dtaskmanager.memory.network.max=64mb \-Dtaskmanager.numberOfTaskSlots=1 \-c com.test.Main\-s $LATEST_CHECKPOINT \./ds-test-1.0.jar

备注:由于Flink checkpoint 个别情况下,不一定能保证落地的checkpoint文件一定有效,所以需要人工介入支持。


http://www.mrgr.cn/news/41031.html

相关文章:

  • Visual Studio C# 处理和修复 WinRiver II 测量项目 MMT 文件错误
  • C++ 语言特性08 - 非静态成员的初始化
  • 音视频入门基础:FLV专题(10)——Script Tag实例分析
  • Leecode热题100-48.旋转图像
  • 【MAUI】CollectionView之 垂直网格
  • html中的文本标签(含标签的实现案例)
  • .NET 一款支持冰蝎的免杀WebShell
  • 麒麟系统命令失效快速修复
  • 一文掌握Harbor镜像同步公有云镜像仓库实践
  • Python机器学习框架介绍和入门案例:Scikit-learn、TensorFlow与Keras、PyTorch
  • JS中Object和Array的相互转换:深入全面讲解
  • 语言的嵌套和函数指针
  • 控制流的高级用法或探讨更复杂的编程主题
  • 顺序表讲解
  • uniapp 上了原生的 echarts 图表插件了 兼容性还行
  • 生信初学者教程(二十二):Boruta+RF筛选候选标记物
  • NumPy 第一课 -- 简介
  • ISA-95制造业中企业和控制系统的集成的国际标准-(4)
  • 合并代码讲解
  • 《PMI-PBA认证与商业分析实战精析》第4章 商业分析规划