当前位置: 首页 > news >正文

(十九)Flink CDC

Flink CDC (Flink Change Data Capture) 是基于数据库的日志 CDC 技术,实现了全增量一体化读取的数据集成框架。搭配 Flink 计算框架,Flink CDC 可以高效实现海量数据的实时集成。

目录

CDC 简介

CDC 模式

CDC 产品对比

支持的连接器

环境准备

MySQL 设置


CDC 简介

CDC 是 Change Data Capture(变更数据获取)的简称。核心思想是,监测并捕获数据库的变动(包括数据或数据表的插入、更新以及删除等),将这些变更按发生的顺序完整记录下来,写入到消息中间件中以供其他服务进行订阅及消费。CDC 技术的应用场景非常广泛:

  • 数据同步:用于备份,容灾;
  • 数据分发:一个数据源分发给多个下游系统;
  • 数据采集:面向数据仓库 / 数据湖的 ETL 数据集成,是非常重要的数据源。

CDC 模式

CDC 的实现技术方案非常多,分为主动查询和日志接收两种模式。

基于查询的 CDC:

  • 离线调度查询作业,批处理。把一张表同步到其他系统,每次通过查询去获取表中最新的数据;
  • 无法保障数据一致性,查的过程中有可能数据已经

http://www.mrgr.cn/news/14599.html

相关文章:

  • 麒麟信安系统下使用coredump调试应用程序
  • 【React】为什么Hooks不能出现在判断中
  • ArcGIS栅格裁剪与合并,制作等高线
  • 基于计算机视觉的图书推荐应用【AI编程实录】
  • 沾包问题,wireshark和netstat的使用
  • 程序员的自我修炼:如何拒绝快餐式学习,深耕技能20240829
  • 22AP10 SS524 平替 海思HI3521DV200 可提供开发资料
  • npm pack使用
  • NLP发展脉络-->特征优化阶段
  • 什么是枚举?实现原理?
  • 05_react应用(基于react脚手架)
  • 人工智能算力FP32、FP16、TF32、BF16、混合精度解读
  • consul 运维中遇到的问题
  • 如何开Stand Up Meeting
  • SEO之网站结构优化(十三-网站地图)
  • 电脑录屏软件哪个好用又免费?2024电脑录屏软件大合集
  • 打印样式的艺术:用CSS @media 规则优化页面输出
  • C#网络编程之钥:解锁内置功能的强大力量
  • openEuler 下载/安装
  • 从零开始实现一个简单的 Git 操作实例