大数据实时数仓Hologres(四):基于Flink+Hologres搭建实时数仓
文章目录
基于Flink+Hologres搭建实时数仓
一、使用示例
二、方案架构
1、架构优势
2、Hologres核心优势
三、实践场景
四、项目准备
1、创建阿里云账号AccessKey
2、准备MySQL数据源
五、构建实时数仓编辑
1、管理元数据
2、构建ODS层
2.1、创建CDAS同步作业ODS
2.2、查看MySQL同步到Hologres的3张表数据
3、构建DWD层
3.1、创建DWD层宽表
3.2、实现实时消费ODS层orders、orders_pay表的binlog,写入DWD层
3.3、查看宽表dwd_orders数据
4、构建DWS层
4.1、创建DWS层聚合表
4.2、数据写入DWS层表
4.3、查看DWS层数据
5、数据探查
5.1、流模式探查
5.2、批模式探查
5.3、应用1:Key-Value服务
5.4、应用2:明细查询
5.5、应用3:实时报表
基于Flink+Hologres搭建实时数仓
一、使用示例
随着社会数字化发展,企业对数据时效性的需求越来越强烈。除传统的面向海量数据加工场景设计的离线场景外,大量业务需要解决面向实时加工、实时存储、实时分析的实时场景问题。
如何搭建实时数仓?
二、方案架构
实时计算Flink版是强大的流式计算引擎,支持对海量实时数据高效处理。Hologres是一站式实时数仓,支持数据实时写入与更新,