文章 2024-05-19 来自:开发者社区

Flink+Hologres搭建实时数仓

方案介绍 Flink+Hologres搭建实时数仓 通过Flink将数据源写入Hologres,形成ODS层。Flink订阅ODS层的Binlog进行加工,形成DWD层再次写入Hologres。Flink订阅DWD层的Binlog,通过计算形成DWS层,再次写入Hologres。最后由Hologres对外提供应用查询。 解决问题:中间层不易查 Hologres的每...

文章 2024-05-08 来自:开发者社区

基于OceanBase+Flink CDC,云粒智慧实时数仓演进之路

摘要:本文整理自云粒智慧高级技术专家付大伟在 4 月 20 日的 2024 OceanBase 开发者大会上的分享,讲述了其数据中台在传统数仓技术框架下做的一系列努力后,跨进 FlinkCDC 结合 OceanBase 的实时数仓演进过程。内容主要分为以下几个部分: 业务背景及挑战实时数仓的架构演进未来规划 4月20日,云粒智慧高级技术专...

 基于OceanBase+Flink CDC,云粒智慧实时数仓演进之路
问答 2024-04-22 来自:开发者社区

Flink有没有做过实时数仓的大佬,请教个问题。我是否可以实时统计今天有多少人来参加了这个活动?

Flink有没有做过实时数仓的大佬,请教个问题。比如我有这样一个需求。有一个活动,参加这个活动需要去买票后,像是坐地铁那样刷卡进去。然后我这边有个数据库会实时更新刷卡人的信息,我是否可以实时统计今天有多少人来参加了这个活动。就是count(刷卡时间)这种操作?

问答 2024-02-28 来自:开发者社区

我们公司有个flink实时数仓的项目,想请问下咱们这边是否有成熟的落地方案和服务可以售卖?

我们公司有个flink实时数仓的项目,想请问下咱们这边是否有成熟的落地方案和服务可以售卖?

问答 2024-02-28 来自:开发者社区

Flink实时数仓在现有资源的情况下最好建在哪里?

可用资源:datahub, RDS, ES,flink场景:有RDS中有三个部分的欠费A表、B表、C表, 这三个表在RDS中本身就是一直在变化的, A B C三个部分共同组成欠费目标:实现实时欠费统计 存入实时数仓中的层中的欠费D表(D表的数据需要一直实时被更新)问题:1、实时数仓在现有资源的情况下最好建在哪里(其实最好是有kafka),2、D表的数据怎么实现一直实时变化更新 (这个不是统计...

文章 2024-02-26 来自:开发者社区

flink问题之做实时数仓sql保证分topic区有序如何解决

问题一:flink 1.10 kafka collector topic 配置pattern 请教大家,flink 1.10里面kafka connector 不能配置topic pattern,后续会支持吗? 参考回答: 可以关注下:https://issues.apache.org/jira/browse/FLINK-18449 预计1.1...

文章 2024-01-29 来自:开发者社区

flink实时数仓保障体系

1 时效性保证1:查看kafka延迟监控:flink 消费上游的 lag(比如看消费 kafka lag 情况) 2:分层和时延之间做好平衡和取舍,既需要保证复用性,又要避免造成链路过长。 3:乱序数据的处理。 4:提前压测,应对流量高峰期,特别是大促场景下,提前做好资源保障、任务优化等措施。 5:设置好延时基线,通过优化程序代码、资源、解决倾斜与反压等问题,使其控制在base line之内。 ....

flink实时数仓保障体系
文章 2024-01-18 来自:开发者社区

基于 Flink 的实时数仓在曹操出行运营中的应用

本文整理自曹操出行基础研发部负责人史何富,在 Flink Forward Asia 2023 主会场的分享。本次分享将为大家介绍实时数仓在曹操出行(互联网网约车出行企业)的实时数仓应用场景,以及通过离线场景向实时场景下加速升级而获得的业务价值。内容主要分为以下六部分: 业务简介实时数仓解决业务痛点曹操出行实时数仓运营落地及收益...

基于 Flink 的实时数仓在曹操出行运营中的应用
文章 2024-01-16 来自:开发者社区

基于 Hologres+Flink 的曹操出行实时数仓建设

1.业务背景曹操出行创立于 2015 年 5 月 21 日,是吉利控股集团布局“新能源汽车共享生态”的战略性投资业务,以“科技重塑绿色共享出行”为使命,将全球领先的互联网、车联网、自动驾驶技术以及新能源科技创新应用于共享出行领域,以“用心服务国民出行”为品牌主张,致力于打造服务口碑最好的出行品牌。作为一家互联网出行平台,曹操主要提供了网约车、顺风车和专车等出行服务。其中,打车是其核心业务之一。整....

基于 Hologres+Flink 的曹操出行实时数仓建设
文章 2024-01-11 来自:开发者社区

流式湖仓增强,Hologres + Flink 构建企业级实时数仓

2023 年 12 月,由阿里云主办的实时计算闭门会在北京举行,阿里云实时数仓 Hologres 研发负责人姜伟华现场分享 Hologres+Flink 构建的企业级实时数仓,实现全链路的数据实时计算、实时写入、实时更新、实时查询。同时,随着流式湖仓的兴起,Hologres 除了支持 Delta、Hudi 等通用湖格式...

流式湖仓增强,Hologres + Flink 构建企业级实时数仓

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

阿里云实时计算Flink

一套基于Apache Flink构建的一站式、高性能实时大数据处理平台,广泛适用于流式数据处理、离线数据处理、DataLake计算等场景。

+关注