问答 2024-04-17 来自:开发者社区

Flink这个问题怎么解决?

咨询一个Flink问题, 非开窗,非聚合的数据倾斜有什么优化思路?在保证相同key的数据在一个task 里面处理的前提下,上游kafka的数据是用户每个时间点的属性变化信息, 需要写入到下游数据库,比如这条数据需要给用户的属性做要求和动作,下一条相同用户可能需要做局部更新动作,在或者相同用户做保留首次属性动作我目前的算子结构是: map.filter.keyby.process.sink ==&g...

问答 2024-04-14 来自:开发者社区

咨询一个Flink问题, 非开窗,非聚合的数据倾斜咋优化呀?

咨询一个Flink问题, 非开窗,非聚合的数据倾斜咋优化呀? 前提条件需要保证相同key的数据在一个task 里面处理;场景大概是: 上游kafka的数据是 用户 每个时间点的 用户 属性变化信息(可能这个时间点是 f1, f2, f3,属性变更; 下一个时间点是: f2, f4 属性变更), 需要写入到下游数据库属性变化信息也分几种, 同一条数据中的 属性操作都是一样, 比如这条数据需要 给用....

问答 2024-04-09 来自:开发者社区

请教下在聚合场景下,如果上游数据出现更新或者删除,如何保证flink sql聚合结果的准确性?

请教下在聚合场景下,如果上游数据出现更新或者删除,如何保证flink sql聚合结果的准确性?

文章 2024-03-09 来自:开发者社区

Flink CDC产品常见问题之Lookup Join之后再分组聚合部分数据从零开始如何解决

问题一:Flink CDC里Lookup Join之后,再分组聚合,为什么跑了两天之后有点数据开始从0聚合? Flink CDC里Lookup Join之后,再分组聚合,为什么跑了两天之后,有点数据开始从0开始聚合了啊?有的数据是正常的,有的数据的清0了,我这边没有设置TTL,状态也会过期吗? 参考回答: 在Flink CDC中进行Lookup Joi...

Flink CDC产品常见问题之Lookup Join之后再分组聚合部分数据从零开始如何解决
问答 2024-03-05 来自:开发者社区

Flink CDC这种在dws层sum(a)聚合,这种在dws聚合的时候怎样处理呢?

Flink CDC这种在dws层sum(a)聚合,通过流读('read.streaming.enabled' = 'true')的方式,算的结果不对吧?+I -U +U 那么对于一个记录,修改后a的值三条,这种在dws聚合的时候怎样处理呢?

文章 2024-02-25 来自:开发者社区

Flink报错问题之Sql往kafka表写聚合数据报错如何解决

问题一:Flink操作 kafka ,hive遇到kerberos过期 请问下 Flink操作 kafka ,hive遇到kerberos过期 有什么解决方法吗?*来自志愿者整理的flink邮件归档 参考答案: 遇到kerberos过期问题,应该是你使用的是ticket cache,而不是keytab文件做认证*来自志愿者整理的flink邮件归档 ...

文章 2024-02-23 来自:开发者社区

Flink CDC 数据源问题之不支持窗口聚合如何解决

问题一:cdc数据源还不支持窗口聚合吗? cdc数据源还不支持窗口聚合吗?#Flink 参考回答: CDC数据出来是一个Changelog流,没法做窗口聚合 关于本问题的...

Flink CDC 数据源问题之不支持窗口聚合如何解决
问答 2024-02-01 来自:开发者社区

Flink的Lookup Join之后,再分组聚合,怎么跑了两天之后,有点数据开始从0开始聚合了?

Flink的Lookup Join之后,再分组聚合,怎么跑了两天之后,有点数据开始从0开始聚合了?

问答 2024-02-01 来自:开发者社区

Flink CDC里Lookup Join之后,再分组聚合,为什么跑了两天之后有点数据开始从0聚合?

Flink CDC里Lookup Join之后,再分组聚合,为什么跑了两天之后,有点数据开始从0开始聚合了啊?有的数据是正常的,有的数据的清0了,我这边没有设置TTL,状态也会过期吗?

问答 2024-01-04 来自:开发者社区

Flink如何使用聚合指标表DWS进行数据探查?

Flink如何使用聚合指标表DWS进行数据探查?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

阿里云实时计算Flink

一套基于Apache Flink构建的一站式、高性能实时大数据处理平台,广泛适用于流式数据处理、离线数据处理、DataLake计算等场景。

+关注