问答 2024-12-28 来自:开发者社区

Flink CDC中如果MySQL 字段设置了默认值,字段值为空时,捕获到的变更数据为默认值??

这个问题我在本地复现是偶现问题,字段值为空时,捕获的值有时候是默认值,有时候又是空。 这个问题困扰我几天了,社区里也没找到完整可行的方案:目前看到两种解决方法,描述不太清楚看不明白。期待大佬指导下。1、回答:这个之前也有其他人反馈过,我是重写了SchemaBuilder,默认值直接指定为null,此回答整理自钉群“Flink CDC 社区”2023-11-16 08:43:19链接:https:....

问答 2024-10-29 来自:开发者社区

flink cdc paimon设置了file.format为parquet但生成的文件依然是orc

问题描述 我在使用Flink + Flink cdc + Paimon + oss 做数据同步,在cdc的yaml里指定了paimon的文件格式是parquet,但生成的文件依然是默认的文件格式orc,请问是什么原因? 软件版本 Flink :1.18.1Flink CDC : 3.1.0Paimon: 0.8.0 cdc yaml source: type: mysql name: M...

文章 2024-10-14 来自:开发者社区

大数据-128 - Flink 并行度设置 细节详解 全局、作业、算子、Slot

点一下关注吧!!!非常感谢!!持续更新!!! 目前已经更新到了: Hadoop(已更完) HDFS(已更完) MapReduce(已更完) Hive(已更完) Flume(已更完) Sqoop(已更完) Zookeeper(已更完) HBase(已更完) Redis (已更完) Kafka(已更完) ...

大数据-128 - Flink 并行度设置 细节详解 全局、作业、算子、Slot
文章 2024-10-14 来自:开发者社区

大数据-123 - Flink 并行度 相关概念 全局、作业、算子、Slot并行度 Flink并行度设置与测试

点一下关注吧!!!非常感谢!!持续更新!!! 目前已经更新到了: Hadoop(已更完) HDFS(已更完) MapReduce(已更完) Hive(已更完) Flume(已更完) Sqoop(已更完) Zookeeper(已更完) HBase(已更完) Redis (已更完) Kafka(已更完) ...

大数据-123 - Flink 并行度 相关概念 全局、作业、算子、Slot并行度 Flink并行度设置与测试
问答 2024-08-28 来自:开发者社区

flink是实时读取sls日志的,哪个字段能可以设置读取的开始时间?

flink是实时读取sls日志的,哪个字段能可以设置读取的开始时间?可以根据SLS中自定义的字段设置么?

文章 2024-08-22 来自:开发者社区

Flink SQL 在快手实践问题之设置 Window Offset 以调整窗口划分如何解决

问题一:Window Offset 的主要作用是什么? Window Offset 的主要作用是什么? 参考回答: Window Offset 主要用来调整窗口的划分逻辑,它是一个可选参数,默认值为 0,表示以 unix 时间的零点作为窗口划分的起始时间。其值可以是正数或负数,分别表示向右或向左偏移窗口的起始时间。但它不会影响 watermark 的生...

文章 2024-08-19 来自:开发者社区

实时计算 Flink版产品使用问题之如何在EMR-Flink的Flink SOL中针对source表单独设置并行度

问题一:请问:Flink1.13.6版本除了升级flink版本外还有其他解决办法吗? 请问:Flink1.13.6版本的单节点flink出现“Apache Flink Dashboard未授权访问导致任意Jar包上传漏洞”这个问题,除了升级flink版本外还有其他解决办法吗? 参考答案: "Flink Dashboard未授权访问导致任意Jar包上传漏...

实时计算 Flink版产品使用问题之如何在EMR-Flink的Flink SOL中针对source表单独设置并行度
文章 2024-08-19 来自:开发者社区

实时计算 Flink版产品使用问题之提交任务时如何设置TaskManager的数量

问题一:flink 1.19.0 版本 任务提交命令中设置TaskManager 个数的参数是哪个? flink 1.19.0 版本 任务提交命令中设置TaskManager 个数的参数是哪个? 参考答案: 在 Flink 1.19.0 版本中,提交任务时可以通过命令行参数来设置 TaskManager 的数量。你可以使用 -p 或 -D 参数来设置并...

文章 2024-08-19 来自:开发者社区

实时计算 Flink版产品使用问题之水位线的设置方法是什么

问题一:flink cdc可以sink 到hive嘛报错不支持update呢? flink cdc可以sink 到hive嘛报错不支持update呢? 参考答案: 在 Flink 中使用 CDC (Change Data Capture) 连接器从数据库(如 MySQL)捕获变更数据后,通常希望将这些变更数据同步到另一个存储系统,如 Hive。然而,H...

实时计算 Flink版产品使用问题之水位线的设置方法是什么
文章 2024-08-19 来自:开发者社区

实时计算 Flink版产品使用问题之如何设置白名单

问题一:Flink这样设计是不是有问题? RDS多个表的数据组(例如订单表)合成一个大宽表(中间查询RDS其他数据), 数据存到CK, 由于订单表的数据频繁的表动, 导致CK这边大宽表的更新的信息延时很严重, Flink这样设计是不是有问题? 还是直接组合大宽表到RDS,RDS支持频繁更新,然后整个打款表数据同步到CK ? 参考...

实时计算 Flink版产品使用问题之如何设置白名单

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

实时计算 Flink

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

+关注