文章 2024-11-18 来自:开发者社区

大数据实时计算产品的对比测评:实时计算Flink版 VS 自建Flink集群

1. 使用背景与测试场景 在业务中,我主要利用大数据实时计算满足以下需求: 实时用户行为分析:快速捕捉用户操作轨迹,生成行为标签并反馈到推荐系统。业务指标监控:生成实时关键指标(KPI)告警,保障系统运行稳定性。大规模数据处理:每天处理数亿级别日志数据,确保...

文章 2024-08-19 来自:开发者社区

实时计算 Flink版产品使用问题之在YARN集群上运行时,如何查看每个并行度的详细处理数据情况

问题一:根据官网的文档,是使用flink+holo 还是flink+paimon更好呀,更节约成本? 我这边的业务场景是需要把用户点击到下单完成的整个业务串起来,形成一个业务宽表,时延5分钟左右,根据官网的文档,是使用flink+holo 还是flink+paimon更好呀,更节约成本? 参考答案: 后者 更节约成本 关于...

实时计算 Flink版产品使用问题之在YARN集群上运行时,如何查看每个并行度的详细处理数据情况
文章 2024-08-19 来自:开发者社区

实时计算 Flink版产品使用问题之部署到 Kubernetes 集群时,任务过一会儿自动被取消,该如何排查

问题一:实时计算 Flink版有没有clickhouse的连接器分享下呗? 实时计算 Flink版有没有clickhouse的连接器分享下呗? 参考答案: 如果您需要在Flink中连接ClickHouse数据库,您可以考虑以下几种方法: 1.自定义连接器: 您可以尝试自己开发一个连接ClickHouse的Flink连接器。Flink提供了创建自...

实时计算 Flink版产品使用问题之部署到 Kubernetes 集群时,任务过一会儿自动被取消,该如何排查
文章 2024-08-19 来自:开发者社区

实时计算 Flink版产品使用问题之如何把集群通过kubernetes进行部署

问题一:Flink冷备工作机制是什么? Flink冷备工作机制是什么? 参考答案: Flink冷备工作机制主要涉及到作业的迁移,以确保在切换到备份作业时,能够无缝继续处理数据并保持业务连续性。 冷备,通过停止数据库对外服务的能力,通过文件拷贝的方式将数据快速进行备份归档的操作方式。简而言之,冷备,就是复制粘贴,在linux上通过cp命令就可以很...

实时计算 Flink版产品使用问题之如何把集群通过kubernetes进行部署
文章 2024-07-16 来自:开发者社区

实时计算 Flink版产品使用问题之如何解决Flink集群在nativeKubernetes部署方式下日志无法映射到宿主机并容易丢失的问题

问题一:使用 flink 同步 mysql的数据,哪个版本支持部署? 使用 flink 同步 mysql的数据到 maxcomputer 的Transaction Table2.0 表只有这个版本的vvr-4.0.16-flink-1.13才可以部署吗?或者哪个版本支持部署呢? 参考答案: 我们自己还没有支持,他们有个开源的已经支持了,我问了下那边文档...

实时计算 Flink版产品使用问题之如何解决Flink集群在nativeKubernetes部署方式下日志无法映射到宿主机并容易丢失的问题
文章 2024-07-16 来自:开发者社区

实时计算 Flink版产品使用问题之要配置MySQL集群存储节点,该如何配置

问题一:flink cdc 集群的mysql要怎么写呢? flink cdc 集群的mysql要怎么写呢?mysql集群存储节点: 10.85.25.201 3213-3216 10.85.25.202 3213-3216 10.85.25.203 3213-3216 10.85.25.204 3213-3216 WITH ( 'conne...

实时计算 Flink版产品使用问题之要配置MySQL集群存储节点,该如何配置
文章 2024-07-16 来自:开发者社区

实时计算 Flink版产品使用问题之如何避免集群重启后job信息和运行状态丢失

问题一:Flink CDC里一般怎么解决维表更新问题,维表数据可能比主表数据后到的情况怎么办? Flink CDC里一般怎么解决维表更新问题,维表数据可能比主表数据后到的情况,我看官方文档有个look up hint 的功能,所以来试试怎么搞? 参考答案: 可以使用无界流模式下的异步查找(Async Lookup): 使用 Temp...

实时计算 Flink版产品使用问题之如何避免集群重启后job信息和运行状态丢失
文章 2024-07-16 来自:开发者社区

实时计算 Flink版产品使用问题之直接killyarn-session集群导致正在运行的任务失败,该如何恢复

问题一:请问一下Flink mysqlcdc获取到数据之后 关联结果不更新 这个怎么办? 请问一下Flink 一个kafka流跟mysql cdc流关联 kafka流直接获取到数据执行sql mysqlcdc获取到数据之后 关联结果不更新 这个怎么办? 参考答案: 您好,您的问题可能与Flink的CDC(Change Data Capture)有关。在...

实时计算 Flink版产品使用问题之直接killyarn-session集群导致正在运行的任务失败,该如何恢复
文章 2024-07-16 来自:开发者社区

实时计算 Flink版产品使用问题之集群重启后,所有的Jobs任务丢失,如何快速恢复

问题一:mysql Flink CDC获取增量数据的时候,速度追不上最新的binlog,有什么解决办法嘛? mysql Flink CDC获取增量数据的时候,速度追不上最新的binlog,这个有什么解决办法嘛? 参考答案: 您好,MySQL Flink CDC获取增量数据时,如果速度追不上最新的binlog,可以尝试以下方法: 全量...

文章 2024-06-16 来自:开发者社区

实时计算 Flink版产品使用问题之如何对搭建的集群的taskmanager数量进行扩容或缩容

问题一:Flink CDC是不是只能提交standalone模式和yarn-session? Flink CDC使用flinksql客户端提交flink实时任务,是不是只能提交standalone模式和yarn-session,没办法提交application模式? 参考答案: Flink CDC 使用 FlinkSQL 客户端提交实时任务时,并不局限...

实时计算 Flink版产品使用问题之如何对搭建的集群的taskmanager数量进行扩容或缩容

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

阿里云实时计算Flink

一套基于Apache Flink构建的一站式、高性能实时大数据处理平台,广泛适用于流式数据处理、离线数据处理、DataLake计算等场景。

+关注