有人遇到过 scala 中 flink sinkdoris 设置 不生效 的问题吗?
有人遇到过 scala 中 flink sinkdoris 设置 CheckInterval 与 BufferCount 不生效 的问题吗?根据测试结果 走的应该是checkpoint 而不是 按照这两个参数进行数据库写入的
scala中关闭任务结束后的 Checkpoint,Flink设置的时候报异常,怎么解决?
scala中关闭任务结束后的 Checkpoint,Flink设置的时候报异常,怎么解决?
放弃flink mongodb cdc 了,用scala写的,依赖根本解不完,也没人更新维护,后面?
放弃flink mongodb cdc 了,用scala写的,依赖根本解不完,也没人更新维护,后面测试下debezium。从maven引用 com.ververica flink-connector-mongodb-cdc 2.3.0依赖的jar包自己内部都不兼容,真是调了整整一天,真是面向依赖编程...
我M1在Docker装zepplin用IDEA scala写flink,代码报红,这种有解决方案吗?
我M1在Docker装zepplin用IDEA scala写flink,代码报红,这种有解决方案吗? 还是说M1芯片目前解决不了这个问题?

Flink / Scala - DataSource 之 DataSet 获取数据总结
一.引言编辑数据源创建初始数据集,这里主要以 DataSet 数据源为例,例如从文件或者从 collection 中创建,后续介绍 DataStreaming 的数据源获取方法。创建数据集的机制一般抽象在 InputFormat 后面,这里有点类似 spark 的 sparkContext,Flin...

Flink / Scala - DataSource 之 DataStream 获取数据总结
一.引言DataStream API 得名于特殊的 DataStream 类,该类用于表示 Flink 程序中的数据集合。你可以认为 它们是可以包含重复项的不可变数据集合。这些数据可以是有界(有限)的,也可以是无界(无限)的,但用于处理它们的API是相同的。DataStream 在用法上类似于常规的...

Flink / Scala - 使用 Jedis、JedisPool 作为 Source 读取数据
一.引言现在有一批数据写入多台 Redis 相同 key 的队列中,需要消费 Redis 队列作为 Flink Source,为了提高可用性,下面基于 JedisPool 进行队列的消费。队列数据示例: 1,2,3,4,5、A,B,C,D,E,程序将字符串解析并 split(",") 然后分别写到下...

Flink / Scala - ProcessFunction 之间共用缓存测试
一.引言Flink 开发中有如下场景,数据需要经过两次 ProcessFunction 处理,第一步 ProcessV1 的一些信息重复不想通过每条数据传输至 ProcessV2,这时便捷的方法时对 ProcessV1 需要存储的元素进行去重缓存,保证全局共用一份缓存,可以有效减少储存空间...

Flink / Scala- BroadCast 广播流数据先到再处理 Source 数据
一.引言Flink 支持增加 DataStream KeyBy 之后 conncet BroadCastStream 形成 BroadConnectedStream,广播流内数据一般为不间断更新的上下文信息,在本例中,需要针对数据流中的用户信息,基于用于信息 + 广播流内的物料库实现推荐逻辑,针对&...

Flink / Scala - 使用 CountWindow 实现按条数触发窗口
一.引言CountWindow 数量窗口分为滑动窗口与滚动窗口,类似于之前 TimeWindow 的滚动时间与滑动时间,这里滚动窗口不存在元素重复而滑动窗口存在元素重复的情况,下面 demo 场景为非重复场景,所以将采用滚动窗口。二.CountWindow 简介编辑这里最关键的一句话是: ...
更新时间 2023-09-28 18:43:52
本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。