问答 2022-01-13 来自:开发者社区

Kafka + Flink + ElasticSearch 的混合分析系统就如何运作的?

Kafka + Flink + ElasticSearch 的混合分析系统就如何运作的?

问答 2022-01-13 来自:开发者社区

Kafka + Flink + ElasticSearch 的混合分析系统怎么理解?

Kafka + Flink + ElasticSearch 的混合分析系统怎么理解?

问答 2022-01-08 来自:开发者社区

Kafka + Flink + ElasticSearch 的混合分析系统图是什么样的?

Kafka + Flink + ElasticSearch 的混合分析系统图是什么样的?

文章 2021-12-29 来自:开发者社区

【kafka源码】ReassignPartitionsCommand源码原理分析(附配套教学视频)

文章目录1.脚本的使用2.源码解析2.1`--generate ` 生成分配策略分析2.2`--execute ` 执行阶段分析2.2.1 已有任务,尝试限流2.2.2 当前未有执行任务,开始执行副本重分配任务2.2.3 Controller监听`/admin/reassign_partitions`节点变化onPartitionReassignment2.2.4 Controller监听节点`....

【kafka源码】ReassignPartitionsCommand源码原理分析(附配套教学视频)
问答 2021-12-10 来自:开发者社区

为什么离线分析要用kafka?

为什么离线分析要用kafka?

文章 2020-02-13 来自:开发者社区

DataLakeAnalysis: 使用DataX同步Kafka数据到OSS进行分析

平常业务开发中我们经常有流式数据保存在Kafka里面,这部分数据很多场景也是需要分析的,今天给大家介绍下如果使用DataX把数据从Kafka同步到OSS,保存成对分析友好的Parquet格式,然后利用DLA进行分析的全流程。为了后续叙述的方便,我们假设Kafka里面保存的是订单的数据,它包含如下字段: id, int类型 name, string类型 gmt_create, bigint类型,.....

文章 2019-12-26 来自:开发者社区

SQLServer CDC数据通过Kafka connect实时同步至分析型数据库 AnalyticDB For PostgreSQL及OSS

背景 SQLServer为实时更新数据同步提供了CDC机制,类似于Mysql的binlog,将数据更新操作维护到一张CDC表中。开启cdc的源表在插入INSERT、更新UPDATE和删除DELETE活动时会插入数据到日志表中。cdc通过捕获进程将变更数据捕获到变更表中,通过cdc提供的查询函数,可以捕获这部分数据。 CDC的使用条件 1.SQL server 2008及以上的企业版、开发版和评估....

SQLServer CDC数据通过Kafka connect实时同步至分析型数据库 AnalyticDB For PostgreSQL及OSS
文章 2019-07-16 来自:开发者社区

Kafka or RabbitMQ:消息中间件选型深入分析

一、前言消息队列中间件(简称消息中间件)是指利用高效可靠的消息传递机制进行与平台无关的数据交流,并基于数据通信来进行分布式系统的集成。通过提供消息传递和消息排队模型,它可以在分布式环境下提供应用解耦、弹性伸缩、冗余存储、流量削峰、异步通信、数据同步等等功能,其作为分布式系统架构中的一个重要组件,有着举足轻重的地位。 目前开源的消息中间件可谓是琳琅满目,能让大家耳熟能详的就有很多,比如Active....

文章 2019-04-12 来自:开发者社区

Kafka or RabbitMQ:消息中间件选型深入分析

一、前言 消息队列中间件(简称消息中间件)是指利用高效可靠的消息传递机制进行与平台无关的数据交流,并基于数据通信来进行分布式系统的集成。通过提供消息传递和消息排队模型,它可以在分布式环境下提供应用解耦、弹性伸缩、冗余存储、流量削峰、异步通信、数据同步等等功能,其作为分布式系统架构中的一个重要组件,有着举足轻重的地位。 目前开源的消息中间件可谓是琳琅满目,能让大家耳熟能详的就有很多,比如Activ....

文章 2018-08-23 来自:开发者社区

【干货】Kafka 事务特性分析

特性背景 消息事务是指一系列的生产、消费操作可以要么都完成,要么都失败,类似数据库的事务。这个特性在0.10.2的版本是不支持的,从0.11版本开始才支持。华为云DMS率先提供Kafka 1.1.0的专享版服务,支持消息事务特性。 支持事务消息有什么作用?消息事务是实现分布式事务的一种方案,可以确保分布式场景下的数据最终一致性。例如最常用的转账场景,小王 转账到小明,实际操作是小王账户减去相...

【干货】Kafka 事务特性分析

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

消息队列

消息队列是构建分布式互联网应用的基础设施,通过消息队列实现的松耦合架构设计可以提高系统可用性以及可扩展性,是适用于现代应用的优秀设计方案。

+关注