文章 2024-03-07 来自:开发者社区

探索Apache Hudi核心概念 (1) - File Layouts

在以往众多介绍Apcache Hudi的文章中,对核心概念的解读大多会引用官方文档中的概念图,像Timeline(时间线)、File Layouts(文件布局)这类结构清晰,逻辑严谨的概念,图解是很好的说明方式。但是,抽象概念与实际运行状况还是有不少差异的,相信很多学习和使用Hudi的开发者都曾尝试过:将文档中的概念和Hudi的实际运行状况结合起来推导每个动作背后的逻辑是什么。这个过程非常有意义....

探索Apache Hudi核心概念 (1) - File Layouts
文章 2024-03-07 来自:开发者社区

探索Apache Hudi核心概念 (2) - File Sizing

在本系列的上一篇[1]文章中,我们通过Notebook探索了COW表和MOR表的文件布局,在数据的持续写入与更新过程中,Hudi严格控制着文件的大小,以确保它们始终处于合理的区间范围内,从而避免大量小文件的出现,Hudi的这部分机制就称作“File Sizing”。本文,我们就针对COW表和MOR表的File Sizing进行一次深度探索。 1. 运行 Notebook 本文将继...

探索Apache Hudi核心概念 (2) - File Sizing
文章 2024-03-07 来自:开发者社区

探索Apache Hudi核心概念 (3) - Compaction

Compaction是MOR表的一项核心机制,Hudi利用Compaction将MOR表产生的Log File合并到新的Base File中。本文我们会通过Notebook介绍并演示Compaction的运行机制,帮助您理解其工作原理和相关配置。 1. 运行 Notebook 本文使用的Notebook是:《Apache Hudi Core Conceptions (4) - M...

探索Apache Hudi核心概念 (3) - Compaction
文章 2024-03-07 来自:开发者社区

探索Apache Hudi核心概念 (4) - Clustering

探索Apache Hudi核心概念 (4) - Clustering Clustering是Hudi在0.7.0版本引入的一项特性,用于优化文件布局,提升读写性能,现在它已经成为Hudi的一项重要性能优化手段。本文我们会通过Notebook介绍并演示Clustering的运行机制,帮助您理解其工作原理和相关配置。 1. 运行 Notebook 本文使用的Notebook是...

探索Apache Hudi核心概念 (4) - Clustering
文章 2022-05-06 来自:开发者社区

Apache Hudi核心概念一网打尽

1. 场景近实时写入减少碎片化工具的使用CDC 增量导入 RDBMS 数据限制小文件的大小和数量近实时分析相对于秒级存储 (Druid, OpenTSDB) ,节省资源提供分钟级别时效性,支撑更高效的查询Hudi 作为 lib,非常轻量增量 pipeline区分 arrivetime 和 event time 处理延迟数据更短的调度 interval 减少端到端延迟 (小时 -> 分钟) ....

Apache Hudi核心概念一网打尽
文章 2017-05-02 来自:开发者社区

Apache Kylin权威指南2.1 核心概念

第2章 快?速?入?门 第1章介绍了Kylin的概况,以及与其他SQL on Hadoop技术的比较,相信读者对Kylin已经有了一个整体的认识。本章将详细介绍Kylin的一些核心概念,然后带领读者逐步定义数据模型,创建Cube,并通过SQL来查询Cube,以帮助读者对Kylin有更为直观的了解。 2.1 核心概念 在开始使用Kylin之前,我们有必要先了解一下Kylin里的各种概念和术语,...

文章 2017-01-29 来自:开发者社区

Apache Kylin的核心概念

1、表(table):This is definition of hive tables as source of cubes,在build cube 之前,必须同步在 kylin中。2、模型(model):模型描述了一个星型模式的数据结构,它定义了一个事实表(Fact Table)和多个查找表(Lookup Table)的连接和过滤关系。3、 Cube 描述:描述一个Cube实例的定义...

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

Apache Spark 中国技术社区

阿里巴巴开源大数据技术团队成立 Apache Spark 中国技术社区,定期推送精彩案例,问答区数个 Spark 技术同学每日在线答疑,只为营造 Spark 技术交流氛围,欢迎加入!

+关注
相关镜像