文章 2024-03-12 来自:开发者社区

Apache Hudi 异步Compaction部署方式汇总

本篇文章对执行异步Compaction的不同部署模型全面汇总。 1. Compaction 对于Merge-On-Read表,数据使用列式Parquet文件和行式Avro文件存储,更新被记录到增量文件,然后进行同步/异步compaction生成新版本的列式文件。Merge-On-Read表可减少数据摄入延迟,因而进行不阻塞摄入的异步Compaction很有意义。 2. 异...

文章 2024-03-07 来自:开发者社区

深入理解Apache Hudi异步索引机制

在我们之前的文章中,我们讨论了多模式索引[1]的设计,这是一种用于Lakehouse架构的无服务器和高性能索引子系统,以提高查询和写入性能。在这篇博客中,我们讨论了构建如此强大的索引所需的机制,异步索引机制的设计,类似于 PostgreSQL[2] 和 MySQL[3] 等流行的数据库系统,它支持索引构建而不会阻塞写入。 背景 Apache Hudi 将事务和更新/删除/更改流添...

深入理解Apache Hudi异步索引机制
文章 2022-05-07 来自:开发者社区

一文彻底掌握Apache Hudi异步Clustering部署

1. 摘要在之前的一篇中,我们介绍了Clustering(聚簇)的表服务来重新组织数据来提供更好的查询性能,而不用降低摄取速度,并且我们已经知道如何部署同步Clustering,本篇博客中,我们将讨论近期社区做的一些改进以及如何通过HoodieClusteringJob和DeltaStreamer工具来部署异步Clustering。2. 介绍通常讲,Clustering根据可配置的策略创建一个计....

文章 2022-05-06 来自:开发者社区

Apache Hudi异步Compaction方式汇总

1. Compaction对于Merge-On-Read表,数据使用列式Parquet文件和行式Avro文件存储,更新被记录到增量文件,然后进行同步/异步compaction生成新版本的列式文件。Merge-On-Read表可减少数据摄入延迟,因而进行不阻塞摄入的异步Compaction很有意义。2. 异步Compaction异步Compaction会进行如下两个步骤调度Compaction:由....

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

Apache Spark 中国技术社区

阿里巴巴开源大数据技术团队成立 Apache Spark 中国技术社区,定期推送精彩案例,问答区数个 Spark 技术同学每日在线答疑,只为营造 Spark 技术交流氛围,欢迎加入!

+关注
相关镜像