文章 2024-03-12 来自:开发者社区

Apache Hudi入门指南(含代码示例)

1. 什么是Apache Hudi 一个spark 库 大数据更新解决方案,大数据中没有传统意义的更新,只有append和重写(Hudi就是采用重写方式) 使用Hudi的优点 使用Bloomfilter机制+二次查找,可快速确定记录是更新还是新增 更新范围小,是文件级别,不是表级别 文件大小与hdfs的Blocksiz...

文章 2024-03-12 来自:开发者社区

实战 | Apache Hudi回调功能简介及使用示例

1. 功能简介 从0.6.0版本开始,Hudi开始支持 commit 回调功能,即每当Hudi成功提交一次 commit, 其内部的回调服务就会向外部系统发出一条回调信息,用户可以根据该回调信息查询Hudi表的增量数据,并根据具体需求进行相应的业务处理。 1.1 支持的回调方式 当前 HoodieDeltaStreamer 可通过 HTTP(默认) 和 Kafka 两种方...

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

Apache Spark 中国技术社区

阿里巴巴开源大数据技术团队成立 Apache Spark 中国技术社区,定期推送精彩案例,问答区数个 Spark 技术同学每日在线答疑,只为营造 Spark 技术交流氛围,欢迎加入!

+关注
相关镜像