阿里云文档 2024-10-22

如何实现Flink+DLF数据入湖与分析

数据湖构建(DLF)可以结合阿里云实时计算Flink版(Flink VVP),以及Flink CDC相关技术,实现灵活定制化的数据入湖。并利用DLF统一元数据管理、权限管理等能力,实现数据湖多引擎分析、数据湖管理等功能。本文为您介绍Flink+DLF数据湖方案具体步骤。

阿里云文档 2024-09-19

Flink+DLF数据入湖与分析实践

阿里云实时计算Flink版结合DLF Paimon Catalog,实现Flink作业结果到数据湖的高效写入和元数据同步,支持无缝对接多种计算引擎并优化数据湖管理,本文为您介绍具体的操作流程。

问答 2024-08-19 来自:开发者社区

Flink + Canal的实时数据入湖架构存在哪些主要问题?

Flink + Canal的实时数据入湖架构存在哪些主要问题?

文章 2023-08-29 来自:开发者社区

如何实现基于Flink的高吞吐、精确一致性数据入湖

1. 概览 AnalyticDB MySQL高度兼容MySQL协议,支持毫秒级更新,亚秒级查询,可以对海量数据进行即时的多维分析透视和业务探索;AnalyticDB MySQL湖仓版(下文简称ADB湖仓版)支持低成本离线处理能力完成数据的清洗加工,同时提供高性能在线分析能力完成数据的洞察探索,真正做到数据湖的规模,数据库的体验。帮助企业降本增效,构建企业级数据分析平台。 ...

如何实现基于Flink的高吞吐、精确一致性数据入湖
文章 2022-06-09 来自:开发者社区

Flink CDC + Hudi 海量数据入湖在顺丰的实践

本文整理自顺丰大数据研发工程师覃立辉在 5月 21 日 Flink CDC Meetup 的演讲。主要内容包括:顺丰数据集成背景Flink CDC 实践问题与优化未来规划点击查看直播回放 & 演讲PDF一、顺丰数据集成背景顺丰是快递物流服务提供商,主营业务包含了时效快递、经济快递、同城配送以及冷链运输等。运输流程背后需要一系列系统的支持,比如订单管理系统、智慧物业系统、以及很多中转场、汽....

Flink CDC + Hudi 海量数据入湖在顺丰的实践
文章 2022-05-07 来自:开发者社区

基于Apache Hudi + Flink的亿级数据入湖实践

本次分享分为5个部分介绍Apache Hudi的应用与实践实时数据落地需求演进基于Spark+Hudi的实时数据落地应用实践基于Flink自定义实时数据落地实践基于Flink+Hudi的应用实践后续应用规划及展望1. 实时数据落地需求演进实时平台上线后,主要需求是开发实时报表,即抽取各类数据源做实时etl后,吐出实时指标到oracle库中供展示查询。随着实时平台的稳定及推广开放,各种使用人员有了....

基于Apache Hudi + Flink的亿级数据入湖实践
问答 2022-01-19 来自:开发者社区

Flink CDC 数据入湖的挑战有哪些?

Flink CDC 数据入湖的挑战有哪些?

问答 2022-01-19 来自:开发者社区

Flink CDC 的出现为数据入湖架构提供了哪些新思路?

Flink CDC 的出现为数据入湖架构提供了哪些新思路?

文章 2022-01-10 来自:开发者社区

Flink CDC 如何简化实时数据入湖入仓

一、Flink CDC 介绍从广义的概念上讲,能够捕获数据变更的技术, 我们都可以称为CDC 技术。通常我们说的 CDC 技术是一种用于捕获数据库中数据变更的技术。CDC 技术应用场景也非常广泛,包括:●     数据分发,将一个数据源分发给多个下游,常用于业务解耦、微服务。●     数据集成,将分散异构的数据源集成到数据仓库中,消除数据孤岛,便于后续的....

Flink CDC 如何简化实时数据入湖入仓
文章 2021-07-05 来自:开发者社区

Flink + Iceberg,腾讯百亿级实时数据入湖实战

本文整理自腾讯数据湖研发高级工程师陈俊杰在 4 月 17 日 上海站 Flink Meetup 分享的《百亿级实时数据入湖实战》,文章内容为:腾讯数据湖介绍百亿级数据场景落地未来规划总结GitHub 地址 https://github.com/apache/flink欢迎大家给 Flink 点赞送 star~一、腾讯数据湖介绍从上图可以看出来,整个平台比较大,包括了数据接入、上层的分析、中间的管....

Flink + Iceberg,腾讯百亿级实时数据入湖实战

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

实时计算 Flink

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

+关注