文章 2024-08-02 来自:开发者社区

"Flink+Paimon:阿里云大数据云原生运维数仓的创新实践,引领实时数据处理新纪元"

随着大数据产品云原生化的加速推进,云原生集群的规模和数量急剧增加,这给运维工作带来了前所未有的挑战。为了有效应对这些挑战,阿里云大数据团队结合Apache Flink与自研的Paimon数据湖解决方案,构建了一套实时云原生运维数仓,显著提升了运维能力和数据处理的实时性。本文将通过实际案例分析,详细阐述Flink&...

文章 2024-07-09 来自:开发者社区

Flink+Paimon在阿里云大数据云原生运维数仓的实践

1. 背景 随着大数据产品云原生化的推进,云原生集群的规模和数量都在增加,云原生集群的运维难度也在不断增加,云原生集群的资源审计、资源拓扑、资源趋势的需要就比较迫切。云原生集群的资源审计主要是 node 资源、pod 资源,如当前集群的 node 数量以及Pod 数量;资源拓扑主要构建用户->实例->pod->node->集群的关联关系,例如一个公有云用户,提供给运维团.....

Flink+Paimon在阿里云大数据云原生运维数仓的实践
文章 2023-07-13 来自:开发者社区

联通 Flink 实时计算平台化运维实践

摘要:本文整理自联通数科实时计算团队负责人、Apache StreamPark Committer 穆纯进在 Flink Forward Asia 2022 平台建设专场的分享,本篇内容主要分为四个部分: 实时计算平台背景介绍 Flink 实时作业运维挑战 基于 StreamPark 一体化管理 未来规划与演进 点击查看原文视频 & 演讲PP...

联通 Flink 实时计算平台化运维实践
文章 2023-03-07 来自:开发者社区

如何降低 Flink 开发和运维成本?阿里云实时计算平台建设实践

摘要:本文整理自阿里云高级技术专家,Apache Flink Contributor 周凯波(宝牛),在 FFA 2022 平台建设专场的分享。本篇内容主要分为四个部分:业务背景平台架构演进平台核心功能建设未来规划点击查看直播回放和演讲 PPT一、业务背景在阿里集团内部,实时业务的场景主要分为四大类。第一个场景是实时 ETL,这是目前使用最广泛的场景,比如在集团的实时数据公共层业务中会对数据做统....

如何降低 Flink 开发和运维成本?阿里云实时计算平台建设实践
阿里云文档 2022-07-20

问题描述Dataphin数据集成任务Flink DataStream为什么在Dev运维环境中无法运行?解决方案Flink DataStream作业是硬编码,避免Dev环境任务跑起来把数据写入到生产数据源。Flink DataStream作业需要在Prod运维环境运行。适用于Dataphin

阿里云文档 2022-01-13

问题描述Dataphin在运维中看不到实时任务的运行实例,但是在flink那边的页面上是可以看到运行的实例。问题原因客户是在bayes上进行运维操作而没有在dataphin操作。解决方案可以在dataphin实时任务列表页,操作【启动】,触发dataphin侧实时实例生成即可,针对新生成的实例,操作...

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

阿里云实时计算Flink

一套基于Apache Flink构建的一站式、高性能实时大数据处理平台,广泛适用于流式数据处理、离线数据处理、DataLake计算等场景。

+关注