文章 2021-06-04 来自:开发者社区

来电科技:基于 Flink + Hologres 的实时数仓演进之路

作者:陈健新,来电科技数据仓库开发工程师,目前专注于负责来电科技大数据平台离线和实时架构的整合。GitHub 地址 https://github.com/apache/flink欢迎大家给 Flink 点赞送 star~深圳来电科技有限公司(以下简称 “来电科技”)是共享充电宝行业开创企业,主要业务覆盖充电宝自助租赁、定制商场导航机开发、广告展示设备及广告传播等服务。来电科技拥有业内立体化产品线....

来电科技:基于 Flink + Hologres 的实时数仓演进之路
文章 2021-06-01 来自:开发者社区

来电科技:基于Flink+Hologres的实时数仓演进之路

作者:陈健新,来电科技数据仓库开发工程师,目前专注于负责来电科技大数据平台离线和实时架构的整合。深圳来电科技有限公司(以下简称“来电科技”)是共享充电宝行业开创企业,主要业务覆盖充电宝自助租赁、定制商场导航机开发、广告展示设备及广告传播等服务。来电科技拥有业内立体化产品线,大中小机柜以及桌面型,目前全国超过90%的城市实现业务服务落地,注册用户超2亿人,实现全场景用户需求。一、大数据平台介绍(一....

来电科技:基于Flink+Hologres的实时数仓演进之路
文章 2021-06-01 来自:开发者社区

Flink + Iceberg 在去哪儿的实时数仓实践

作者:余东摘要: 本文介绍去哪儿数据平台在使用 Flink + Iceberg 0.11 的一些实践。内容包括:背景及痛点Iceberg 架构痛点一:Kafka 数据丢失痛点二:近实时 Hive 压力大Iceberg 优化实践总结GitHub 地址 https://github.com/apache/flink欢迎大家给 Flink 点赞送 star~一、背景及痛点1. 背景我们在使用 Flin....

Flink + Iceberg 在去哪儿的实时数仓实践
文章 2021-03-23 来自:开发者社区

实时数仓专题 | Apache Flink 实时数仓最佳实践

随着数字化业务的增长,企业的数据量呈现爆发式增长,数据仓库已经成为企业数据发展到一定规模后必然提供的基础服务之一。Apache Flink 作为业界公认为最好的流计算引擎,其计算能力不仅仅局限于做流处理,而是一套兼具流、批、机器学习等多种计算功能的大数据引擎,用户只需根据业务逻辑开发一套代码,无论是全量数据还是增量数据,亦或者实时处理,一套方案即可全部支持。在实际的应用场景中,Flink 已成为....

实时数仓专题 | Apache Flink 实时数仓最佳实践
文章 2021-01-28 来自:开发者社区

Flink + Iceberg 全场景实时数仓的建设实践

整理|路培杰(Flink 社区志愿者) 摘要:Apache Flink 是目前大数据领域非常流行的流批统一的计算引擎,数据湖是顺应云时代发展潮流的新型技术架构,以 Iceberg、Hudi、Delta 为代表的解决方案应运而生,Iceberg 目前支持 Flink 通过 DataStream API /Table API 将数据写入 Iceberg 的表,并提供对 Apache Flink 1.....

Flink + Iceberg 全场景实时数仓的建设实践
文章 2021-01-26 来自:开发者社区

Flink 助力美团数仓增量生产

本文由美团研究员、实时计算负责人鞠大升分享,主要介绍 Flink 助力美团数仓增量生产的应用实践。内容包括: 数仓增量生产 流式数据集成 流式数据处理 流式 OLAP 应用 未来规划 一、数仓增量生产 1.美团数仓架构 先介绍一下美团数仓的架构以及增量生产。如下图所示,这是美团数仓的简单架构,我把它叫做三横四纵。所谓三横,第一是贯穿全链路的元数据以及血缘,贯穿数据集成、数据处理、数据消费、以...

Flink 助力美团数仓增量生产
文章 2021-01-05 来自:开发者社区

数仓实时化改造:Hudi on Flink 在顺丰的实践应用

作者 | 蔡适择(顺丰大数据平台负责人) 整理 | 赵阳(Flink 社区志愿者) 本文主要介绍顺丰在数据仓库的数据实时化、数据库 CDC、Hudi on Flink 上的实践应用及产品化经验。文章主要分为以下几部分: ● 顺丰业务介绍 ● Hudi on Flink ● 产品化支持 ● 后续计划 1、顺丰业务 1.1 顺丰大数据的应用 先来看一下顺丰大数据业务的全景图。 大数据平台,中间的基.....

数仓实时化改造:Hudi on Flink 在顺丰的实践应用
文章 2020-12-04 来自:开发者社区

基于Flink的资讯场景实时数仓

直达最佳实践:【基于Flink的资讯场景实时数仓】最佳实践频道:【点击查看更多上云最佳实践】 这里有丰富的企业上云最佳实践,从典型场景入门,提供一系列项目实践方案,降低企业上云门槛的同时满足您的需求! 场景描述 本实践针对资讯聚合类业务场景,Step by Step介绍如何搭建实时数仓。 解决问题 1.如何搭建实时数仓。2.通过实时计算Flink实现实时ETL和数据流。3.通过实时计算F...

基于Flink的资讯场景实时数仓
文章 2020-11-25 来自:开发者社区

Hologres+Flink实时数仓详解

点击免费下载《实时数仓技术入门一本通》>>> 也可在PC端打开 https://developer.aliyun.com/topic/download?id=961 下载 一、Hologres生态 从前面几篇的内容,相信大家已经了解到Hologres是一款兼容PostgreSQL协议的实时交互式分析产品。在生态的兼容性上,Hologres有着非常庞大的生态家族,如下图所示,...

Hologres+Flink实时数仓详解
文章 2020-11-17 来自:开发者社区

基于 Flink + ClickHouse 打造轻量级点击流实时数仓

作者:LittleMagic Flink 和 ClickHouse 分别是实时计算和(近实时)OLAP 领域的翘楚,也是近些年非常火爆的开源框架,很多大厂都在将两者结合使用来构建各种用途的实时平台,效果很好。关于两者的优点就不再赘述,本文来简单介绍笔者团队在点击流实时数仓方面的一点实践经验。 点击流及其维度建模 所谓点击流(click stream),就是指用户访问网站、App 等 Web 前端....

基于 Flink + ClickHouse 打造轻量级点击流实时数仓

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

阿里云实时计算Flink

一套基于Apache Flink构建的一站式、高性能实时大数据处理平台,广泛适用于流式数据处理、离线数据处理、DataLake计算等场景。

+关注