《Apache Flink 案例集(2022版)》——2.数据分析——快手-Flink SQL 在快手的扩展和实践(1)
作者:张静、张芒用户背景 快手作为领先的内容社区及社交平台,其使命是成为全球最痴迷于为客户创造价值的公司,快手提供的产品和服务可满足用户自然产生的各种需求,包括娱乐、线上营销服务、电商、网络游戏、在线知识共享等。 平台现状快手从2018年开始对Flink进行深度整合,经过4年发展,实时计算平台逐渐完善并赋能周边各种组件。 2018 年针对 Flink 1.4 进行了平台化建设并大幅提....

《Apache Flink 案例集(2022版)》——2.数据分析——快手-Flink SQL 在快手的扩展和实践(2)
《Apache Flink 案例集(2022版)》——2.数据分析——快手-Flink SQL 在快手的扩展和实践(1) https://developer.aliyun.com/article/1228373生产实践一、功能扩展 为了支持内部的业务需求,快手做了很多功能扩展,其中两个围绕窗口的扩展尤为重要:一个是 Group Window Aggregate 扩展,一个是在 Flip-145 ....

《Apache Flink 案例集(2022版)》——2.数据分析——快手-Flink SQL 在快手的扩展和实践(3)
《Apache Flink 案例集(2022版)》——2.数据分析——快手-Flink SQL 在快手的扩展和实践(2) https://developer.aliyun.com/article/1228372二、 性能优化 聚合上的状态优化 聚合上的状态优化 这是一个聚合场景下 distinct states 状态复用的案例,需要统计应用下每个子频道的 UV。该案例有两个特点,频道....

《Apache Flink 案例集(2022版)》——2.数据分析——快手-Flink SQL 在快手的扩展和实践(4)
《Apache Flink 案例集(2022版)》——2.数据分析——快手-Flink SQL 在快手的扩展和实践(3) https://developer.aliyun.com/article/1228370维表关联的攒批优化 维表关联的攒批优化是为了减少 RPC 的调用次数。原理是攒一批数据以后,调用维表的批量查询接口,语法上快手引入通用的 Mini-Batch hint,它有两个参数:一个....

提高数据的安全性和可控性,数栈基于 Ranger 实现的 Spark SQL 权限控制实践之路
在企业级应用中,数据的安全性和隐私保护是极其重要的。Spark 作为数栈底层计算引擎之一,必须确保数据只能被授权的人员访问,避免出现数据泄露和滥用的情况。为了实现Spark SQL 对数据的精细化管理及提高数据的安全性和可控性,数栈基于 Apache Ranger 实现了 Spark SQL 对数据处理的权限控制。本文基于 Apahce Spark 2.4.8 和 Apache Ranger 2....

SQL Server 跨版本数据迁移实践
背景在现代企业中,数据库是非常重要的一部分,它们存储着企业的核心数据。然而,数据库的版本和技术不断更新,企业需要及时升级和迁移数据库以保持其业务系统的可靠性和稳定性。尽管对于某些业务系统来说,稳定性是最重要的,可能会导致版本不会轻易变化。但是,随着技术的不断发展和数据库版本的不再支持,适时的升级变得至关重要,同时也可以获得更高的性能和更好的安全性。在实际的生产环境中,数据库迁移是一个非常复杂和关....

如何使用SQL任务计算房间电量消耗的实践案例
1. 需求描述在智能家居行业里产生了各种各样场景的数字解决方案,有解决方案商使用物联网平台的能力搭建各种数据分析应用,比如房间电量消耗统计,在公寓中部署了智能电表,每隔15min上传一次累计电量,需要根据设备上传值计算用电量。结合下表理解。设备标示上报属性值上报时间用电量房间1电表56.200:00-房间2电表100.200:00-房间1电表56.300:1556.3-56.2 = 0.1度电房....

【SQL Server】数据库开发指南(三)面向数据分析的 T-SQL 编程技巧与实践
T-SQL 指的是 Transact-SQL,是一种针对 Microsoft SQL Server 数据库系统的 SQL 方言。T-SQL 扩展了标准 SQL 语言,提供了更多的功能和特性,包括事务处理、错误处理、游标处理、动态 SQL、存储过程、触发器、用户定义函数等等。@[toc]一、变量1.1 局部变量(Local Variable)T-SQL 中的局部变量是一种只能在当前作用域(存储过程....

Flink SQL 在米哈游的平台建设和应用实践
摘要:本文整理自米哈游大数据实时计算团队负责人张剑,在 FFA 行业案例专场的分享。本篇内容主要分为三个部分:发展历程平台建设未来展望点击查看直播回放 & 演讲PPT一、发展历程随着公司业务的发展,实时计算需求应运而生。我们根据重点的工作内容将发展阶段划分为三个部分,第一阶段是以 DataStream API 开发为主的 Flink 平台第二个阶段是以 Flink SQL 为主一站式开发....

设计模式之Database/SQL与GORM实践|青训营笔记
highlight: xcode前言课程导学:https://juejin.cn/post/7095977466094682148/#heading-26课程视频:https://live.juejin.cn/4354/yc_design课程pdf:https://bytedance.feishu.cn/file/boxcnct7Jc8Td2Oolfbm6t4HfJg本次课程内容十分的底层,GO....

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。
SQL更多实践相关
数据库
分享数据库前沿,解构实战干货,推动数据库技术变革
+关注