文章 2024-07-20 来自:开发者社区

Python与Apache Spark:实时AI的大数据引擎——Spark Streaming实战

讨如何将Python与Apache Spark结合起来,特别是利用Spark Streaming处理实时数据流中的AI任务。Spark Streaming是一个强大的工具,能够实现实时数据处理,非常适合大规模的数据流分析和机器学习任务。 第一步:环境配置 安装Spark:确保已经安装了Apache Spark,包...

文章 2023-11-03 来自:开发者社区

海程邦达基于Apache Paimon+Streampark实现 Streaming warehouse的实战应用(下)

-- 在paimon-dwd层创建宽表 CREATE TABLE IF NOT EXISTS dwd.`dwd_business_order` ( `reference_no` varchar(50) NOT NULL COMMENT '委托单号主键', `bondex_shy_flag` varchar(8) NOT NULL COMMENT '区分', `is_server_item` in....

海程邦达基于Apache Paimon+Streampark实现 Streaming warehouse的实战应用(下)
文章 2023-11-03 来自:开发者社区

海程邦达基于Apache Paimon+Streampark实现 Streaming warehouse的实战应用(中)

在streampark添加flink conf构建 flink1.16.0 基础镜像从 dockerhub拉取对应版本的镜像#拉取镜像 docker pull flink:1.16.0-scala_2.12-java8 #打上 tag docker tagflink:1.16.0-scala_2.12-java8 registry-vpc.cn-zhangjiakou.aliyuncs.com.....

海程邦达基于Apache Paimon+Streampark实现 Streaming warehouse的实战应用(中)
文章 2023-11-03 来自:开发者社区

海程邦达基于Apache Paimon+Streampark实现 Streaming warehouse的实战应用(上)

摘要本文主要介绍作为供应链物流服务商海程邦达在数字化转型过程中采用 Paimon 实现流式数仓的落地方案。我们提供一个适用于 k8s 环境并且易于上手的生产操作手册,旨在帮助读者快速掌握 Paimon 的使用方法。公司业务情况介绍大数据技术痛点以及选型生产实践问题排查分析未来规划01公司业务情况介绍海程邦达集团一直专注于供应链物流领域,通过打造优秀的国际化物流平台,为客户提供端到端一站式智慧型供....

海程邦达基于Apache Paimon+Streampark实现 Streaming warehouse的实战应用(上)

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

Apache Spark 中国技术社区

阿里巴巴开源大数据技术团队成立 Apache Spark 中国技术社区,定期推送精彩案例,问答区数个 Spark 技术同学每日在线答疑,只为营造 Spark 技术交流氛围,欢迎加入!

+关注
相关镜像