文章 2025-01-27 来自:开发者社区

Spark Master HA 主从切换过程不会影响到集群已有作业的运行, 为什么?

Spark Master 的高可用性(HA)机制确保了在主节点(Master)发生故障时,可以从备用主节点(Standby Master)中选择一个接管集群的管理,从而保证集群的稳定运行。这一过程不会影响到集群中已有作业的运行,主要原因如下: Driver 和 Executor 的独立性: 在 Spark 中,每个应用程序都有一个 Driver ...

阿里云文档 2025-01-16

Spark作业使用Celeborn作为RSS

Apache Celeborn是一个专门用于处理大数据计算引擎中间数据(如Shuffle数据和溢写数据)的服务,能够提升大数据引擎的性能、稳定性和灵活性。Remote Shuffle Service(RSS)用于高效处理大规模数据集的Shuffle过程。本文介绍如何在ACK集群中部署Celeborn组件,并在Spark作业中使用Celeborn作为Remote Shuffle Service(RS...

阿里云文档 2024-12-02

使用日志服务收集Spark作业日志

在ACK集群中运行Spark作业时会生成大量的日志分散在不同的Pods中,导致日志管理变得困难。您可以通过日志服务(SLS)提供的一站式的日志采集、加工、查询与分析、可视化和告警等能力,实现对Spark日志的高效管理。本文将介绍如何使用日志服务(SLS)对运行在ACK集群中的Spark作业日志进行管理。

阿里云文档 2024-10-18

使用ECI弹性资源运行Spark作业

本文介绍如何在ACK集群中使用弹性容器实例ECI运行Spark作业。通过使用ECI弹性资源并配置合适的调度策略,您可以按需创建ECI Pod,并按资源使用量按需付费,从而有效减少资源闲置带来的成本浪费,进而更加经济高效地运行Spark作业。

文章 2024-10-14 来自:开发者社区

大数据-100 Spark 集群 Spark Streaming DStream转换 黑名单过滤的三种实现方式(一)

喜大普奔!破百了! 点一下关注吧!!!非常感谢!!持续更新!!! 目前已经更新到了: Hadoop(已更完) HDFS(已更完) MapReduce(已更完) Hive(已更完) Flume(已更完) Sqoop(已更完) Zookeeper(已更完) HBase(已更完) Redis (已更完) K...

大数据-100 Spark 集群 Spark Streaming DStream转换 黑名单过滤的三种实现方式(一)
文章 2024-10-14 来自:开发者社区

大数据-100 Spark 集群 Spark Streaming DStream转换 黑名单过滤的三种实现方式(二)

接上篇:https://developer.aliyun.com/article/1622638?spm=a2c6h.13148508.setting.21.27ab4f0ehhuqRu 方案1 外连接实现 package icu.wzk import org.apache.s...

大数据-100 Spark 集群 Spark Streaming DStream转换 黑名单过滤的三种实现方式(二)
文章 2024-10-14 来自:开发者社区

大数据-99 Spark 集群 Spark Streaming DStream 文件数据流、Socket、RDD队列流

点一下关注吧!!!非常感谢!!持续更新!!! 目前已经更新到了: Hadoop(已更完) HDFS(已更完) MapReduce(已更完) Hive(已更完) Flume(已更完) Sqoop(已更完) Zookeeper(已更完) HBase(已更完) Redis (已更完) Kafka(已更完) ...

大数据-99 Spark 集群 Spark Streaming DStream 文件数据流、Socket、RDD队列流
文章 2024-10-14 来自:开发者社区

大数据-98 Spark 集群 Spark Streaming 基础概述 架构概念 执行流程 优缺点

点一下关注吧!!!非常感谢!!持续更新!!! 目前已经更新到了: Hadoop(已更完) HDFS(已更完) MapReduce(已更完) Hive(已更完) Flume(已更完) Sqoop(已更完) Zookeeper(已更完) HBase(已更完) Redis (已更完) Kafka(已更完) ...

大数据-98 Spark 集群 Spark Streaming 基础概述 架构概念 执行流程 优缺点
文章 2024-10-14 来自:开发者社区

大数据-97 Spark 集群 SparkSQL 原理详细解析 Broadcast Shuffle SQL解析过程(一)

点一下关注吧!!!非常感谢!!持续更新!!!目前已经更新到了:Hadoop(已更完)HDFS(已更完)MapReduce(已更完)Hive(已更完)Flume&...

大数据-97 Spark 集群 SparkSQL 原理详细解析 Broadcast Shuffle SQL解析过程(一)
文章 2024-10-14 来自:开发者社区

大数据-97 Spark 集群 SparkSQL 原理详细解析 Broadcast Shuffle SQL解析过程(二)

接上篇:https://developer.aliyun.com/article/1622631?spm=a2c6h.13148508.setting.25.27ab4f0ehhuqRu 分析内容 queryExecution 就是对整个执行计划的执行引擎,里面有执行过程中各个中间过程变量,整个执行流程如下: ...

大数据-97 Spark 集群 SparkSQL 原理详细解析 Broadcast Shuffle SQL解析过程(二)

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

Apache Spark 中国技术社区

阿里巴巴开源大数据技术团队成立 Apache Spark 中国技术社区,定期推送精彩案例,问答区数个 Spark 技术同学每日在线答疑,只为营造 Spark 技术交流氛围,欢迎加入!

+关注