阿里云文档 2025-01-16

Spark作业使用Celeborn作为RSS

Apache Celeborn是一个专门用于处理大数据计算引擎中间数据(如Shuffle数据和溢写数据)的服务,能够提升大数据引擎的性能、稳定性和灵活性。Remote Shuffle Service(RSS)用于高效处理大规模数据集的Shuffle过程。本文介绍如何在ACK集群中部署Celeborn组件,并在Spark作业中使用Celeborn作为Remote Shuffle Service(RS...

阿里云文档 2024-12-02

使用日志服务收集Spark作业日志

在ACK集群中运行Spark作业时会生成大量的日志分散在不同的Pods中,导致日志管理变得困难。您可以通过日志服务(SLS)提供的一站式的日志采集、加工、查询与分析、可视化和告警等能力,实现对Spark日志的高效管理。本文将介绍如何使用日志服务(SLS)对运行在ACK集群中的Spark作业日志进行管理。

阿里云文档 2024-10-18

使用ECI弹性资源运行Spark作业

本文介绍如何在ACK集群中使用弹性容器实例ECI运行Spark作业。通过使用ECI弹性资源并配置合适的调度策略,您可以按需创建ECI Pod,并按资源使用量按需付费,从而有效减少资源闲置带来的成本浪费,进而更加经济高效地运行Spark作业。

阿里云文档 2024-09-23

使用ECI运行Spark作业

在Kubernetes集群中使用ECI来运行Spark作业具有弹性伸缩、自动化部署、高可用性等优势,可以提高Spark作业的运行效率和稳定性。本文介绍如何在ACK Serverless集群中安装Spark Operator,使用ECI来运行Spark作业。

问答 2024-04-29 来自:开发者社区

在spark集群中通过公网访问写数据到ADB MySQL湖仓版报连接超时,是要做哪些配置吗?

在spark集群中通过公网访问写数据到ADB MySQL湖仓版报连接超时,是要做哪些配置吗?

阿里云文档 2023-09-14

在EMR集群上使用Spark3将Tablestore中一张表的数据复制到另一张表_表格存储(Tablestore)

本文介绍如何在开源大数据平台 EMR(E-MapReduce)集群上,使用Spark3将表格存储中一张表的数据复制到另一张表中,全程使用SQL语句实现表的创建以及数据的复制操作。

文章 2022-06-16 来自:开发者社区

Spark集群搭建记录 | 云计算[CentOS8] | Scala Maven项目访问Spark(local模式)实现单词计数(下)

step6 创建scala object在src 目录下,我们创建一个scala object,右键src,然后:在里面写入代码逻辑,具体代码可以参考链接并根据实际情况对代码进行修改以上链接源代码:具体代码根据自己实际情况来进行修改import org.apache.spark.{SparkConf, SparkContext} object WordCount { def main(arg...

Spark集群搭建记录 | 云计算[CentOS8] | Scala Maven项目访问Spark(local模式)实现单词计数(下)
文章 2022-06-16 来自:开发者社区

Spark集群搭建记录 | 云计算[CentOS7] | Scala Maven项目访问Spark(local模式)实现单词计数(上)

写在前面本系列文章索引以及一些默认好的条件在 传送门要想完成Spark的配置,首先需要完成Hadoop&&Spark的配置Hadoop配置教程:链接若未进行明确说明,均按照root用户操作step1 下载Scala IDE本来在Eclipse 的Marketplace便可以下载,可是现在官网都寄了所以说只好找到之前的版本凑合来用下载链接这个软件再解压后会产生一个文件夹eclips....

Spark集群搭建记录 | 云计算[CentOS7] | Scala Maven项目访问Spark(local模式)实现单词计数(上)
问答 2022-04-02 来自:开发者社区

Spark集群配置slaves为外网IP,但是在网页中查看时还是内网IP,无法通过外网直接访问?

1).在阿里云服务器集群上构建了 spark集群环境2).master 和 slaves都配的是外网ip3).启动页面后,在网页上查看各节点计算信息时,链接的都是内网IP4).需求是想通过外网直接访问各节点的页面信息

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

Apache Spark 中国技术社区

阿里巴巴开源大数据技术团队成立 Apache Spark 中国技术社区,定期推送精彩案例,问答区数个 Spark 技术同学每日在线答疑,只为营造 Spark 技术交流氛围,欢迎加入!

+关注