阿里云文档 2025-12-05

Spark on MaxCompute访问云数据库HBase的配置方法

本文介绍Spark on MaxCompute访问云数据库HBase的配置方法。

阿里云文档 2025-10-24

本文介绍了使用VS Code、通义灵码和spark-submit工具自动生成PySpark任务代码并提交至EMR Serverless Spark的全流程方法,显著简化了开发与执行复杂度。

通过VS Code、通义灵码以及Serverless Spark提供的spark-submit工具,用户能够快速生成Spark任务代码并将其提交至Serverless Spark进行执行。本文将为您详细介绍如何使用上述工具提交Serverless Spark任务。

阿里云文档 2024-07-26

Spark作业异常的排查方法和解决方案

本文介绍Spark作业异常的排查方法和解决方案。

阿里云文档 2024-06-28

Spark服务异常的排查方法和解决方案

本文介绍Spark服务异常的排查方法和解决方案。

文章 2022-10-11 来自:开发者社区

Spark SQL DataFrame查询和输出函数一文详解运用与方法

前言配置的虚拟机为Centos6.7系统,hadoop版本为2.6.0版本,先前已经完成搭建CentOS部署Hbase、CentOS6.7搭建Zookeeper和编写MapReduce前置插件Hadoop-Eclipse-Plugin 安装。在此基础上完成了Hive详解以及CentOS下部署Hive和Mysql和Spark框架在CentOS下部署搭建。Spark的组件Spark SQL的部署:S....

Spark SQL DataFrame查询和输出函数一文详解运用与方法
文章 2022-10-11 来自:开发者社区

Spark SQL DataFrame查看函数一文详解运用与方法

前言配置的虚拟机为Centos6.7系统,hadoop版本为2.6.0版本,先前已经完成搭建CentOS部署Hbase、CentOS6.7搭建Zookeeper和编写MapReduce前置插件Hadoop-Eclipse-Plugin 安装。在此基础上完成了Hive详解以及CentOS下部署Hive和Mysql和Spark框架在CentOS下部署搭建。Spark的组件Spark SQL的部署:S....

Spark SQL DataFrame查看函数一文详解运用与方法
文章 2022-10-11 来自:开发者社区

Spark RDD数据操作函数以及转换函数一文详解运用与方法

前言:配置JDK1.8实验环境IDEAscala版本为2.11.12本地Window伪分布运行非集群实验创建RDD从内存中创建一个RDD有两种常用的方法。一种是转化Seq集合为RDD,另一种是从已有RDD转化为新的RDD。SparkContext类中有两个方法:parallelize和makeRDD。1.parallelizeparallelize有两个参数可以输入(1)要转化的集合,必须是Se....

文章 2022-02-17 来自:开发者社区

Spark工程开发常用函数与方法(Scala语言)

import org.apache.spark.{SparkContext, SparkConf}import org.apache.spark.sql.{SaveMode, DataFrame}import scala.collection.mutable.ArrayBufferimport main.asiainfo.coc.tools.Configureimport org.apache.....

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

Apache Spark 中国技术社区

阿里巴巴开源大数据技术团队成立 Apache Spark 中国技术社区,定期推送精彩案例,问答区数个 Spark 技术同学每日在线答疑,只为营造 Spark 技术交流氛围,欢迎加入!

+关注