阿里云文档 2025-03-24

通过Docker镜像启动Jupyter交互式环境并提交Spark作业

云原生数据仓库 AnalyticDB MySQL 版Spark支持使用Docker镜像快速启动Jupyter交互式开发环境,帮助您使用本地Jupyter Lab连接AnalyticDB for MySQL Spark,从而利用AnalyticDB for MySQL的弹性资源进行交互测试和计算。

阿里云文档 2025-03-17

DataWorks中EMR Serverless Spark空间流程的环境准备

本教程以用户画像为例,在华东2(上海)地域演示如何使用DataWorks完成数据同步、数据加工和质量监控的全流程操作。为了确保您能够顺利完成本教程,您需要准备教程所需的 EMR Serverless Spark空间、DataWorks工作空间,并进行相关的环境配置。

阿里云文档 2025-03-17

用户画像分析案例环境准备-基于新版数据开发和Spark计算资源

本教程以用户画像为例,在华东2(上海)地域演示如何使用DataWorks完成数据同步、数据加工和质量监控的全流程操作。为了确保您能够顺利完成本教程,您需要准备教程所需的EMR Serverless Spark空间、DataWorks工作空间,并进行相关的环境配置。

文章 2024-09-27 来自:开发者社区

Linux环境下 java程序提交spark任务到Yarn报错

摘要 情况1:JSON解析异常情况2:java.lang.InstantiationException spark.sql.driver情况3 中kafka:java.lang.NoClassDefFoundError: org/apache/kafka/clients/producer/Callback情况4 idea启动报错:Conne...

Linux环境下 java程序提交spark任务到Yarn报错
问答 2024-07-29 来自:开发者社区

在ODPS环境中,如何进行Spark的交互式开发测试?

在ODPS环境中,如何进行Spark的交互式开发测试?

问答 2024-07-17 来自:开发者社区

局域网环境下如何提交 MaxCompute Spark 任务

问题描述在公司内部的局域网环境下,默认提交 MaxCompute Spark 任务后无法获取任务状态,长时间卡顿后抛出网络连接异常!如果在公网环境下则无此问题,请问如何在局域网环境下提交任务,需要哪些配置?期望结果在局域网环境下能正常提交 MaxCompute Spark 任务

文章 2023-11-13 来自:开发者社区

window环境下安装spark

原文window环境下安装spark这个非常成功https://zhuanlan.zhihu.com/p/149469688加上参考https://blog.csdn.net/ruangaoyan/article/details/100154959完善:在Windows上安装Apache SparkApache Spark是一个强大的开源分布式计算框架,通常用于大数据处理和分析。尽管Spark的....

文章 2023-07-12 来自:开发者社区

大数据平台搭建(容器环境)——Spark3.X on Yarn安装配置

Spark3.X on Yarn安装配置 一、解压 1. 将Spark包解压到路径/opt/module路径中 tar -zxvf /opt/software/spark-3.1.1-bin-hadoop3.2.tgz -C /opt/module/ 2. 改名(可不做) mv spark-3.1.1-bin-hadoop3.2/ spark-3.1.1-yarn 二、配置 1....

大数据平台搭建(容器环境)——Spark3.X on Yarn安装配置
阿里云文档 2023-07-06

如何在本地搭建Spark的调试环境(以IDEA为例)

本文为您介绍如何在本地搭建Spark的调试环境(以IDEA为例)。

文章 2022-10-20 来自:开发者社区

基于mac构建大数据伪分布式学习环境(七)-部署Scala及Spark学习环境

1.解压scala 2.12.112.配置环境变量exportSCALA_HOME=/data/soft/scala-2.12.11exportPATH=.:$JAVA_HOME/bin:$HADOOP_HOME/sbin:$HADOOP_HOME/bin:$SCALA_HOME/bin:$PATH网络异常,图片无法展示|10.部署Spark1.解压spark-2.4.3-bin-hadoop2....

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

Apache Spark 中国技术社区

阿里巴巴开源大数据技术团队成立 Apache Spark 中国技术社区,定期推送精彩案例,问答区数个 Spark 技术同学每日在线答疑,只为营造 Spark 技术交流氛围,欢迎加入!

+关注