阿里云文档 2025-03-27

创建ECS实例并基于EMR-CLI快速部署Gateway环境

Gateway主要用于向计算集群提交任务和进行安全隔离。为了方便部署Gateway环境,E-MapReduce提供了名为EMR-CLI的工具,它基于阿里云ECS来创建实例并部署Gateway环境。当您创建了DataLake、DataFlow或OLAP类型的集群时,可以使用本文档来部署Gateway环境。

阿里云文档 2024-10-22

PySpark中的Python环境介绍

EMR DataLake和自定义集群安装的Spark版本对Python环境的依赖各不相同。本文以Python3为例,介绍不同Spark版本所对应的Python版本,以及安装Python第三方库的方法。

问答 2024-08-14 来自:开发者社区

阿里云E-MapReduce这个应该跟环境有关系吧?

阿里云E-MapReduce这个应该跟环境有关系吧?

问答 2024-06-14 来自:开发者社区

E-MapReduce集群环境被破坏文件大量被删

E-MapReduce集群环境被破坏文件大量被删

问答 2024-06-03 来自:开发者社区

阿里云E-MapReduce是不是你们的集群环境中缺少了相关的jar包,还是怎么的?

阿里云E-MapReduce添加了spark.sql.extensions=io.delta.sql.DeltaSparkSessionExtensionspark.sql.catalog.spark_catalog=org.apache.spark.sql.delta.catalog.DeltaCatalog还是报找不到类,我这里用的是EMR On ECS delta版集群,是不是你们的集群环....

问答 2024-06-03 来自:开发者社区

阿里云E-MapReduce缺少这个类,该怎么在环境中添加呢?

阿里云E-MapReduce缺少这个类,该怎么在环境中添加呢?我们一般的方式是:from pyspark.sql import SparkSession spark = SparkSession.builder \ .appName("DeltaLakeExample") \ .config("spark.sql.extensions", "io.delta.sql.DeltaSpa...

问答 2023-11-12 来自:开发者社区

阿里云E-MapReduce 还需要搭建Hadoop环境吗?

阿里云E-MapReduce flume通过jindosdk写入oss的话,还需要搭建Hadoop环境吗?

问答 2023-08-27 来自:开发者社区

机器学习PAI这个Mapreduce需要在max compute环境里面运行,本地怎么运行啊?

机器学习PAI这个Mapreduce需要在max compute环境里面运行,本地怎么运行啊8月22日 12:23?

阿里云文档 2023-07-06

如何在本地搭建Spark的调试环境(以IDEA为例)

本文为您介绍如何在本地搭建Spark的调试环境(以IDEA为例)。

问答 2023-06-28 来自:开发者社区

阿里云E-MapReduce的环境,办公网络本地开发环境依赖jindo包写数据的时候报错,怎么处理?

环境是阿里云E-MapReduce的环境,hudi + oss-hdfs , jindo版本是4.3.1。办公网络本地开发环境依赖jindo包写数据的时候报错,怎么处理?调试的时候发现调用了JindoNativeWriter的write方法出错了,但是因为是native函数,没法定位问题。只知道错误信息是: Caused by error 30005: IO error: Failed to o....

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐