文章 2024-08-10 来自:开发者社区

在hue上部署spark作业

在Hue上部署Spark作业通常涉及几个步骤,Hue是一个用于Apache Hadoop的开源Web界面,它提供了集群管理、资源管理、作业提交和监控等功能。以下是在Hue上部署Spark作业的基本步骤: 安装Hue: 确保你的Hue已经安装在你的Hadoop集群上。如果你是从源代码安装Hue,需要确保所有的依赖项,...

文章 2024-07-22 来自:开发者社区

在hue上部署spark作业

在Hue上部署Spark作业通常涉及几个步骤,Hue是一个用于Apache Hadoop的开源Web界面,它提供了集群管理、资源管理、作业提交和监控等功能。以下是在Hue上部署Spark作业的基本步骤: 安装Hue:确保你的Hue已经安装在你的Hadoop集群上。如果你是从源代码安装Hue,需要确保所有的依赖项,...

阿里云文档 2024-07-04

基于eRDMA部署高网络性能的Spark集群

使用eRDMA可以获得超低的延迟,更快地处理请求。本文介绍如何创建以eRDMA增强型实例作为节点的Spark集群,并部署Benchmark测试Spark集群处理负载的性能。

问答 2024-06-09 来自:开发者社区

在ECS部署的airflow如何将spark作业提交到E-MapReduce集群上

在ECS部署的airflow如何将spark作业提交到E-MapReduce集群上

问答 2023-07-19 来自:开发者社区

在edas里部署的镜像里面调用maxcompute的spark的sparksubmit的时候怎么解决

问一下在edas里部署的镜像里面调用了maxcompute的spark的sparksubmit的时候报错,这个咋解决,应该是因为edas额外插入Java参数导致。

问答 2023-05-24 来自:开发者社区

老哥 我们想在客户的内网部署我们的产品后,在maxcompute上提交spark离线任务,但是这个?

问题1:老哥 我们想在客户的内网部署我们的产品后,在maxcompute上提交spark离线任务,但是这个离线任务的数据来自客户他们的mysql 或者其他数据源 你知道怎么访问吗? 我在官网上找到maxcompute spark访问vpc, 但是客户他们自己的产品可能不是部署在阿里云上的 问题2:客户网络怎么跟阿里云打通啊?

问答 2023-03-07 来自:开发者社区

请问一下k8s上面部署的spark怎么进行压力测试呢,现有的hibench可以进行测试吗

请问一下大家,k8s上面部署的spark怎么进行压力测试呢,现有的hibench可以进行测试吗。因为现在的项目需要对kubernetes中部署的spark进行压力测试测试性能,请问Hibench支持对sparkonk8s进行测试吗,如果不可以还有什么其他的压测框架吗?

文章 2022-11-06 来自:开发者社区

Mac部署spark2.4.4

欢迎访问我的GitHub这里分类和汇总了欣宸的全部原创(含配套源码):https://github.com/zq2599/blog_demos环境信息操作系统:macOS Mojave 10.14.6JDK:1.8.0_211 (安装位置:/Library/Java/JavaVirtualMachines/jdk1.8.0_211.jdk/Contents/Home)前提条件请参考《Mac部署h....

Mac部署spark2.4.4
文章 2022-10-20 来自:开发者社区

基于mac构建大数据伪分布式学习环境(七)-部署Scala及Spark学习环境

1.解压scala 2.12.112.配置环境变量exportSCALA_HOME=/data/soft/scala-2.12.11exportPATH=.:$JAVA_HOME/bin:$HADOOP_HOME/sbin:$HADOOP_HOME/bin:$SCALA_HOME/bin:$PATH网络异常,图片无法展示|10.部署Spark1.解压spark-2.4.3-bin-hadoop2....

文章 2022-08-16 来自:开发者社区

部署Spark2.2集群(on Yarn模式)

欢迎访问我的GitHub这里分类和汇总了欣宸的全部原创(含配套源码):https://github.com/zq2599/blog_demos机器规划本次实战用到了三台CentOS7的机器,身份信息如下所示:IP地址hostname(主机名)身份192.168.119.163node0NameNode、ResourceManager、HistoryServer、Master192.168.119....

部署Spark2.2集群(on Yarn模式)

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

Apache Spark 中国技术社区

阿里巴巴开源大数据技术团队成立 Apache Spark 中国技术社区,定期推送精彩案例,问答区数个 Spark 技术同学每日在线答疑,只为营造 Spark 技术交流氛围,欢迎加入!

+关注