阿里云文档 2025-01-24

搭建运行Spark的开发环境(Windows)

本文为您介绍如何在Windows操作系统下搭建Spark on MaxCompute开发环境。

问答 2023-11-12 来自:开发者社区

阿里云E-MapReduce 4.6.12spark IDE 是不支持跑在Windows上吗?

阿里云E-MapReduce 4.6.12spark IDE 是不支持跑在Windows上吗?java.lang.RuntimeExce ption: Jindo Native loading failed: The platform is not support or jindo-core-$extends.jar is not install

文章 2022-08-03 来自:开发者社区

Windows下spark开发环境搭建

一、首先准备需要安装的软件scala-2.10.4下载地址:http://www.scala-lang.org/download/2.10.4.htmlscala-SDK-4.4.1-vfinal-2.11-win32.win32.x86_64下载地址:http://scala-ide.org/spark-1.6.2-bin-hadoop2.6下载地址:http://spark.apache.o....

文章 2022-05-16 来自:开发者社区

tigase在windows上安装并通过spark进行测试

关于即时通讯,现在各路APP基本都有,虽然不能说是核心,但是如果没有又总会觉的少点啥。如果对即时通讯要求不高,且用户量不大,只是想要从无到有的话,可以直接使用现有的服务即可,有不少免费的足够支持小量用户的要求。但是如果用户量稍微较大,且需要一些定制服务又不想受制于人,那么搭建自己的即时通讯服务器可能是你最终的选择。但是,从头开发肯定是不可能的。这里先介绍下tigase在windows系统上如何进....

tigase在windows上安装并通过spark进行测试
文章 2022-02-17 来自:开发者社区

本地调试spark报org.apache.hadoop.io.nativeio.NativeIO$Windows.createFileWithMode0(Ljava/lang/String;JJJI)Ljava/io/FileDescriptor

本地调试spark,saveAsText()报错 org.apache.hadoop.io.nativeio.NativeIO$Windows.createFileWithMode0(Ljava/lang/String;JJJI)Ljava/io/FileDescriptor? 解决办法:将hadoop.dll删掉

文章 2022-02-16 来自:开发者社区

Windows上搭建Standalone模式的Spark环境

Java安装Java8,设置JAVA_HOME,并添加 %JAVA\_HOME%\bin 到环境变量PATH中E:\java -version java version "1.8.0_60" Java(TM) SE Runtime Environment (build 1.8.0_60-b27) Java HotSpot(TM) 64-Bit Server VM (build 25.60-b23....

文章 2018-07-20 来自:开发者社区

windows 本地测试spark streaming + kafka direct api

windows 本地测试spark streaming + kafka direct api 卡在如下信息出: “Kafka scala consumer marked as dead for group” 1.环境: kafka server为集群,连接时使用的是hostname:9092方法去连接,程序也不报错, 就是卡在上面的信息出,没有输出。 2.之前已经在集群上使用shel...

文章 2018-01-02 来自:开发者社区

Windows下单机安装Spark开发环境

转自:https://www.cnblogs.com/eczhou/p/5216918.html 转自:http://blog.csdn.net/u011513853/article/details/52865076 Windows下单机安装Spark开发环境 机器:windows 10 64位。 因Spark支持java、python等语言,所以尝试安装了两种语言环境下的spark开发环境。.....

文章 2017-11-22 来自:开发者社区

本地windows跑Python程序调用Spark

应用场景 spark是用scala写的一种极其强悍的计算工具,spark内存计算,提供了图计算,流式计算,机器学习,即时查询等十分方便的工具,当然我们也可以通过python代码,来调用实现spark计算,用spark来辅助我们计算,使代码效率更快,用户体验更强。 操作流程 按照windows搭建Python开发环境博文,搭建python开发环境,实际已经将Spark环境部...

文章 2017-11-21 来自:开发者社区

本地windows跑Scala程序调用Spark

应用场景 spark是用scala写的一种极其强悍的计算工具,spark内存计算,提供了图计算,流式计算,机器学习,即时查询等十分方便的工具,所以利用scala来进行spark编程是十分必要的,下面简单书写一个spark连接mysql读取信息的例子。 操作流程 按照windows搭建Scala开发环境博文,搭建scala开发环境,实际已经将Spark环境部署完成了,所以直...

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

Apache Spark 中国技术社区

阿里巴巴开源大数据技术团队成立 Apache Spark 中国技术社区,定期推送精彩案例,问答区数个 Spark 技术同学每日在线答疑,只为营造 Spark 技术交流氛围,欢迎加入!

+关注