问答 2020-05-29 来自:开发者社区

java远程调用 spark服务出错 400 请求出错 

  /** * */ import java.util.Arrays; import java.util.List; import org.apache.spark.SparkConf; import org.apache.spark.api.java.JavaRDD; import org.apache.spark.api.java.JavaSparkContext; impo...

问答 2020-05-29 来自:开发者社区

Spark 简易入门教程(Java的微型Web框架) 400 请求报错 

今天在reddit上看到了这个有趣的Java Web框架,就写了几个例子稍微感受了一下,顺手把它的文档也翻译的了一下。 一、Spark是什么 Spark是一个微型的Java Web框架,它的灵感来自于Sinatra,它的目的是让你以最小的代价创建出一个Java Web应用。 二、使用Spark Spark的使用相当简单,首先你需要下载它的jar包以及它所依赖的jar包,或者你也可以直接通...

问答 2019-05-30 来自:开发者社区

问一个问题哈,在spark中默认使用java serialization ,但同时也提供了 kryo 序列化借口,今天测试了一下 两个不同的序列号借口,发现并没有性能提升,我用的sparksql跑的测试,设计多个join操作,input量为270G , 这个为什么对性能没有提升呢? 有大佬做过这方面的研究吗

问一个问题哈,在spark中默认使用java serialization ,但同时也提供了 kryo 序列化借口,今天测试了一下 两个不同的序列号借口,发现并没有性能提升,我用的sparksql跑的测试,设计多个join操作,input量为270G , 这个为什么对性能没有提升呢? 有大佬做过这方面的研究吗

问答 2019-04-26 来自:开发者社区

Spark SQL抛出“Exception in thread “main” java.sql.SQLException: No suitable driver found for jdbc:mysql:xxx”报错

Spark SQL抛出“Exception in thread “main” java.sql.SQLException: No suitable driver found for jdbc:mysql:xxx”报错

问答 2019-04-22 来自:开发者社区

在EMR类中找不到Spark-submit异常java

我有一个jar包捆绑创建一个弹簧启动应用程序,其中我创建spark会话来做一些操作。 然后我发送这个jar AWS EMR,要么运行的spark-submit或者java -jar未工作的可执行文件。 这是我的jar结构 jar -tf META-INF/META-INF/MANIFEST.MForg/org/springframework/org/springframework/boot/o.....

文章 2018-12-25 来自:开发者社区

云栖社区2019年1月技术活动:PG, Java,Spark等30+场预告【持续更新】

应广大开发者的需求,云栖社区将技术活动,如技术直播、系列公开课、Meetup、峰会、钉群分享等进行了预告与整理。欢迎大家分享给小伙伴们!如有建议,欢迎联系我们,联系方式见下方二维码。 排期安排 PostgreSQL: 时间:2019-1-2 【钉群直播】 主题:PG系列课程直播(第9讲)PostgreSQL 时空业务实践讲师:周正中(德哥) 时间:2019-1-9 【钉群直播】 主题:PG系...

云栖社区2019年1月技术活动:PG, Java,Spark等30+场预告【持续更新】
问答 2018-12-21 来自:开发者社区

Apache Spark使用Java从CSV读取数组float [duplicate]

我正在使用Java开发一个新的Spark项目。我必须从CSV文件中读取一些数据,这些CSV有一个浮点数组,我不知道如何在我的数据集中获取此数组。 我正在读这个CSV: CSV data image https://imgur.com/a/PdrMhev而我正试图以这种方式获取数据: Dataset typedTrainingData = sparkSession.sql("SELECT CAST....

问答 2018-12-21 来自:开发者社区

有没有办法在java中的Spark 2.1中进行广播连接

我知道scala中存在如下所述的方法。val joined_df = df1.join(broadcast(df2), "key")如何在Java中进行广播连接。我是否必须执行sc.broadcast(df2)并在连接中使用它?它会被称为广播加入吗?

问答 2018-12-16 来自:开发者社区

[@wangccsy][¥20]如何在Java应用里集成Spark?

如何在Java应用里集成Spark?

问答 2018-12-05 来自:开发者社区

Apache Spark JSON读取错误 - java.lang.IllegalArgumentException:非法模式组件:XXX

maquillaje de novia en Shibuy","price":"80","genderProduct":"F","socialUsage":"1","ageUsage":"2,3","dailyDeal":"true","topDeal":"false","dealFamily":"1","shortTitle":"Pelu y maquillaje Novias: Eixamp....

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

Apache Spark 中国技术社区

阿里巴巴开源大数据技术团队成立 Apache Spark 中国技术社区,定期推送精彩案例,问答区数个 Spark 技术同学每日在线答疑,只为营造 Spark 技术交流氛围,欢迎加入!

+关注