文章 2023-01-14 来自:开发者社区

spark1.x升级spark2如何升级及需要考虑的问题

spark2出来已经很长时间了,但是由于spark1.6比较稳定,很多依然在使用。如果想使用spark2,那么该如何升级。我们window升级一般为直接点击升级即可,剩下的事情,不用我们管。但是spark的升级确实有点出乎意料。相当于我们直接安装,但是可以借用以前的配置,比如配置文件基本是不变的,如果目录相同,环境变量变化也不大。如果只是单纯的学习,升级是没有问题的。但是如果我们生产环境,升级就....

spark1.x升级spark2如何升级及需要考虑的问题
文章 2022-02-17 来自:开发者社区

Apache Spark中国技术交流群升级到企业群啦!!!!!!

| 一个技术群的自白 最开始是几名工程师同学,因为几行代码圈起了小小的一个群内讨论,后来知道的同事们开始加进来,同事身边的朋友们也慢慢参与了进来······突然成了曾经毫无交集的一群人的纽带,突然被寄托,我们决定那就,开始做吧。后来的事情你们都知道了,我们从spark交流群,变成了Apache Spark技术交流群,最后成了现在Apache Spark中国技术交流群。 | 日常小剧场: 君子爱财....

问答 2022-02-15 来自:开发者社区

spark版本升级2.4.8运行spark-sql命令报错 thrift服务起不来

Exception in thread "main" scala.MatchError: 3.0 (of class java.lang.String) at org.apache.spark.sql.hive.client.IsolatedClientLoader$.hiveVersion(IsolatedClientLoader.scala:91) at org.apache.spark...

问答 2022-02-15 来自:开发者社区

Spark:从2.1.0升级到2.2.1时,Dataframe动作确实很慢

我刚刚将spark 2.1.0升级为spark 2.2.1。有没有人看到极端缓慢的行为dataframe.filter(…).collect()?特别是以前的collect操作filter。dataframe.collect似乎运行正常。但是,dataframe.filter(…).collect()需要永远。它只包含2条记录。它在单元测试中。当我回到Spark 2.1.0时,它恢复正常速度 我....

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

Apache Spark 中国技术社区

阿里巴巴开源大数据技术团队成立 Apache Spark 中国技术社区,定期推送精彩案例,问答区数个 Spark 技术同学每日在线答疑,只为营造 Spark 技术交流氛围,欢迎加入!

+关注