问答 2024-07-29 来自:开发者社区

在client模式下,如果spark job的jar包过大,可能会导致什么问题?如何解决?

在client模式下,如果spark job的jar包过大,可能会导致什么问题?如何解决?

问答 2024-05-29 来自:开发者社区

MaxComopute如何处理spark读ossWARN oss: [Client]Unabl...

MaxComopute如何处理spark读ossWARN oss: [Client]Unable to execute HTTP request: ConnectionTimeout报错

问答 2024-05-16 来自:开发者社区

大数据计算MaxCompute Spark可以支持yarn client模式吗?

大数据计算MaxCompute Spark可以支持yarn client模式吗?driver在本地,executor在cupid上

问答 2021-12-07 来自:开发者社区

spark中的组件driver和client的功能是什么?

spark中的组件driver和client的功能是什么?

问答 2021-12-05 来自:开发者社区

Spark中Driver运行在Client流程是什么?

Spark中Driver运行在Client流程是什么?

问答 2019-05-30 来自:开发者社区

spark Sql都是client模式,而有时driver需要较多的资源,多用户共享一台机器时,client物理机资源可能会成为瓶颈,这个你们有什么解决方案吗

spark Sql都是client模式,而有时driver需要较多的资源,多用户共享一台机器时,client物理机资源可能会成为瓶颈,这个你们有什么解决方案吗

文章 2017-11-28 来自:开发者社区

Spark通过YARN提交任务不成功(包含YARN cluster和YARN client)

 无论用YARN cluster和YARN client来跑,均会出现如下问题。   [spark@master spark-1.6.1-bin-hadoop2.6]$ jps 2049 NameNode 2706 Jps 2372 ResourceManager 2660 Master 2203 SecondaryNameNode [spark@master spark-1.6.1-b...

Spark通过YARN提交任务不成功(包含YARN cluster和YARN client)
文章 2017-10-02 来自:开发者社区

从源码角度看Spark on yarn client & cluster模式的本质区别

首先区分下AppMaster和Driver,任何一个yarn上运行的任务都必须有一个AppMaster,而任何一个Spark任务都会有一个Driver,Driver就是运行SparkContext(它会构建TaskScheduler和DAGScheduler)的进程,当然在Driver上你也可以做很多非Spark的事情,这些事情只会在Driver上面执行,而由SparkContext上牵引出来的....

从源码角度看Spark on yarn client & cluster模式的本质区别

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

Apache Spark 中国技术社区

阿里巴巴开源大数据技术团队成立 Apache Spark 中国技术社区,定期推送精彩案例,问答区数个 Spark 技术同学每日在线答疑,只为营造 Spark 技术交流氛围,欢迎加入!

+关注