问答 2021-12-06 来自:开发者社区

spark中StorageLevel参数useDisk: Boolean的含义是什么?

spark中StorageLevel参数useDisk: Boolean的含义是什么?

问答 2021-12-06 来自:开发者社区

spark.shuffle.memoryFraction参数是什么,以及优化经验?

spark.shuffle.memoryFraction参数是什么,以及优化经验?

问答 2021-07-22 来自:开发者社区

MaxCompute 中,节点任务的参数如何传递到spark的输入参数

MaxCompute中,节点任务的参数如何传递到spark的输入参数,例如设置了任务参数bizdate,在spark程序的输入参数这么用可以吗?

文章 2020-08-28 来自:开发者社区

技本功|Hive优化之Spark执行引擎参数调优(二)

Hive是大数据领域常用的组件之一,主要是大数据离线数仓的运算,关于Hive的性能调优在日常工作和面试中是经常涉及的的一个点,因此掌握一些Hive调优是必不可少的一项技能。影响Hive效率的主要有数据倾斜、数据冗余、job的IO以及不同底层引擎配置情况和Hive本身参数和HiveSQL的执行等因素。本文主要结合实际业务情况,在使用Spark作为底层引擎时,通过一些常见的配置参数对报错任务进行调整....

技本功|Hive优化之Spark执行引擎参数调优(二)
问答 2019-10-29 来自:开发者社区

spark.driver.extraJavaOptions这个参数是什么意思,你们生产环境配了多少?

spark.driver.extraJavaOptions这个参数是什么意思,你们生产环境配了多少?

问答 2019-10-29 来自:开发者社区

spark.shuffle.memoryFraction参数的含义,以及优化经验?

spark.shuffle.memoryFraction参数的含义,以及优化经验?

问答 2019-10-29 来自:开发者社区

spark.default.parallelism这个参数有什么意义,实际生产中如何设置?

spark.default.parallelism这个参数有什么意义,实际生产中如何设置?

文章 2019-07-24 来自:开发者社区

Spark on HBase Connector:如何在Spark侧设置HBase参数

前言 X-Pack Spark可以使用Spark on HBase Connector直接对接HBase数据库,读取HBase数据表数据。有时在读取HBase时需要设置HBase的一些参数调整性能,例如通过设置hbase.client.scanner.caching的大小调整读取HBase数据的性能。使用Spark作为客户端查询HBase数据库的客户端需要有传递参数的能力。本文就列举了Spark....

文章 2019-07-22 来自:开发者社区

Spark on Phoenix 4.x Connector:如何在Spark侧设置Phoenix参数

前言 X-Pack Spark可以使用Spark on Phoenix 4.x Connector直接对接Phoenix数据库,读取Phoenix数据表数据。有时在读取Phoenix时需要设置Phoenix的一些参数,例如Phoenix为了保障数据库的稳定性,默认开了索引包含,即查询Phoebe表必须要带上索引或者主键字段作为过滤条件。此时Spark作为查询Phoenix数据库的客户端需要有传递....

问答 2019-05-16 来自:开发者社区

hi,有人配置过 spark.streaming.dynamicAllocation.enabled这个参数吗,这个参数对spark streaming会生效,但是没找到文档说spark structured streaming 是否会生效

有人配置过 spark.streaming.dynamicAllocation.enabled这个参数吗,这个参数对spark streaming会生效,但是没找到文档说spark structured streaming 是否会生效

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

Apache Spark 中国技术社区

阿里巴巴开源大数据技术团队成立 Apache Spark 中国技术社区,定期推送精彩案例,问答区数个 Spark 技术同学每日在线答疑,只为营造 Spark 技术交流氛围,欢迎加入!

+关注