文章 2017-05-02 来自:开发者社区

深入理解Spark:核心思想与源码分析

大数据技术丛书 深入理解Spark:核心思想与源码分析 耿嘉安 著 图书在版编目(CIP)数据 深入理解Spark:核心思想与源码分析/耿嘉安著. —北京:机械工业出版社,2015.12 (大数据技术丛书) ISBN 978-7-111-52234-8 I. 深… II.耿… III.数据处理软件 IV. TP274 中国版本图书馆CIP数据核字(2015)第280808号 深入理...

文章 2017-05-02 来自:开发者社区

《深入理解Spark:核心思想与源码分析》——导读

本节书摘来自华章社区《深入理解Spark:核心思想与源码分析》一书中的目录,作者耿嘉安,更多章节内容可以访问云栖社区“华章社区”公众号查看 目 录 前言准 备 篇第1章 环境准备1.1 运行环境准备1.2 Spark初体验1.3 阅读环境准备1.4 Spark源码编译与调试1.5 小结第2章 Spark设计理念与基本架构2.1 初识Spark2.2 Spark基础知识2.3 Spark基...

文章 2017-05-02 来自:开发者社区

《深入理解Spark:核心思想与源码分析》——3.15节小结

本节书摘来自华章社区《深入理解Spark:核心思想与源码分析》一书中的第3章,第3.15节小结,作者耿嘉安,更多章节内容可以访问云栖社区“华章社区”公众号查看 3.15 小结回顾本章, Scala与Akka的基于Actor的并发编程模型给人的印象深刻。listenerBus对于监听器模式的经典应用看来并不复杂,希望读者朋友能应用到自己的产品开发中去。此外,使用Netty所提供的异步网络框架构建的....

文章 2017-05-02 来自:开发者社区

《深入理解Spark:核心思想与源码分析》——3.14节将SparkContext标记为激活

本节书摘来自华章社区《深入理解Spark:核心思想与源码分析》一书中的第3章,第3.14节将SparkContext标记为激活,作者耿嘉安,更多章节内容可以访问云栖社区“华章社区”公众号查看 3.14 将SparkContext标记为激活SparkContext初始化的最后将当前SparkContext的状态从contextBeingConstructed(正在构建中)改为activeConte....

文章 2017-05-02 来自:开发者社区

《深入理解Spark:核心思想与源码分析》——3.13节创建DAGSchedulerSource和BlockManagerSource

本节书摘来自华章社区《深入理解Spark:核心思想与源码分析》一书中的第3章,第3.13节创建DAGSchedulerSource和BlockManagerSource,作者耿嘉安,更多章节内容可以访问云栖社区“华章社区”公众号查看 3.13 创建DAGSchedulerSource和BlockManagerSource在创建DAGSchedulerSource、BlockManagerSour....

文章 2017-05-02 来自:开发者社区

《深入理解Spark:核心思想与源码分析》——3.12节Spark环境更新

本节书摘来自华章社区《深入理解Spark:核心思想与源码分析》一书中的第3章,第3.12节Spark环境更新,作者耿嘉安,更多章节内容可以访问云栖社区“华章社区”公众号查看 3.12 Spark环境更新在SparkContext的初始化过程中,可能对其环境造成影响,所以需要更新环境,代码如下。 postEnvironmentUpdate() postApplicationStart() Spar....

文章 2017-05-02 来自:开发者社区

《深入理解Spark:核心思想与源码分析》——3.11节ContextCleaner的创建与启动

本节书摘来自华章社区《深入理解Spark:核心思想与源码分析》一书中的第3章,第3.11节ContextCleaner的创建与启动,作者耿嘉安,更多章节内容可以访问云栖社区“华章社区”公众号查看 3.11 ContextCleaner的创建与启动ContextCleaner用于清理那些超出应用范围的RDD、ShuffleDependency和Broadcast对象。由于配置属性spark.cle....

文章 2017-05-02 来自:开发者社区

《深入理解Spark:核心思想与源码分析》——3.10节创建和启动ExecutorAllocationManager

本节书摘来自华章社区《深入理解Spark:核心思想与源码分析》一书中的第3章,第3.10节创建和启动ExecutorAllocationManager,作者耿嘉安,更多章节内容可以访问云栖社区“华章社区”公众号查看 3.10 创建和启动ExecutorAllocationManager ExecutorAllocationManager用于对已分配的Executor进行管理,创建和启动Execu....

文章 2017-05-02 来自:开发者社区

《深入理解Spark:核心思想与源码分析》——3.9节启动测量系统MetricsSystem

本节书摘来自华章社区《深入理解Spark:核心思想与源码分析》一书中的第3章,第3.9节启动测量系统MetricsSystem,作者耿嘉安,更多章节内容可以访问云栖社区“华章社区”公众号查看 3.9 启动测量系统MetricsSystemMetricsSystem使用codahale提供的第三方测量仓库Metrics,有关Metrics的具体信息可以参考附录D。MetricsSystem中有三个....

文章 2017-05-02 来自:开发者社区

《深入理解Spark:核心思想与源码分析》——3.8节TaskScheduler的启动

本节书摘来自华章社区《深入理解Spark:核心思想与源码分析》一书中的第3章,第3.8节TaskScheduler的启动,作者耿嘉安,更多章节内容可以访问云栖社区“华章社区”公众号查看 3.8 TaskScheduler的启动3.6节介绍了任务调度器TaskScheduler的创建,要想TaskScheduler发挥作用,必须要启动它,代码如下。taskScheduler.start()Task....

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

Apache Spark 中国技术社区

阿里巴巴开源大数据技术团队成立 Apache Spark 中国技术社区,定期推送精彩案例,问答区数个 Spark 技术同学每日在线答疑,只为营造 Spark 技术交流氛围,欢迎加入!

+关注