文章 2017-05-02 来自:开发者社区

深入理解Spark:核心思想与源码分析. 1.4 Spark源码编译与调试

1.4 Spark源码编译与调试 1.下载Spark源码 首先,访问Spark官网http://spark.apache.org/,如图1-18所示。   图1-18 Spark官网 单击Download Spark按钮,在下一个页面找到git地址,如图1-19所示。   图1-19 Spark官方git地址 打开Git Bash工具,输入git clone git://git...

文章 2017-05-02 来自:开发者社区

深入理解Spark:核心思想与源码分析. 1.3 阅读环境准备

1.3 阅读环境准备 准备Spark阅读环境,同样需要一台好机器。笔者调试源码的机器的内存是8 GB。源码阅读的前提是在IDE环境中打包、编译通过。常用的IDE有IntelliJ IDEA、Eclipse。笔者选择用Eclipse编译Spark,原因有二:一是由于使用多年对它比较熟悉,二是社区中使用Eclipse编译Spark的资料太少,在这里可以做个补充。在Windows系统编译Spark源码....

文章 2017-05-02 来自:开发者社区

深入理解Spark:核心思想与源码分析. 1.2 Spark初体验

1.2 Spark初体验 本节通过Spark的基本使用,让读者对Spark能有初步的认识,便于引导读者逐步深入学习。 1.2.1 运行spark-shell 要运行spark-shell,需要先对Spark进行配置。 1)进入Spark的conf文件夹: cd ~/install/spark-1.2.0-bin-hadoop1/conf 2)复制一份spark-env.sh.template,命....

文章 2017-05-02 来自:开发者社区

深入理解Spark:核心思想与源码分析. 1.1 运行环境准备

1.1 运行环境准备 考虑到大部分公司的开发和生成环境都采用Linux操作系统,所以笔者选用了64位的Linux。在正式安装Spark之前,先要找台好机器。为什么?因为笔者在安装、编译、调试的过程中发现Spark非常耗费内存,如果机器配置太低,恐怕会跑不起来。Spark的开发语言是Scala,而Scala需要运行在JVM之上,因而搭建Spark的运行环境应该包括JDK和Scala。 1.1.1 ....

文章 2017-05-02 来自:开发者社区

深入理解Spark:核心思想与源码分析. 导读

  大数据技术丛书   深入理解Spark:核心思想与源码分析 耿嘉安 著     Preface  前言 为什么写这本书 要回答这个问题,需要从我个人的经历说起。说来惭愧,我第一次接触计算机是在高三。当时跟大家一起去网吧玩CS,跟身边的同学学怎么“玩”。正是通过这种“玩”的过程,让我了解到计算机并没有那么神秘,它也只是台机器,用起来似乎并不比打开...

文章 2016-06-13 来自:开发者社区

《深入理解Spark:核心思想与源码分析》2次印刷修订内容清单

版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/beliefer/article/details/51657146 前言 自从《深入理解Spark:核心思想与源码分析》一书出版以来,陆续收到很多读者的反馈,笔者为此在第1版第2次印刷之前做了一些勘误。为便于...

《深入理解Spark:核心思想与源码分析》2次印刷修订内容清单

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

Apache Spark 中国技术社区

阿里巴巴开源大数据技术团队成立 Apache Spark 中国技术社区,定期推送精彩案例,问答区数个 Spark 技术同学每日在线答疑,只为营造 Spark 技术交流氛围,欢迎加入!

+关注