文章 2017-07-03 来自:开发者社区

《Spark与Hadoop大数据分析》一一3.5 持久化与缓存

本节书摘来自华章计算机《Spark与Hadoop大数据分析》一书中的第3章,第3.5节,作者:文卡特·安卡姆(Venkat Ankam) 更多章节内容可以访问云栖社区“华章计算机”公众号查看。 3.5 持久化与缓存 Spark 的一个独特功能是在内存中持久化 RDD。你可以使用 persist 或 cache 变换来持久化 RDD,如下所示: 上述两个语句都是相同的,并且会在 MEMORY_ON....

文章 2017-07-03 来自:开发者社区

《Spark与Hadoop大数据分析》一一3.4 Spark 应用程序

本节书摘来自华章计算机《Spark与Hadoop大数据分析》一书中的第3章,第3.4节,作者:文卡特·安卡姆(Venkat Ankam) 更多章节内容可以访问云栖社区“华章计算机”公众号查看。 3.4 Spark 应用程序 让我们来了解 Spark Shell 和 Spark 应用程序之间的区别,以及如何创建和提交它们。3.4.1 Spark Shell 和 Spark 应用程序Spark 让你....

文章 2017-07-03 来自:开发者社区

《Spark与Hadoop大数据分析》一一3.3 Spark 程序的生命周期

本节书摘来自华章计算机《Spark与Hadoop大数据分析》一书中的第3章,第3.3节,作者:文卡特·安卡姆(Venkat Ankam) 更多章节内容可以访问云栖社区“华章计算机”公众号查看。 3.3 Spark 程序的生命周期 以下步骤讲解了配备 Standalone 资源管理器的 Spark 应用程序的生命周期,图3-8 显示了Spark程序的调度过程: (1)用户使用 spark-subm....

文章 2017-07-03 来自:开发者社区

《Spark与Hadoop大数据分析》一一

本节书摘来自华章计算机《Spark与Hadoop大数据分析》一书中的第3章,第3.1节,作者:文卡特·安卡姆(Venkat Ankam) 更多章节内容可以访问云栖社区“华章计算机”公众号查看。 3.1 启动 Spark 守护进程 如果你计划使用 Standalone 的集群管理器,则需要启动 Spark 的主机(master)和工作机(worker)的守护进程(daemon),它们是 Spark....

文章 2017-07-03 来自:开发者社区

《Spark与Hadoop大数据分析》一一2.5 小结

本节书摘来自华章计算机《Spark与Hadoop大数据分析》一书中的第2章,第2.5节,作者:文卡特·安卡姆(Venkat Ankam) 更多章节内容可以访问云栖社区“华章计算机”公众号查看。 2.5 小结 Apache Hadoop 提供了一个用于大数据存储的可靠且可扩展的框架(HDFS),以及一个用于运行和管理多个大数据应用程序的强大集群资源管理框架(YARN)。Apache Spark 提....

文章 2017-07-03 来自:开发者社区

《Spark与Hadoop大数据分析》一一2.3 为何把 Hadoop 和 Spark 结合使用

本节书摘来自华章计算机《Spark与Hadoop大数据分析》一书中的第2章,第2.3节,作者:文卡特·安卡姆(Venkat Ankam) 更多章节内容可以访问云栖社区“华章计算机”公众号查看。 2.3 为何把 Hadoop 和 Spark 结合使用 Apache Spark 与 Hadoop 结合使用时表现更好。为了理解这一点,让我们来看看 Hadoop 和 Spark 的特性。2.3.1 Ha....

文章 2017-07-03 来自:开发者社区

《Spark与Hadoop大数据分析》一一

本节书摘来自华章计算机《Spark与Hadoop大数据分析》一书中的第2章,第2.2节,作者:文卡特·安卡姆(Venkat Ankam) 更多章节内容可以访问云栖社区“华章计算机”公众号查看。 2.2 Apache Spark概述 Hadoop和MR已有10年历史,已经被证明是高性能处理海量数据的最佳解决方案。然而,MR在迭代计算中性能不足,在这种情况下,多个MR作业之间的输出必须被写入 HDF....

文章 2017-07-03 来自:开发者社区

《Spark与Hadoop大数据分析》一一1.5 小结

本节书摘来自华章计算机《Spark与Hadoop大数据分析》一书中的第1章,第1.5节,作者:文卡特·安卡姆(Venkat Ankam) 更多章节内容可以访问云栖社区“华章计算机”公众号查看。 1.5 小结 使用Hadoop和Spark的大数据分析大致分为两大类:数据分析和数据科学。数据分析侧重于过去和现在的统计,而数据科学侧重于未来的统计。数据科学项目本质上是迭代的,而数据分析项目则不是迭代的....

文章 2017-07-03 来自:开发者社区

《Spark与Hadoop大数据分析》一一1.4 实际环境中的用例

本节书摘来自华章计算机《Spark与Hadoop大数据分析》一书中的第1章,第1.4节,作者:文卡特·安卡姆(Venkat Ankam) 更多章节内容可以访问云栖社区“华章计算机”公众号查看。 1.4 实际环境中的用例 让我们来看看大数据分析用例的不同类型。总体而言,大数据分析用例可以分为以下 5 类:客户分析:数据驱动的客户分析对于深化客户关系和提高收入很有必要。运营分析:性能和高质量服务是维....

文章 2017-07-03 来自:开发者社区

《Spark与Hadoop大数据分析》一一

本节书摘来自华章计算机《Spark与Hadoop大数据分析》一书中的第1章,第1.3节,作者:文卡特·安卡姆(Venkat Ankam) 更多章节内容可以访问云栖社区“华章计算机”公众号查看。 1.3 工具和技术 让我们来看看在 Hadoop 和 Spark 中用于大数据分析的不同工具和技术。虽然 Hadoop 平台可以用于存储和处理数据,但 Spark 只能通过将数据读入内存来进行处理。下表展....

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

Apache Spark 中国技术社区

阿里巴巴开源大数据技术团队成立 Apache Spark 中国技术社区,定期推送精彩案例,问答区数个 Spark 技术同学每日在线答疑,只为营造 Spark 技术交流氛围,欢迎加入!

+关注