文章 2017-05-02 来自:开发者社区

《Spark Cookbook 中文版》一1.5 在集群上以独立模式部署Spark

本节书摘来异步社区《Spark Cookbook 中文版》一书中的第1章,第1.5节,作者: 【印度】Rishi Yadav(亚达夫)译者: 顾星竹 , 刘见康 责编: 胡俊英,更多章节内容可以访问云栖社区“异步社区”公众号查看。 1.5 在集群上以独立模式部署Spark 在分布式环境中的计算资源需要管理,使得资源利用率高,每个作业都有公平运行的机会。Spark有一个便利的被称为独立模式的自带集....

问答 2017-04-01 来自:开发者社区

阿里云搭建Spark集群,出现问题

买了9块 一块作为master 其余八块作为slave 之前在master上关闭了防火墙,然后对9个机器进行ssh免密通信设置 设置以后,重新打开master防火墙时,发现master死机 重启以后,依然无法连接master 求问怎么办!! 谢谢大佬们!!

问答 2017-04-01 来自:开发者社区

spark集群IP管理

部署spark集群的时候,所有节点都需要通过 hostname能找到对应机器的IP,有什么好的方案可以实现?还有master上的slaves文件可以动态加载新的node或者worker么?

文章 2017-03-17 来自:开发者社区

Spark2.1集群安装(standalone模式)

机器部署   准备三台Linux服务器,安装好JDK1.7 下载Spark安装包   上传spark-2.1.0-bin-hadoop2.6.tgz安装包到Linux(intsmaze-131)上   解压安装包到指定位置tar -zxvf spark-2.1.0-bin-hadoop2.6.tgz -C /home/hadoop/app/spark2.0/ 原文和作者一起讨论...

Spark2.1集群安装(standalone模式)
文章 2017-02-26 来自:开发者社区

【Hadoop Summit Tokyo 2016】基于容器规格的Apache Hadoop/Spark集群框架

本讲义出自Akiyoshi SUGIKI与Phyo Thandar Thant在Hadoop Summit Tokyo 2016上的演讲,主要分享了Hokkaido大学的学术云的发展历史以及对于大数据分析的支撑情况,并介绍了基于容器规格的Apache Hadoop集群框架,以及对于Hadoop的多目标优化方案。

文章 2017-02-19 来自:开发者社区

【Spark Summit East 2017】商品集群上的时间演化图处理

更多精彩内容参见云栖社区大数据频道https://yq.aliyun.com/big-data;此外,通过Maxcompute及其配套产品,低廉的大数据分析仅需几步,详情访问https://www.aliyun.com/product/odps。 本讲义出自Anand Iyer在Spark Summit East 2017上的演讲,主要介绍了构建于通用数据流框架上的时间演化图处理系统Tegra.....

文章 2017-02-18 来自:开发者社区

【Spark Summit East 2017】教会Spark集群弹性管理Worker

更多精彩内容参见云栖社区大数据频道https://yq.aliyun.com/big-data;此外,通过Maxcompute及其配套产品,低廉的大数据分析仅需几步,详情访问https://www.aliyun.com/product/odps。 本讲义出自Erik Erlandson与Trevor McKay 在Spark Summit East 2017上的演讲,主要介绍了将Openshi.....

文章 2017-02-13 来自:开发者社区

【Spark Summit EU 2016】在Spark集群中内置Elasticsearch

更多精彩内容参见云栖社区大数据频道https://yq.aliyun.com/big-data;此外,通过Maxcompute及其配套产品,低廉的大数据分析仅需几步,详情访问https://www.aliyun.com/product/odps。 本讲义出自Oscar Castaneda在Spark Summit EU上的演讲,在使用ES-Hadoop进行开发的过程中,使Elasticsearc....

文章 2017-02-12 来自:开发者社区

【Spark Summit EU 2016】Apptopia:仅凭勇气、速度与Spark集群,构建APP市场

更多精彩内容参见云栖社区大数据频道https://yq.aliyun.com/big-data;此外,通过Maxcompute及其配套产品,低廉的大数据分析仅需几步,详情访问https://www.aliyun.com/product/odps。 本讲义出自Johnathan Mercer在Spark Summit EU 2016上的演讲,主要介绍了作为移动应用智能公司的Apptopia,App....

文章 2016-09-24 来自:开发者社区

Spark-分布式集群运行

1.简介 这篇文章主要是简单的介绍一下Spark应用如何在集群上运行, 更进一步的理解Spark所涉及到的相关主件 目前Apache Spark支持三种分布式部署方式,分别是standalone、spark on mesos和 spark on YARN 2.架构 Spark应用在集群上是独立运行的进程, 通过主程序(main program)的SparkContext进行协调...

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

Apache Spark 中国技术社区

阿里巴巴开源大数据技术团队成立 Apache Spark 中国技术社区,定期推送精彩案例,问答区数个 Spark 技术同学每日在线答疑,只为营造 Spark 技术交流氛围,欢迎加入!

+关注