文章 2018-01-12 来自:开发者社区

在Ubuntu上搭建Hadoop群集

前面我搭建的Hadoop都是单机伪分布式的,并不能真正感受到Hadoop的最大特点,分布式存储和分布式计算。所以我打算在虚拟机中同时开启3台机器,实现分布式的Hadoop群集。 1.准备3台Ubuntu Server 1.1复制出3台虚拟机 我们可以用之前编译和安装好Hadoop的虚拟机作为原始版本,在VirtualBox中复制三台新的虚拟机出来,也可以完全重新安装一台全新的Ubuntu Ser....

文章 2018-01-12 来自:开发者社区

基于Ubuntu Hadoop的群集搭建Hive

Hive是Hadoop生态中的一个重要组成部分,主要用于数据仓库。前面的文章中我们已经搭建好了Hadoop的群集,下面我们在这个群集上再搭建Hive的群集。 1.安装MySQL 1.1安装MySQL Server 在Ubuntu下面安装MySQL的Server很简单,只需要运行: sudo apt-get install mysql-server 系统会把MySQL下载并安装好。这里我们可以把M....

文章 2018-01-07 来自:开发者社区

Hadoop手把手逐级搭建,从单机伪分布到高可用+联邦(0): 概述

概述 1. 目标 1). 零基础手把手纯操作,包含每个细节 2). 逐级进阶,每个阶段都在上一阶段的基础上修改而成 2. 工具及版本 1). 操作系统Windows 10 2). 虚拟机软件VMware Workstation 12 Pro 3). Linux版本CentOS-6.9-x86_64-minimal 4). jdk版本jdk-7u67-linux-x64.tar.gz 5...

文章 2018-01-05 来自:开发者社区

Hadoop手把手逐级搭建(4) Hadoop高可用+联邦+视图文件系统(HA+Federation+ViewFs)

前置步骤: 1). 第一阶段:Hadoop单机伪分布(single) 2). 第二阶段:Hadoop完全分布式(full) 3). 第三阶段:Hadoop高可用(HA) 第四阶段: Hadoop高可用+联邦(HA+Federation) 0. 步骤概述 1). 为高可用保存hadoop配置 2). 增加federation配置 3). 首次启动HA+Federation集群part1:启动j...

文章 2018-01-03 来自:开发者社区

Hadoop手把手逐级搭建(3) Hadoop高可用(HA)

前置步骤: 1). 第一阶段:Hadoop单机伪分布(single) 2). 第二阶段:Hadoop完全分布式(full) 第三阶段: Hadoop高可用(HA) 0. 步骤概述 1). 为完全分布式保存hadoop配置 2). 为hadoop2配置hadoop1的ssh免密 3). 在hadoop2上配置zookeeper 4). 在hadoop1上修改hadoop配置文件为HA高可用模...

文章 2017-12-27 来自:开发者社区

Hadoop手把手逐级搭建(2) Hadoop完全分布式(full)

前置步骤: 1). 第一阶段:Hadoop单机伪分布(single) 第二阶段: Hadoop完全分布式(full) 0. 步骤概述 1). 克隆4台虚拟机 2). 为完全分布式配置ssh免密 3). 将hadoop配置修改为完全分布式 4). 启动完全分布式集群 5). 在完全分布式集群上测试wordcount程序 1. 克隆4台虚拟机 1.1 使用hadoop0克隆4台虚拟机hado...

文章 2017-12-27 来自:开发者社区

hadoop搭建注意事项汇总

以前都是在单机模式下搭建hadoop进行运作,今天试着在两台机器上搭建,就出现了一堆问题。现在汇总注意事项 1.Hadoop要求所有机器上hadoop的部署目录结构要相同,并且都有一个相同的用户名的帐户 我第一台机器上使用都用户名是hadoop,第二台使用都就是xuwei了,这样导致了很多问题。如果早知道必须使用相同都用户名,当时就不这么麻烦了。 2.格式化HDSF 在启动hadoop服务 ./....

文章 2017-12-26 来自:开发者社区

Hadoop手把手逐级搭建(1) 单机伪分布

第一阶段: Hadoop单机伪分布(single) 0. 步骤概述 1). 配置网络修改主机名 2). 配置ssh免密码登录 3). 安装jdk 4). 安装hadoop 5). 配置hadoop单机伪分布运行环境(不使用yarn) 6). 为hadoop单机伪分布增加yarn配置 1. 配置网络修改主机名 1.1 查看VMware虚拟网络 1.1.1 点击VMware菜单“编辑(E...

文章 2017-12-20 来自:开发者社区

使用Docker搭建Cloudera Hadoop 环境搭建

单节点 单节点:https://hub.docker.com/r/cloudera/quickstart/ 相关命令 docker pull cloudera/quickstart:latest docker run --privileged=true --hostname=quickstart.cloudera -p 8020:8020 -p 7180:7180 -p 21050:21050 ....

文章 2017-12-07 来自:开发者社区

hadoop window 搭建

hadoop 原理参考:用 Hadoop 进行分布式并行编程官方中文文档:http://hadoop.apache.org/core/docs/r0.18.2/cn/index.html1. 首先安装 cygwin ssh  参考 windows ssh 搭建2. 搭建hadoop  参考 Cygwin下的Hadoop快速入门-伪分布式模...

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

大数据

大数据计算实践乐园,近距离学习前沿技术

+关注