文章 2017-11-12 来自:开发者社区

使用Ambari搭建Hadoop集群

Hadoop 介绍 Hadoop是一个开发和运行处理大规模数据的软件平台,是Apache的一个用java语言实现开源软件框架,实现在大量计算机组成的集群中对海量数据进行分布式计算。Hadoop框架中最核心设计就是:MapReduce和HDFS。MapReduce提供了对数据的分布式计算,HDFS提供了海量数据的分布式存储。 在Hadoop家族中,收入了20多个用于计算、分析、存储、监控、管理等组....

文章 2017-11-12 来自:开发者社区

菜鸟也学hadoop(1)_搭建单节点的hadoop

其实跟官方的教程一样 只是 我想写下来 避免自己搞忘记了,,,,好记性不如烂笔头 首先确认自己是否安装了 java, ssh 以及 rsync 没有装的直接就 apt-get install 了嘛,,,java的不一定要用sun的  OPEN的也好  主要方便。。。。不是重点 看着搞啦 然后 就是ssh免密码登录  这点 主要是因为 hadoop 需要通过ssh来启动...

文章 2017-11-12 来自:开发者社区

hadoop 搭建过程中的一些坑

俺是按照下面这篇文章进行搭建的: http://cio.51cto.com/art/201705/539356.htm 说实话,上面这篇文章很好。几乎不用改。一步一步按照搭建,没有问题。 俺遇到的坑是: master连接不上slave.这可咋办。配置文件都没问题啊。 解决方法: namenode经过多次格式化,产生了多个clusterID导致。(往后不敢随便格式化玩了) 只要确保mas...

文章 2017-11-09 来自:开发者社区

Hadoop集群(一) Zookeeper搭建

作为Hadoop初学者,自然要从安装入手。而hadoop的优势就是分布式,所以,也一定要安装分布式的系统。 整体安装步骤,包括Zookeeper+HDFS+Hbase,为了文章简洁,我会分三篇blog记录我的安装步骤。 本文记录的是集群环境准备,zookeeper的安装步骤。 ~~~~~~~~~~~环境准备部分~~~~~~~~~~~~~~~~~ IP部署规划(准备了三个虚拟机,操作系统是Cent....

文章 2017-11-09 来自:开发者社区

0基础搭建Hadoop大数据处理-环境

 由于Hadoop需要运行在Linux环境中,而且是分布式的,因此个人学习只能装虚拟机,本文都以VMware Workstation为准,安装CentOS7,具体的安装此处不作过多介绍,只作需要用到的知识介绍。   VMware的安装,装好一个虚拟机后利用复制虚拟机的方式创建后面几个虚拟机,省时省力,需要注意的是需要修改每个虚拟机的IP与主机名。   所有虚拟机采用NAT模式上网,而且要保证与物....

文章 2017-11-08 来自:开发者社区

搭建Hadoop开发环境

 准备工作: 在192.168.129.35上搭建一个Hadoop环境,早上已经搞定,所以不说了 可以参照附件的邮件 <technical>canton hadoop environment in 192.168.129.35   Step 1: 下载并解压Hadoop 到本地机器(因为Eclipse需要这个Hadoop里面的部分Jar包充当其运...

文章 2017-11-07 来自:开发者社区

基础搭建Hadoop大数据处理-编程

Hadoop的编程可以是在Linux环境或Winows环境中,在此以Windows环境为示例,以Eclipse工具为主(也可以用IDEA)。网上也有很多开发的文章,在此也参考他们的内容只作简单的介绍和要点总结。   Hadoop是一个强大的并行框架,它允许任务在其分布式集群上并行处理。但是编写、调试Hadoop程序都有很大难度。正因为如此,Hadoop的开发者开发出了Hadoop Eclipse....

文章 2017-11-07 来自:开发者社区

hadoop环境初始化搭建

一、首先把hadoop二进制包和jdk的文件包download下来,并放置到合适目录的路径来解压(步骤省略) 二、在主机器上的hadoop解压出来的目录创建一个目录是专门放置hdfs的文件,把解压好的jdk包传去从的机器那 三、添加环境变量 设置JDK的环境变量 JAVA_HOME。需要修改配置文件/etc/profile最后来追加一下内容: export JAVA_HOME=/usr/loca....

文章 2017-11-01 来自:开发者社区

Hadoop伪分布式搭建操作步骤指南

一、准备工作 在 /opt/目录下创建文件夹modules,和softwares 修改操作权限(切换至root用户下) chown -R wxt:wxt /opt/  然后切换至普通用户 mkdir softwares    mkdir modules   安装lrzsz (在linux里可代替ft...

文章 2017-08-11 来自:开发者社区

hadoop分布式集群搭建

终于要开始玩大数据了,之前对haoop生态几乎没有太多的了解,现在赶鸭子上架,需要完全使用它来做数据中心,这是我的haoop第一篇文章,以后估计会写很多大数据相关的文章。另外有大数据实践经验的网友请联系我,有问题请教谢谢! Hadoop的搭建有三种方式,单机版适合开发调试;伪分布式版,适合模拟集群学习;完全分布式,生产使用的模式。这篇文件介绍如何搭建完全分布式的hadoop集群,一个主节点,三个....

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

大数据

大数据计算实践乐园,近距离学习前沿技术

+关注