阿里云文档 2025-01-24

准备Hadoop、Hive、EMR SDK和表格存储SDK

使用Hive/HadoopMR来访问表格存储中的表前,您需要完成JDK、Hadoop环境、Hive环境、表格存储Java SDK和阿里云EMR SDK的安装。

文章 2024-10-18 来自:开发者社区

手把手的教你搭建hadoop、hive

大数据集成环境准备 本次大数据环境准备由于时间有限,环境搭建是简易版本,只搭建了hadoop伪分布式,和hive数仓工具,但是不影响使用。 一、软件准备 大数据集成的数据仓库的安装我们需要使用到软件有: Ubantu16 jdk-8u162-linux-x64.tar.gz hadoop-2.7.1.tar.gz apac...

手把手的教你搭建hadoop、hive
文章 2024-10-13 来自:开发者社区

Hadoop-24 Sqoop迁移 MySQL到Hive 与 Hive到MySQL SQL生成数据 HDFS集群 Sqoop import jdbc ETL MapReduce

章节内容 上节我们完成了如下的内容: Sqoop 部分导入数据 --query Sqoop 部分导入数据 --where 记录执行过程和执行结果 背景介绍 这里是三台公网云服务器,每台 2C4G,搭建一个Hadoop的学习环境,供我学习。 之前已经在 VM 虚拟机上搭建过一次,但是没留下笔记,这次趁着前几天薅羊毛的3台机器,赶紧尝...

Hadoop-24 Sqoop迁移 MySQL到Hive 与 Hive到MySQL SQL生成数据 HDFS集群 Sqoop import jdbc ETL MapReduce
文章 2024-10-13 来自:开发者社区

Hadoop-21 Sqoop 数据迁移工具 简介与环境配置 云服务器 ETL工具 MySQL与Hive数据互相迁移 导入导出

章节内容 上一节我们已经完成了: Flume 采集数据 Flume 3个Agent编写 Flume 双写:本地+HDFS 背景介绍 这里是三台公网云服务器,每台 2C4G,搭建一个Hadoop的学习环境,供我学习。 之前已经在 VM 虚拟机上搭建过一次,但是没留下笔记,这次趁着前几天薅羊毛的3台机器,赶紧尝试在公网上搭建体验一下。...

Hadoop-21 Sqoop 数据迁移工具 简介与环境配置 云服务器 ETL工具 MySQL与Hive数据互相迁移 导入导出
文章 2024-10-13 来自:开发者社区

Hadoop-19 Flume Agent批量采集数据到HDFS集群 监听Hive的日志 操作则把记录写入到HDFS 方便后续分析

章节内容 上一节我们完成了内容: Flume 启动测试 Flume Conf编写 Flume 测试发送和接收数据 背景介绍 这里是三台公网云服务器,每台 2C4G,搭建一个Hadoop的学习环境,供我学习。 之前已经在 VM 虚拟机上搭建过一次,但是没留下笔记,这次趁着前几天薅羊毛的3台机器,赶紧尝试在公网上搭建体验一下。 ...

Hadoop-19 Flume Agent批量采集数据到HDFS集群 监听Hive的日志 操作则把记录写入到HDFS 方便后续分析
文章 2024-10-13 来自:开发者社区

Hadoop-13-Hive 启动Hive 修改启动参数命令行启动测试 几句简单的HQL了解Hive

章节内容 上一节我们完成了: Hive简介 安装配置 下载、解压等等操作 修改配置 MariaDB 安装 启动配置 建立用户 远程访问 刷新权限 背景介绍 这里是三台公网云服务器,每台 2C4G,搭建一个Hadoop的学习环境,供我学习。 之前已经在 VM 虚拟机上搭建过一次,但是没留下笔记,这次趁...

Hadoop-13-Hive 启动Hive 修改启动参数命令行启动测试 几句简单的HQL了解Hive
问答 2024-06-10 来自:开发者社区

使用自建RDS的新建Hadoop集群Hive组件状态异常

使用自建RDS的新建Hadoop集群Hive组件状态异常

文章 2024-04-24 来自:开发者社区

基于Hadoop数据仓库Hive1.2部署及使用

以下基于上篇Hadoop2.6集群部署: http://lizhenliang.blog.51cto.com/7876557/1661354 接下来安装Hadoop数据仓库Hive,上节了解HBase简单使用,听起来HBase与Hive有些类似,概念也有点模糊,那我们先了解下他们之间有什么区别:  HBase是一种分布式、面向列的NoSQL数据库,基于HDFS存储,以...

文章 2024-04-10 来自:开发者社区

利用Hive与Hadoop构建大数据仓库:从零到一

作为一位专注于大数据技术分享的博主,今天我将带领大家踏上利用Apache Hive与Apache Hadoop构建大数据仓库的探索之旅。Hive与Hadoop作为大数据处理领域的两大基石,携手为海量数据的存储、管理与分析提供了坚实的平台。下面,我将从基础概念、构建流程以及应用场景三个方面,帮助您从零开始,逐步掌握构建大数据仓库...

文章 2024-01-19 来自:开发者社区

Hadoop和Hive中的数据倾斜问题及其解决方案

Hadoop和Hive中的数据倾斜问题及其解决方案Hadoop 中的数据倾斜问题及其解决方案原因:在 Hadoop 的 MapReduce 中,数据倾斜通常发生在 Reduce 阶段,当某些键值对的数量远多于其他键时。解决方案:Combiner: 在 Map 阶段使用 Combiner 可以减少传输到 Reducer 的数据量。自定义分区器: 实现自定义分区逻辑,以便更均匀地分配键到不同的 Re....

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

大数据

大数据计算实践乐园,近距离学习前沿技术

+关注