阿里云文档 2025-06-05

使用Hadoop命令操作OSS/OSS-HDFS

在使用阿里云EMR Serverless Spark的Notebook时,您可以通过Hadoop命令直接访问OSS或OSS-HDFS数据源。本文将详细介绍如何通过Hadoop命令操作OSS/OSS-HDFS。

阿里云文档 2024-08-12

通过Hadoop Shell以命令行的方式访问OSS-HDFS服务

如果您希望通过命令行的方式在开通OSS-HDFS服务的Bucket中执行上传、下载、删除等相关操作,您可以使用Hadoop Shell的方式。

文章 2024-06-21 来自:开发者社区

分布式系统详解--框架(Hadoop--JAVA操作HDFS文件)

分布式系统详解--框架(Hadoop--JAVA操作HDFS文件)        前面的文章介绍了怎么将整个集群系统搭建起来,并进行了有效的测试。为了解决登录一台服务器登录其他服务器需要多次输入密码的问题,提供了SSH免密码登录解决方案。还有一些hadoop的简单操作shell命令。今天我们就结合eclipse来用JAVA语言来读取和操作我们的h...

分布式系统详解--框架(Hadoop--JAVA操作HDFS文件)
阿里云文档 2023-09-03

如何管理OSS/OSS-HDFSHadoop回收站_EMR on ECS_开源大数据平台 E-MapReduce(EMR)

Hadoop回收站是Hadoop文件系统的重要功能,可以恢复误删除的文件和目录。本文为您介绍Hadoop回收站的使用方法。

阿里云文档 2023-09-03

如何管理HDFSHadoop回收站_EMR on ECS_开源大数据平台 E-MapReduce(EMR)

Hadoop回收站是Hadoop文件系统的重要功能,可以恢复误删除的文件和目录。本文为您介绍Hadoop回收站的使用方法。

阿里云文档 2023-02-23

Dataphin在Hadoop环境上传的资源JAR包,存放的HDFS路径是什么

概述本文主要介绍Dataphin在Hadoop环境上传的资源JAR包,存放的HDFS路径是什么。详细信息Dataphin在Hadoop环境上传的资源JAR包,存放的HDFS路径是什么?介绍如下:所有用户上传的资源JAR包,以及安全包的资源,都是默认放在/tmp/dataphin/目录下。该目录下会区...

问答 2022-11-03 来自:开发者社区

为什么下载了Hadoop之后直接能够在Linux系统上运行hdfs文件呀?

为什么下载了Hadoop之后直接能够在Linux系统上运行hdfs文件呀?

文章 2022-09-20 来自:开发者社区

Hadoop中HDFS的API操作、HDFS文件上传(测试参数优先级)、copyFromLocalFile参数解读、HDFS文件下载、文件更名和移动、删除文件和目录、文件详情查看、文件和文件夹判断

@[toc]7.HDFS的API操作7.2HDFS的API案例实操7.2.1HDFS文件上传(测试参数优先级)package com.summer.hdfs; import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.fs.FileSystem; import org.apache.hadoop.fs.Path;.....

Hadoop中HDFS的API操作、HDFS文件上传(测试参数优先级)、copyFromLocalFile参数解读、HDFS文件下载、文件更名和移动、删除文件和目录、文件详情查看、文件和文件夹判断
文章 2022-09-20 来自:开发者社区

Hadoop(HDFS)概述、HDFS产生背景、HDFS定义、HDFS优缺点、HDFS组成架构、HDFS文件块大小(面试重点)

@[toc]5.HDFS概述5.1HDFS产出背景及定义5.1.1HDFS产生背景随着数据量越来越大,在一个操作系统存不下所有的数据,那么就分配到更多的操作系统管理的磁盘中,但是不方便管理和维护,迫切需要一种系统来管理多台机器上的文件,这就是分布式文件管理系统。HDFS只是分布式文件管理系统中的一种。5.1.2HDFS定义HDFS(Hadoop Distributed File System),....

Hadoop(HDFS)概述、HDFS产生背景、HDFS定义、HDFS优缺点、HDFS组成架构、HDFS文件块大小(面试重点)
文章 2022-09-20 来自:开发者社区

Hadoop运行模式(四)、配置历史服务器、配置日志的聚集、删除HDFS上已经存在的文件、集群启动/停止方式总结、配置mapred-site.xml、配置yarn-site.xml

@[toc]3.Hadoop运行模式3.6配置历史服务器为了查看程序的历史运行情况,需要配置一下历史服务器。具体配置步骤如下:3.6.1配置mapred-site.xml配置前记得将yarn关闭[summer@hadoop103 hadoop-3.1.3]$ sbin/stop-yarn.sh[summer@hadoop102 hadoop]$ vim mapred-site.xml在该文件里面....

Hadoop运行模式(四)、配置历史服务器、配置日志的聚集、删除HDFS上已经存在的文件、集群启动/停止方式总结、配置mapred-site.xml、配置yarn-site.xml

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

大数据

大数据计算实践乐园,近距离学习前沿技术

+关注